사진=바운드포
구체적으로 파레토는 관리자가 설정한 예산 한도를 초과하는 AI API 요청을 실행 전에 차단한다. 팀별 사용 현황과 예상 지출도 실시간으로 제공해 비용 발생 이전부터 예산을 관리할 수 있도록 돕는다.
또 월 단위 사용 데이터를 분석해 주요 패턴을 자동으로 파악한다. △실패한 호출이 반복되며 비용이 쌓이는 재시도 누적 △사실상 동일한 요청이 반복 처리되는 중복 요청 △더 가벼운 모델로 수행할 수 있는 작업에 고성능 모델을 사용하는 과사양 모델 사용 등을 탐지해 절감 가능한 영역을 리포트 형태로 제공한다.
황인호 바운드포 대표는 “앞으로도 현장에서 검증한 운영 경험을 서비스로 고도화해 AI 데이터 관리부터 비용 통제까지 기업의 AI 운영 전반을 지원해 나가겠다”고 말했다.









