AI API 비용 계산법 — 월 사용료 예측·캐시·모델 선택

“사용자가 아직 많지 않은데 AI 비용이 왜 이렇게 늘었지?” 이런 상황에서는 요청 횟수만 보지 말고 입력 토큰·출력 토큰·재시도·사용 모델을 나눠 봐야 합니다. 같은 1만 건이라도 긴 문서를 매번 보내는 서비스와 짧은 분류 서비스의 비용 구조는 다릅니다.

먼저 기능별 사용량을 측정하세요. 그다음 품질 기준을 통과하는 범위에서 캐시와 모델 라우팅을 비교해 적용합니다.

결론 — 이 계산식부터 사용하세요

월 예상 비용은 다음처럼 계산할 수 있습니다.

월 입력 토큰 = 월 요청 수 × 요청당 평균 입력 토큰
월 출력 토큰 = 월 요청 수 × 요청당 평균 출력 토큰

월 기본 비용
= (월 입력 토큰 ÷ 1,000,000 × 입력 100만 토큰 단가)
+ (월 출력 토큰 ÷ 1,000,000 × 출력 100만 토큰 단가)
+ 도구·검색·저장 등 별도 비용

공식 가격표의 단위와 통화를 그대로 넣고, 캐시 입력·일반 입력·출력을 별도 열로 관리하세요. 단가는 자주 바뀔 수 있으므로 글에 고정된 가격을 복사하기보다 계산 시점의 공식 가격표를 확인하는 편이 안전합니다.

월 1만 건 서비스 계산 예시

다음은 단가를 넣기 전 사용량 계산 예시입니다.

항목	가정	월 사용량
요청 수	10,000건	10,000건
평균 입력	요청당 1,200토큰	12,000,000토큰
평균 출력	요청당 300토큰	3,000,000토큰
평균 재시도	요청의 5%가 1회 재시도	별도 가산

계산식은 다음과 같습니다.

예상 비용
= 12 × [입력 100만 토큰 단가]
+ 3 × [출력 100만 토큰 단가]
+ 재시도·검색·파일 저장 비용

여기서 중요한 것은 “1만 건”보다 요청당 입력이 1,200토큰이라는 사실입니다. 시스템 지시문과 대화 기록이 길어져 입력이 2,400토큰이 되면 입력 사용량도 두 배가 됩니다.

실제 청구 예상표를 만드는 절차는 AI API 월 비용 계산 실전에서 스프레드시트 열 단위로 이어서 설명합니다.

비용이 새는 지점 네 곳

1. 같은 지시문을 매번 전송

긴 시스템 지시문이나 공통 문서가 모든 요청에 반복되면 입력 토큰이 계속 누적됩니다. 제공자가 지원하는 프롬프트 캐시의 조건, 유지 시간, 할인 대상 구간을 공식 문서에서 확인하세요.

2. 대화 기록을 끝없이 유지

대화가 길수록 이전 메시지가 다음 요청의 입력에 다시 포함될 수 있습니다. 오래된 대화는 요약으로 바꾸고, 업무와 관계없는 턴은 제외하는 정책이 필요합니다.

3. 모든 작업에 같은 모델 사용

분류·형식 변환·간단한 추출과 복잡한 분석을 같은 모델에 보내면 비용과 품질의 균형을 잡기 어렵습니다. 쉬운 작업을 경량 모델로 보내고, 실패하거나 난도가 높은 요청만 상위 모델로 넘기는 방식을 모델 라우팅이라고 합니다.

4. 제한 없는 재시도와 에이전트 루프

오류가 날 때마다 자동 재시도를 반복하거나 에이전트가 종료 조건 없이 도구를 호출하면 사용량이 빠르게 늘 수 있습니다. 최대 재시도 횟수, 최대 실행 단계, 요청당 비용 상한을 코드 수준에서 정하세요.

AI API 비용 최적화 — 측정·구조 개선·모델 라우팅의 3단계

기능별 태그와 비용 경보 만들기

요청 로그에 다음 값을 남기면 어떤 기능이 비용을 만드는지 확인하기 쉽습니다.

feature=meeting_summary
model=[사용 모델]
input_tokens=[입력 토큰]
output_tokens=[출력 토큰]
cached_tokens=[캐시 적용 토큰]
retry_count=[재시도 횟수]
status=success|failed

권장 경보 예시

하루 예상 사용량이 평소 기준을 크게 벗어남
요청당 입력 토큰이 배포 전 기준보다 증가함
특정 기능의 재시도율이 지속적으로 상승함
경량 모델에서 상위 모델로 넘어가는 비율이 높아짐
월 예산의 내부 경계값에 도달함

경보 수치는 서비스 트래픽과 위험 허용 범위에 맞게 정해야 합니다. 외부 서비스가 제공하는 월 한도만 믿지 말고 애플리케이션 내부에서도 요청당·사용자당 제한을 두세요.

비용을 줄인 뒤 품질이 떨어졌는지 확인하세요

모델을 바꾸거나 입력을 줄인 다음에는 같은 평가 질문으로 품질을 비교해야 합니다.

변경 전 요청 20~50개의 토큰과 품질 점수를 저장합니다.
캐시·요약·모델 라우팅을 한 번에 하나씩 적용합니다.
같은 질문으로 비용과 품질을 다시 측정합니다.
사실 오류나 형식 실패가 늘면 이전 설정으로 되돌립니다.
통과한 설정만 운영에 반영합니다.

AI 평가 실전 가이드의 5점 채점표를 이용하면 “싸졌지만 쓸 수 없는 답”을 구분할 수 있습니다.

자주 묻는 질문

Q1. 글자 수로 토큰을 정확히 계산할 수 있나요? 언어와 모델의 토크나이저에 따라 달라집니다. 예상에는 대략값을 쓸 수 있지만 운영 비용은 API 응답의 실제 사용량 필드를 기록해 계산하세요.

Q2. 캐시를 켜면 모든 입력이 할인되나요? 아닙니다. 제공자마다 최소 길이, 동일 접두부, 유지 시간 등 조건이 다릅니다. 공식 문서의 적용 조건을 확인해야 합니다.

Q3. 가장 저렴한 모델만 쓰면 되나요? 형식 오류나 재시도가 늘면 전체 비용이 오를 수 있습니다. 기능별 품질 기준을 통과하는 모델 중에서 선택하세요.

Q4. 비용 상한은 어디에 두나요? 제공자 계정 한도와 별도로 사용자·기능·요청 단위의 제한을 애플리케이션에 두는 것이 좋습니다.

Q5. 에이전트 비용은 왜 예측하기 어렵나요? 한 요청 안에서 모델 호출과 도구 실행이 여러 번 반복될 수 있기 때문입니다. 최대 실행 단계와 종료 조건을 정하고 실행 로그를 남기세요.

공식 자료와 확인 기준일

확인 기준일: 2026-08-30 — 실제 계산 전 각 제공자의 최신 가격과 캐시 조건을 다시 확인하세요.