사용량 기반 서비스의 요청 한도와 과금량은 다르다
요청률 제한은 어느 속도까지 요청을 수용할지 정하는 제어값이고, 과금량은 공급자가 측정한 실제 사용량이다. API Gateway HTTP API와 Lambda처럼 사용량으로 과금하는 서비스에서는 요청 한도를 올린 비율을 비용 증가율로 곧바로 해석할 수 없다.
비용은 실제 요청 수, 요청 크기에 따른 과금 단위, 메모리와 실행 시간, 저장·전송 등 해당 상품이 청구하는 항목을 계산해야 한다. 이전에 거절되던 요청이 처리되면 실행량이 늘 수 있지만, 처리 허용량과 사용량은 서로 다른 값이다. 상시 확보한 용량에 별도 요금이 붙는 상품은 그 용량 요금을 함께 계산한다.
짧은 관측을 월 사용량으로 환산할 때는 기간과 요청 크기·실행 시간·무료 혜택·제외 항목을 명시한다. 추정액은 실제 청구액이나 비용 상한을 보장하지 않는다.
에이전트 작업 한 건의 비용을 추정할 때
한 사용자 요청이 모델·도구 호출과 재시도로 늘어나는 경우 요청 한 건을 과금 한 단위로 취급하지 않는다. 모델의 입력·출력 사용량과 도구·실행 환경의 과금 단위를 분리하고, 실제 호출 횟수와 누적 사용량을 관측한다. 호출 횟수의 상한만으로 금액 상한을 주장하려면 호출별 사용량과 단가·다른 비용 경로의 범위도 확인해야 한다.
Agentic AI의 권한·승인·감사와 비용 통제 - 삼성SDS를 이 구분의 사례로 연결한다. OWASP Unbounded Consumption의 자원 관측·요청 제한은 통제 방법이며 청구액의 측정값을 대신하지 않는다.
근거
원격 Vault 요청 제한과 비용 판단 - Codex 대화에서 Vault 요청 한도를 조정한 뒤, 실제 하루의 호출·실행량과 AWS 서울 리전 단가를 연결해 비용을 추정했다. 고정 용량 구매와 요청 제한 설정을 구분한 운영 사례다.