LLM 가격 인하와 실현 단가 계산

LLM 가격 인하를 볼 때 의사결정자가 먼저 확인할 것은 “사용자가 늘었는가”가 아니라 “내 워크로드의 단위경제가 바뀌었는가”다. 이번 사례에서 공개 근거로 확인할 수 있는 것은 가격 인하 이후 실제로 10억 활성 사용자와 200만 기업 고객이 확정됐다는 사실이 아니다. 확인 가능한 공식 표현은 “곧 10억 주간 활성 사용자에 도달”한다는 전망, “100만개 이상의 비즈니스 고객”, 그리고 “Codex 주간 사용자 200만명 이상”이다. 따라서 이 사안을 사용자 수 발표의 축제로 읽기보다는, 저가 추론이 제품·조달·인프라 결정을 어떻게 바꿀 수 있는지 따져보는 신호로 읽는 편이 낫다.

숫자보다 중요한 것은 가격 인하의 방향성이다

LLM 사업자가 추론 가격을 낮추는 이유는 단순 할인 행사만으로 설명하기 어렵다. 참고 자료의 연구는 주요 제공자들이 채택 확대를 우선하고 있으며, 경쟁 출시 이후 가격을 내리는 경향이 있다고 설명한다. 이는 초기 소프트웨어 시장의 논리와 닮아 있다. 단가를 낮춰 사용량을 만들고, 그 사용량을 바탕으로 제품 습관·개발자 생태계·기업 워크플로에 더 깊이 들어가는 방식이다.

다만 여기서 “가격 인하 → 사용자 폭증 → 수익 증가 → 차세대 모델 투자”라는 선순환은 가능한 전략이지, 주어진 근거만으로 입증된 인과관계는 아니다. 특히 활성 사용자 수의 집계 기간, 중복 계정 처리, 유료 전환율, 기업 고객의 평균 지출 같은 핵심 변수가 공개되지 않으면 수요 확대가 수익성 개선으로 이어졌는지 판단하기 어렵다.

실무자에게 더 유용한 질문은 따로 있다. “가격이 내려갔으니 더 써도 되는가?”가 아니라 “가격 하락으로 지금까지 막아 둔 사용 사례의 한계비용이 충분히 낮아졌는가?”다.

폐쇄형 API, 오픈소스, 자체 호스팅의 비교축이 바뀐다

가격 인하는 폐쇄형 LLM 사업자끼리의 경쟁만 압박하지 않는다. 오픈소스 모델 채택과 자체 호스팅 계산도 다시 하게 만든다.

첫째, 폐쇄형 API 간에는 저가 모델 확대와 용도별 차별화 압력이 커진다. 같은 작업을 더 싼 모델로 처리할 수 있으면 고성능 모델은 모든 요청의 기본값이 아니라 예외 처리, 고난도 추론, 품질 검수용으로 밀려난다. 제품팀은 “가장 좋은 모델 하나”를 고르는 대신 요청을 난이도별로 라우팅하는 구조를 검토해야 한다.

둘째, 오픈소스 모델의 논리는 약해진다기보다 더 정교해진다. 참고 자료의 연구에 따르면 오픈소스 모델은 이미 동급 지능의 폐쇄형 모델보다 저렴한 경우가 있다. 하지만 폐쇄형 API 가격이 더 내려가면 단순 토큰 가격만으로는 오픈소스 채택을 정당화하기 어려워진다. 남는 이유는 데이터 통제, 커스터마이징, 지연시간, 특정 도메인 최적화, 공급자 종속 회피 같은 요소다.

셋째, 자체 호스팅은 특히 냉정하게 계산해야 한다. 엔터프라이즈 코딩 에이전트 사례 연구에서는 프롬프트 캐싱 히트율 99.3%에서 API 실현 비용이 88.6% 줄어 100만 토큰당 0.57달러가 됐고, 이는 공유 온프레미스 슬라이스의 상각 단가 2.83달러보다 낮았다. 이 사례가 모든 워크로드에 적용된다는 뜻은 아니다. 그러나 한 가지 기준은 분명하다. 캐싱·배치·저가 모델 라우팅을 적용한 API 비용을 먼저 계산하지 않고 자체 호스팅이 싸다고 가정하면 위험하다.

의사결정 규칙: 평균 단가가 아니라 ‘실현 단가’를 비교하라

기업이 이번 가격 인하 국면에서 쓸 수 있는 판단 규칙은 다음과 같다.

먼저 현재 사용량을 세 부류로 나눈다. 반복 프롬프트가 많아 캐싱 이점이 큰 작업, 품질 민감도가 낮아 저가 모델로 충분한 작업, 실패 비용이 커서 고성능 모델이 필요한 작업이다. 가격표의 입력·출력 토큰 단가만 보면 이 구분이 사라진다. 실제 비용은 캐싱, 배치 할인, 모델 라우팅, 재시도율, 후처리 비용까지 포함해 계산해야 한다.

그다음 자체 호스팅 후보는 지속 사용률을 기준으로 걸러야 한다. GPU나 서버를 보유했다는 사실은 비용 우위가 아니다. 사용률이 낮거나 트래픽이 출렁이면 고정비가 단가를 끌어올린다. 반대로 사용량이 안정적이고 데이터 통제 요구가 강하며 운영 역량이 있다면 자체 호스팅은 여전히 검토할 수 있다.

마지막으로 공급자 선택은 “오늘 가장 싼 모델”이 아니라 “가격 하락을 제품 구조에 반영할 수 있는가”로 봐야 한다. 가격이 계속 움직이는 시장에서는 특정 모델 하나에 고정된 아키텍처보다, 모델 교체와 라우팅이 쉬운 구조가 비용 절감분을 더 오래 유지할 가능성이 크다.

이번 발표에서 믿을 것과 보류할 것

공식 자료로 확인되는 것은 OpenAI가 큰 사용자 기반과 기업 사용을 강조하고 있다는 점이다. 비즈니스 고객 100만개 이상, Codex 주간 사용자 200만명 이상 같은 수치도 별도로 제시됐다. 반면 “10억 활성 사용자 달성”과 “200만개 기업 고객”은 현재 제공된 검증 결과만으로는 확정해 쓰기 어렵다.

그래도 가격 인하 자체가 주는 신호는 작지 않다. LLM 비용이 내려가면 AI 기능은 ‘고가 기능을 일부 사용자에게 제공’하는 단계에서 ‘기본 워크플로에 넓게 삽입’하는 단계로 이동할 수 있다. 단, 그 이익은 자동으로 오지 않는다. 캐싱 가능한 작업을 찾고, 모델을 난이도별로 나누고, 자체 호스팅의 고정비를 실현 API 단가와 비교하는 팀만 가격 인하를 실제 제품 우위로 바꿀 수 있다.

Aionda

LLM 가격 인하와 실현 단가 계산

숫자보다 중요한 것은 가격 인하의 방향성이다

폐쇄형 API, 오픈소스, 자체 호스팅의 비교축이 바뀐다

의사결정 규칙: 평균 단가가 아니라 ‘실현 단가’를 비교하라

이번 발표에서 믿을 것과 보류할 것

다음으로 읽기

참고 자료

업데이트 받기