Inception Mercury 2.5 출시, 확산 언어 모델은 속도 경쟁을 어디까지 바꿀까

Inception Mercury 2.5를 상징하는 무표기 AI 추론 서버와 가속기 하드웨어

AI를 활용하여 생성한 이미지입니다.

Inception이 2026년 9월 8일 Mercury 2.5를 공개했어요.[1] 이 모델은 기존처럼 토큰을 한 개씩 이어 붙이는 방식이 아니라, 여러 토큰을 병렬로 다듬는 diffusion language model(dLLM) 계열입니다.[1] 회사 발표 기준으로는 프로덕션에서 초당 1,100토큰 이상을 처리하고, Inception API·OpenRouter·Baseten에서 바로 사용할 수 있어요.[1]

속도만 빠른 모델은 아니라고 주장한다

Inception은 Mercury 2.5가 Mercury 2보다 지능 평가에서 10포인트 높아졌고, 비용도 낮아졌다고 설명합니다.[1] 회사 보도자료는 기존 Mercury 2가 Claude Haiku와 GPT Mini 수준의 지능을 유지하면서 약 10배 높은 처리량을 냈다고 주장해요.[1] Mercury 2.5는 그 구조를 이어받으면서 더 높은 지능을 목표로 한다고 밝혔어요.[1]

독립 보도는 회사가 공개한 수치를 바탕으로 Mercury 2.5의 처리량을 약 1,107토큰/초로 정리했고, 표준 가격을 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.75달러로 소개했습니다.[2] 출시 기간에는 입력 0.04달러, 출력 0.15달러로 80% 할인한다고 전했어요.[2] 이 가격과 할인은 시점·계정·사용 경로에 따라 달라질 수 있으니 실제 API 콘솔에서 다시 확인해야 합니다.

확산 방식이 API 사용성을 바꿀 수 있는 이유

Inception의 설명에 따르면 dLLM은 무작위에 가까운 텍스트에서 시작해 여러 위치를 반복적으로 정리합니다.[1] 이 방식이 충분히 안정적으로 동작하면 답변을 완성하는 동안 GPU를 더 병렬적으로 활용할 수 있어요.

이 구조가 특히 맞는 곳은 검색 요약, 음성 에이전트, 코드 보조처럼 첫 응답과 전체 처리 시간이 중요한 서비스입니다. Inception은 Mercury 2.5를 음성·코딩 에이전트에 쓸 수 있다고 설명했고, 같은 발표에서 첫 토큰까지 170ms 미만을 목표로 하는 Mercury Voice와 Mercury Router 미리보기도 함께 공개했습니다.[1] 다만 이는 회사가 제시한 제품 설명이지, 모든 언어와 입력 길이에서 재현되는 독립 벤치마크는 아닙니다.

개발자가 바로 바꿔야 할까

이미 OpenAI 호환 API를 사용하는 애플리케이션이라면 연결 구조를 검토하기는 쉬울 수 있습니다. 그래도 모델을 바꾸는 일은 단순한 엔드포인트 교체로 끝나지 않아요. 스트리밍 형식, 함수 호출, 구조화 출력, 긴 문맥의 안정성, 한국어 품질, 오류가 났을 때의 재시도 비용을 실제 작업으로 확인해야 합니다.

특히 초당 토큰 수는 품질과 같은 지표가 아닙니다. 응답이 빨라도 도구 호출을 잘못하거나 긴 문서의 조건을 놓치면 전체 작업은 느려질 수 있어요. Mercury 2.5를 검토한다면 다음 순서가 현실적입니다.

  • 현재 모델과 같은 프롬프트·출력 제한으로 짧은 코딩과 요약 테스트를 분리하기
  • 첫 토큰 시간과 전체 응답 시간을 각각 기록하기
  • 함수 호출 JSON이 깨지지 않는지 반복 확인하기
  • 한국어 문서와 긴 입력에서 누락·환각 사례를 따로 모으기
  • 할인 가격이 끝난 뒤의 월 비용을 계산하기

이번 발표에서 확실히 확인되는 것은 diffusion LLM을 상용 API와 여러 호스팅 경로에서 밀어붙이려는 Inception의 움직임입니다.[1] 반대로, Mercury 2.5가 실제 업무에서 기존 모델보다 항상 낫다는 결론은 아직 이 자료만으로 낼 수 없습니다. 속도와 비용이 중요한 좁은 작업부터 측정해 보는 편이 맞아요.

AI·LLM 글 더 보기

Sources

  1. Business Wire release
  2. Independent AI coverage

함께 읽을 글