OpenAI 프롬프트 캐싱 최적화, 고정 prefix·브레이크포인트·비용 측정법
OpenAI API의 프롬프트 캐시를 안정적으로 쓰기 위해 고정 prefix를 설계하고, 도구 정의와 동적 입력을 분리하며, cached_tokens와 비용을 측정하는 방법을 설명합니다.
2026년 09월 16일
컴퓨팅 · AI · 스마트기기 · 게임을 다루는 IT 가이드
OpenAI API의 프롬프트 캐시를 안정적으로 쓰기 위해 고정 prefix를 설계하고, 도구 정의와 동적 입력을 분리하며, cached_tokens와 비용을 측정하는 방법을 설명합니다.
OpenAI가 Cognition의 Devin이 GPT-6 Astra를 활용해 소프트웨어를 테스트하고 결과를 보여주는 사례를 공개했습니다. 개발 에이전트의 평가 기준이 생성에서 검증으로 넓어지는 이유를 살펴봅니다.
OpenAI Habitat, 매초 7천만 건 요청을 처리하는 ChatGPT 저장소의 구조의 해외 원문 발표를 바탕으로 핵심 변화와 한국 독자가 확인할 조건을 정리합니다.