둘러보기
페이지
글 1편
2026년 9월 29일
AI API의 캐시 히트는 저장된 답을 돌려주는 응답 캐시가 아니라 입력 앞부분의 KV를 재사용하는 것이다. 쓰기 비용을 넣은 본전 적중률과, 에이전트 입력의 97.6%가 캐시 읽기였던 실측을 살펴본다.
