GraniKV: Asymmetric Granularity KV-Cache Paging for Multi-Agent Systems with Long Shared Prefix
Seoul National University · arXiv · 2026 · 검증 완료 검증 완료복수의 신뢰 가능한 출처로 검증되었습니다.
다중 에이전트 추론의 긴 공유 프리픽스는 연속 HOT 풀에, 요청별 서픽스는 토큰 단위 COLD 풀에 배치하는 비대칭 KV 캐시 페이징으로 처리량과 메모리 효율을 높인다.
- arXiv
- 2608.15584
- 원문
- https://arxiv.org/abs/2608.15584
관련 항목
출처 및 검증
- [paper] https://arxiv.org/abs/2608.15584
마지막 검증일: 2026-08-23