양자화

💡 터보컨트와 KV 캐시 압축의 필요성 터보컨트(TurboQuant)는 구글이 발표한 KV 캐시 압축 방식으로, 대규모 AI 모델의 메모리 병목 현상을 해결하려는...