KV Cache Quantization

TODO: 说明 KV Cache 量化对长上下文显存、decode 延迟、精度损失和 serving 吞吐的影响。