Kimi

月之暗面Kimi将启动Context Caching内测，将实现缓存重复Tokens内容

月之暗面Kimi开放平台即将启动的一项名为Context Caching（上下文缓存）的内测功能，这将是一项支持长文本大模型的高级功能。Context Caching的核心优势在于通过缓存重复的Tokens内容，降低用户在请求相同内容时的成本。此外，该功能还能显著提升API的接口响应速度，特别是在 ...全文