LINUX DO 最新· onion·· 4 小时前AI 评分15
GrokBot、Dots 与 Muse 等助理的缓存命中时长探讨
有佬研究过例如GrokBot、Dots、Muse这类助理的缓存命中时长吗
AI 导读
社区开发者探讨了 GrokBot、Dots、Muse 等助理类应用的缓存命中时长机制。讨论对比了短期几分钟缓存与类似 Codex、Claude Code 约 1 小时的缓存方案,并分析在持续跟进外部信息的场景下,是一次性提供以减少总 token 数,还是持续调用保持缓存活跃更节省 token。
来源:LINUX DO 最新 · linux.do