billion-context 真的有用吗？

社区针对长上下文工具 billion-context 的实际效用展开讨论，实测显示其在长任务中能减少 Agent 执行偏移，但在极端情况下偶发反复压缩失败爆上下文。多位用户测试反馈其平均缓存命中率在 90% 至 96% 左右，能将上下文长度控制在 10 万以内，不过思维链中夹杂的压缩判断开销可能对模型注意力机制产生偏移。