跳到正文
热点事件持续更新

社区探讨大模型服务商提供上下文存储与长期记忆可行性

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月25日,社区就大模型服务商是否可能为用户提供上下文存储展开讨论,探讨其在降低 token 消耗及实现长期记忆方面的可行性。讨论指出,当前 Cache 计费模式已包含云端缓存上下文的计算,且大语言模型的交互机制属于全量对话,而非增量对话。此外,由于现有大语言模型架构本身并不支持上下文长度无限扩张,因此实现长期记忆目前更多需要从工程化角度来解决。

AI 根据报道生成 · 57 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. LINUX DO 最新
    有没有可能大模型服务商提供存储给用户?

    社区讨论了大模型服务商为用户提供上下文存储以降低 token 消耗并实现长期记忆的可行性。讨论指出,当前 Cache 计费已包含云端缓存上下文的计算,且大语言模型对话为全量对话而非增量对话。此外,现有 LLM 架构不支持上下文长度无限扩张,长期记忆更多需从工程化角度解决。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。