跳到正文
原文
V2EX 热门· limuyang2·· 3 小时前AI 评分74

在 2 核 2G 云主机部署 OpenViking 记忆底座的模型选型与成本复盘

[程序员] 我在 2 核 2G 云主机上跑 OpenViking:一次关于云主机、模型选型与长期成本的真实复盘

AI 导读

作者复盘了在 2 核 2G 入门级云服务器上自建 OpenViking 记忆底座的架构实践,将计算任务全部卸载到外部 API 以保持轻量运行。向量模型选用 128K 上下文的火山方舟豆包 Vision 避免超长切片溢出与二次全量重建索引,意图分析选用阿里百炼通义伶鹊 Flash 将规划耗时压至 0.8 秒并严格遵循 JSON 结构。

来源:V2EX 热门 · v2ex.com