LINUX DO 最新· TouHouQing·· 2 小时前AI 评分13
上市企业寻求 Claude、GPT 及国产大模型中转服务商
上市企业寻中转服务商,企业对外应用不蒸馏,要Claude/gpt/国膜
AI 导读
某上市企业发布需求寻求大模型中转服务商,日调用量达 20B token 并会进行分流。采购明确要求服务商支持开票、独立号池、0 注入不蒸馏且错误率控制在 1% 内。其中,Claude 要求国内直连并具备 85%+ 缓存与 1h 缓存支持,GPT 与国产大模型则要求支持 message 协议及对应高缓存率。
来源:LINUX DO 最新 · linux.do