V2EX 热门· ota·· 4 小时前AI 评分15
探讨完全解耦的 AI Infra 架构:难点在于 GPU 资源租赁与按需调用
[问与答] 求一個完全解耦的 ai infra 基礎設施。難點在 gpu 資源租賃
AI 导读
开发者在探讨一种将代码(VPS)、数据(S3)与算力(GPU)完全解耦的 AI Infra 架构,核心诉求是实现 GPU 资源的“用完即焚”以压缩开发测试成本。该方案主要针对视频生成、漫画上色等偶发并发任务,希望摆脱 GPU 与数据盘绑定在同一云厂商的限制,从而灵活支持跨机房和多机集群调用。
来源:V2EX 热门 · v2ex.com