AWS 蒸馏分布式中转方案求助：目标从 300 RPM 提升至 3W RPM

有开发者针对 AWS 蒸馏业务寻求分布式中转技术架构方案。目前该系统使用 Caddy 作为反代，单台 8H16G 200M 2670V3 机器无法承受 300 RPM 的请求压力，期望寻求能够支撑 3W RPM 目标的技术方案。