Sam Altman 提出 AI 竞赛的三种终局设想

Sam Altman 在 OpenAI 内部讨论中勾勒了先进 AI 竞赛可能走向的三种终局形式。三种路径分别是由类似核监管的国际组织监督安全、顶尖实验室合并为一个实体以共享安全规范，以及某家公司率先实现递归自我改进（RSI）并形成极端垄断。Altman 将 RSI 引发恶性垄断并干扰对手硬件的局面称为极其糟糕的结果，并重申了对权力过度集中和失去控制的警惕。