奥尔特曼警示AI失控两大路径：自主化失控与技术垄断

SmartHey11月7日消息，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）近日做客拉杰·沙马尼（Raj Shamani）播客，深入剖析人工智能潜在的失控风险。他指出，AI可能通过两种关键路径走向不可控局面：一是人类在渐进过程中将决策权持续让渡给高度自主的AI系统；二是某一个体、企业或国家实现对先进AI技术的实质性垄断。

关于第一种路径，奥尔特曼强调：‘AI的失控可能并非突发事故，而是一个缓慢演进的过程——我们或主动、或不自觉地将关键控制权移交至能力远超人类的智能系统，一旦越过临界点，便再难收回。’

对于第二种路径，他着重提醒集中化带来的系统性风险：‘当单一实体在AI能力上形成压倒性优势，整个生态的安全性与韧性将严重受损。相较而言，支持多条技术路线并行、鼓励多家独立实验室良性竞争，远比全球依赖单一供应商更为稳健和可持续。’

这种对权力过度集中的警惕，也部分解释了埃隆·马斯克及多位OpenAI前高管选择另起炉灶、创立竞对公司的深层动因。奥尔特曼坦言：‘许多顶尖人才内心都存在一种强烈的信念——他们认为唯有自己团队才真正具备 responsibly 推进这项技术的能力，因为其关乎人类文明的长期命运。’

尽管忧患意识强烈，奥尔特曼仍保持审慎乐观。他特别展望AI对基础科学的变革性赋能：‘下一代AI模型有望成为科学家的‘超级协作者’，加速假设生成、实验设计与知识整合，从而推动人类在物理、生物、材料等核心领域实现持续突破。’