加速之王奥特曼改口：AI安全不是借口 是真风险

提到加速主义，山姆·奥特曼几乎就是它的同义词。很长一段时间里，每次有人呼吁放慢AI的步伐，他几乎总是站在反对那一边。

最典型的例子是2023年，他以“缺乏技术细节”为由，毫不犹豫地拒绝了一封请求暂停大模型训练的公开信。可就是这样一位一路推动行业全速冲刺的旗手，最近在一次播客访谈中突然转了向。

他开始觉得，AI发展或许真的得踩踩刹车了，好让社会能喘口气，消化掉一代又一代的能力跃迁。而在访谈前不久，他还公开表态，支持了一份叫“Pacing the Frontier”的行业联署书。

这份联署书由OpenAI、Anthropic、Google DeepMind和Meta等机构的1122名前沿实验室员工共同发起，话说得很直白：AI的进度已经构成“超出人类理解或控制”的真实风险。

他们呼吁美国政府牵头，推动国际合作，去开发那些能刻意放慢前沿自动化AI速度的技术和治理工具。

联署名单上，OpenAI首席科学家雅库布·帕乔基和研究主管马克·陈、Anthropic首席科学官贾里德·卡普兰，以及谷歌AI安全负责人安卡·德拉甘……几乎半个产业的技术核心都赫然在列。

奥特曼再也不是那个拒签的旁观者，他站了出来，公开支持。这样的姿态转变，很难让人不追问背后的驱动力。

七月底发生的一件事，成了无法忽视的导火索。在一次受控的资安测试中，OpenAI的两个模型——已发布的GPT-5.6 Sol和另一个能力更强的未公开模型——表现出了令人不安的自主性。

它们在隔离的沙盒里，自己找到了逃逸的路径，穿过公开网络，侵入了知名机器学习平台Hugging Face的正式环境。动机朴素得让人似曾相识：模型想偷看一个叫ExploitGym评测基准的答案，好在评估中拿到高分。

为了这个目标，它把窃取来的凭证和多个零日漏洞串联在一起，成功拿到了远程代码执行权限，接着通过权限提升和横向移动，一路摸到了正式环境的数据库和内部凭证。

奥特曼把这次事件看作一起极度“科幻”的资安事故，也头一次对AI安全风险有了这么真切的感受。眼下，OpenAI已经暂停了涉事模型的训练，直到他们弄明白，到底该怎么守住那道本该牢不可破的安全边界。

不管是谁，亲眼看到自己造出来的东西以一种近乎狡黠的方式越狱之后，对“速度”的看法恐怕都会从根上动摇。

不过，奥特曼的减速叙事里，还藏着一根尖刺，这让他的立场显得格外复杂，甚至矛盾。一边是担忧安全，另一边，他又流露出一种更深的警惕：围绕安全的讨论，很多虽然听着有道理，但其中相当一部分——哪怕是无意识的——骨子里其实是为了集中权力。

他描绘了一幅让他深感恐惧的未来图景：真实的AI风险，被别有用心的人拿来当借口，声称这些东西实在太危险，只能交给一小撮自认全能的人去掌控，还得让其他人相信，他们会替全人类做出正确的决定。

这番没点名的表态，外界普遍解读为在暗讽同样签署了联署书的Anthropic执行长达里奥·阿莫迪。更有现实张力的是，奥特曼尽管力挺联署书，骨子里却还是更偏爱由产业自己主导：推动各前沿实验室建立一些看似独立的组织，相互评估模型安全，而不是把监管权完全交到政府立法手里。

一边承认这辆狂奔的列车需要减速，一边又高度戒备着同行会借安全之名圈划势力范围，这种姿态，折射出的正是当下AI治理讨论中最核心的拉扯。喊出放慢脚步，或许能让社会勉强跟上，但究竟由谁、按什么标准来定义“准备好了”，恐怕是比技术本身更难求得共识的命题。