流动的沙 站内编辑昨日（周二），联合国大会上演了一幕颇有科幻色彩的场景：一边是联合国秘书长古特雷斯警告 AI 安全以及介入军事行动是一种另类的“杀手机器人”，而另一边是特朗普宣布，美国拒绝任何所谓“全球主义方案”来控制人工智能。
一个担心 AI 失控，一个担心人类管得太多。看起来，这是两种截然不同的 AI 观，却很容易被带进入“AI到底会不会毁灭人类”的伪命题里。
古特雷斯在告别世界领导人的演讲中说：“让我们决定，生死攸关的决定绝不能交给机器。杀手机器人在我们的未来没有位置。”这不是一句简单的科幻式警告。联合国最新科学报告认为，AI 造成灾难性、不可逆伤害的概率虽然不高，却是真实存在的。
而特朗普的回应则完全不同。他说，美国“完全拒绝”建立控制人工智能的“全球主义方案”，并且特意把 AI 改称为“超级智能”（Super Intelligence）。在特朗普看来，所谓AI末日论和过去的气候变化警告很相似——总有人告诉大家灾难马上就要来了，但灾难并没有发生。
特朗普举出的例子是2018年的联合国气候报告。当时报告称，人类距离突破工业化前升温1.5摄氏度的关键门槛只剩12年。特朗普借此反问：当年说“12年后大家都死了”的人，现在又开始说 AI 会杀死所有人、机器人会攻击人类。
但这个说法其实混淆了两件事情。2018年的那份报告并没有说“12年后所有人都会死亡”，而是警告极端天气风险将进一步增加，并指出减少污染在未来82年可能避免1亿人过早死亡。
事实也证明，地球并没有变冷。美国国家海洋和大气管理局数据显示，过去12年全球气温反而上升了0.8华氏度，也就是0.45摄氏度。
所以，AI 治理真正麻烦的地方就在这里：如果把风险说成世界末日，当然容易制造恐慌；但如果因为末日没有发生，就认为风险不存在，同样危险。
古特雷斯和特朗普的 AI 价值观的差异在于：一边把问题变成 AI 的科幻电影，另一边则把它变成不存在的问题。两种做法都会迫使公众“选边站”，而真正值得讨论的应该是：什么机制才能控制强大的自主系统？
这其实才是联合国这场争论的核心。芬兰总统 Alexander Stubb 说，AI 可能是“人类历史上影响最深远的技术”，它将影响科学、经济、政治、安全，甚至人类本身。他的选择不是禁止，也不是放任，而是合作。
法国总统马克龙则把问题落到了儿童身上：“不要等到 AI 的后果像暴雨一样倾泻下来，我们现在就必须行动，保护我们的孩子和年轻人。”
英国方面提出的则是建立“一套全球性的原则和标准”，让 AI 在释放潜力的同时控制风险。明年英国担任 G20 轮值主席国时，“向善的 AI”将成为重点议题之一。
这说明一个非常现实的变化：全球真正担心的可能已经不是 AI 会不会出现，而是 AI 发展速度会不会快到让监管根本追不上。
当前，美国和中国已经被视为全球 AI 竞争的两个核心玩家。特朗普甚至宣称美国正在赢得这场竞争。其他国家不愿意在这场竞赛中被甩开，却又担心自己没有能力控制越来越强大的技术。
于是，一个非常荒诞的局面出现了：大家一边害怕 AI，一边又害怕别人发展 AI。
这可能就是我们这个时代最宏大影响也最深的“军备竞赛”。
联合国安理会随后讨论 AI 治理，OpenAI CEO 萨姆·奥特曼、Anthropic CEO Dario Amodei 以及 Hugging Face联合创始人兼 CEO Clement Delangue 都将参加。
其中尤其值得注意的是，这些 AI 企业掌舵者并不是传统意义上的“反 AI 人士”，但其中一些人近年来恰恰不断强调 AI 护栏的重要性。
这意味着 AI 治理已经不是“科技乐观派”和“科技悲观派”的简单对决，而开始变成一个更加现实的问题：当技术能力已经跑起来之后，人类究竟能不能建立与它匹配的刹车系统？
而古特雷斯所谓“杀手机器人”只是最极端的想象。真正可能先到来的，也许是更普通、更隐蔽的问题：AI 自主决策造成的金融风险、网络攻击、信息操纵、就业冲击，甚至机器替人作出生死攸关决定。
这些事情不需要超级智能统治世界，就足以产生现实后果。所以，AI 治理最应该避免的，恰恰是特朗普和古特雷斯各自代表的两个极端：既不能把 AI 描绘成下一部末日电影，也不能因为灾难没有立刻发生，就拒绝讨论刹车。
