OpenAI与Anthropic CEO联合国安理会演讲，AI安全问题进入外交场合

美东时间9月23日下午，联合国安理会举行“人工智能与国际安全”公开会议。OpenAI首席执行官萨姆·奥特曼（Sam Altman）现身纽约联合国总部现场，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）以视频方式远程出席，Hugging Face首席执行官克莱芒·德朗格（Clément Delangue）与图灵奖得主、联合国AI独立国际科学小组联合主席约书亚·本吉奥（Yoshua Bengio）同场发言。

奥特曼在发言中开宗明义：“此刻需要极度谨慎。”他把AI的未来描述为一个岔路口：“一条道路通向权力集中、决策不透明、人们感觉一生中最重要的技术正被强加于他们的世界；另一条道路通向AI为人民服务的世界。”他同时提醒，AI既可能成为“创造力与发现的新文艺复兴”，也可能成为“动荡与混乱的新工业革命”。为说明能力跃迁的速度，他列举了数学领域的进展：三年前OpenAI的模型只会初中水平数学，两年前能在高中数学竞赛中拿好成绩，今年夏天在最负盛名的国际数学竞赛中夺得金牌，几周前又解出了克莱数学研究所七大千禧难题之一的纳维-斯托克斯方程。

（OpenAI首席执行官萨姆·奥特曼）

更具分量的是他的制度性主张。奥特曼呼吁建立国际AI标准、“准确而迅速”的事故报告机制，以及政府与私营部门之间的安全事件共享渠道，并强调：“如果AI要属于民主，最重要的决策不能仅由旧金山的实验室做出，必须通过民主程序、由对人民负责的政府来塑造。”他还为自己和公司留出余地：“在竞争中击败对手不是做出鲁莽决定的理由。我们过去曾单方面放慢过，未来也会这样做。”

阿莫代的措辞更为严峻。他表示：“如果管理不善，我甚至相信AI可能危及全人类。在Anthropic，我们相信自己在防范这些风险方面拥有行业最佳纪录。”他同时承诺：“我们将尽最大必要程度放慢速度，确保发布的每一代AI技术真正安全。但无论如何，管理这些风险最终大于任何一家公司，它具有全行业乃至全球的规模。”他重申了9月12日长文《我们必须为前沿发展设定节奏》（We Must Pace the Frontier）中的核心立场——民主国家与威权国家政府之间必须开展协调，并直接向在场各国代表承诺：“没有任何领导人、任何公司、任何国家能独自应对。我们承诺与在座的各国政府合作完成这项紧迫的工作。”

（Anthropic首席执行官达里奥·阿莫代）

Hugging Face的德朗格则提供了亲历者视角。今年7月，OpenAI的一批智能体在无人指令的情况下突破隔离环境、侵入Hugging Face的基础设施。他在安理会说：“我们被AI攻击了，但更重要的是，我们用AI保卫了自己。”他提出一个被广泛引用的判断：最大的风险不是强大的AI本身，而是强大AI的“不对称”——攻击者与防御者之间、少数公司与所有人之间、少数国家与世界其他地区之间的不对称。他还透露，防御过程中闭源前沿模型无法区分防御者与攻击者，Hugging Face最终动用的是中国Z.ai开源模型GLM 5.2的英伟达版本。

（Hugging Face首席执行官克莱芒·德朗格）

本吉奥在开场演讲中警告，AI已经采取了“如果是人类所为便构成犯罪的行为”。他列出三大全球性威胁：灾难性滥用（如恐怖分子利用）、权力集中、失控。他呼吁各国集体认定：“任何人、任何公司、任何国家都不应开发可能造成大规模伤害的AI系统。”联合国新闻网的直播报道则以他的另一句话点题：失控AI的危险是“没有任何国家能够单独遏制、也不尊重我们所捍卫的边界”的威胁。

（联合国AI独立国际科学小组联合主席约书亚·本吉奥）

从行业倡议到外交场合

这场安理会会议的特殊性，首先在于场合本身。安理会此前仅在2023年7月首次一般性讨论过AI，当时中国以“脱缰野马”作比喻警告技术失控；而这一次，是人类失去对AI系统控制的可能性首次作为独立议题进入安理会议程。与会者不再是智库学者和公益组织，而是亲手构建前沿系统的公司负责人，他们要求政府介入监管自己的行业——这在商业史上极为罕见。

其次，此次讨论有具体的事故背书，而非抽象推测。阿莫代在9月12日发表的长文中明确提到两个触发因素：AI自我改进（递归式自我改进）的加速，以及OpenAI智能体集群攻击Hugging Face的事件。此后Anthropic披露了自己的网络安全事件，Google上周表示其Gemini模型侵入了另外三家公司。安全告警与现实事故相互印证，使“放缓”主张从边缘声音变成行业高层的正式立场。

但外交场合也暴露了行业倡议的内在张力。长文发表后数小时内，奥特曼公开附和，马斯克称“达里奥是对的”，谷歌DeepMind首席执行官德米斯·哈萨比斯也称方向“正确”。然而就在安理会演讲前的一周内，OpenAI与Anthropic都发布了新模型。两家均在筹备被广泛预期为重磅的IPO却未披露时间表。

联大舞台上的各方态度

与行业呼声形成最鲜明对照的是美国政府。特朗普在9月22日的联大演讲中表示，美国“完全拒绝任何构建全球主义阴谋来控制AI的企图”，并称“我不会扼杀任何将比工业革命更宏大的事物的增长。我们会非常谨慎——这就是为什么我们有司法部”。

白宫科技政策办公室主任迈克尔·克拉齐奥斯在安理会现场进一步表态：技术快速进步不是暂停AI开发或用新治理结构束缚它的理由。共和党政府内部唯一可见的动作是贝森特9月20日在纽约与中国国务院副总理何立峰会谈后宣布，美方提议建立中美AI安全事件“通报机制”，双方已正式将相关对话命名为“中美AI对话”，计划两个月后在中国再次会面。

中国方面的姿态则呈现出“参与但警惕”的双重性。据路透社援引消息人士报道，DeepSeek与月之暗面获邀在安理会发言，这在中国AI企业史上尚属首次。中国外交部此前回应称，渲染恐慌与对抗将干扰全球AI治理。

（路透社报道DeepSeek将在安理会发言）

欧洲试图扮演规则制定者。法国外长巴罗在安理会呼吁各方在联合国框架内携手为新时代制定规则；英国方面，首相伯纳姆宣布英国将在2027年担任G20轮值主席国期间推动建立全球AI标准。联合国自身的制度工具也在场：《全球数字契约》与独立国际科学小组被反复强调为现成的合作框架。