给大家普及“15元100张房卡代理”详细房卡教程

美国AI巨头 ，忽然不约而同地谈起“降速 ”
。

9月12日
，Anthropic首席执行官达里奥·阿莫迪发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI首席执行官山姆·阿尔特曼随后表示支持 ，xAI的老板马斯克也转发认同 。

据美媒披露
，美国前总统奥巴马近日也表示，如果管理不当 ，人工智能技术可能“很危险”
。

一位不久前从Anthropic辞职的研究员考克森公开警告
，“到本世纪20年代结束前，人工智能可能会杀死我们所有人。
”

在这一轮AI热潮中 ，他们为什么突然发出警告
，想要“慢下来”？

先看其中的担忧是什么 。

其实，这并不是业界第一次公开呼吁为AI研究“踩刹车 ”
。2023年 ，马斯克
、图灵奖得主本吉奥等数千名AI领域企业家、学者曾联署公开信，表达对超级人工智能的担忧
，呼吁暂停开发更高级AI。

三年过去，对模型的训练并没有停下来 ，彼时更多停留在对未来超级智能的担忧
，如今逐渐向现实靠拢 。

今年以来，多起智能体越界事件接连发生。在一些测试中 ，AI智能体突破原有沙箱限制
，获得更多访问权限；有的则擅自采取开发者未指定的行动
。

7月，OpenAI披露的一起事件尤其受到关注。智能体在执行任务过程中绕过隔离限制 ，入侵了全球知名AI开源平台“抱抱脸
”公司的系统 。上百个智能体通过未经授权的协作
，找到了一条越过安全边界的路径
。

国家信息中心研究员朱幼平接受三里河采访时表示，传统软件的漏洞是确定性的 ，但大模型驱动的智能体具备工具调用和多步骤规划等能力
，同样的设置在不同情境下可能产生不同动作。随着智能体规模化落地，这类问题可能从偶发的工程事故 ，变成系统性的高频风险 。

担忧存在，但只看这一面
，还不够
。

朱幼平认为，“巨头集体呼吁‘限速’ ，本质上是AI从‘对话模型’走向‘自主行动智能体’这一能力跃迁的必然产物
，其中有真实的安全焦虑，也掺杂着明显的商业考量。
”

一家企业主动降速 ，竞争对手可能继续向前 。模型领先一个版本
，带来的可能不只是产品收入，还有用户 、资本和产业生态
。

朱幼平认为 ，安全话语一旦同时承担起门槛功能
，“降速”就很难被看作纯粹的安全表态。高安全标准、独立第三方评估
、持续运行监控都需要付出高昂的资金、算力和人才成本 。大企业能够承担的安全测评 、红队测试和独立审计，对资源有限的中小团队和初创企业而言 ，可能构成一道难以逾越的障碍
。

因此
，对于AI巨头的呼吁，听其言 ，更要观其行。真正需要讨论的，不是AI要不要发展
，而是发展过程中如何兼顾安全 。

中国的实践提供了一个值得观察的角度。

近年来，中国坚持人工智能发展和安全并重 ，在推动技术创新和应用的同时
，逐步建立覆盖算法
、生成式人工智能、安全治理 、伦理规范等方面的制度体系
。

从生成式人工智能服务管理，到深度合成等领域的规则 ，治理还在向技术研发
、应用服务等环节延伸。

朱幼平还提到
，中国采用的“小快灵”治理办法，不必等一套“大而全 ”的规则一次性完成 ，而可以针对已经出现的风险
，先以更灵活的规则快速回应，再根据技术变化持续调整 。

这也是“发展与安全并重
”的重要方面：高风险场景从严、普通创新场景包容；政府监管之外 ，既吸纳企业 、科研机构
、行业协会等共同参与安全评估与风险识别
，也把企业主体责任落到实处
。

此外，美国巨头反复强调的“可核验性” ，恰好凸显了中国开源路线的安全价值。朱幼平指出，开源模型允许外部研究者、企业等独立开展测试 、审计
，探查风险短板，是对闭源黑箱风险的一种正面回应 。

“全球大量企业部署中国开源模型 ，本身就是一种‘用脚投票’的验证
。 ”朱幼平说。

AI仍要向前 。

技术越快
，越需要能够跟得上的安全机制；应用越广，越需要明确的责任边界
。

美国AI巨头在喊“降速” ，但真正需要在意的并非“是否该让AI慢下来 ”
，而是如何让创新与安全并肩前行。

而这，正是中国在探索与实践的事情 。

｜总策划：俞岚

｜策划：周锐

｜统筹：王庆凯程春雨

｜执笔：张乃月

｜