近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。（此前报道：AI几年内可毁灭人类？美国顶尖AI天才辞职感言：巨头拿我们的命在赌！马斯克转发）
奥尔特曼宣布OpenAI将暂缓上市
9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。
OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）
当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”
奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”
此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。
Anthropic公司CEO发长文
提出新安全监管评估方向
9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。
Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐
达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。
达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”
其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。
奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”
尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。
也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。
人工智能安全风险频发
此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。
AI或对人类构成“生存威胁”（图据视觉中国）
与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。
同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。
红星新闻记者 卿滢
编辑 罗天 审核 任志江
天盛优配提示：文章来自网络，不代表本站观点。
