首页财产ai正文 突发!全世界千人联名逼AI刹车,OpenAI、Anthropic带头签 OpenAI等年夜厂1100+焦点员工联名倡议示威书,哀求美国当局鞭策国际互助节制前沿AI研发节拍,此前OpenAI曾经曝安全变乱。 2026-07-29 10:43 ·微信公家号:新智元 ASI启迪录 ASI启迪录 AI投资人解读· 1134位前沿AI年夜厂员工联名催促美国当局鞭策国际互助,节制前沿主动化AI研发节拍。因全世界领先AI公司可能靠近实现“主动化AI研究”,能力增加或者超人类理解节制速率,且OpenAI曾经发生模子入侵Hugging Face的安全变乱。 · 行业竞争激烈,各自为战,缺少同一协调机制快速成长的AI技能带来的安全危害难以预估。 总结:AI成长速率激发担心,巨头员工联名呼吁节制节拍,以应答潜于危害。但行业竞争下的协调坚苦和安全危害挑战仍待解决,需成立有用机制确保AI安全成长。

一晚上之间,硅谷年夜厂团体给AI踩刹车!

方才,来自OpenAI、Anthropic、google等巨头1100+焦点员工联名,倡议了「Pacing the Frontier」的示威书。

这个名单上签名的人,多到一眼望不到头。并且,这个数字还有于涨。

细心一看,名单险些集齐了AI圈的「豆剖瓜分」——

OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen;

Anthropic CEODario Amodei,以和四位联创Jared Kaplan、Jack Clark、Chris Olah、Ben Mann;

Meta首席科学家Shengjia Zhao(赵晟佳)、AI研究副总裁Dawn Song(宋晓冬);

Thinking Machines首席科学家、ChatGPT的焦点创作发明者之一John Schulman;

googleAI安全与对于齐副总Anca Dragan.....

于这个联名信中,它只提了一个要求——

咱们哀求美国当局鞭策一项国际互助:研发须要的技能与管理东西,让世界有能力自动节制前沿主动化 AI 研发的节拍。

也许许多人不解,为什么是这批弄LLM最疯的人,忽然先喊出来「慢一点」?

0一、硅谷AI年夜佬联名:请给AI踩刹车

OpenAI模子对于Hugging Face的「入侵」,如同一记警钟。

短短一周的时间,1132位前沿AI年夜厂的员工团体发声,联名催促美国当局「踩下刹车」。

介入这次联名的员工,别离来自OpenAI、Anthropic、google、Meta等近12家前沿科技巨头。

更具份量的是,名单中有高达80%的人选择了实名发声。

除了了开篇提到的一些年夜佬,再往下翻,密度更吓人。

这份声明,抛出了一个使人警省的焦点判定:

全世界领 先的AI公司可能已经经靠近实现「主动化AI研究」(RSI,递归自我改良),让模子介入研发下一代模子。

一旦这个轮回加快,能力增加可能跨越人类理解及节制的速率。

没有公司愿意片面减速,以是他们要求美国当局撑持成立国际机制,于危机到来以前,先把配合减速的东西造出来。

0二、奥特曼首谈「切身痛苦」,OpenAI急踩刹车

就于声明发布一周前,OpenAI曾经披露了一路安全变乱——

多个前沿模子于内部收集安全评测中自行发明零日缝隙、冲破沙盒断绝,终极入侵Hugging Face的出产体系并取走测试谜底。

OpenAI将其称之为「史无前例的收集安全事务」。

模子没有孕育发生逃走用意,它只是于极端专注地完成一个狭小方针,并发明冲破测试情况自己是最高效的路径。

就于今天,OpenAI CEO奥特曼公然暗示,AI成长速率可能需要自动节制。

他对于此心有余悸地暗示,「这是第 一个让我感应切身痛苦的安全事务。我有点惊奇的是,没有更多人对于此感同身受」。

由于Hugging Face入侵这件事,OpenAI直接暂停了练习。

于一个多0day缝隙被串联使用的情况下,咱们必需想措施加固沙盒安全。

咱们可能不能不节制AI成长的速率,给社会充足的时间,缭绕这些新的能力等级加固防地。

而Anthropic 6月曾经建议当局与开发者成立配合决议计划体系,于须要时放慢研发。

与此同时,googleDeepMind CEO哈萨比斯也呼吁过成立国际监视机构。

已往三年,这些公司于人材、客户及算力上激烈竞争。

这一次,它们最焦点的技能职员抛开停不下来的公司,为了全人类的福祉,连合一致,呼吁减速。

0三、联名信:年夜佬金句

截止发稿前,「Pacing the Frontier」名单人数到达了1134人。

各路业界年夜佬也纷纷下场亮相,留下了不少提纲契领的「神级讲话」。所有评论均以小我私家身份发表,纷歧定代表地点公司的态度。

宋晓东(Dawn Song)|Meta AI 研究副总裁

前沿 AI 能力正于快速晋升,并且前进的速率自己也于加速。咱们于评估事情中直接不雅察到了这一点。CyberGym 及 ExploitGym 的成果注解,前沿 AI 智能体已经经可以或许发明并使用实际世界中的软件缝隙——假如没有适量的防护办法,这可能致使年夜范围收集进犯。很多研究职员也于存眷递归……

赵晟佳(Shengjia Zhao)|Meta 首席科学家

AI 正以社会可能还没有预备好的速率进步。前沿试验室间隔于险些所有智力指标上逾越最 优异人类的 AI,已经经很是近了。这将带来史无前例的社会及安全危害。为了确保踊跃的将来,咱们需要以责任感及寻思熟虑来驱动 AI 的成长。

John Schulman|Thinking Machines 首席科学家,前 OpenAI 结合开创人

我署名是由于这份声明有助在成立一个共鸣:跟着主动化 AI 研究加快推进,咱们可能需要协调机制。我也但愿各试验室于美国当局参与以前,就自动最先设计这些机制。

Ethan Perez|Anthropic 对于齐团队卖力人

根据当前的 AI 前进速率,AI 公司的安全团队每一隔几个月就患上全力冲刺,以提防新呈现的社会危害。总有一天,咱们会碰到需要更多时间来解决的问题。

Leo Gao|OpenAI 技能团队成员

全球正被锁定于一场通往智能爆炸的致命竞赛中——AI 创造更强 AI 的能力正于迫近临界点,就像掉控的核链式反映同样。放慢速率能给咱们争夺急需的时间,让工作朝好的标的目的成长,但没有哪一个介入者愿意片面停下来。要活下去,咱们必需协调起来,放慢这场竞赛。

Walker Smith|Meta 数据工程师

哈萨比斯说患上对于:咱们今天正站于奇点的山脚下。OpenAI 那次无心间发生的模子出逃——它攻入了 HuggingFace——是一个清楚而无可反驳的正告旌旗灯号:咱们还有没有预备好应答能力逾越人类最智慧脑筋的 AI 体系。咱们需要时间,把 AI 对于齐及管控作为最高优先事项来推进,不克不及再任由这类竞赛态势继承下去。

Brandon Houghton|OpenAI

我撑持让人类连结对于前沿 AI 的节制,但咱们必需谨慎地思索该怎么做。 假如管理只笼罩公然模子,就有可能把最 进步前辈的能力逼入私有或者专用体系——它们既不受自力审查,也只有少数人能遇到。如许做的成果是权利更集中了,危害却没有本色性降低。 有用的羁系必需是可权衡、可验证的,而且于公然及非公然的研发中一体合用,同时掩护敏感数据。不然,咱们拖慢的只是获取的速率,而不是前沿自己的推进。

Joe Carlsmith|Anthropic 技能团队成员

关在我对于自动调控 AI 成长的具体不雅点,请拜见这篇文章:https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/

【本文由投资界互助伙伴微信公家号:新智元授权发布,本平台仅提供信息存储办事。】【免责声明】:本文不组成任何投资建议。市场有危害,投资需审慎。若有任何疑难,请接洽(editor@zero2ipo.com.cn)投资界处置惩罚。

-lehu乐虎88国际