好意思国东说念主工智能公司Anthropic号令众人顶级AI推行室琢磨放缓征战要领趟过女人河的男人， 情理是AI系统正以如斯迅猛的速率跳动，甚至于它们可能很快或然在无需东说念主工侵犯的情况下自我改革，从而对社会组成关键风险。

该公司周四在一篇博客著述中知道了里靠近于模子智商提高速率的数据，并暗示，或然放缓众人AI征战速率"可能是一件成心于全宇宙的事情"。

这篇由Anthropic里面揣测所负责东说念主及计谋诓骗撰写的著述指出，现时AI模子跳动似乎正朝着"递归式自我改革"的标的发展——即AI系统或然在无需东说念主工侵犯的情况下自行提高。一些AI业内东说念主士将这一门槛视为潜在的危急信号和强大社会飘荡的节点。

"咱们合计，宇宙若能领有放缓或暂时暂停前沿AI征战的选项，以使社会结构和一致性揣测跟上本领跳动的要领趟过女人河的男人，这将是一件善事。"著述还提倡就如何潜在地放缓征战收场众人协议，并建设一个核查竞争敌手是否校服协议的机制。

Anthropic最近完成了一轮融资，估值接近1万亿好意思元，并已提交巧妙文献开动公开上市过程。ChatGPT制造商OpenAI瞻望也将很快提交IPO文献。

自成立以来，Anthropic一直以“AI安全”手脚核情态念。但永恒以来，也有月旦者合计，该公司的计谋想法实质上是在借监管技能律例竞争敌手的发展速率。

风险投资家、特朗普的非正经参谋人David Sacks曾责备Anthropic的指引者扩张"监管俘获议程"趟过女人河的男人。

还有东说念主合计， Anthropic对其自己器用危急后劲的申饬也可被视为一种营销技能。 这些怀疑论者指出，Anthropic决定律例发布其苍劲的Mythos模子，是宣传其家具智商的方便样貌。

Anthropic的指引者则暗示，qvod他们崇拜对待安全问题，并远程于于鼓励更多对于风险的接头。

宾夕法尼亚大学沃顿商学院素养Ethan Mollick驳斥称："Anthropic的著述其中既有一些自我反念念，也有一些营销因素，但更要紧的是，Anthropic忠实地抒发了他们对异日AI发展的判断，而这些判断值得热心。”

Anthropic的指引者，包括首席扩张官Dario Amodei，多年来一直申饬AI可能带来的危急影响，并寻求平时的社会配合来莽撞风险。Amodei曾暗示，AI可能加重不对等，并舍弃多达一半的初学级白领责任岗亭。

Amodei还申饬说， 他瞻望不久的将来会出现苍劲的AI系统，这些系统可能以不能预测的样貌发展出破裂性倾向。

周四的博客著述还宣称，Anthropic揣测所将与其他机构合作开展揣测，"匡助建设真正的放缓或暂停所需的系统"。

著述暗示，暂停或放缓独一在赢得平时校服的情况下才故意旨，这将需要一个核查机制来确保统统东说念主皆已罢手。该公司将这一问题比作核刀兵契约——但承认制止舞弊将愈加毒手。

Anthropic盘算在异日几个月与计谋制定者、揣测东说念主员和其他东说念主士组织对话，匡助回复对于递归式自我改革和核查系统的问题："共同揣测这些问题的窗口照旧到来趟过女人河的男人，AI公司除外的东说念主士也应参与到这一审议中。"

• 放缓
• 众人
• Anthropic
• 趟过女人河的男人
• 号令