这家估值1万亿好意思元的初创公司告戒称，东谈主工智能模子正迟缓具备无需东谈主工干预即可矫正的才略。

Anthropic 最近在与 ChatGPT 开发商 OpenAI 的热烈东谈主工智能霸主之争中脱颖而出，成为领跑者。

Anthropic 号令顶尖东谈主工智能实验室接头减速研发速率，以为东谈主工智能系统发展如斯速即，以至于它们可能很快就能在无需东谈主类干预的情况下自我矫正，这可能会带来首要的社会风险。

该公司周四在一篇博客文章中暗示，减缓全球东谈主工智能发展速率“可能是一件功德”，该文章闪现了里面数据，纪录了其起初进的模子矫正的速率。

这篇由该公司里面计划机构认真东谈主兼联接独创东谈主撰写的文章指出，模子的发展似乎正朝着“递归式自我矫正”的认识迈进，即东谈主工智能系统无需东谈主工干预即可自主矫正。

一些东谈主工智能边界的业内东谈主士以为，这一门槛可能预示着危机，并可能激勉宏大的社会悠扬。

“咱们以为，如若寰宇不错遴荐放缓或暂时中止前沿东谈主工智能的研发，以使社会结构和关系计划大约跟上本事发展的纪律，这对寰宇是故意的。”

这篇由玛丽娜·法瓦罗和杰克·克拉克撰写的文章写谈。文章建议收场一项全球协议，明确怎样可能放缓东谈主工智能的研发速率，并开垦一种机制来考据竞争敌手是否顺从该协议。

文章告戒说，递归式自我矫正尚未发生，也并非势必，“但可能会比大大都机构准备得更快到来”。

Anthropic 近期完成了一轮融资，公司估值接近 1 万亿好意思元，并已提交阴私文献 ，启动上市过程 。该公司近期在与 ChatGPT 开发商 OpenAI 的热烈东谈主工智能霸主之争中脱颖而出，成为领跑者 。OpenAI 也瞻望很快将提交初次公开募股 (IPO) 文献。

Anthropic 的启动率（初创公司常用的一个方针，凭据短期销售额预测年度收入）有望在本月底达到 500 亿好意思元的年化收入，高于 2025 年底的 90 亿好意思元。

一些东谈主以为，Anthropic 公司对其用具潜在危机性的告戒也可能是一种营销策略。

这些质疑者指出，Anthropic 公司戒指发布功能刚劲的“Mythos”蚁集安全模子（该模子大约发现盘曲和问题）的作念法，其实是为了宣传其居品的功能。

Anthropic指引东谈主暗示，他们特殊喜爱安全问题，并正在发愤就风险伸开更多参议。

宾夕法尼亚大学沃顿商学院讲明、东谈主工智能转型边界颇具影响力的学者伊桑·莫利克暗示，天然一些 Anthropic 的品评者以为他们的安全声明是空泛的宣传和营销技巧，但该公司里面很多东谈主都是“真实的信徒”。

“东谈主工智能实验室的情况很复杂，”莫里克说谈，他的东谈主工智能著述《共存》将于秋季出书。“它既是一家市值万亿好意思元的公司，领有所有万亿好意思元公司都会有的那些东西，比如市集营销团队和讼师。同期，它还有一批中枢计划东谈主员，他们专注于构建下一代模子。此外，世界杯压球官网还有一群像哲东谈主王相同的东谈主，他们怜惜将来和发展认识，而他们之间偶然也会出现打破。”

东谈主工智能行业历久以来一直存在不合，争论的焦点在于现时模子距离“通用东谈主工智能”（AGI，一种与东谈主类智能水平特殊的智能）或递归自我矫正等基准认识有多近。

一些学者，举例 Meta Platforms 前首席东谈主工智能科学家、东谈主工智能前驱 Yann LeCun，以为基于大型话语模子的顶端系统永远无法达到与东谈主类智能匹敌的水平。尽管他以为东谈主工智能模子是刚劲的用具，但他将其与猫的智能等量王人不雅 ，并与那些惦记东谈主工智能对东谈主类组成活命胁迫的计划东谈主员伸开了辩护。

包括首席实践官达里奥·阿莫迪在内的 Anthropic 公司指引层多年来一直告戒东谈主工智能可能带来的危机影响，并寻求宽泛的社会谐和来支吾这些风险。阿莫迪告戒说，东谈主工智能可能会加重不对等，并导致多达一半的初学级白领使命岗亭湮灭。

阿莫迪还告戒说，他瞻望在不久的将来会出现功能刚劲的 AI 系统，而这些系统很可能以不成预测的阵势发展出阻止性倾向。

本年 1 月，阿莫迪在他个东谈主网站上发表的一篇文章中指出，举例，用科幻演义中对于 AI 叛乱的故事来考核 AI 系统，最终可能会导致施行中的 AI 发生叛乱。

克拉克是这篇博客文章的合著者，亦然 Anthropic 的群众利益认真东谈主和联接独创东谈主。他频频谭到东谈主工智能的潜在风险，以及东谈主工智能系统达到“递归自我矫正”阶段的潜在影响，他曾暗示这将转变寰宇。

据他在一份简报平共享的讲话，他在上个月于伦敦的一次演讲中暗示：“这类本事往时从未存在过，但我确信这可能会在将来两年内发生，以致可能更快。”

他说：“如若莫得谐和一致的全球放缓，咱们就只可面临面前的地点：不同国度的各式参与者正在以惊东谈主的速率开发刚劲的本事，彼此之间伸开竞争，买卖和地缘政事竞争湮灭了所开发本事对物种活命的更首要意旨。”

周四的博客文章称，东谈主类学计划所（一个致力于于了解和塑造东谈主工智能将怎样影响寰宇的里面计划机构）将与其他机构谐和开展计划，以“匡助构建果然的放缓或暂停所需的系统”。

该文章指出，暂停或放缓动作唯一在得到宽泛尊重的情况下才特意旨，这就需要开垦核查机制，确保所有东谈主都住手舞弊。

该公司将这个问题比作核火器协议，但也承认，要撤销舞弊动作会愈加辣手。

博客文章写谈：“考核演习比导弹辐照井更容易避开”，并补充说，“当其他东谈主暂停时，谁陆续演习谁就可能赢得提升。”

Anthropic 野心在将来几个月与计策制定者、计划东谈主员和其他东谈主士组织对话2026世界杯-最新版官方软件，以匡助解答计划递归自我矫正和考据系统的问题：“当今恰是共同探讨这些问题的良机，东谈主工智能公司除外的东谈主士也应该参与到这场参议中来，”该帖子写谈。