AI巨头前雇员：同业“真诚恐惧”人类遭灭绝，西方必须与中国协调

Play video, "前 Anthropic 員工談人工智能：「人類有可能滅絕。」", 节目全长 0,3900:39

一名已离开 Anthropic 的人工智能（artificial intelligence, AI；人工智慧）研究员向BBC表示，从事这项技术工作的人对其进步速度及其对人类可能造成的影响“真诚地感到恐惧”。

雅各布·考克森（Jacob Coxon）星期六（9月12日）接受BBC的劳拉·昆斯伯格（Laura Kuenssberg）访问，谈及他一篇引起广泛关注的辞职帖文，当中他对失控的人工智能提出忧虑。

他说：“我相信，如果我们不放慢目前的发展步伐，我们很有可能在不久的将来全部丧命。”

他的辞职正值业界对安全问题的忧虑日益加深之际，包括来自其前上司、Anthropic 总裁达里奥·阿莫代伊（Dario Amodei）的警告。阿莫代伊在星期六发表的一篇文章中主张放慢人工智能发展速度。

跳过 Instagram 帖子允许Instagram内容

此文包含Instagram提供的内容。由于这些内容会使用曲奇或小甜饼等科技，我们在加载任何内容前会寻求您的认可。 您可能在给与许可前愿意阅读Instagram小甜饼政策和隐私政策。 希望阅读上述内容，请点击“接受并继续”。

Accept and continue告知: BBC 不对外来网站内容负责

结尾 Instagram 帖子

然而，一些业界人士认为相关危险被夸大了，这可能是为了在两家最大的人工智能公司潜在上市前制造声势，或促使当局推出监管措施，从而拖慢竞争对手的发展。

来自英国，27岁的考克森，其研究重点是训练人工智能模型。他表示，包括伊隆·马斯克（Elon Musk）及 OpenAI 的山姆·阿尔特曼（Sam Altman）在内的人工智能领袖，都曾表达与阿莫代伊类似的忧虑。

考克森说：“他们都曾表明，有必要谨慎应对人工智能接管世界的潜在可能。他们全都谈论过这件事。人工智能接管世界意味着人类灭绝。”

考克森认为，最难回答的问题是，这种情况究竟会以什么形式出现。

考克森说：“任何你能具体描述的情境，最后听起来都像科幻小说。”但他指出，许多已经实现的技术进展，在过去同样会被视为虚构故事。

考克森表示，其中一种潜在情景是人工智能代理人入侵医学实验室，以“自主制造致命病毒”。他列举的另一个例子是，人工智能入侵“全球赖以运作的关键基础设施”。

这名研究员指出 OpenAI 最近一份报告，当中详细说明其技术如何对名为 Hugging Face 的网上平台发动一连串黑客攻击。

考克森说：“它们是在没有人类鼓励的情况下自主进行的。它们自行选择发起这场黑客行动。这是事情变得更快与事情变得更可怕的结合。”

Anthropic 总裁阿莫代伊提出“三点计划”

BBC记者保琳·科拉（Paulin Kola）、BBC北美科技记者莉莉·贾马利（Lily Jamali）旧金山（三藩市）报导

图像来源，Reuters

在达里奥·阿莫代伊题为《我们必须控制前沿发展的步伐》（We Must Pace the Frontier），于星期六公开发表的文章中，他提出一项三点计划，包括在人工智能模型开发期间进行独立监察、推动全行业监管，以及建立全球监管机制。

这位 Anthropic 行政总裁其后谈及放慢发展步伐将对业界及与全球领先开发商，尤其是与中国之间的竞争所带来的影响。

阿莫代伊表示：“我相信，如果放慢速度能让我们在模型达到关键能力水平之前多争取一至两年时间，而我们利用这段时间推进对齐研究（alignment），我们就能大幅降低发生严重问题的风险。”

他表示，这必须以协调一致的方式进行，“同时不牺牲商业优势或美国在人工智能领域的领先地位”。他说，任何放慢速度的措施都必须有所限制，以免让中国实现赶超。

他敦促美国政府采取措施，确保美国企业的人工智能晶片不会出售给中国，亦不会向威权国家分享相关技术。

随着这项建议广泛流传，甚至连竞争对手也表态支持设立第三方监察机构，在模型开发过程中评估其安全性。

OpenAI 行政总裁阿尔特曼在 X 上写道：“我同意达里奥的看法，我们需要控制前沿发展的步伐。”他称独立评估人员是“一个很好的主意”。

马斯克则表示，这位 Anthropic 负责人“说得对”。

这些警告已促使外界呼吁采取行动，但美国总统唐纳德·特朗普（Donald Trump；川普）至今仍不接受这类忧虑。他于星期四（9日）表示，自己担心的是“如果我们无法在人工智能领域取胜，我们将会陷入非常不利的处境”。