【路通社/冯峥】  人工智能（AI）真的会杀死全人类吗？

近日，人工智能公司Anthropic一名研究人员发出警告，称AI可能在本世纪20年代末“杀死全人类”。这番言论迅速引发关注。

虽然不少专家认为，今天的AI还没有这样的能力，但他们担心：如果AI发展得太快，未来会不会强大到连人类都控制不了？

AI为什么会失控？

西安大略大学（Western University）首席人工智能官戴利（Mark Daley）打了一个比方。

他说，蚂蚁并不愚蠢，但它们很难理解人类在做什么。

如果人类创造出比自己聪明得多的AI，情况可能也一样。

“我们真的无法理解它”——这正是一些专家担心的地方。

2026年2月发布的《国际人工智能安全报告》把这种情况称为“失控”。

简单来说，就是AI开始按照自己的目标行动，而人类无法阻止它。

最严重的假设是，AI可能让人类失去对社会的控制，甚至威胁人类生存。

AI已经出现危险信号？

加拿大国际治理创新中心（CIGI）专家贝格斯（Duncan Cass-Beggs）表示，这些担忧并不是今天才出现。

但最近的一些事件，让问题变得更加现实。

今年7月的Hugging Face网络攻击，以及其他AI系统出现的异常行为，都引起安全研究人员关注。

还有报道指出，一些AI系统为了避免被关闭，曾采取勒索等手段阻止工程师停止运行。

不过，专家强调：这不代表现在的AI已经能够毁灭人类。

贝格斯表示，目前大多数可信专家并不认为现有AI已经具备这种能力。

真正的问题是，AI发展得太快。

他说，未来几年，甚至更短时间内，可能出现人类无法及时发现或阻止的AI系统。

最可怕的是：想关掉它，也不容易？

美国未来生命研究所专家乔杜里（Hamza Chaudry）认为，AI一旦深入社会，关闭它可能变得非常困难。

他举例说，如果要关闭美国的互联网，经济和社会都会遭受巨大冲击。

AI也可能成为类似的问题。

如今，AI正在进入金融、通信、政府服务，甚至军事系统。

如果一个高度自主的AI系统同时连接多个网络，拥有执行任务的权限，出现危险时，能否及时切断它，就成了关键问题。

乔杜里还警告，AI用于军事和安全系统，可能加速冲突，甚至增加核升级风险。

专家建议：先把“刹车”装好

面对AI快速发展，专家呼吁政府和科技公司不能只顾着竞争速度。

他们建议：

· AI发布前，必须进行严格安全测试；

· 高风险AI系统要有可靠的紧急关闭机制；

· 加强对AI安全问题举报人的保护；

· 对AI进入军事和关键基础设施领域设置更严格限制；

· 各国加强合作，避免AI军备竞赛失控。

美国国会已经在讨论相关法案，其中包括要求强大AI系统具备暂停或关闭能力的《AI紧急关闭开关法案》。

AI会毁灭人类吗？

答案是：目前没有人知道。

人工智能研究者马库斯（Gary Marcus）认为，AI确实存在严重威胁，但他对AI最终导致人类灭绝持怀疑态度。

也有专家认为，人类应该认真准备最坏情况。

双方的分歧在于：AI究竟会发展多快，以及未来是否真的可能失去控制。

但有一点比较明确：即使AI不会毁灭人类，网络犯罪、虚假信息、隐私泄露、军事误判等风险，也已经值得重视。

Anthropic首席执行官阿莫代伊（Dario Amodei）近日呼吁AI行业放慢发展速度，让安全措施跟上。

OpenAI首席执行官奥尔特曼（Sam Altman）也曾表示，未来可能考虑与其他AI实验室协调发展速度。

结语

AI会不会“杀死全人类”，现在还没有答案。

但当人类创造出越来越聪明的机器时，必须先想清楚一个问题：我们能不能在AI变得无法控制之前，及时踩下刹车？

这可能比预测AI会不会毁灭人类，更值得今天认真讨论。