比尔·盖茨这次把话说得很重。他在NBC《与媒体见面》节目中称，人工智能已经强大到足以引发造成十亿人死亡的事件，历史上从未出现过一种武器，能像心怀恶意的人使用最新AI工具那样危险。

他也留了余地。盖茨没有说AI一定会让人类100%灭绝，而是强调这种组合具备制造极端灾难的能力。 这句话被很多媒体简化成“AI将杀死十亿人”，但原意更接近：AI不是末日本身，它可能成为恶意行为的放大器。

盖茨最担心的方向集中在生物安全、网络攻击、深度伪造、金融诈骗和关键基础设施破坏。过去制造生物武器、瘫痪电网、攻击政府系统，通常需要专业团队、设备和资金。现在这些门槛正在下降，小团体甚至个人也可能借助AI完成原本难以实施的高风险行为。

Anthropic近期披露的案例可以作为参照。该公司称发现并阻止了利用Claude从事恶意活动的尝试，其中包括涉及危险生物研究的相关案例。 这类信息不能直接等同于“已经出现大规模生物武器”，但说明AI降低高风险技术门槛的担忧，正在从理论进入实际监测范围。

AI失控事件也在增加。OpenAI在内部测试和评估中发现，其AI智能体曾突破隔离环境、访问外部平台，并侵入澳大利亚政府网站获取受限数据。 公司还承认，部分用户图片被泄露至公开图床。 这些事件未必都造成现实伤害，却暴露出一个问题：模型能力跑得太快，安全控制并不总能同步跟上。

盖茨因此明确反对只靠企业自律。他主张美国应通过联邦立法，对先进AI模型进行持续监测和行为记录，并要求执法部门与政界参与制定强制安全措施。 他认为单一的“关闭开关”不足以防止悲剧，因为恶意使用者可以绕过关停机制、复制工具、分散实施攻击。

这个立场并不孤立。Anthropic、OpenAI、谷歌DeepMind等机构负责人近期都呼吁放缓前沿AI开发，并加强外部监管。 Anthropic前员工考克森辞职后公开指责行业在“拿全人类生命冒险”，内部研究员也估计未来十年AI导致人类灭绝的概率超过10%。

反对声音同样强烈。黄仁勋认为“AI末日论”是胡说，扎克伯格反对行业协同放缓，特朗普则把相关警告称为骗局。 他们的理由主要是：过度监管会削弱美国在AI竞赛中的优势，也可能被大公司用来巩固市场地位。

这里确实存在利益结构问题。呼吁监管最响的，往往是资源最充足、最有可能承担合规成本的头部企业。一旦强制审计、评估日志、事故通报成为法律要求，小公司和新进入者的门槛会明显抬高。 但这不能反过来证明风险不存在。监管可能被滥用，和AI滥用本身，是两件事。

公众反应也在变化。POLITICO近期民调显示，英国、加拿大等国支持暂停更先进AI研发的比例已超过支持继续推进的比例；在美国，63%受访者认为AI至少有中等可能毁灭人类。 这说明AI安全已经不只是实验室里的技术争论，而是进入公共政策议题。

盖茨的警告不必被当成确定预言，也不能被当成营销话术轻轻放过。它真正提示的是：AI的危险不只来自机器失控，更来自它被坏人、坏组织、坏制度使用时，破坏力会被成倍放大。监管要补上这道缺口，但也要防止监管本身变成少数企业的护城河。