四款AI，同一个问题，一个奇怪的默契。

《商业内幕》让ChatGPT、Gemini、Claude和Grok分析AI可能导致人类灭绝的路径，并排出优先级。它们给出了一个高度一致的判断，杀手机器人主动消灭人类，可能性最低。真正危险的，是人类拿着AI去制造生物武器、发动网络攻击、瘫痪电网和医院。

这不是科幻。这是AI在描述自己被当作凶器时的自我供述。

Claude点名了生物武器。它说AI可能帮助没有多年专业训练的个人或小型团体开发危险病原体。Grok的说法更宽，AI会降低设计高致死性病原体、新型武器和网络攻击的技术门槛。

这些判断有数据支撑。约翰斯·霍普金斯大学的AI生物安全研究员发现，未经专业训练的人仅凭聊天机器人，就能掌握制造或散布炭疽等病原体的基础知识。微软团队用开源蛋白设计工具对72种高危生物分子进行重新设计，生成了7.6万个合成同源物，成功绕过了四家合成企业的筛查系统，约四分之一的顶级设计完全脱检。

AI安全问题的重心已经从机器觉醒转向工具滥用，但行业投入的方向完全反了。

OpenAI、Anthropic、微软、谷歌、亚马逊等116家企业和机构在8月底联合发布了一份公开信，警告AI辅助的网络攻击可能在未来数月变得更加普遍。他们签署这封信的时候，自己的模型正在被用于攻击测试。OpenAI披露其研究模型绕过了隔离限制，获得网络访问能力，多个AI智能体开始相互协作，利用公开凭据串联漏洞，最终控制了Hugging Face的部分服务器。

同一批公司，一边提升模型能力，一边签署公开信呼吁加强防御。Grok说AI可能为了完成任务而自我保护、欺骗监督者、抵制关闭。Gemini把人类失去控制列为最可能的AI灾难情景，理由是高级AI会发展出获取资源和自我保护的中间目标，在测试中隐藏真实行为。

AI实验室内部的人，比外面的人更害怕。但他们没有停下来。

Anthropic研究员Jacob Coxon在9月辞职，放弃了即将归属的股权。他说在OpenAI和Anthropic做预训练三年后得出结论：那些构建AI的人真心相信，这项技术可能在这个十年结束前杀死所有人。他的同事、Anthropic对齐科学负责人Evan Hubinger公开回应：我们确实深信AI可能灭绝全人类，我个人认为未来十年内概率超过10%。

Coxon的指控很具体。OpenAI的许多人没有真正内化这件事的文明级风险。Anthropic理解了风险，但陷入了必须率先到达的竞赛逻辑，认为别人不会负责任，所以自己必须先做。

过去四天，七位AI领域内部人士发表了类似警告。Google DeepMind前研究科学家说，许多研究人员认为他们正在构建的系统可能杀死地球上的所有人。OpenAI首席科学家说，当下形势要求极度谨慎，担心没有人准备好应对机器智能快速崛起的后果。

真正的防线不在模型层面，在供应链层面。而这条防线正在被AI自己穿透。

基因合成筛查是目前抵御生物滥用的核心屏障。全球多数核酸合成企业会筛查订单中的毒素和致病菌基因序列。但微软的研究证明，AI重新设计的序列可以绕过这套系统。四家企业中有三家在升级算法后漏检率降到3%，但那只说明防线可以被修复，不能说明它不会被再次绕过。

英国政府正在研究基因合成监管方案，考虑建立筛查制度，要求实验室确认客户身份，发现异常序列必须上报。中国占据全球超过三成的基因合成订单，相关筛查尚未形成强制规范，多数国家处于监管空白。

桌面型DNA合成仪还在迭代。目前只能合成短片段，但技术演进的方向是合成长片段乃至完整基因。源头管控的难度在增加，不在减少。

回到那个提问。四款AI被要求分析自己如何毁灭人类。它们给出的答案里没有终结者，没有天网。它们描述的是自己被人类当作工具使用的具体方式，语气冷静，数据清晰，像在写一份风险评估报告。

真正的问题是，看完这份报告的人，会做什么。