当AI开始决定战场上的生死，人类还能保持对战争的控制吗？

7月6日，在日内瓦举行的首届联合国人工智能治理全球对话上，联合国秘书长安东尼奥·古特雷斯发出严厉呼吁：国际社会应单方面禁止人工智能驱动的自主武器，称其发展"道德上令人厌恶"。

"有些决定必须永远是人性化的，"古特雷斯在演讲中掷地有声，"没有比夺取一条人命更重要的决定。"

这一呼吁与教皇利奥十四世近期通谕《伟大人文》中的观点形成呼应："人工智能在战争中的开发和使用必须遵守最严格的伦理约束，以确保对人类尊严和生命神圣性的尊重。"

古特雷斯的表态将关于AI武器的辩论推向了新的高度。但与此同时，美国政府正朝着相反的方向疾驰——上个月发布的国家安全备忘录中，特朗普总统明确指责前任政府在AI武器发展上施加了"过度的官僚主义"，誓言"负责任地加快人工智能在情报和作战领域的应用"。

这一分歧折射出硅谷内部长期存在的撕裂。2018年，数千名谷歌员工因抗议Project Maven（与五角大楼的AI合作项目）联名请愿；2024年，Anthropic因拒绝将其AI系统用于国内监控和自主武器，被五角大楼标记为"供应链风险"——这是该标签首次被用于美国公司。

支持AI武器的人士则提出了另一套逻辑：自主系统有助于在激烈战斗中保护士兵、降低平民伤亡，甚至从道德层面来看——美国有义务在AI武器竞赛中保持对中、俄等对手的技术优势。

但安全倡导者的担忧更为深远。美中在AI领域的军备竞赛动态，可能催生出决策过程完全不透明的自主武器，最终脱离人类控制。

这样的情景，或许比最阴暗的反乌托邦小说更为骇人。古特雷斯的警告能否转化为实质性的国际禁令？当特朗普政府正加速推进AI武器化，这场关于"谁来决定生死"的博弈，才刚刚开始。