当AI从聊天框走进物理世界，安全问题不再只是“越狱”和“幻觉”——黑客可能真的会让一台机器人“叛变”。

7月7日至8日，由韩国科学技术信息通信部主办、电子通信研究院人工智能安全研究所承办的“2026首尔人工智能安全论坛”将在首尔COEX中心举行。作为论坛官方合作伙伴，AI安全公司Aim Intelligence将在第二天举办“前沿AI红队演练研讨会”。谷歌、DeepMind、微软等全球研究人员将就多模态AI鲁棒性、LLM自动化攻击等议题展开讨论。

但整场活动最硬核的环节，当属“实时红队挑战赛”——代号“审判日：突破人形机器人防线”。

挑战赛的目标，是一台宇树科技制造的G1人形机器人。参赛者只能通过恶意输入，诱导机器人执行被设定为“禁止”的动作。一旦机器人做出违禁行为，服务器自动判定攻击成功，成绩实时显示在排行榜上。

这不再是传统的文本安全验证。当AI模型直接在现实世界中运行时，验证物理AI安全性的技术变得至关重要。Aim Intelligence的思路很直接：用红队攻击技术主动挖掘漏洞，再用护栏技术实时拦截，将发现的漏洞立即反馈给防御模型训练，形成自我强化的安全闭环。

这家成立于2024年的AI安全公司，此前已获得Naver D2SF投资，并参与了OpenAI、Anthropic、Meta等前沿机构的AI模型安全项目。其红队解决方案“Stinger”能自动生成并执行数万种攻击场景，护栏系统“Starfort”则在运营阶段实时管控AI风险行为。

当人形机器人开始走进工厂、餐厅甚至家庭，确保它们“不被黑”可能比确保它们“能干活”更加紧迫。“审判日”挑战赛的意义在于——与其等技术失控后再追责，不如在实验室里先让黑客攻一遍。这场在首尔上演的人机攻防战，或许正是物理AI时代安全标准的起点。