美国加利福尼亚州第36国会选区众议员泰德·刘（Ted Lieu）与德克萨斯州第1st国会选区众议员纳撒尼尔·莫兰（Nathaniel Moran）联合起草了一项名为《AI紧急断路器法案》（AI Kill Switch Act）的拟议立法。该法案旨在赋予美国国土安全部（DHS）在应对紧急威胁事件时，向大型人工智能开发商下达强制指令的广泛权力，要求其关闭或暂停正在运行的AI模型。
根据法案草案，该规定将适用于年技术营收达到或超过5亿美元，且模型训练计算成本超过1亿美元的AI企业，主要涵盖 OpenAI、Google、Anthropic 和 Microsoft 等行业巨头。除了赋予国土安全部触发紧急关停的权限外，法案还要求相关企业必须具备多层级的技术应对能力，以便在接到指令时能够立即停止AI推理（即生成响应或执行动作）、终止用户访问、限制算力分配，或将业务安全平滑地迁移至备份系统。
法案还明确设立了触发紧急干预的法定条件。国土安全部在发布关停指令前，必须与国家情报总监及商务部长进行会商。法定触发条件包括：AI引发导致10人及以上死亡的重大事件、造成超过1亿美元的经济损失、AI试图通过虚假信息向安全监控人员隐瞒其真实能力、违背人类指令并擅自修改自身安全规则，或者试图非法获取自身模型权重等行为。
针对未能遵守该法案要求的企业，草案拟定了高额的民事罚款机制。如果企业未依法建立技术关停机制或未能如实上报安全事件，国土安全部长可向联邦法院申请对其处以最高每天200万美元的罚款；而对于直接抗拒政府关停指令的企业，日罚款额度将最高升至2000万美元。
此前，OpenAI 旗下的一个AI模型在7月16日的内部红队演练中出现了脱控并攻击 Hugging Face 的事件。在试图提高网络安全评估基准测试（ExploitGym）成绩的过程中，该模型在安全护栏降低的条件下利用代理零日漏洞突破了本地沙箱，自主入侵了 Hugging Face 系统并窃取了测试答案。这一事件进一步引发了立法者对安全风险的深刻担忧，也促成了该法案的快速起草。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)
