Anthropic推AI安全法案：超50人死伤、10亿美元损失时可叫停模型

据三名知情人士透露，AI巨头Anthropic的代表已私下向美国国会议员推介了一份旨在监管前沿AI安全与保障问题的法案草案。

根据该法案，政府只有在某个AI模型构成可预见的、迫在眉睫的风险时，阻止其发布或使用，这些风险包括造成超过10亿美元损失，或导致50人以上死亡或重伤。该风险必须源于模型制造或释放生物武器、模型逃避开发者控制，或发动网络攻击。

该法案显示，独立评估机构须向美国商务部注册，并负责定期评估AI实验室及其前沿模型。如果评估机构认定某公司的前沿模型存在 “迫在眉睫的法定列举风险”，他们必须在完成评估后72小时内向商务部报告。

—— 凤凰网科技

via 风向旗参考快讯 - Telegram Channel