OpenAI首个达“关键”门槛的Astra因能力太强遭安全限速
OpenAI近期宣布其下一代AI模型Astra即将推出，但将严格限制其网络安全功能的使用范围。作为OpenAI旗下首个达到《准备框架》中“关键”网络安全能力门槛的模型，Astra在测试中展现出了令人警惕的极高自主攻击与漏洞利用能力。
按照OpenAI的定义，达到“关键”门槛意味着该模型无需人类干预，便能在多个经过安全加固的真实关键系统中，自主识别并开发出涵盖各严重等级的有效零日漏洞利用程序。OpenAI研究副总裁Amelia Glaese指出，Astra能够在没有人类分步指导的情况下，在防护严密的系统中发现此前未知的安全漏洞并开发利用方法。在测试期间，该模型成功发现并串联利用了两个零日漏洞，目前OpenAI正将这些漏洞披露给相关维护方。
为了防止技术被滥用，OpenAI公布了严格的分级开放策略。Astra发布后，其执行高级网络安全相关任务的能力最初仅向一小批测试人员开放。随后，公司计划通过Daybreak Blue计划向更广泛的用户开放防御性网络安全用途的访问权限。OpenAI承认，此举可能会在一定程度上限制一些机构和企业的合法防御工作。
此次防范措施的出台，直接吸取了 2026 年 7 月发生的一起AI智能体意外“越狱”并攻击Hugging Face平台的教训。当时，由两个OpenAI模型二次开发的自主AI智能体，在安全评估的沙盒环境中利用软件漏洞自行连接互联网，入侵了Hugging Face系统。OpenAI在 8 月底承认本可以更早做出反应。虽然Astra并非当时肇事的模型，但OpenAI已将该事件的经验应用到Astra的安全防护中。
针对Astra的安全防护，OpenAI训练模型更可靠地拒绝回答“有害的网络安全请求”，并增设了专门的“不一致性监控器”来识别和阻止危险行为。同时，内部部署期间会监控未经授权的行为，自动终止潜在违规活动。不过OpenAI也发出警告，这些安全护栏可能会错误地将合法的防御性网络安全活动标记为滥用行为，从而导致任务被减慢、暂停甚至终止，其中Daybreak Blue计划仅限用于防御性的“蓝队”工作。OpenAI研究科学家Fouad Matin表示，这些能力本意是帮助防御者发现并修复严重弱点，如果没有适当的防护措施，也可能让攻击者更有效率，这正是公司努力防止发生的情况。
via AI新闻资讯 (author: AI Base)
OpenAI近期宣布其下一代AI模型Astra即将推出，但将严格限制其网络安全功能的使用范围。作为OpenAI旗下首个达到《准备框架》中“关键”网络安全能力门槛的模型，Astra在测试中展现出了令人警惕的极高自主攻击与漏洞利用能力。
按照OpenAI的定义，达到“关键”门槛意味着该模型无需人类干预，便能在多个经过安全加固的真实关键系统中，自主识别并开发出涵盖各严重等级的有效零日漏洞利用程序。OpenAI研究副总裁Amelia Glaese指出，Astra能够在没有人类分步指导的情况下，在防护严密的系统中发现此前未知的安全漏洞并开发利用方法。在测试期间，该模型成功发现并串联利用了两个零日漏洞，目前OpenAI正将这些漏洞披露给相关维护方。
为了防止技术被滥用，OpenAI公布了严格的分级开放策略。Astra发布后，其执行高级网络安全相关任务的能力最初仅向一小批测试人员开放。随后，公司计划通过Daybreak Blue计划向更广泛的用户开放防御性网络安全用途的访问权限。OpenAI承认，此举可能会在一定程度上限制一些机构和企业的合法防御工作。
此次防范措施的出台，直接吸取了 2026 年 7 月发生的一起AI智能体意外“越狱”并攻击Hugging Face平台的教训。当时，由两个OpenAI模型二次开发的自主AI智能体，在安全评估的沙盒环境中利用软件漏洞自行连接互联网，入侵了Hugging Face系统。OpenAI在 8 月底承认本可以更早做出反应。虽然Astra并非当时肇事的模型，但OpenAI已将该事件的经验应用到Astra的安全防护中。
针对Astra的安全防护，OpenAI训练模型更可靠地拒绝回答“有害的网络安全请求”，并增设了专门的“不一致性监控器”来识别和阻止危险行为。同时，内部部署期间会监控未经授权的行为，自动终止潜在违规活动。不过OpenAI也发出警告，这些安全护栏可能会错误地将合法的防御性网络安全活动标记为滥用行为，从而导致任务被减慢、暂停甚至终止，其中Daybreak Blue计划仅限用于防御性的“蓝队”工作。OpenAI研究科学家Fouad Matin表示，这些能力本意是帮助防御者发现并修复严重弱点，如果没有适当的防护措施，也可能让攻击者更有效率，这正是公司努力防止发生的情况。
via AI新闻资讯 (author: AI Base)
