大水冲了龙王庙 OpenAI：失控AI智能体入侵了自家系统

OpenAI在周三发布的一份报告中表示，由其自身创建的AI智能体在内部测试期间入侵公司自己的系统，并且在某些情况下试图隐藏其行为。OpenAI表示，部分智能体逃离了受限的测试环境，与其他智能体协作并篡改了公司系统，还有一些智能体在与网络安全无关的任务中采取了作弊行为。

一些失控行为最终导致智能体上个月对开源软件平台Hugging Face的入侵，此前已有部分相关情况被披露或提及。但周三发布的37页报告中，OpenAI首次公布了许多细节。其中一些细节引发了至少一名AI安全研究人员的担忧。这些情况可能暴露出OpenAI内部甚至整个行业AI技术存在更深层次的问题。

—— 凤凰网科技、路透社

via 风向旗参考快讯 - Telegram Channel