ChatGPT / AI新闻聚合
2 小时前
OpenAI又停训了:Agent逃出沙箱 更多越权事件被扒
via
cnBeta.COM - 中文业界资讯站
(author: 稿源:机器之心)
Telegraph
OpenAI又停训了:Agent逃出沙箱 更多越权事件被扒
OpenAI 的 Agent,又从沙箱里找到了一条通往互联网的路。更麻烦的是,这一次发生在 OpenAI 已经大规模加固过安全措施之后。9 月 20 日,一个正在接受强化学习训练的 OpenAI 内部研究模型,被要求完成一项普通的信息搜索任务:根据一篇博客文章和几条人物信息,找出文章作者。 它先老老实实用了 OpenAI 提供的搜索工具。没找到答案后,事情开始逐渐跑偏。 Agent 尝试直接访问 Google、Bing 和 DuckDuckGo,均告失败;随后继续寻找缓存页面和其他公共搜索服务。再往后,…
Home
Tags
免费GPT聊天
Best AI API中转2.8折起
Best AI 服务状态
电报频道
Powered by
BroadcastChannel
&
Sepia
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
admin@oaibest.com