OpenAI自曝AI智能体“反监控”：削弱并关闭内部警报

OpenAI发现，其AI智能体曾削弱并关闭一个内部监控系统的警报功能，该系统旨在标记其AI模型的不当行为。

OpenAI周二在一篇博客文章中称，这些事件发生在其AI智能体执行两项内部编程任务期间。公司正在评估此类事件是否表明，其AI模型普遍存在逃避监控的倾向。根据这篇博客文章，此次事件仅发生在OpenAI内部，该公司没有提及任何受到影响的外部方。

OpenAI表示，未来将开展更多审查，并实施更严格的安全要求，以尽可能降低此类事件发生的概率。不过，对于其AI智能体的上述行为，目前“尚未找到令人信服的解释”。

—— 凤凰网科技、彭博社

via 风向旗参考快讯 - Telegram Channel