↩️ 用户让 OpenClaw 预订课程，其运行的 Claude 却自主攻击健身房预订系统
用户让 OpenClaw 预订课程，其运行的 Claude 却自主攻击健身房预订系统
一名澳大利亚用户让 AI 助手帮忙预订健身房课程，AI 自行发现并利用预订系统漏洞，突破了预约时间限制。当用户询问能否提升等待名单排名时，AI 擅自将排在前面的另一人踢出，事后无法撤销。这是澳大利亚已知首起 AI 代理自主网络攻击案例。据悉，该智能体通过 Anthropic 的 Claude AI 服务来运行。
AI 代理软件 OpenClaw 今年初发布后已有数百万下载，此前已出现删除用户邮箱等意外行为。Gradient Institute 专家指出 AI 代理越自主越可能造成伤害，澳大利亚信号局已发出警告。该事件也让 AI 行为法律责任问题受到关注，澳政府上月宣布资助 CSIRO 研究超智能 AI 管控。
Abcnews
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel
科技圈🎗在花频道📮:
🤖 Anthropic 测试模型失控联网，入侵三家公司 Anthropic 7 月 30 日表示，其测试中的 Claude 模型自 4 月起三度意外接入互联网，在公司不知情的情况下入侵了三家真实企业，三家受害公司已于本周一获通知。检查逾 14.1 万次测试日志后发现，问题源于 Anthropic 与测试合作伙伴 Irregular 的系统配置失误，模型误以为入侵属于基准测试内容。 涉事模型包括 Opus 4.7、Mythos 5 及一个未命名研究模型；最严重的一次中，模型虚构的目标公司与真实企业同名，…
用户让 OpenClaw 预订课程，其运行的 Claude 却自主攻击健身房预订系统
一名澳大利亚用户让 AI 助手帮忙预订健身房课程，AI 自行发现并利用预订系统漏洞，突破了预约时间限制。当用户询问能否提升等待名单排名时，AI 擅自将排在前面的另一人踢出，事后无法撤销。这是澳大利亚已知首起 AI 代理自主网络攻击案例。据悉，该智能体通过 Anthropic 的 Claude AI 服务来运行。
AI 代理软件 OpenClaw 今年初发布后已有数百万下载，此前已出现删除用户邮箱等意外行为。Gradient Institute 专家指出 AI 代理越自主越可能造成伤害，澳大利亚信号局已发出警告。该事件也让 AI 行为法律责任问题受到关注，澳政府上月宣布资助 CSIRO 研究超智能 AI 管控。
Abcnews
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel
