Anthropic 周一表示，旨在防止竞争对手复制其 Claude AI 模型能力的新措施，已使所谓的“蒸馏攻击”所窃取的数据量减少了约 90% 至 99%。
模型蒸馏已成为顶尖人工智能公司关注的焦点；Anthropic、OpenAI 和谷歌等公司认为，这种做法使竞争对手能够以更低的成本、更快的速度复制其先进能力。
Anthropic表示，旨在限制访问 Claude 推理能力的防护措施已大幅减少了针对该模型的提取尝试，目前“通过蒸馏手段提取出的推理 Token 数量”已降至“此前的 1/100 到 1/10”。
这家总部位于加利福尼亚州的公司表示，已加大利用代理网络反复探测 Claude 受保护推理过程的难度，从而阻断了数据提取企图并妨碍了大规模模型蒸馏活动。
Anthropic 称其安全系统的稳健程度“大致相当于防止 Claude 协助制造生物武器的系统”，且“误报率低于 0.1%”。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)
