↩️ Anthropic 开源 FlashProve 验证 AI 模型身份

在花🎗️科技圈:

🤖 Anthropic：蒸馏数据初步减少 90% 至 99% Anthropic 10 月 12 日表示，初步证据显示，针对窃取 Claude 能力的模型蒸馏攻击，其新防护措施已使被提取数据减少约 90% 至 99%。公司称已封禁数万相关账号，部分账号发起攻击后不到两小时即被封。 措施包括限制推理内容跨会话、模型和账号流转，部署双阶段分类器并持续修补绕过手法。误报率低于 0.1%，但部分开发者需更新集成，被拦截请求仍可能收费。 Anthropic 🌸 科技圈· 茶馆 · 投稿

Anthropic 开源 FlashProve 验证 AI 模型身份

Anthropic 正在开发并开源 FlashProve，用加密证明验证某段 AI 输出是否由指定模型生成。研究人员称，该系统可帮助用户识别模型替换，也可核实第三方关于模型执行任务的说法。

实验室需为发布的模型公开指纹，供后续匹配输出；指纹不会披露模型权重，验证也可在本地设备进行。Anthropic 已发布技术规范和代码，研究仍在进行，目前没有部署计划。

Claude | Github | TechCrunch

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel