AI教父辛顿：今明年AI领域有可能发生切尔诺贝利等级的事故

被称为“AI教父”、诺奖得主杰弗里·辛顿，在接受《卫报》采访时抛出重磅预警，他认为今年或者明年，AI领域就有可能爆发一场切尔诺贝利级别的重大事故。

辛顿把今年夏天OpenAI智能体入侵Hugging Face平台事件，类比为核安全史上的三里岛事故，属于一次危险的预警信号，但这还不是真正的灾难。

所谓AI界的“切尔诺贝利”，并不是科幻电影里AI自主反叛、消灭人类，而是AI被黑客利用，发起针对关键基础设施的网络攻击，最典型的场景就是造成大范围长时间停电，或是让全球金融系统瘫痪一周，直接冲击民生运转秩序。

在采访中，辛顿直言自己并不看好头部AI企业管理层的风险态度，点名批评OpenAI的奥特曼、Meta的扎克伯格、马斯克等人。

辛顿表示，称他们清楚AI背后潜藏的巨大隐患，但在商业竞争和利益面前，没有给予足够的重视，各家只顾着比拼模型能力、抢占市场。

需要指出的是，辛顿并非反对AI，他认为AI就是一把双刃剑，自己认可其拥有巨大正向价值，能够给人类带来美好的未来，可一旦重大事故发生，人们或许会后悔当初不该发明这项技术。

在他看来，未来十年就是人类的关键窗口期，人类终将验证，到底能不能管住AI的风险。

那么该如何防范风险？辛顿给出的解决方案也十分明确：针对前沿大模型，必须落地强制安全测试、第三方独立评估，推动各国建立统一的AI安全标准，用监管约束狂奔的技术。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：快科技)

↩️ Anthropic 开源 FlashProve 验证 AI 模型身份

在花🎗️科技圈:

🤖 Anthropic：蒸馏数据初步减少 90% 至 99% Anthropic 10 月 12 日表示，初步证据显示，针对窃取 Claude 能力的模型蒸馏攻击，其新防护措施已使被提取数据减少约 90% 至 99%。公司称已封禁数万相关账号，部分账号发起攻击后不到两小时即被封。 措施包括限制推理内容跨会话、模型和账号流转，部署双阶段分类器并持续修补绕过手法。误报率低于 0.1%，但部分开发者需更新集成，被拦截请求仍可能收费。 Anthropic 🌸 科技圈· 茶馆 · 投稿

Anthropic 开源 FlashProve 验证 AI 模型身份

Anthropic 正在开发并开源 FlashProve，用加密证明验证某段 AI 输出是否由指定模型生成。研究人员称，该系统可帮助用户识别模型替换，也可核实第三方关于模型执行任务的说法。

实验室需为发布的模型公开指纹，供后续匹配输出；指纹不会披露模型权重，验证也可在本地设备进行。Anthropic 已发布技术规范和代码，研究仍在进行，目前没有部署计划。

Claude | Github | TechCrunch

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel

用自家大模型造自己的“芯”：Anthropic 组建 15 人芯片设计团队，Claude 助阵让研发提速

11月3日消息，人工智能企业 Anthropic 在近期的投资者会议上透露了其在硬件领域的最新进展:公司目前已经正式组建了一支由15人组成的芯片设计团队，并开始利用自家的 Claude 模型来全面开展定制芯片的工程与设计工作。

在实际的内部测试与应用中，Anthropic 的工程师团队发现，与英伟达、超威半导体（AMD）等传统大型芯片设计企业的常规工作流程和耗时估算相比，借助 Claude 模型进行辅助设计，能够显著缩短芯片整体设计所需的周期。这一探索不仅展示了大模型在底层硬件研发中的辅助潜力，也为整个人工智能行业通过 AI 提升芯片研发效率提供了全新的实践样本。

via AI新闻资讯 (author: AI Base)

↩️ 印度成 ChatGPT 最大市场，用户数翻倍

在花🎗️科技圈:

ChatGPT印度用户激增但变现遇阻 数据分析显示，印度已成为ChatGPT增长最快的市场之一，今年安卓端下载量占全球20%以上。但SensorTower数据显示，印度用户通过应用内购仅贡献800万美元收入，远低于美国市场的3.3亿美元。 主要障碍在于定价策略——每月20美元的订阅费（约合1700卢比）超出当地主流消费水平。OpenAI正与印度电信巨头Reliance Jio洽谈合作，试图触达该国9.5亿互联网用户。 TechCrunch 📮投稿 ☘️频道 🌸聊天

印度成 ChatGPT 最大市场，用户数翻倍

OpenAI 印度区负责人表示，印度已成为 ChatGPT 全球周活跃用户最多的市场，印度用户数自今年 1 月以来翻倍。公司预计未来数周公布与 UPI 及支付相关的消息；企业应用也正从试点转向规模化部署。

Economic Times

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel

OpenAI 员工的"副业"硬件：GPT-6 Astra 一周出图、一月出样

OpenAI 11 月 3 日发布博文，亮出 AI 辅助实体产品研发的新进展，并展示 GPT-6 Astra 在机械、电路与软件协同设计中的身手。

据称，两名团队成员利用业余时间，不到一周就借 Astra 完成一款能与 Codex 交互的测试设备设计——模型一口气包办了外观、外壳结构、电子元件选型、电路板布局到固件生成，把原本需要多方协作的活儿收进一个对话窗口。代工厂随后不到一个月便造出小批量原型机，从一张草图到可把玩的真机，周期被压到惊人地短。

从画图到量产仍要跨门槛，马自达成新搭档

不过从设计到制造并非一路顺。OpenAI 坦承，模型没能始终顾及生产限制、尺寸公差与装配细节，投产前仍需多轮审核迭代。实体产品不像纯软件，公差与产线约束是绕不开的硬骨头，AI 目前还只能当加速器而非全权接手。

汽车成了 AI 协同设计的下一个试验场。OpenAI 正与马自达的空气动力学及碰撞安全工程师合作，用气流与结构仿真探索新车造型，在性能、成本与外观间找更优解；同时它还扩大了与 Chip Ganassi Racing 车队的合作，尝试把零件三维扫描数据转成可编辑 CAD 模型与二维制造图纸，专治原始设计文件缺失的老大难。当 AI 伸手握住螺丝刀，软硬之间的那道墙正被悄悄推倒。

via AI新闻资讯 (author: AI Base)

印度ChatGPT周活跃反超美国 登顶全球最大用户市场

OpenAI印度董事总经理普拉布吉特·辛格（Prabhjeet Singh）表示，按照每周活跃用户计算，印度已经成为ChatGPT全球第一大市场，超过此前排名第一的美国。自今年1月以来，ChatGPT在印度的用户规模已增长一倍。

辛格在接受印度《经济时报》采访时称，用户快速增长反映出越来越多印度消费者开始将ChatGPT用于日常工作、学习和生活。今年2月，OpenAI曾宣布，印度的ChatGPT周活跃用户已经超过1亿，当时印度仍是仅次于美国的第二大市场。

在企业市场方面，辛格表示，印度客户对生成式AI的使用正在从早期试验和演示，转向规模化应用和生产环境部署。OpenAI还计划继续加大本地化投入，涉及产品体验、合作伙伴、政府及开发者生态，并可能在未来数周公布与印度统一支付接口UPI有关的新进展。

OpenAI今年已联合塔塔集团启动印度本地AI基础设施建设，初期规划部署100兆瓦数据中心容量，未来可能扩展至1吉瓦。公司还计划在现有新德里办公室之外，于孟买和班加罗尔设立新办公室，进一步扩大在印度市场的业务布局。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)

埃森哲被指发布充斥AI幻觉的人工智能研究报告

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

Telegraph

埃森哲被指发布充斥AI幻觉的人工智能研究报告

埃森哲（Accenture）参与撰写的一份人工智能研究报告被发现充斥着虚假引文、错误的研究成果归属，以及疑似根本不存在的案例研究，引发外界指责称，这家咨询公司发布了一份受到AI幻觉污染的报告。 这份由IT咨询公司埃森哲与西班牙一所大学联合发布、探讨人工智能在非洲农业领域应用潜力的研究报告，包含多处事实错误以及15处引文错误，包括论文标题或作者姓名不准确。这些问题由AI检测公司GPTZero在一项调查中发现。 GPTZero联合创始人爱德华·田（Edward Tian）表示，经核实，这些错误“绝大多数都符…

Hugging Face 用 ML Intern 复现权重空间编程论文

Hugging Face 复现了一篇论文：GPT-6 Astra 仅修改 Qwen3.5-0.8B 的 0.016% 权重，即可修复推理循环并将数学能力提升至多 6 倍，所用开源研究工具为 ML Intern。

内容详情 · 原文链接

via AI情报局 | 全球 AI 动态简报 - Telegram Channel

给 AI 输出盖"数字指纹"：Anthropic 研发 FlashProve 让换模型无处遁形

Anthropic 正开发开源验证系统 FlashProve，目标直击一个痛点：你收到的 AI 回答，到底是不是你以为在用的那个模型生成的。公司周二博客称，它要做的"可证明推理"，是用密码学为每条输出出具数学保证，证明确实出自指定模型——就像加密邮件签名帮收件人确认发件人，FlashProve 专门防备"把甲模型伪装成乙模型"。

堵住成本作弊暗门，也拆穿"注水"成绩单

研究人员点破长期潜规则：有了它，AI 公司难以为省成本在后台偷偷把贵模型换成廉价版；反过来，企业也没法暗中将便宜模型伪装成高价型号、人为抬高跑分。它还能核验第三方宣传——比如某开发者声称代码库已被前沿安全模型扫过漏洞，或某公司商业计划得了相应模型背书，用户从此有了追问"凭什么信你"的抓手。

指纹公开、权重不泄，本地设备就能验

关键设计：AI 实验室只需为每个模型提供一枚"指纹"，再把输出与之匹配、密码学验证来源；指纹不会泄露模型权重——那串决定行为的内部参数，正是闭源命根子。实验室可公开指纹而不交核心资产，FlashProve 也就能适配商业闭源模型。系统刻意做轻，用户本地即可验证。Anthropic 已放出技术规范与可运行代码（GitHub 开源），但强调研究仍在进行，暂未打算自部署。

via AI新闻资讯 (author: AI Base)

Claude Code修改游戏开发限制：提及现有游戏不再被拒，仍禁止直接复刻

Anthropic工程师在社交平台X发文宣布，已在Claude Code 2.1.317版本中调整Claude Opus 5.5的游戏开发限制，允许用户引用现有游戏描述玩法和机制，不再因此直接拒绝生成游戏。此前，Anthropic为防止用户利用Claude Code复制已有游戏，在Opus 5.5的系统提示词中增加了两条规则，要求模型避免复刻他人的游戏作品。这项限制于上周引发开发者不满，因为即使用户只是提及某款游戏作为玩法参考，Claude Code也可能拒绝执行开发任务。针对这一问题，Anthropic已调整相关规则。用户现在可以直接提及某款现有游戏，让Claude参考其玩法机制，开发同类型的原创游戏。 但如果用户明确要求复制原作，Claude仍会拒绝直接复刻。

—— 凤凰网科技

via 风向旗参考快讯 - Telegram Channel

腾讯Hy发布Hy4：新增视觉能力并公布Agent Arena成绩

腾讯Hy发布新增视觉能力的Hy4模型，定位为领先开源模型之一；Agent Arena数据显示其综合排名第14，性价比优于Kimi K3.1 Pro。

内容详情 · 原文链接

via AI情报局 | 全球 AI 动态简报 - Telegram Channel

谷歌将允许美国学校禁用其人工智能工具

谷歌周二宣布，其计划明年对K-12学生禁用人工智能工具，除非学校管理员明确地将它们开启。这家科技巨头表示，这一变化是在与学校、教师、顶尖研究人员和政策制定者磋商之后做出的。因此，谷歌正在修改其在Gemini、NotebookLM、Classroom中的Gemini以及Google搜索中的做法。

这一决定意味着，选择完全限制AI的学校将不再能够访问谷歌搜索，因为AI功能现在已整合进该搜索引擎。谷歌教育副总裁Chris Phillips告诉《纽约时报》，“搜索和AI深度整合”，这意味着如果学校选择完全限制AI，学生“将无法访问搜索，并且他们会看到一条来自其学校的消息，表明搜索不可用。”

—— Techcrunch

via 风向旗参考快讯 - Telegram Channel

字节跳动收紧内部AI权限：网传将全公司封禁外部AI访问L4 代码库，高管回应保密与体验平衡

近日，据“大厂日爆”相关爆料，字节跳动内部迎来了一项重磅新规:公司将大面积限制员工在内部自费使用 Claude、Codex 等第三方个人账号。据悉，从本月起，字节跳动将会对全公司所有 L4级别的代码仓库和飞书文档实施外部 AI 访问封禁，员工个人采购的 AI 账号将无法继续在上述核心区域使用。

核心资产安全与分级管控的考量

在字节跳动的内部职级体系中，L4通常对应原3-1级别，属于团队的 TL（团队主管）或初级经理，处于核心技术骨干与管理层的分水岭位置。正因如此，L4级别的代码仓库几乎沉淀了公司全线业务的核心资产与底层架构，这也是此次封禁动作受到内部高度关注和审慎对待的核心原因。

伴随着新规的发出，内部也引发了一定范围的讨论。技术副总裁洪定坤随后在内网进行了详细回应，指出“L3及以上内容一旦有泄露，后果是非常严重的”，同时也坦言“推广产品不需要用这种禁掉其他选择强迫使用的方式，因为这样效果很差”。

延续此前风控策略，持续规范第三方AI工具

事实上，这并非字节跳动首次收紧外部 AI 开发工具的使用权限。早在2025年5月，字节跳动安全与风控部门就曾发布邮件宣布，出于防范数据泄露风险的综合考虑，自2025年6月30日起内部分批次禁用第三方的 AI 编程软件，包括 AI 编程助手 Cursor、Windsurf 等，并将旗下自研的编程助手 Trae 作为替代方案。此次将封禁范围进一步扩大至 L4代码库与飞书文档，标志着字节在研发安全与数据风控层面的管理正在持续加码。

via AI新闻资讯 (author: AI Base)

机器人距离自主完成复杂任务还有多远?王兴兴谈具身智能突破方向

在2026世界互联网大会乌镇峰会“互联网企业家论坛”上，宇树科技创始人王兴兴表示，具身智能有望迎来类似ChatGPT的突破时刻，届时机器人将在80%的陌生场景中，通过语音指令完成80%的任务。目前，顶尖模型已非常接近这一目标。

王兴兴指出，当前具身智能模型已具备较强规划能力，但在拆机、装配等精细操作中，仍面临物理对齐和触觉接触方面的挑战，即“最后几毫米”问题。他认为，2027年可能成为具身智能泛化部署的临界点，一旦这一技术瓶颈得到突破，行业规模化应用的障碍将大幅减少。

此外，宇树科技几个月前已开始内部探索物理AI模型自我进化，让模型自主编写代码，在仿真或真实环境中训练，再部署至机器人测试，并根据人或机器人的反馈持续修改和优化程序。王兴兴表示，目前行业机器人数据利用率仍然较低，随着基础模型能力提升，数据利用效率和模型自我进化能力有望进一步增强。

对于未来发展方向，王兴兴表示，宇树科技将重点攻克机器人大脑技术，并在全球范围寻求合作，推动物理AI技术突破。

via AI新闻资讯 (author: AI Base)

Anthropic工程师警告：AI越强，人类越容易陷入“认知投降”

Anthropic旗下Claude Code团队工程师、前谷歌技术高管Addy Osmani近日在社交平台X发表长文《当AI智能体完成工作时，如何保持批判性思维》，警告随着AI智能体越来越强大，人类可能在享受效率提升的同时，逐渐丧失独立思考、验证结果和理解复杂系统的能力。他将这种现象称为“认知投降”。

与此同时，菲尔兹奖得主、著名数学家陶哲轩近日对人类日益依赖人工智能发出警告。他担心，随着人们逐渐将思考和解决问题的过程交给AI，人类正在失去对问题本身及其解决方案的理解，而这一趋势可能很快在现实世界中产生严重后果。

—— 凤凰网科技、凤凰网科技

via 风向旗参考快讯 - Telegram Channel

国内学者：Steam游戏DEI评分越高 销量和收入越低

最近一篇研究论文指出，近年来，游戏中的DEI，也就是多元化、公平和包容性内容，可能损害游戏销量和收入。据称，一款游戏里的DEI元素越多，其销售收入就可能下降近10%。在中国等较为保守的国家，这种影响更加明显。

过去几年，多元化和包容性已经成为游戏行业的重要议题。Sweet Baby Inc.等知名咨询公司，也因为帮助工作室在大型游戏中推动DEI而受到广泛关注。不过，一项新研究发现，至少在中国等地区，DEI内容正在对游戏造成负面影响。

只要游戏能够迎合当地玩家，中国等地区就可能成为规模极其庞大的市场，而《黑神话：悟空》和最近发售的《影之刃零》就是例子。与此同时，《龙腾世纪：影障守护者》则因为在包容性方面做得过头，遭到了猛烈批评。《刺客信条：影》也曾因为加入弥助而成为热门话题。

中国经济学家王浩淼和张博辉最近进行了一项研究，分析过度关注DEI会怎样影响游戏，尤其是在较为保守的国家。这项研究分析了2015年至2024年间在Steam发布的9000多款游戏，并使用AI模型DeepSeek R1，给每款游戏打出1至5分的SBI评级。

初步结果显示，SBI评级越高的游戏，销量下降了5.26%，收入下降了7.69%。研究认为，这主要是玩家的负面反应造成的，而这些负面反应随后影响了游戏销量。

不过，作者也特别说明，这项研究仍在进行中，因此目前的结果不能被当成绝对结论。与此同时，如今确实有许多人反对游戏行业越来越重视DEI。

值得注意的是，最近游戏行业似乎已经开始减少对DEI的重视，尤其是在游戏开发成本不断上涨、行业持续面临困难的情况下。

大型发行商已经发现，要让BioWare等主要工作室维持正常运作并不容易。因此，对于规模最大的游戏开发商和发行商来说，DEI在各项优先事务中的地位正在迅速下降。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：3DMGame)

窃听门本可避免？消息称OpenAI员工已警告安全漏洞多年

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)

Telegraph

窃听门本可避免？消息称OpenAI员工已警告安全漏洞多年

11月4日，据路透社报道，OpenAI在今年10月披露，公司在一间高管会议室内发现了一个被人偷偷安放的录音设备。对此，许多OpenAI前员工的反应如出一辙：他们并不感到意外。 阿尔福赞被指控安装窃听设备 美国司法部在10月13日表示，美国联邦执法人员逮捕了沙特籍男子阿卜杜勒拉赫曼·阿尔福赞(Abdulrahman Alfozan)，并指控他在一间高管会议室内安装了一个隐藏式录音设备。该设备藏在卫生纸中，以此躲避他人察觉。现年35岁的阿尔福赞当时是OpenAI的一名工程师。 据五名知情人士透露，早在202…

Anthropic工程师警告：AI越强，人类越容易陷入“认知投降”

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)

Telegraph

Anthropic工程师警告：AI越强，人类越容易陷入“认知投降”

11月4日，Anthropic旗下Claude Code团队工程师、前Google技术高管Addy Osmani近日在社交平台X发表长文《当AI智能体完成工作时，如何保持批判性思维》（Critical thinking when agents do the work），警告随着AI智能体（AI Agent）越来越强大，人类可能在享受效率提升的同时，逐渐丧失独立思考、验证结果和理解复杂系统的能力。他将这种现象称为“认知投降”（Cognitive Surrender）。 Osmani曾在Google工作超过…

消息称字节将大面积限制员工使用Claude、Codex等外部AI工具

据大厂日爆爆料，字节跳动近日出台新的内部AI工具使用管理规定，将大范围限制员工通过个人账号使用Claude、Codex等外部AI工具访问公司内部资料。据悉，自本月起，字节跳动将对全公司所有L4级别的代码仓库和飞书文档实施外部AI访问封禁，员工自行购买的AI账号将无法继续访问相关内部资源。

这一通知于上周在字节跳动内部发布，随后引发部分员工讨论。相关讨论主要围绕外部AI工具的使用权限、内部信息安全，以及公司自有AI产品与第三方工具之间的关系展开。

针对员工的疑问，字节跳动相关负责人洪定坤在公司内网作出详细回应。他强调，内部信息安全是此次调整的重要考虑因素，“L3及以上内容一旦有泄露，后果是非常严重的”。

对于此次限制是否意在推动员工使用公司自有AI产品，洪定坤也作出回应。他表示，“推广产品不需要用这种禁掉其他选择强迫使用的方式，因为这样效果很差”。

近年来，Claude、Codex等AI编程工具逐渐成为开发者日常工作的重要组成部分。部分开发者通过个人订阅账号使用相关服务，以辅助代码编写、调试和项目开发。不过，当外部AI工具需要读取企业内部代码仓库、技术文档等资料时，也可能带来敏感信息向第三方服务传输的风险。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)