最新涉及3132名参与者的五项实验研究表明,引入AI大语言模型(如GPT-5.5、Claude4.6Sonnet及Gemini3.5Flash等)正显著削弱人类悬置判断的能力,使人们几乎完全丧失承认“我不知道”的意愿。
研究团队专门挑选了极易引发模型幻觉的精细冷门问题进行测试,结果显示,在无AI辅助的对照组中,参与者对36%至44%的问题选择放弃作答;而在获取AI建议后,这一不作答比例骤降至3%至6%。
更为矛盾的是,在AI辅助下,参与者的答题自信心从29.6分(满分100分)暴涨至75.9分,但实际答对率却从27.5%大幅跌至9.2%,表明即便面对Step3.5Flash等模型给出的错误建议,人类依然倾向于盲目采纳并产生过度自信。
引入答对奖励与答错扣减的经济激励机制虽能在一定程度上降低人们向AI求助的频率,但未能从根本上扭转这一信任错位。更值得行业警惕的是,当测试模拟当前搜索引擎和写作助手的常态,将AI生成的答案自动展示给用户时,即便在有经济激励的条件下,参与者悬置判断的比例依然从39%暴跌至7%。
研究人员将此现象归结为一种新型轻信趋势,即人类容易被AI流畅的表达所说服,从而打破了传统求助行为中保留部分独立判断的习惯。结合此前微软及相关学术机构关于AI削弱人类批判性思维的发现,过度依赖AI正促使人们将认知任务过度外包。
随着生成式AI在各类数字化工具中的无缝嵌入,如何在提升模型自身准确率的同时,设计合理的人机交互机制以维持人类对自身知识边界的认知,将成为下一阶段AI应用落地的重要课题。
via AI新闻资讯 (author: AI Base)