AI 聊天机器人擅长利用不准确信息改变人的政治观点
2025-12-05 21:16 by 林中秘族
根据发表在《科学》期刊上的一项研究，AI 聊天机器人擅长改变人的政治观点，在使用不准确信息时其说服力更惊人。研究人员通过众包平台招募了近 7.7 万名参与者，付费让他们与 OpenAI、Meta 和 xAI 等公司的 AI 聊天机器人进行对话。研究人员首先询问了参与者在不同政治议题的立场，然后 AI 聊天机器人会尝试改变他们的想法接受相反的立场。研究显示 AI 聊天机器人非常擅长担任政治说客。研究人员发现，AI 提供的大量信息中包含了很多不准确的断言，而“最具说服力的模型和提示策略产生的信息准确率最低”。研究中 AI 聊天机器人给出的声明中有 19% 被认为“基本不准确”。研究人员担心，极具说服力的 AI 聊天机器人可能会被无道德原则的人利用，用于宣传激进的政治或宗教意识形态，或在地缘政治对手之间煽动政治动乱。
https://www.science.org/doi/10.1126/science.aea3884
https://www.nbcnews.com/tech/tech-news/ai-chatbots-used-inaccurate-information-change-political-opinions-stud-rcna247085
#人工智能
via Solidot - Telegram Channel
2025-12-05 21:16 by 林中秘族
根据发表在《科学》期刊上的一项研究，AI 聊天机器人擅长改变人的政治观点，在使用不准确信息时其说服力更惊人。研究人员通过众包平台招募了近 7.7 万名参与者，付费让他们与 OpenAI、Meta 和 xAI 等公司的 AI 聊天机器人进行对话。研究人员首先询问了参与者在不同政治议题的立场，然后 AI 聊天机器人会尝试改变他们的想法接受相反的立场。研究显示 AI 聊天机器人非常擅长担任政治说客。研究人员发现，AI 提供的大量信息中包含了很多不准确的断言，而“最具说服力的模型和提示策略产生的信息准确率最低”。研究中 AI 聊天机器人给出的声明中有 19% 被认为“基本不准确”。研究人员担心，极具说服力的 AI 聊天机器人可能会被无道德原则的人利用，用于宣传激进的政治或宗教意识形态，或在地缘政治对手之间煽动政治动乱。
https://www.science.org/doi/10.1126/science.aea3884
https://www.nbcnews.com/tech/tech-news/ai-chatbots-used-inaccurate-information-change-political-opinions-stud-rcna247085
#人工智能
via Solidot - Telegram Channel
