微软AI主管:Anthropic训练模型方式有问题

微软AI主管苏莱曼警告说，Anthropic训练其AI模型Claude的方法可能会对人类福祉造成 “灾难性影响”。苏莱曼周三发表文章，对Claude系列大语言模型指导文件中的部分表述提出质疑。Claude的“宪法”对于AI助手是否属于具有道德地位的实体保留了一定模糊空间，并提出该软件可能拥有“某种功能层面的情绪或感受”。这种表述值得警惕。

苏莱曼指出， Anthropic 将机器人当作人类来对待，包括告诉机器人它 “可能有意识”并且 “值得拥有独立自主权”，这样做可能会创造出“无法”控制的东西。文章写道：“AI没有权利、情感或意识。我们绝不能训练它们表现得好像它们有这些，赋予这些系统权利和人格，将使AI的协调和控制变得更加困难。

—— 财联社、彭博社

via 风向旗参考快讯 - Telegram Channel