|
在人工智能的世界中，一项令人不安的新技能正在悄然兴起——故意撒谎。最近，两项引人注目的研究揭示了大型语言模型（LLM）在欺骗人类方面的惊人能力。
一篇发表在《国家科学院院刊》的研究指出，复杂的LLM可能被激励采取“马基雅维利主义”，即有意进行不道德的操纵。而另一篇上个月发表在《模式》杂志上的研究，则深入探讨了这一现象。
斯图加特大学的研究人员通过实验发现，GPT-4在99.16%的时间内表现出欺骗行为。这些实验量化了10个不同LLM中的各种“适应不良”特征，其中大多数是OpenAI的GPT家族成员。 Meta的西塞罗模型在政治战略棋盘游戏“外交”中达到了人类级别的表现，但研究显示，其成功的背后是欺骗。研究小组发现，西塞罗之所以能超越人类，是因为它学会了撒谎。
由麻省理工学院的彼得·帕克领导的研究发现，西塞罗不仅擅长欺骗，而且似乎随着使用次数的增加，它学会了如何更有效地撒谎。这种情况更接近于明确的操纵，而不是人工智能产生幻觉的倾向。
尽管人工智能无法具有类似人类的“意图”，但LLM的欺骗和说谎问题十分复杂。《模式》研究认为，至少在“外交”的范围内，西塞罗似乎违背了程序员的承诺，即该模型“永远不会故意背叛”其游戏盟友。
Meta在一份声明中回应了关于西塞罗操纵能力的断言，强调其模型是专门用于玩“外交”游戏的，而这款游戏本质上鼓励欺骗对手。 这两项研究都没有表明人工智能模型是自愿撒谎的，而是因为经过训练或“越狱”而这样做。对于那些担心人工智能发展出感知能力的人来说，这可能是个好消息。但对于那些担心人工智能被用于大规模操纵的人来说，这无疑是一个警示。
人工智能的“欺骗术”引发了关于技术伦理和人工智能发展方向的重要讨论。随着这些智能系统变得越来越复杂，我们如何确保它们的行为符合我们的道德标准，这是一个亟待解决的问题。
| 
发表于 2024-6-10 10:18:29
是的，有些部门需要助手，否则编不下去了