相信人工智能在帮助你的表现上升

芬兰奥卢大学的新研究表明，有时候人们会认为自己受到了AI的帮助，但实际上这种好处可能只是一种安慰效应——人们之所以表现更好是因为他们期望自己能够做得更好。研究还展示了要改变人们对AI系统能力的信任是多么困难。

在这项研究中，参与者被要求完成一个简单的字母识别练习。他们首先独自完成了一次任务，然后再通过一个被告知是AI系统帮助的情况下进行了一次。一半的参与者被告知该系统可靠且会提高他们的表现，另一半则被告知该系统不可靠且会降低他们的表现。

“事实上，这两个AI系统都不存在。参与者被误导认为有一个AI系统在帮助他们，而实际上，这个虚假的AI所做的完全是随机的。” 博士研究员Agnes Kloft解释道。

结果令人惊讶的是，当他们相信有AI参与时，无论哪一组的参与者都更有效地完成了练习——更快速和更专注。

“我们发现人们对这些系统的期望非常高，我们无法仅仅通过告诉他们一个程序不起作用就让他们成为AI悲观主义者。” 助理教授Robin Welsch说。

在最初的实验之后，研究人员进行了一项在线复制研究，结果也产生了类似的结果。他们还引入了定性组件，邀请参与者描述他们对与AI一起工作的期望。大多数人对AI持积极态度，甚至怀疑的人也对其性能持有积极的期望。

这些发现对于评估新兴AI系统通常使用的方法构成了一个问题。“这是我们研究的一个重大认识——由于这种安慰效应，很难评估承诺帮助你的程序。” Welsch说。

尽管像大型语言模型这样的强大技术无疑可以简化某些任务，但版本之间的微小差异可能会被安慰效应放大或掩盖——而这实际上是通过营销手段来利用的。

这些结果也对人机交互的研究提出了重大挑战，因为期望会影响结果，除非使用安慰剂对照研究。

“这些结果表明，该领域的许多研究可能会偏向AI系统。” Welsch总结道。

研究人员将于5月14日在CHI大会上介绍这项研究。