新技术帮助人工智能识别人类说谎

研究人员开发了一种新的训练工具，以帮助人工智能（AI）程序更好地考虑到在提供个人信息时人类并不总是说实话的事实。这种新工具是为了在人们有经济动机撒谎的情况下开发的，比如申请抵押贷款或试图降低保险费率。

研究论文的合著者Mehmet Caner表示：“AI程序用于各种业务环境，比如帮助确定个人能负担多大的抵押贷款，或者个人的保险费率应该是多少。这些AI程序通常使用纯粹由统计数据驱动的数学算法进行预测。但问题在于这种方法会导致人们有动机撒谎，以便获得抵押贷款、降低保险费率等。”

为了解决这一挑战，研究人员开发了一组新的训练参数，可用于指导AI自我学习进行预测。具体来说，新的训练参数侧重于识别和考虑人类用户的经济激励因素。换句话说，AI自我训练以识别人类用户可能出于改善结果而撒谎的情况。

在概念验证模拟中，修改后的AI能够更好地检测用户提供的不准确信息。

Caner表示：“这有效地减少了用户提交信息时撒谎的动机。然而，一些小谎言仍可能被忽略。我们需要进一步研究‘小谎言’和‘大谎言’之间的界限。”

研究人员正在公开提供新的AI训练参数，以便AI开发人员进行实验。

Caner表示：“这项工作表明，我们可以改进AI程序，以减少人类撒谎的经济激励。如果我们让AI足够聪明，也许有一天我们可以完全消除这些激励。”