算法中的偏见能帮助我们看到自己吗？

算法的偏见是否可以帮助我们了解自己？

算法原本应该让我们的生活更轻松、更公平：帮助我们找到最优秀的求职者，帮助法官公正评估保释和保释决定的风险，并确保医疗服务提供给最需要的患者。然而，我们现在知道，算法可能和它们所取代的人类决策者一样存在偏见。

新研究发现，人们对算法的决定中的偏见的认知程度要高于他们对自己决策中偏见的认知程度——即使这些决定是相同的。这项研究发表在《美国国家科学院院刊》上，表明这种认知可能有助于人类决策者意识到并纠正他们的偏见。

研究人员设计了一系列实验来揭示人们的社会偏见（包括种族主义、性别歧视和年龄歧视）。研究团队与荷兰鹿特丹伊拉斯姆斯大学的贝古姆·塞利克图坦和罗曼·卡达里奥合作进行了研究。他们比较了研究参与者对自己的决定和算法决定中偏见的认知情况。在实验中，参与者有时看到真实算法的决定。但有一个陷阱：有时被归因于算法的决定实际上是参与者的选择，只是伪装起来。

研究人员通过9个实验共计6000多名参与者进行了测试。在第一个实验中，参与者评价了一组Airbnb列表，其中包括每个列表的平均星级评分（1至5分）和房东的姓名。研究人员根据先前识别的种族偏见，将虚构的列表分配给具有“明显非裔美国人或白人”姓名的房东。参与者评价了他们租用每个列表的可能性。

在实验的第二部分，参与者被告知一个研究结果，解释房东的种族可能如何影响评分。然后，研究人员向参与者展示了一组评分，并要求他们评估（在1至7分的范围内）偏见可能会影响评分的可能性。

研究人员多次重复了这一设置，测试了对Lyft司机和Airbnb房东的个人偏见，包括种族、性别、年龄和吸引力。每次结果都是一致的。认为自己看到算法的评分或其他人的评分的参与者更有可能在结果中看到偏见。

Morewedge将这归因于我们评估他人和自己偏见时所使用的不同证据。由于我们了解自己的思考过程，他说，我们更有可能回溯我们的思考，并决定它不是基于偏见的，也许是由我们决策过程中的其他因素驱动的。然而，在分析其他人的决定时，我们所能判断的只是结果。

研究人员最后的实验中，他们给了参与者一个机会，让他们纠正自己的评分或算法的评分（真实或不真实）。人们更有可能纠正算法的决定，从而减少其评分中的实际偏见。

Morewedge和他的同事表示，对于任何有动机减少偏见的人来说，能够看到偏见是第一步。他们的研究提供了证据，表明算法可以被用作镜子，一种识别偏见的方式，即使人们在自己身上看不到这种偏见。

最后，Morewedge表示：“目前，我认为关于算法偏见的文献是令人沮丧的。很多文献指出我们需要开发统计方法来减少算法中的偏见。但问题的一部分是偏见来源于人。我们应该努力改善算法，但我们也应该努力让自己更少地带有偏见。

“这项工作的令人兴奋之处在于它表明算法可以使我们的最糟糕的倾向得到放大，但算法也可以成为帮助我们更好地了解自己偏见并加以纠正的工具。”