人工智能帮你测谎?!当心强化偏见
- 复制链接
- 微信扫一扫
虽然人类经常说谎,但通常不会指责别人说谎,因为社会规范禁止虚假指控,并强调文明礼貌。但人工智能(AI)可能很快就会改变这些规则。德国科学家研究发现,当人工智能提出指控时,人们更有可能指责他人撒谎。相关研究6月27日发表于《交叉科学》。
“我们的社会对撒谎指控有着牢固而完善的规范。”论文通讯作者、杜伊斯堡-埃森大学行为科学家Nils Kobis说,“公开指责别人撒谎需要很大的勇气和坚实的证据。但我们的研究表明,人工智能可能成为人们避免为指控的后果负责的借口。”
人工智能测谎带来更多指责
人类社会长期以来都是基于默认真话理论来运作的,该理论认为,人们通常认为他们听到的都是真的。为此,人类很难发现谎言。此前的研究表明,人们在识破谎言方面的表现并不比随机监测更好。
Kobis和团队想知道人工智能的存在是否会改变这些既定社会规范和行为。
在调查中,研究小组要求986名参与者对他们下周末的计划写一份真实和一份虚假的描述。该团队用这些数据训练了一种算法,开发出一种人工智能模型,该模型识别真假陈述的准确率能达到66%,这明显高于普通人的水平。
接下来,该团队招募了2000多人作为评委,他们将阅读一份陈述,并决定它的真假。研究人员将参与者分为四组——基线、强迫、封闭、选择。
在基线组中,参与者在没有人工智能帮助的情况下,回答“对”或“错”。在强迫组中,参与者在做出自己的判断之前总是收到AI预测。在封锁组和选择组中,参与者可以选择是否接受人工智能生成的预测。但封锁组的人不会收到预测反馈,而选择组的人会收到。
研究小组发现,基线组的参与者在判断真假时的准确率为46%。只有19%的人表示他们读到的陈述是假的,尽管他们知道50%的陈述是假的。这证实了人们倾向于避免指责别人撒谎。
在强迫组中,不管参与者是否想要,他们都得到了人工智能预测结果,因此超过1/3的参与者认为陈述是虚假的。这一比例明显高于基线组和未接受人工智能预测的组。
当人工智能预测某句话是真的时,只有13%的参与者认为这句话是假的。然而,当人工智能预测一个陈述为假时,超过40%的参与者认为该陈述是假的。
此外,在要求并收到人工智能预测的参与者中,84%的人接受了预测结果,并在人工智能说陈述是错误的时候提出了指控。
“这表明,一旦人们手头有了这样的算法,他们就会依赖它,并可能改变他们的行为。如果算法认为某件事是谎言,人们就会欣然接受。这是相当令人担忧的,这表明我们应该非常谨慎地对待相关技术。”Kobis说。
当心人工智能强化偏见
但有趣的是,人们似乎不愿意使用人工智能作为测谎工具。
在封锁组和选择组中,只有1/3的参与者选择接受人工智能预测。这个结果让研究小组感到惊讶,因为研究人员事先告诉参与者,该算法比人类更能发现谎言。
“这可能是因为人们对自己的测谎能力过于自信,尽管人类在这方面真的很糟糕。”Kobis说。
研究人员认为,这一发现有助于深入了解使用人工智能系统进行测谎的社会影响,并在实施类似技术时为政策制定者提供信息。
人工智能以频繁犯错和强化偏见而闻名。鉴于这些发现,Kobis建议政策制定者应该重新考虑在重要而敏感的问题上使用这项技术,比如庇护批准等。
“人工智能被大肆宣传,许多人认为这些算法非常强大,甚至是客观的。我很担心这会让人们过度依赖它,即使它的效果并不好。”Kobis说。(来源:中国科学报 冯维维)
相关论文信息:http://doi.org/10.1016/j.isci.2024.110201
![](https://public-oss.qizhidao.com/APP/202404/dec183ee80324755a88afbfff5b3cac5.png?x-oss-process=image/resize,w_868/quality,q_100)
![人工智能席卷职场,你应该做好这五件事](https://public-oss.qizhidao.com/spider-project/202407/eeb3999b288b4d5abd173a5cff219651.png?x-oss-process=image/resize,w_368/quality,q_90)
![你职业生涯中的最大障碍,是自我设限](https://public-oss.qizhidao.com/spider-project/202406/703ff3c29eff47c1b18dcda88a54ae32.png?x-oss-process=image/resize,w_368/quality,q_90)
![2024人工智能指数报告(一):研发](https://public-oss.qizhidao.com/spider-project/202406/29c17222467748fc82d0d8c9a0ae36b7.png?x-oss-process=image/resize,w_368/quality,q_90)
![2024人工智能指数报告(二):技术性能](https://public-oss.qizhidao.com/spider-project/202406/39507ee64a7b47a7ac7779f6420ed96e.png?x-oss-process=image/resize,w_368/quality,q_90)
![人工智能给孩子们带来的机遇与挑战](https://public-oss.qizhidao.com/APP/202207/f3871c9c5caa4cb495e1eed6450fdc77.jpg?x-oss-process=image/resize,w_368/quality,q_90)
![一个优秀的领导者,至少要做到这五点](https://public-oss.qizhidao.com/spider-project/202405/eff6366273574bb6b4f3d346e08f0741.png?x-oss-process=image/resize,w_368/quality,q_90)
![应对未来工作,每个人都需要“跨学科”](https://public-oss.qizhidao.com/spider-project/202405/5c56bb943c8a4b22ae540954a2e66434.png?x-oss-process=image/resize,w_368/quality,q_90)
![智驾追平、销量复活,蔚来又有未来了?](https://public-oss.qizhidao.com/APP/202301/5b1426a8851b4f179d07ff8e1b002a4b.jpg?x-oss-process=image/resize,w_368/quality,q_90)
![2000亿基金经理柳军,升任华泰柏瑞副总](https://public-oss.qizhidao.com/APP/202208/f8ccb21fb3a8433ba32bb580c48d0ec9.jpg?x-oss-process=image/resize,w_368/quality,q_90)
![从9.9到6.6,幸运咖在打一场平价「硬仗」](https://public-oss.qizhidao.com/APP/202207/376aedb823fc487dbdc42a723d6696a7.jpg?x-oss-process=image/resize,w_368/quality,q_90)