IT之家 5 月 18 日消息，如今，全球越来越多民众日常使用人工智能系统，尽管众多用户愿意相信人工智能给出的答案，但这些回答并非始终准确可靠。
IT之家注意到，滑铁卢大学与伦敦大学学院的研究人员近期开展了一项研究，旨在深入探究人们如何判断人类与人工智能在作出预测、得出结论时的自信程度。该研究成果发表于《通讯 · 心理学》期刊，研究表明：即便人工智能与人类给出的回答完全一致，人们依旧普遍认为人工智能作答时的自信心更强。
该论文第一作者克拉拉 · 科隆巴托接受 Phys.org 采访时表示：“随着人工智能系统愈发成熟精密，人们愈发依赖其获取各类建议，比如选购商品、挑选浏览内容等。”
“这和我们日常与人相处的行为十分相似，我们常会向他人寻求指引与建议。但听取人类建议和听取人工智能建议存在显著区别：人类给出建议时，往往会顺带表露自身话语的笃定程度，而这份自信也会直接影响我们对建议的信任与采纳程度。”
与人类不同，目前绝大多数人工智能系统仅会针对具体问题生成答案，并不会主动表明自身对答案的把握程度。而这种自信度信息的缺失，会对用户信任人工智能回复产生何种影响，此前尚未有清晰定论。
科隆巴托解释道：“我们希望弄清，即便对方没有直接表露自信程度，人们是否仍会下意识揣测人类与人工智能的笃定心态，以及哪些因素会左右这种主观判断。为研究人们判定他人自信度的方式，我们设计了一项实验：让实验对象观察人类或人工智能作出决策，再由实验对象判断二者在每一项选择中所持有的自信水平。”
随后，科隆巴托及其团队对收集到的实验数据展开分析，探究各类外在线索如何影响人们对人类、人工智能自信程度的判定。研究发现了一个有趣现象：作答速度越快、决策看起来越轻松，人们就越觉得其自信心越足。
“尤为关键的是，即便没有实际依据支撑，人们依旧会主观认定准确率更高、能力更强的主体更加自信。”科隆巴托说道，“这一点在人工智能领域尤为值得重视。人们时常默认人工智能在部分事务上优于人类，进而主观判定人工智能底气更足，事实却并非如此，这便催生了人工智能的‘自信错觉’。”
总体而言，该研究证实，人们无需对方直白表露对预测结果的信心，便能自行揣测其自信高低。实验参与者大多会下意识凭借各类外在线索，例如作答速度、展现出的能力水平等，来判定对方的自信程度。
科隆巴托强调：“这些判断线索极易造成误导。一旦人们认定某个人工智能能力出众，就会默认它作答十分笃定，可实际上该系统在对应场景中未必靠谱。简单来说，人们评判人工智能的自信程度，依据的往往是自身固有偏见，而非人工智能的实际表现。”
科隆巴托团队的这项研究充分说明，研发人工智能产品时，需通过直白表述及多元外在形式，向用户清晰传递系统自身的自信程度。该研究结论能够为大语言模型等人工智能模型新增功能、优化现有性能提供研发思路。
科隆巴托称：“在人际交往中，情绪自信是重要的社交信号，帮助我们判断何时采信他人建议、何时谨慎斟酌。本研究结果表明，若人工智能不主动明示自身把握程度，用户便会自行主观揣测，进而引发诸多隐患：即便人工智能本身心存疑虑、极易出错，用户依旧可能过度轻信其给出的各类建议。”
目前，研究团队正筹备新一轮研究，助力人们更精准地判断人工智能的自信程度，重点探寻高效可行的方式，让人工智能清晰向用户传递自身对预测结果的把握情况。
她补充道：“人与人交流时，我们能通过语气、神情、肢体姿态等多种方式传递自信。但绝大多数人工智能没有类人语音与实体形态，缺失这类表达途径。因此，探寻在人机交互中高效、直观且值得信赖的自信传递方式，将成为未来科研的重要方向。”
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。