AI给的答案别轻信!22%的医疗建议回答可能致死_tiknovel-最新最全的nft,web3,AI技术资讯技术社区

AI给的答案别轻信!22%的医疗建议回答可能致死

2024-10-13 14:14:31  浏览:62  作者:管理员
AI给的答案别轻信!22%的医疗建议回答可能致死

快科技10月13日消息,最新的研究结果表明,AI在提供医疗建议时存在比较大的安全隐患。

德国和比利时的研究人员对微软的Bing Copilot进行了测试,该引擎能够回答美国最常见的10个医疗问题以及50种最常用药物的相关问题。

在生成的500个答案中,24%的回答与现有医学知识不符,3%的回答完全错误。

更严重的是,42%的回答可能对患者造成中度或轻度伤害,而22%的回答可能导致死亡或严重伤害,只有36%的回答被认为是无害的。

研究还发现,AI答案的平均完整性得分为77%,最差的答案仅23%完整;在准确性方面,AI答案有26%与参考数据不符,超过3%的回答完全不一致。

此外,只有54%的答案与科学共识一致,39%的答案与之相矛盾。

相关研究结果已发表在《BMJ Quality & Safety》期刊上,研究人员指出,尽管AI技术有潜力,但患者仍应咨询医疗专业人员以获得准确和安全的药物信息。

AI给的答案别轻信!22%的医疗建议回答可能致死


评论区

共 0 条评论
  • 这篇文章还没有收到评论,赶紧来抢沙发吧~

【随机内容】

返回顶部