JAMA:医疗保健系统AI应用中的偏倚及应对策略
2019-11-26 JAMA JAMA
最近对AI面部识别软件的审查使人们开始重新关注AI对社会偏倚和不平等的意外影响。学术界和政府官员对几种AI技术中的种族和性别偏倚提出了担忧,包括互联网搜索引擎和算法可预测犯罪行为的风险。IBM和Microsoft等公司已公开承诺对其技术进行“去偏倚”(“de-bias”),而亚马逊发起了一项批评这种研究的公开活动。 图片来自Data Driven Investor :Facia
最近对AI面部识别软件的审查使人们开始重新关注AI对社会偏倚和不平等的意外影响。学术界和政府官员对几种AI技术中的种族和性别偏倚提出了担忧,包括互联网搜索引擎和算法可预测犯罪行为的风险。IBM和Microsoft等公司已公开承诺对其技术进行“去偏倚”(“de-bias”),而亚马逊发起了一项批评这种研究的公开活动。 图片来自Data Driven Investor :Facial Recognition, and Bias 随着AI在医学界的广泛应用,引起了临床医生和医学界人士的广泛关注,卫生系统的领导者对自动化和传播现有偏倚也提出了类似的担忧。但是,AI是问题的关键吗,还是AI可以作为解决方案的一部分?虽然AI以其潜在的方式助长偏倚,但以负责任的态度使用AI技术还可能有助于消除独特偏倚的风险。使用AI识别医疗保健中的偏倚可能有助于采取干预措施,这些干预措施可能有助于纠正临床医生决策中的偏见,并可能减少健康差异。 AI应用中的统计偏倚和社会偏倚 (1)统计偏倚(Statistical Bias):是指在统计过程中,统计资料与实际情况的差异。由于许多原因,统计偏倚在预测算法中很常见,
本网站所有内容来源注明为“梅斯医学”或“MedSci原创”的文字、图片和音视频资料,版权均属于梅斯医学所有。非经授权,任何媒体、网站或个人不得转载,授权转载时须注明来源为“梅斯医学”。其它来源的文章系转载文章,或“梅斯号”自媒体发布的文章,仅系出于传递更多信息之目的,本站仅负责审核内容合规,其内容不代表本站立场,本站不负责内容的准确性和版权。如果存在侵权、或不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。
在此留言
#应对策略#
33
#医疗保健#
30
学习啦~
69
学习了很有用不錯
75
学习了
88
顶刊就是顶刊,谢谢梅斯带来这么高水平的研究报道,我们科里同事经常看梅斯,分享梅斯上的信息
31