JAMA:医疗保健系统AI应用中的偏倚及应对策略

2019-11-26 JAMA JAMA

最近对AI面部识别软件的审查使人们开始重新关注AI对社会偏倚和不平等的意外影响。学术界和政府官员对几种AI技术中的种族和性别偏倚提出了担忧,包括互联网搜索引擎和算法可预测犯罪行为的风险。IBM和Microsoft等公司已公开承诺对其技术进行“去偏倚”(“de-bias”),而亚马逊发起了一项批评这种研究的公开活动。  图片来自Data Driven Investor :Facia

最近对AI面部识别软件的审查使人们开始重新关注AI对社会偏倚和不平等的意外影响。学术界和政府官员对几种AI技术中的种族和性别偏倚提出了担忧,包括互联网搜索引擎和算法可预测犯罪行为的风险。IBM和Microsoft等公司已公开承诺对其技术进行“去偏倚”(“de-bias”),而亚马逊发起了一项批评这种研究的公开活动。  图片来自Data Driven Investor :Facial Recognition, and Bias 随着AI在医学界的广泛应用,引起了临床医生和医学界人士的广泛关注,卫生系统的领导者对自动化和传播现有偏倚也提出了类似的担忧。但是,AI是问题的关键吗,还是AI可以作为解决方案的一部分?虽然AI以其潜在的方式助长偏倚,但以负责任的态度使用AI技术还可能有助于消除独特偏倚的风险。使用AI识别医疗保健中的偏倚可能有助于采取干预措施,这些干预措施可能有助于纠正临床医生决策中的偏见,并可能减少健康差异。 AI应用中的统计偏倚和社会偏倚 (1)统计偏倚(Statistical Bias):是指在统计过程中,统计资料与实际情况的差异。由于许多原因,统计偏倚在预测算法中很常

相关资讯

AI 可提前一个月预测癫痫发作,成功率99.6%

对癫痫患者来说,他们的大脑神经元会突然异常放电,导致大脑功能短暂出障碍,这样的患者在全球约有 5000 万个。棘手的是,这种疾病在发生前通常没有任何预警。 近日,美国路易斯安那大学拉斐特分校的两名研究员开发出了一种新的人工智能模型,最多能在患者癫痫发作前一个月就提前进行预测。 该模型的开发者 Hisham Daoud 表示,癫痫总是在没有任何前兆的情况下突然发作,这点可能对患者的心理产生严重的

用代码治愈癌症?当微软程序员的人文关怀融入癌症治疗

得益于工业科技的发展,第一次工业革命,人类获得了蒸汽机;第二次工业革命,人类拥有了闪亮光明的电;第三次科技革命,人类开始走进互联网世界;进入21世纪的第四次“工业”革命,是以基因、虚拟现实、量子信息技术、清洁能源、生物技术为突破口的工业革命,人们获得AI、VR等各类新技术的同时,在医疗领域是否也能同样进入“无癌时代”呢?

“驯服猛兽”——AI已与医疗深度融合

大规模的技术投资和政府的推进力度使医疗领域将受到重大影响,其中,智能算法和智能机器人系统作用突出。

AI成影像标配,医生到底需要什么?大佬们向影像领域传达了什么?

MICCAI(Medical Image Computing and Computer Assisted Intervention)始于1998年的麻省理工学院,第一届开办时,参与学术交流的学者仅400人。时至今日,MICCAI已成为医学影像分析行业的顶级学术会议。据会方统计,本次大会上,全球各地总共2400多名学者来到了深圳,共同探索医学影像的发展。剧变不仅仅发生于参会人数的变化之上。从论文

AI与临床研究:研究设计、加速患者招募...AI如何提高研究效率?

1994年,乳腺外科医生Kevin Hughes开展了一项随机对照试验,探索早期乳腺癌患者术后使用他莫昔芬联合放疗的有效性。研究需招募70岁以上的患者,对肿瘤大小和类型都有明确要求,美国每年大约有4万名符合入组标准的女性,最终研究成功招募了636人,样本量已经足够,但是花了五年时间才入组完成。患者招募只是进行临床试验的诸多瓶颈之一。转化研究所所长Eric Topol表示:“医学研究在很多方面都

斯坦福大学专家:AI不过是医疗团队中的一名“新同事”

AI对医生和行医行为意味着什么?这个问题的答案可能很复杂。近日NEJM Catalyst采访了斯坦福大学临床卓越研究中心高级学者Nirav Shah,或许可以给医生提供新的认知角度。以下内容根据NEJM Catalyst采访原文编译而成。Tom Lee:您是否看好AI?Nirav Shah:我看好医疗AI,虽然我也有点害怕。与大多数其他行业不同,医疗领域新技术的发展和运用往往意味着更高的成本,