警惕!NEJM发文:医学 AI 或致医生沦为 “量化工人”,职业自主权受威胁
2025-06-20 MedSci原创 MedSci原创 发表于上海
本篇观点文章精准指出了医学AI应用潜在的“隐形威胁”——医生可能被逐渐“量化”管理,成为数据监控对象,而这将严重影响医生的工作满意度和临床独立性。
【核心要点】
- 医学人工智能(AI)不仅用于辅助患者管理,也可能成为监控医生工作的工具,“量化医生”现象正在逐步显现。
- AI环境记录系统、语言分析及电子健康记录(EHR)消息分析,虽能提升医疗质量,却有可能被用于监督医生行为,影响其职业自主权。
- 医生应积极参与AI治理,推动制定《医生人工智能权利保障法案》,以维护职业隐私与自主,防范不合理的职业惩罚风险。
内容概述
近期,《新英格兰医学杂志》发表了一项研究,深度剖析了医学AI在临床医生工作中的双刃剑效应。文章指出,当前的AI应用多集中于通过患者数据优化诊疗决策和疾病预测,但更少关注的是基于医生行为数据训练的AI模型,这些技术正可能被医疗机构用于管理和监控医生的日常工作,进而剥夺医生的职业自主权和判断自由。作者呼吁医学界对此保持警觉,积极推动相关法律和伦理框架建设,以防止医生成为“量化工人”,即被机器算法全程监督和机械管理的对象。
研究背景
伴随医学人工智能技术的快速发展,许多 AI 工具被设计用于减轻医生文书负担、提升诊疗效率,甚至实现智能辅助诊断与患者管理。专家系统、大型语言模型等应用已覆盖从放射学影像分析、重症监护患者预警,到胚胎学研究等多个临床领域。虽有法律及伦理专家针对患者隐私、数据偏倚、安全性、责任认定等风险展开大量研究,焦点主要集中在如何利用患者数据提升医疗质量上,而基于医生行为数据训练的AI模型及由此产生的医生监控风险却尚未引起足够重视。
当前,医疗系统和保险公司开始尝试量化医生临床行为,例如通过环境录音转写的AI助理(ambient AI scribes)、沟通内容及语义情绪分析、电子健康记录信息回复速度和质量评估等方式,旨在推动质量控制和效率改进。这种监控虽初衷良好,却为将医生变成“被监督对象”铺平了道路。比如监控医生与患者交谈时间、偏离医疗机构规范的频率,以及基于语言风格评估沟通质量,可能被用于绩效考核,甚至涉及经济处罚和临床合同终止。
这种情形与其他行业“量化工人”(诸如仓储员工、金融分析师)受到AI机械式管理惊人相似:使用键盘敲击记录、屏幕截图监控、位置传感器追踪等手段,对工作效率进行无孔不入的监督,导致员工职业满意度明显下降。医生群体若任由此类监控扩张,将面临职业自主权被大幅削弱的风险。
研究主要内容与分析
-
环境AI录音转写助理的双重角色
目前环境AI助理工具大规模推广,旨在减轻医生文书负担并提升记录准确性。系统通过转录医生与患者之间的语音内容,并进行结构化笔记生成,技术进步引入了情绪分析、语言习惯研究等功能,为医疗质量监控提供了新视角。例如,AI可评估医生建议与医院指南偏差,识别所谓“效率异常者”(如花费过多时间交流,影响接诊量的医生)。这种监测的隐患在于,一旦机构将数据用于严格绩效评价,医生的诊疗行为和时间安排可能被控制,限制临床判断的灵活性。 -
基于语言的绩效评分系统
AI技术可自动分析医生沟通内容,利用自然语言处理模型开发医患交流评分,如协议依循度、平均访视时间及共享决策的实现情况。虽然这些指标本可作为质控工具,但往往易被医疗机构用作人员评价和保险付费的依据,从而对医生构成职业压力。 -
电子健康记录患者信息处理中的AI应用监控潜力
AI辅助系统能够自动分类并筛选患者通过电子健康记录系统发送的信息,智能提出建议或交由医生处理。这虽然有效提升了医生的工作效率,但也可能被用来追踪医生回复速度、信息质量、情感表达及诊断判断是否符合预期模式。AI生成回应甚至已表现出超越医生的共情力,这意味着医生的文本沟通若偏离AI评估的“理想标准”,可能遭遇患者满意度下降并带来经济制裁。 -
“量化医生”案例与法律风险
历史案例显示,医院已利用电子记录的时间戳及数据间断判定医生工作失误,导致职业责任风险增加。未来AI生成更详尽的医生工作数据,提升病人安全的同时,医生的法律风险和职业压力不可避免地提升。尤其对职场中处于弱势的医生群体来说,这种压力尤为沉重。 -
反击策略与倡议
当前其他行业遭遇AI监控时,员工采取技术性对抗措施(如人为扰动鼠标),以及借助舆论监督(媒体曝光不合理监控)取得一定成效。医生群体应结合自身特殊性,推动“AI治理委员会”成立,参与制定合理AI使用规则,签订协议防止AI数据滥用于惩罚性决策,并推动完善隐私保护。工会组织的力量也不可忽视,最近护理工会抵制了某医疗机构AI机器人客服的部署。医生也可依托《职业安全与健康法案》坚持拒绝存在潜在工作安全隐患的AI技术,虽然相关案例尚少但具有潜在法律价值。
- 《医生人工智能权利保障法案》的蓝图
文章建议制定专门的权利保障法案,明确医生在AI时代的信息知情权、参与权、隐私权以及质量保障权,例如:
- 明确医疗机构需告知医生AI介入监控的具体内容及范围;
- 医生有权参与AI工具的配置及实施管理,表达担忧而不受处罚;
- 医疗机构需明确共享AI监控数据的范围及使用目的,优先保护医生隐私;
- 启用AI前后需进行安全和效能评估,结果向医生公开透明。
研究价值与意义
医学人工智能发展势不可挡,AI辅助工具极大优化了医疗流程、减少文书负担、提升诊疗质量。然而,医生作为AI工具使用的主体,同样面临被技术监督和量化管理的挑战。失去临床判断自主权不仅损害医生职业尊严,也可能间接影响患者个体化医疗的实现。医学界应汲取其他行业因无序AI监控带来员工满意度降低的教训,确保AI治理进入合规、透明、参与和公正轨道。同时推动法律框架建设,赋予医生明晰保护权利。在AI革命浪潮中,医生的职业自主权和个体权益,必须成为同等关注的核心议题。
梅斯小编点评
本篇观点文章精准指出了医学AI应用潜在的“隐形威胁”——医生可能被逐渐“量化”管理,成为数据监控对象,而这将严重影响医生的工作满意度和临床独立性。面对以数据驱动的现代医疗,医生绝不能仅仅是劳动力资源,更应成为AI治理的话语主体。未来医学AI伦理和法律体系的建设,将是医学共同体与社会各界的重要任务。我们期待制定出兼顾医疗质量和医生权益的完善规范,同时呼吁医生群体加强组织与参与,在这场前所未有的医疗变革中主动发声,塑造有利于医生与患者的智能医疗未来。
原始出处
Glenn Cohen, J.D., Ifeoma Ajunwa, J.D., L.L.M., Ph.D., Ravi B. Parikh, M.D., M.P.P. Medical AI and Clinician Surveillance — The Risk of Becoming Quantified Workers. N Engl J Med 2025; 392:2289-2291. DOI: 10.1056/NEJMp2502448
本网站所有内容来源注明为“梅斯医学”或“MedSci原创”的文字、图片和音视频资料,版权均属于梅斯医学所有。非经授权,任何媒体、网站或个人不得转载,授权转载时须注明来源为“梅斯医学”。其它来源的文章系转载文章,或“梅斯号”自媒体发布的文章,仅系出于传递更多信息之目的,本站仅负责审核内容合规,其内容不代表本站立场,本站不负责内容的准确性和版权。如果存在侵权、或不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。
在此留言

#医学人工智能#
13 举报