警惕!NEJM发文:医学 AI 或致医生沦为 “量化工人”,职业自主权受威胁

2025-06-20 MedSci原创 MedSci原创 发表于上海

本篇观点文章精准指出了医学AI应用潜在的“隐形威胁”——医生可能被逐渐“量化”管理,成为数据监控对象,而这将严重影响医生的工作满意度和临床独立性。

【核心要点】

  • 医学人工智能(AI)不仅用于辅助患者管理,也可能成为监控医生工作的工具,“量化医生”现象正在逐步显现。
  • AI环境记录系统、语言分析及电子健康记录(EHR)消息分析,虽能提升医疗质量,却有可能被用于监督医生行为,影响其职业自主权。
  • 医生应积极参与AI治理,推动制定《医生人工智能权利保障法案》,以维护职业隐私与自主,防范不合理的职业惩罚风险。

内容概述

近期,《新英格兰医学杂志》发表了一项研究,深度剖析了医学AI在临床医生工作中的双刃剑效应。文章指出,当前的AI应用多集中于通过患者数据优化诊疗决策和疾病预测,但更少关注的是基于医生行为数据训练的AI模型,这些技术正可能被医疗机构用于管理和监控医生的日常工作,进而剥夺医生的职业自主权和判断自由。作者呼吁医学界对此保持警觉,积极推动相关法律和伦理框架建设,以防止医生成为“量化工人”,即被机器算法全程监督和机械管理的对象。

研究背景

伴随医学人工智能技术的快速发展,许多 AI 工具被设计用于减轻医生文书负担、提升诊疗效率,甚至实现智能辅助诊断与患者管理。专家系统、大型语言模型等应用已覆盖从放射学影像分析、重症监护患者预警,到胚胎学研究等多个临床领域。虽有法律及伦理专家针对患者隐私、数据偏倚、安全性、责任认定等风险展开大量研究,焦点主要集中在如何利用患者数据提升医疗质量上,而基于医生行为数据训练的AI模型及由此产生的医生监控风险却尚未引起足够重视。

当前,医疗系统和保险公司开始尝试量化医生临床行为,例如通过环境录音转写的AI助理(ambient AI scribes)、沟通内容及语义情绪分析、电子健康记录信息回复速度和质量评估等方式,旨在推动质量控制和效率改进。这种监控虽初衷良好,却为将医生变成“被监督对象”铺平了道路。比如监控医生与患者交谈时间、偏离医疗机构规范的频率,以及基于语言风格评估沟通质量,可能被用于绩效考核,甚至涉及经济处罚和临床合同终止。

这种情形与其他行业“量化工人”(诸如仓储员工、金融分析师)受到AI机械式管理惊人相似:使用键盘敲击记录、屏幕截图监控、位置传感器追踪等手段,对工作效率进行无孔不入的监督,导致员工职业满意度明显下降。医生群体若任由此类监控扩张,将面临职业自主权被大幅削弱的风险。

研究主要内容与分析

  1. 环境AI录音转写助理的双重角色
    目前环境AI助理工具大规模推广,旨在减轻医生文书负担并提升记录准确性。系统通过转录医生与患者之间的语音内容,并进行结构化笔记生成,技术进步引入了情绪分析、语言习惯研究等功能,为医疗质量监控提供了新视角。例如,AI可评估医生建议与医院指南偏差,识别所谓“效率异常者”(如花费过多时间交流,影响接诊量的医生)。这种监测的隐患在于,一旦机构将数据用于严格绩效评价,医生的诊疗行为和时间安排可能被控制,限制临床判断的灵活性。

  2. 基于语言的绩效评分系统
    AI技术可自动分析医生沟通内容,利用自然语言处理模型开发医患交流评分,如协议依循度、平均访视时间及共享决策的实现情况。虽然这些指标本可作为质控工具,但往往易被医疗机构用作人员评价和保险付费的依据,从而对医生构成职业压力。

  3. 电子健康记录患者信息处理中的AI应用监控潜力
    AI辅助系统能够自动分类并筛选患者通过电子健康记录系统发送的信息,智能提出建议或交由医生处理。这虽然有效提升了医生的工作效率,但也可能被用来追踪医生回复速度、信息质量、情感表达及诊断判断是否符合预期模式。AI生成回应甚至已表现出超越医生的共情力,这意味着医生的文本沟通若偏离AI评估的“理想标准”,可能遭遇患者满意度下降并带来经济制裁。

  4. “量化医生”案例与法律风险
    历史案例显示,医院已利用电子记录的时间戳及数据间断判定医生工作失误,导致职业责任风险增加。未来AI生成更详尽的医生工作数据,提升病人安全的同时,医生的法律风险和职业压力不可避免地提升。尤其对职场中处于弱势的医生群体来说,这种压力尤为沉重。

  5. 反击策略与倡议
    当前其他行业遭遇AI监控时,员工采取技术性对抗措施(如人为扰动鼠标),以及借助舆论监督(媒体曝光不合理监控)取得一定成效。医生群体应结合自身特殊性,推动“AI治理委员会”成立,参与制定合理AI使用规则,签订协议防止AI数据滥用于惩罚性决策,并推动完善隐私保护。工会组织的力量也不可忽视,最近护理工会抵制了某医疗机构AI机器人客服的部署。医生也可依托《职业安全与健康法案》坚持拒绝存在潜在工作安全隐患的AI技术,虽然相关案例尚少但具有潜在法律价值。

  1. 《医生人工智能权利保障法案》的蓝图
    文章建议制定专门的权利保障法案,明确医生在AI时代的信息知情权、参与权、隐私权以及质量保障权,例如:
  • 明确医疗机构需告知医生AI介入监控的具体内容及范围;
  • 医生有权参与AI工具的配置及实施管理,表达担忧而不受处罚;
  • 医疗机构需明确共享AI监控数据的范围及使用目的,优先保护医生隐私;
  • 启用AI前后需进行安全和效能评估,结果向医生公开透明。

研究价值与意义

医学人工智能发展势不可挡,AI辅助工具极大优化了医疗流程、减少文书负担、提升诊疗质量。然而,医生作为AI工具使用的主体,同样面临被技术监督和量化管理的挑战。失去临床判断自主权不仅损害医生职业尊严,也可能间接影响患者个体化医疗的实现。医学界应汲取其他行业因无序AI监控带来员工满意度降低的教训,确保AI治理进入合规、透明、参与和公正轨道。同时推动法律框架建设,赋予医生明晰保护权利。在AI革命浪潮中,医生的职业自主权和个体权益,必须成为同等关注的核心议题。

梅斯小编点评

本篇观点文章精准指出了医学AI应用潜在的“隐形威胁”——医生可能被逐渐“量化”管理,成为数据监控对象,而这将严重影响医生的工作满意度和临床独立性。面对以数据驱动的现代医疗,医生绝不能仅仅是劳动力资源,更应成为AI治理的话语主体。未来医学AI伦理和法律体系的建设,将是医学共同体与社会各界的重要任务。我们期待制定出兼顾医疗质量和医生权益的完善规范,同时呼吁医生群体加强组织与参与,在这场前所未有的医疗变革中主动发声,塑造有利于医生与患者的智能医疗未来。

原始出处

Glenn Cohen, J.D., Ifeoma Ajunwa, J.D., L.L.M., Ph.D., Ravi B. Parikh, M.D., M.P.P. Medical AI and Clinician Surveillance — The Risk of Becoming Quantified Workers. N Engl J Med 2025; 392:2289-2291. DOI: 10.1056/NEJMp2502448

相关资料下载:
[AttachmentFileName(sort=1, fileName=3554be15aee08dac08acbb354121d4f9.pdf)] GetArticleByIdResponse(id=321a8832e04c, projectId=1, sourceId=null, title=警惕!NEJM发文:医学 AI 或致医生沦为 “量化工人”,职业自主权受威胁, articleFrom=MedSci原创, journalId=0, copyright=原创, creationTypeList=[1], summary=本篇观点文章精准指出了医学AI应用潜在的“隐形威胁”——医生可能被逐渐“量化”管理,成为数据监控对象,而这将严重影响医生的工作满意度和临床独立性。, cover=https://img.medsci.cn/20250514/1747199813040_8538692.jpg, authorId=0, author=, originalUrl=, linkOutUrl=, content=<p><strong>【核心要点】</strong></p> <ul> <li>医学人工智能(AI)不仅用于辅助患者<a href="https://www.medsci.cn/guideline/list.do?q=%E7%AE%A1%E7%90%86">管理</a>,也可能成为监控医生工作的工具,&ldquo;量化医生&rdquo;现象正在逐步显现。</li> <li>AI环境记录系统、语言分析及电子健康记录(EHR)消息分析,虽能提升医疗质量,却有可能被用于监督医生行为,影响其职业自主权。</li> <li>医生应积极参与AI治理,推动制定《医生人工智能权利保障法案》,以维护职业隐私与自主,防范不合理的职业惩罚风险。</li> </ul> <p><strong>内容概述</strong></p> <p>近期,《新英格兰医学杂志》发表了一项研究,深度剖析了医学AI在临床医生工作中的双刃剑效应。文章指出,当前的AI应用多集中于通过患者数据优化<a href="https://www.medsci.cn/guideline/search?keyword=%E8%AF%8A%E7%96%97">诊疗</a>决策和疾病预测,但更少关注的是基于医生行为数据训练的AI模型,这些技术正可能被医疗机构用于管理和监控医生的日常工作,进而剥夺医生的职业自主权和判断自由。作者呼吁医学界对此保持警觉,积极推动相关法律和伦理框架建设,以防止医生成为&ldquo;量化工人&rdquo;,即被机器算法全程监督和机械管理的对象。</p> <p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://img.medsci.cn/20250619/1750336350383_8624274.png" /></p> <p><strong>研究背景</strong></p> <p>伴随医学人工智能技术的快速发展,许多 AI 工具被设计用于减轻医生文书负担、提升诊疗效率,甚至实现智能辅助<a href="https://www.medsci.cn/guideline/list.do?q=%E8%AF%8A%E6%96%AD">诊断</a>与患者管理。专家系统、大型语言模型等应用已覆盖从放射学影像分析、重症监护患者预警,到胚胎学研究等多个临床领域。虽有法律及伦理专家针对患者隐私、数据偏倚、安全性、责任认定等风险展开大量研究,焦点主要集中在如何利用患者数据提升医疗质量上,而基于医生行为数据训练的AI模型及由此产生的医生监控风险却尚未引起足够重视。</p> <p>当前,医疗系统和保险公司开始尝试量化医生临床行为,例如通过环境录音转写的AI助理(ambient AI scribes)、沟通内容及语义情绪分析、电子健康记录信息回复速度和质量评估等方式,旨在推动质量控制和效率改进。这种监控虽初衷良好,却为将医生变成&ldquo;被监督对象&rdquo;铺平了道路。比如监控医生与患者交谈时间、偏离医疗机构规范的频率,以及基于语言风格评估沟通质量,可能被用于绩效考核,甚至涉及经济处罚和临床合同终止。</p> <p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://img.medsci.cn/20250619/1750336350398_8624274.png" /></p> <p>这种情形与其他行业&ldquo;量化工人&rdquo;(诸如仓储员工、金融分析师)受到AI机械式管理惊人相似:使用键盘敲击记录、屏幕截图监控、位置传感器追踪等手段,对工作效率进行无孔不入的监督,导致员工职业满意度明显下降。医生群体若任由此类监控扩张,将面临职业自主权被大幅削弱的风险。</p> <p><strong>研究主要内容与分析</strong></p> <ol> <li> <p><span style="color: #0d4082;"><strong>环境AI录音转写助理的双重角色</strong></span><br />目前环境AI助理工具大规模推广,旨在减轻医生文书负担并提升记录准确性。系统通过转录医生与患者之间的语音内容,并进行结构化笔记生成,技术进步引入了情绪分析、语言习惯研究等功能,为医疗质量监控提供了新视角。例如,AI可评估医生建议与医院<a href="https://www.medsci.cn/guideline/search">指南</a>偏差,识别所谓&ldquo;效率异常者&rdquo;(如花费过多时间交流,影响接诊量的医生)。这种监测的隐患在于,一旦机构将数据用于严格绩效评价,医生的诊疗行为和时间安排可能被控制,限制临床判断的灵活性。</p> </li> <li> <p><strong><span style="color: #0d4082;">基于语言的绩效评分系统</span></strong><br />AI技术可自动分析医生沟通内容,利用自然语言处理模型开发医患交流评分,如协议依循度、平均访视时间及共享决策的实现情况。虽然这些指标本可作为质控工具,但往往易被医疗机构用作人员评价和保险付费的依据,从而对医生构成职业压力。</p> </li> <li> <p><strong><span style="color: #0d4082;">电子健康记录患者信息处理中的AI应用监控潜力</span></strong><br />AI辅助系统能够自动分类并筛选患者通过电子健康记录系统发送的信息,智能提出建议或交由医生处理。这虽然有效提升了医生的工作效率,但也可能被用来追踪医生回复速度、信息质量、情感表达及诊断判断是否符合预期模式。AI生成回应甚至已表现出超越医生的共情力,这意味着医生的文本沟通若偏离AI评估的&ldquo;理想标准&rdquo;,可能遭遇患者满意度下降并带来经济制裁。</p> </li> <li> <p><strong><span style="color: #0d4082;">&ldquo;量化医生&rdquo;案例与法律风险</span></strong><br />历史案例显示,医院已利用电子记录的时间戳及数据间断判定医生工作失误,导致职业责任风险增加。未来AI生成更详尽的医生工作数据,提升病人安全的同时,医生的法律风险和职业压力不可避免地提升。尤其对职场中处于弱势的医生群体来说,这种压力尤为沉重。</p> </li> <li> <p><span style="color: #0d4082;"><strong>反击策略与倡议</strong></span><br />当前其他行业遭遇AI监控时,员工采取技术性对抗措施(如人为扰动鼠标),以及借助舆论监督(媒体曝光不合理监控)取得一定成效。医生群体应结合自身特殊性,推动&ldquo;AI治理委员会&rdquo;成立,参与制定合理AI使用规则,签订协议防止AI数据滥用于惩罚性决策,并推动完善隐私保护。工会组织的力量也不可忽视,最近护理工会抵制了某医疗机构AI机器人客服的部署。医生也可依托《职业安全与健康法案》坚持拒绝存在潜在工作安全隐患的AI技术,虽然相关案例尚少但具有潜在法律价值。</p> </li> </ol> <ol start="6"> <li><strong><span style="color: #0d4082;">《医生人工智能权利保障法案》的蓝图</span></strong><br />文章建议制定专门的权利保障法案,明确医生在AI时代的信息知情权、参与权、隐私权以及质量保障权,例如:</li> </ol> <ul> <li>明确医疗机构需告知医生AI介入监控的具体内容及范围;</li> <li>医生有权参与AI工具的配置及实施管理,表达担忧而不受处罚;</li> <li>医疗机构需明确共享AI监控数据的范围及使用目的,优先保护医生隐私;</li> <li>启用AI前后需进行安全和效能评估,结果向医生公开透明。</li> </ul> <p><strong>研究价值与意义</strong></p> <p>医学人工智能发展势不可挡,AI辅助工具极大优化了医疗流程、减少文书负担、提升诊疗质量。然而,医生作为AI工具使用的主体,同样面临被技术监督和量化管理的挑战。失去临床判断自主权不仅损害医生职业尊严,也可能间接影响患者个体化医疗的实现。医学界应汲取其他行业因无序AI监控带来员工满意度降低的教训,确保AI治理进入合规、透明、参与和公正轨道。同时推动法律框架建设,赋予医生明晰保护权利。在AI革命浪潮中,医生的职业自主权和个体权益,必须成为同等关注的核心议题。</p> <p><strong>梅斯小编点评</strong></p> <p>本篇观点文章<a href="https://www.medsci.cn/search?q=%E7%B2%BE%E5%87%86">精准</a>指出了医学AI应用潜在的&ldquo;隐形威胁&rdquo;&mdash;&mdash;医生可能被逐渐&ldquo;量化&rdquo;管理,成为数据监控对象,而这将严重影响医生的工作满意度和临床独立性。面对以数据驱动的现代医疗,医生绝不能仅仅是劳动力资源,更应成为AI治理的话语主体。未来医学AI伦理和法律体系的建设,将是医学共同体与社会各界的重要任务。我们期待制定出兼顾医疗质量和医生权益的完善规范,同时呼吁医生群体加强组织与参与,在这场前所未有的医疗变革中主动发声,塑造有利于医生与患者的智能医疗未来。</p> <p><span style="color: #808080; font-size: 12px;">原始出处</span></p> <p><span style="color: #808080; font-size: 12px;">Glenn Cohen, J.D., Ifeoma Ajunwa, J.D., L.L.M., Ph.D., Ravi B. Parikh, M.D., M.P.P. Medical AI and Clinician Surveillance &mdash; The Risk of Becoming Quantified Workers. N Engl J Med 2025; 392:2289-2291. DOI: 10.1056/NEJMp2502448</span></p>, belongTo=, tagList=[TagDto(tagId=66946, tagName=医学人工智能)], categoryList=[CategoryDto(categoryId=33, categoryName=政策人文, tenant=100), CategoryDto(categoryId=72, categoryName=人工智能, tenant=100), CategoryDto(categoryId=84, categoryName=研究进展, tenant=100), CategoryDto(categoryId=20656, categoryName=梅斯医学, tenant=100)], articleKeywordId=0, articleKeyword=, articleKeywordNum=6, guiderKeywordId=0, guiderKeyword=, guiderKeywordNum=6, opened=1, paymentType=1, paymentAmount=0, recommend=0, recommendEndTime=null, sticky=0, stickyEndTime=null, allHits=1512, appHits=5, showAppHits=0, pcHits=84, showPcHits=1507, likes=0, shares=1, comments=0, approvalStatus=1, publishedTime=Fri Jun 20 11:01:00 CST 2025, publishedTimeString=2025-06-20, pcVisible=1, appVisible=1, editorId=6556165, editor=政策人文, waterMark=0, formatted=0, deleted=0, version=6, createdBy=98af8624274, createdName=清泉心田, createdTime=Thu Jun 19 20:31:18 CST 2025, updatedBy=92910, updatedName=rayms, updatedTime=Fri Jun 20 11:01:26 CST 2025, ipAttribution=上海, attachmentFileNameList=[AttachmentFileName(sort=1, fileName=3554be15aee08dac08acbb354121d4f9.pdf)], guideDownload=1, surveyId=null, surveyIdStr=null, surveyName=null, pushMsXiaoZhi=true, qaList=[{id=685234, encryptionId=6eed68523480, articleId=321a8832e04c, userName=administrator, question=历史上有哪些‘量化医生’导致法律风险的案例?, answer=医院曾利用电子记录的时间戳判定医生工作失误(如数据间断视为疏忽),未来AI生成更详尽的工作数据可能进一步放大此类法律风险,尤其对弱势医生群体影响更甚。, clickNum=0, type=article, createdAt=1750389483595, updatedAt=1750389483595}, {id=685232, encryptionId=bc086852321c, articleId=321a8832e04c, userName=administrator, question=《医生人工智能权利保障法案》应包括哪些核心权利?, answer=法案应保障医生的AI知情权(监控内容透明)、参与权(配置管理发言权)、隐私权(数据使用限制)及质量评估权(安全效能公开),例如医疗机构必须告知AI监控范围及目的。, clickNum=0, type=article, createdAt=1750389483595, updatedAt=1750389483595}])
3554be15aee08dac08acbb354121d4f9.pdf
评论区 (1)
#插入话题
  1. [GetPortalCommentsPageByObjectIdResponse(id=2270170, encodeId=4f3522e017076, content=<a href='/topic/show?id=89493400990' target=_blank style='color:#2F92EE;'>#医学人工智能#</a>, beContent=null, objectType=article, channel=null, level=null, likeNumber=13, replyNumber=0, topicName=null, topicId=null, topicList=[TopicDto(id=34009, encryptionId=89493400990, topicName=医学人工智能)], attachment=null, authenticateStatus=null, createdAvatar=null, createdBy=cade5395722, createdName=梅斯管理员, createdTime=Fri Jun 20 11:01:26 CST 2025, time=2025-06-20, status=1, ipAttribution=上海)]
    2025-06-20 梅斯管理员 来自上海

相关资讯

人工智能能否取代医生?多名院士共议“医学重要的技术”

未来医学最重要的技术是什么?在近日举行的第十届吴孟超基金会颁奖典礼暨第八届《康复·生命新知》医学高端论坛上,现场300位医学专家的投票显示,人工智能和基因治疗得票率最高。那么人工智能是否会取代医生?投票显示,76%的专家认为人工智能能辅助医生,而仅有5%的专家认为人工智能能取代医生。芬兰国家PET中心高级研究员韩春雷教授指出,拿医学影像技术举例,现在大量的医学影像数据越来越多,很多数据是3D,甚至

东部战区总医院与数坤合作 打造全国很大CT-FFR多中心(研究)

近日,来自全国34家医院60余位影像领域专家齐聚江苏,共同探讨CT血流储备分数(CT-FFR)在中国的科研发展方向与趋势。

数坤科技再融7亿元 数字人体平台获全球明星资本加持

2021年7月末,数坤科技完成新一轮7亿元融资,投资方包括全球知名资本高盛资管、春华资本、红杉资本中国基金、远毅资本、简街亚洲、锐智资本、WT 聚焦中国基金、未来启创基金。

Diabetologia:基于人工智能的深度学习算法诊断糖尿病神经病变

角膜共聚焦显微镜是一种快速的非侵入性眼科成像技术,可鉴别周围和中枢神经退行性疾病。