【协和医学杂志】ChatGPT赋能护理实践：前景、风险及对策

随着我国经济的快速发展以及人口老龄化程度的不断加深，医疗护理资源供需失衡矛盾日益凸显。2022年8月，科技部印发《关于支持建设新一代人工智能示范应用场景的通知》^[1]，指出“要建立人工智能赋能医疗服务新模式”，为人工智能嵌入护理实践指明了方向。

近年来，计算机算法的改进以及计算能力的提高推动了人工智能在医疗护理领域的广泛应用^[2]。自然语言处理作为人工智能的一个分支^[3]，与其相关的技术也在不断进步和发展中，推动了智能语音交互系统的迭代升级，ChatGPT由此登上人类舞台。

ChatGPT是由美国人工智能研究实验室OpenAI开发的大型语言模型，其基于海量文本语料数据库训练，利用深度学习技术优化数据分析^[4]，可理解和响应用户指令，执行包括文本创作、语言翻译和问答等多种自然语言处理任务^[5-6]，在推动护理范式转变，赋能护理实践方面具有积极作用。

然而，新生事物的出现往往伴随着对其负面影响的忧虑，技术盲区、数字依赖、伦理困境等问题迅速引发人们的思考和重视。本文旨在探讨ChatGPT在护理实践中的应用前景，揭示其潜在风险，并提出相关应对策略，为其在护理实践中的推广应用提供指导和参考。

1 应用前景

ChatGPT的推出掀起了一场里程碑式的技术革命，尽管目前其在医疗健康领域的应用刚刚起步，并未广泛投入使用，但其在护理实践中的巨大潜力和重要价值不容小觑。

1.1 临床护理助手

ChatGPT互动性的人机会话交互模式在理解用户意图、生成类人文本以及进行深度分析决策方面是任何目前广泛使用的其他搜索技术无法比拟的。Grünebaum等^[7]通过一系列产科问题，对ChatGPT当前性能进行评估，在预防孕期早产相关问题方面，发现ChatGPT通过陈列干预措施清单，可提示针对患者需求进行早期和定期产前护理的必要性；早期识别孕期家暴和亲密伴侣暴力作为产前护理的重要组成部分，ChatGPT建议需加强与患者的沟通交流并与之建立信任关系，可利用标准化筛查工具早期识别当前可能面临伤害风险的妇女，并为之提供支持资源，充分展示出其对广泛的医疗保健问题提供即时的个性化响应以及辅助护理决策的能力。

ChatGPT还可集成电子信息系统生成结构化数据^[8]，实现患者信息、临床规范以及资源的互动整合，有助于减少重复的护理文书工作，改进工作流程，提高工作效率，助力智慧护理的发展，并在实现无障碍护患交流、紧急患者分诊、智能化病房管理等诸多方面具有潜在应用价值^[5,8-9]。

在临床护理研究工作中，其强大的语言翻译、知识问答、文本总结、数据收集、写作辅助等功能可帮助护理研究人员从海量数据信息中快速搜索和识别研究空白，创建新的护理研究假说，并在研究计划制订和实施、数据分析和解释以及结果识别和提炼中发挥简化研究过程、节省研究时间、提高研究效率、把握和集中研究重点的支持作用^[10]。

1.2 患者健康管家

在当前以患者为中心的医疗保健模式下，ChatGPT不仅可作为护患交流的“门户”，还能扮演“患者健康管家”的角色。其可通过收集患者健康相关信息，分析包括既往史、现病史、生活方式等因素与患者健康状况之间的量化关系，早期预测和识别患者健康风险并进行健康监测和管理；通过改变患者信息获取方式^[11]，为患者健康相关问题提供即时解答，自动推送定制化的健康知识和建议，更好地引导患者把健康理念和健康计划转化为健康行动，在减轻医疗保健提供者教育负担的同时提高健康教育效果；可为患者推荐个性化和综合性的健康管理方案并监督实施，便于患者理解执行的同时提高其对医疗保健的依从性，指导患者改变不健康行为，提高患者健康素养和自我管理能力，改善患者健康结局^[7,12]。

例如，对于心血管疾病患者来说，ChatGPT可通过分析患者医疗记录和健康数据识别导致疾病风险的潜在因素，如吸烟、肥胖、不良饮食习惯等，并根据患者的年龄、病史、疾病谱等提供针对特定心血管疾病的最优治疗方案和个性化的运动饮食调整策略。同时，其可通过对话形式为患者提供健康状况的即时反馈，解释当前的治疗选择以及潜在的风险/获益，帮助患者更好地了解治疗护理措施，提高对治疗护理计划的依从性，改善患者心血管健康状况^[13]。

当前全球糖尿病形势依然严峻，疾病知晓率和控制率低、老龄化加剧等因素进一步增加了糖尿病疾病负担^[14]，糖尿病患者健康管理现状不容乐观，而糖尿病教育在帮助患者了解病情、管理症状以及提高生活质量方面可发挥重要作用。ChatGPT在糖尿病教育中的关键优势在于其可提供实时交互式的患者教育和支持，通过将宽泛复杂的医疗信息转化成通俗易懂的语言，并根据患者的具体需求和偏好量身定制教育内容，提高患者治疗积极性和参与度。研究表明，接受ChatGPT系统教育和支持的糖尿病患者自我管理能力明显改善，治疗效果更加显著^[15]，提示ChatGPT在推动慢病管理、远程护理变革中具有广阔的应用空间。

1.3 智能患者伴侣

随着我国人口老龄化进程的加快，对于患有精神障碍或神经系统疾病（如抑郁症、阿尔茨海默症）的老年群体来说，ChatGPT聊天机器人可通过增强老年群体的社会互动性，满足其情感需求，降低社会孤立的风险，实现健康行为促进，弥补陪伴缺失。失语症患者也可从ChatGPT聊天机器人中受益，在与大型语言模型的互动中恢复语言交流和理解能力，在延缓疾病退行过程中达到治疗目的^[16]。

未来也可将其应用于此类患者的语音脑机接口开发中，通过建立人脑与外部设备之间的新型信息交流与控制通道，实现生命技术与信息技术的交叉融合。著名精神病学家Anthony Anderson提出了为妊娠人群服务的 ChatGPT，其可通过为用户孕产期相关问题提供个性化的建议和解答，为缓解孕期不良情绪提供情感支持和应对策略，有望成为孕期准妈妈获取信息的绝佳资源和完美伴侣^[17]。

2 潜在风险

尽管ChatGPT已在护理领域中显示出巨大的应用潜能，但科学技术具有两面性，ChatGPT也无法做到独善其身，其赋能护理实践亦面临不容忽视的限制与挑战^[18-19]。

2.1 建构不足诱发护理差错

ChatGPT作为一种新生事物，目前尚处于发展的早期探索阶段，人工智能的数据学习与分析能力在很大程度上依托于可用训练数据库^[20]。然而，ChatGPT基于通用文本信息数据库而非特定的医疗数据库进行训练，信息收录截至2021年，知识更新有限，信息输出存在知识盲区，有时效性不足和可靠性欠缺的风险。同时，其在信息交互中可能产生似是而非的错误答案，形成“幻觉现象”^[21-22]，并在训练模型的未来迭代中被回收和放大，若未经筛选，不加甄别，则会对患者和护理人员产生误导。

此外，ChatGPT尚缺乏对复杂医学概念和语言细微差别的理解，批判性推理能力不足使其对于专业性较强的问题尚无法提供有深度和有洞见性的答案，且无法为自己的响应负责，可能导致护理决策失误，影响患者疾病的正常转归，甚至造成患者死亡等重大不良事件的发生，构成安全隐患问题，从根本上限制其在护理实践中的推广应用^[23]。

2.2“数字依赖”异化护患关系

ChatGPT在实现信息精准投喂的同时，也存在使患者和护理人员患上“数字依赖症”的风险。数字依赖主要表现为个体过分夸大数字技术作为工具、手段和方法的作用，迷失于数据的直观、科学和全面性，产生数字崇拜，且随着算法程序的逐渐完善，算法决策和体验度更加匹配使用者偏好，很容易导致主体自主性消弭、批判性思维丧失以及认知与实践分裂，成为数据操控下的“提线木偶”^[24]。

一方面，由于人类天生易被拟人化实体所吸引，ChatGPT生成的类人响应更自然地被信任和关注，患者可能会越来越多地从中寻求与自身相关的护理信息或进行自我诊断，不仅会窄化患者信息获取渠道，还可能导致护患共情和情感交流被冰冷的技术理性和逻辑所取代；

另一方面，护理人员对此类聊天机器人的过度依赖也会影响其工作动机和技能,当护理咨询和决策更多地由智能聊天机器人提供时，这种转变将与患者对护理人员的期望产生冲突，极大增加了患者对医疗保健服务的信任危机，导致护患关系紧张^[25-26]。

2.3 信息忧虑引发伦理考量

信息安全问题一直是人工智能信息系统的关键问题。相较于一般的信息系统，护理信息系统和平台与患者大量隐私及敏感信息紧密相关。ChatGPT依靠训练数据库和算法技术对海量患者信息进行分析整合，然而其无差别的信息获取和挖掘方式也引发了对患者隐私安全问题的担忧。敏感的患者信息在交互中被收集，又很难做到公共空间与个人私密空间界限的彻底划分。

患者作为信息主体不仅面临着被监控的风险，还可能会因为数据的复制和转移、系统的迭代更新以及外来不法攻击而造成隐私泄露、数据挪用，引发数据共享与隐私保护之间的对立冲突，也关系到医疗保健领域患者信息获取的正当性和合规性问题。同时，基于大型训练语言模型稀释过滤的语料仍存在隐晦的基于性别、文化、地域、疾病等的倾向性偏见^[27]，不仅在一定程度上影响患者的护理体验，还可能影响护理服务的公平性，甚至激化社会矛盾。

3 应对策略

ChatGPT类人工智能以技术变革构建护理发展新业态和新模式，为护理实践的数字化转型带来了更多可能，只有加强监管、科学引导、合理应用,才是应对ChatGPT类生成式人工智能挑战的有效策略。

3.1 构建监管机制，明确责任主体

人工智能实施过程中隐藏的安全问题目前仍缺乏监管和约束^[28]，因此，制定统一、规范、权威的人工智能数据实施标准是未来护理大语言模型发展的关键所在。应构建算法实施全过程监督评价体系，分级分类规范人工智能护理实践应用场景，协同利益相关者共同参与制定服务和质量标准，并根据标准临床实践对其进行人工审核和验证，持续监测其性能，以减少实施偏差，确保其提供安全有效的护理服务。

同时，ChatGPT类人工智能体在实际应用中虽然在一定程度上获取了某种类主体地位，但因其实体虚无的特性，一旦由于系统决策失误而引发护理过失、差错或不良事件时，尚无法作为安全实践相关行为完全的责任载体^[29]，因此，需将明确主体责任，坚持主体问责导向作为防止过度依赖、应对护理安全隐患的有效威慑手段。

我国互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》^[30]已于2023年8月15日正式施行,这是我国首个针对生成式人工智能产业的规范性政策，在制定技术发展准则、明确服务规范的同时，也进一步推动了ChatGPT类生成式人工智能的应用生态发展。

3.2 破除“信息茧房”，提升数字素养

数字素养是公民数字化社会生存的基本技能^[31]，是包括数字获取、交流、整合等技术特性以及与之相关的思维和行为模式的综合素质与能力的集合。

一方面，应加强对患者的大数据素养教育，引导其在运用智能资源时保持审慎客观的立场和理性的价值判断，避免被算法裹挟，同时通过拓宽患者信息接收渠道，加强信息对比和验证，破除“信息茧房”桎梏，促使其在人工智能时代的适应性学习中掌握信息主动权。

另一方面，应构建高效科学的护士数字化培训体系和平台，注重护士软技能的培养和提高，引领护理人员在数字健康护理实践中的成功转型。此外，还可通过设计和开发数字素养评测工具了解护患数字健康素养现状并识别相关影响因素，为适应和推动护理模式转变、提升患者和医疗保健提供者的数字健康素养水平制定应对策略，助力良好护患关系的建立和维护，提高护理服务质量和护理满意度。

3.3 管控信息“裸奔”，规避算法歧视

患者数据的开发和收集是ChatGPT类人工智能得以在临床应用的基础，而患者隐私保护也是其可持续发展的重要保障。

一方面，需健全患者个人信息和隐私安全的法律法规，厘清信息管理者的数据使用权责；通过装备患者信息安全的技术保障机制，实现信息差异化管理和一体化保护；实施数据安全系统的定期维护和升级，通过采用强化数据运行全周期监管、实施数据加密处理等手段来防范数据泄露风险。

另一方面，算法歧视作为现实歧视在算法世界的延伸，阻碍了人工智能技术的健康应用，应从法律层面加强我国场域内的算法歧视生态环境治理，规范算法使用范围、方式和界限，同时应发挥主流价值观和人工价值观的协同引领，加强护理人员职业道德建设，并提高患者的防范和维权意识，实现算法歧视的多方监管和多措并举，维护健康公平。

4 小结

综上所述，ChatGPT在提高护理质量，促进患者健康管理，实现智能患者陪伴等方面具有良好的应用前景。然而，目前其在护理实践中的应用尚处于初步探索阶段，在临床实用性、信息安全性等方面仍存在争议，但不可否认的是，大数据时代下以ChatGPT为代表的人工智能应用极大影响护理实践的新时代似乎已经到来，如何更好地在实践中融合和释放信息技术红利是值得深入探究的问题。

未来需开展长期、多中心、大样本的高质量随机对照试验以进一步验证ChatGPT在护理实践中的可用性，并加强我国本土化ChatGPT实用程序的研究，拓宽其在护理实践中的应用空间，推动我国护理事业发展再上新台阶。

参考文献

［1］中华人民共和国科学技术部.关于支持建设新—代人工智能示范应用场景的通知［EB/OL］.(2022-08-15)［2022-11-14］.https://www.most.gov.cn/xxgk/xinxifen lei/fdzdgknr/qtwj/qtwj2022/202208/t20220815_181874.html.

［2］Clancy TR. Artificial Intelligence and Nursing: The Future Is Now［J］.J Nurs Adm,2020,50:125-127.

［3］Van Bulck L, Couturier R, Moons P. Applications of artificial intelligence for nursing: has a new era arrived?［J］.Eur J Cardiovasc Nurs,2023,22:e19-e20.

［4］Kung TH, Cheatham M, Medenilla A, et al. Performance of ChatGPT on USMLE: Potential for AI-assisted medical education using large language models［J］.PLoS Digit Health,2023,2:e0000198.

［5］Scerri A, Morin KH. Using chatbots like ChatGPT to support nursing practice［J］. J Clin Nurs， 2023,32:4211-4213.

［6］Dergaa I, Chamari K, Zmijewski P, et al. From human writing to artificialintelligence generated text: examining the prospects and potential threats of ChatGPT in academic writing［J］.Biol Sport,2023,40:615-622.

［7］Grünebaum A, Chervenak J, Pollet SL, et al. The exciting potential for ChatGPT in obstetrics and gynecology［J］. Am J Obstet Gynecol,2023,228:696-705.

［8］Kleesiek J, Wu Y, Stiglic G, et al. An Opinion on ChatGPT inHealth Care-Written by Humans Only［J］. J Nucl Med, 2023,64:701-703.

［9］D'Amico RS, White TG, Shah HA, et al. I Asked a ChatGPT to Write anEditorial About How We Can Incorporate Chatbots Into Neurosurgical Researchand Patient Care［J］.Neurosurgery,2023,92:663-664.

［10］Moons P, Van Bulck L. ChatGPT: Can artificial intelligence language models be of value for cardiovascular nurses and allied health professionals［J］.EurJ Cardiovasc Nurs,2023. doi: 10.1093/eurjcn/zvad022.

［11］Hopkins AM, Logan JM, Kichenadasse G, et al. Artificial intelligence chatbots will revolutionize how cancer patients access information: ChatGPT represents a paradigm-shift［J］.JNCI Cancer Spectr,2023,7:pkad010.

［12］Sng GGR, Tung JYM, Lim DYZ, et al. Potential and Pitfalls of ChatGPTand Natural-Language Artificial Intelli-gence Models for Diabetes Education［J］.Diabetes Care,2023,46:e103-e105..

［13］Gala D, Makaryus AN. The Utility of Language Models in Cardiology: ANarrative Review of the Benefits and Concerns of ChatGPT-4［J］. Int J Environ Res Public Health,2023,20:6438.

［14］Lovic D, Piperidou A, Zografou I, et al. The Growing Epidemic of Diabetes Mellitus［J］. Curr Vasc Pharmacol,2020,18:104-109.

［15］Sagstad MH, Morken NH, Lund A, et al. Quantitative user data from a chatbot developed for women with gestational diabetes mellitus: observational study［J］. JMIR Form Res,2022, 6:e28091.

［16］None.Will ChatGPT transform healthcare?［J］.Nat Med,2023,29:505-506.

［17］杨玲.ChatGPT能成为优生工作的好帮手吗？［J］.中国优生与遗传杂志,2023,31:431-432.

［18］Krüger L, Krotsetis S,OpenAI's Generative Pretrained Transformer 3 (GPT-3) Model, et al. ChatGPT: Fluch oder Segen in der Pflege? ［ChatGPT:curse or blessing in nursing care?］［J］.Med Klin Intensivmed Notfmed,2023.doi:10.1007/s00063-023-01038-3.

［19］Dave T, Athaluri SA, Singh S. ChatGPT in medicine: an overview of its applications, advantages, limitations, future prospects, and ethical considerations［J］. Front Artif Intell,2023,6:1169595.

［20］Chand M, Ramachandran N, Stoyanov D, et al. Robotics, artificial intelligence and distributed ledgers in surgery: data is key!［J］.Tech Coloproctol,2018,22:645-648.

［21］Sallam M. ChatGPT Utility in Healthcare Education, Research, andPractice:Systematic Review on the Promising Perspectives and Valid Concerns［J］.Healthcare (Basel),2023,11:887.

［22］Blanchard F, Assefi M, Gatulle N, et al. ChatGPT in the world of medical research: From how it works to how to use it［J］.Anaesth Crit Care Pain Med,2023,42:101231.

［23］Palanica A, Flaschner P, Thommandram A, et al. Physicians' Perceptions of Chatbots in Health Care: Cross-pal Web-BasedSurvey［J］.J Med Internet Res,2019,21:e12887.

［24］Flott K, Maguire J, Phillips N. Digital safety: the next frontier for patientsafety［J］.Future Healthc J,2021,8:e598-e601.

［25］Parviainen J, Rantala J. Chatbot breakthrough in the 2020s? An ethical reflection on the trend of automated consultations in health care［J］.Med Health Care Philos,2022,25:61-71.

［26］Beltrami EJ, Grant-Kels JM. Consulting ChatGPT: Ethical dilemmasin language model artificial intelligence［J］.J Am Acad Dermatol,2023. doi:10.1016/j.jaad.2023.02.052.

［27］Obermeyer Z, Powers B, Vogeli C, et al. Dissecting racial bias in an algorithm used to manage the health of populations［J］.Science,2019,366:447-453.

［28］O'Sullivan S, Nevejans N, Allen C, et al. Legal, regula-tory, andethical frameworks for development of standards in artificial intelligence (AI) and autonomous robotic surgery［J］.Int J Med Robot,2019,15:e1968.

［29］高奇琦,张蓥文.主体弥散化与主体责任的终结：ChatGPT对全球安全实践的影响［J］.国际安全研究,2023(3):3-27.

［30］国家互联网信息办公室,中华人民共和国国家发展和改革委员会,中华人民共和国教育部,等.生成式人工智能服务管理暂行办法［EB/OL］.(2023-07-10)［2023-09-28］.https://www.gov.cn/zhengce/zhengceku/202307/

content_6891752.htm.

［31］李正风,王硕.数字素养、数据权利与数字伦理［J］.科普研究,2022,17:8-14+108.