人工智能在共享决策中的应用:范围综述

介绍

共同决策

共享决策(SDM)是指患者和医疗保健提供者根据最新的医学证据和患者的偏好和价值观合作做出决策的过程[1]。在这个过程中，医疗保健提供者向患者提供筛查或治疗的选择，以及每种选择的危害和益处的证据。患者被邀请并支持表达他们的偏好和价值观，最终，患者和他们的医疗保健提供者共同做出最符合患者偏好和价值观的决定[1]。因此，最终的共同决定是由最好的证据和对病人最重要的因素决定的[2]。SDM在临床实践中的应用受到限制[3.-5]。卫生保健提供者最常报告的原因是时间压力，由于患者特征而缺乏适用性，以及临床情况[6]。

Elwyn等[7，8]提出了临床实践的三步模型，包括团队谈话、选择谈话和决策谈话。在团队谈话中，需要在患者提出选择时提供支持，并引出他们的目标来指导决策。期权谈话包括提供更多关于这些期权的信息，并通过风险沟通对它们进行比较。最后，在决策谈话中，医疗保健提供者根据他们的经验和专业知识指导患者做出决定，这反映了患者的知情偏好。该模型旨在简化流程，以便卫生保健提供者能够将SDM和患者决策支持整合到他们的实践中。尽管如此，在临床实践中使用SDM面临着可能通过使用人工智能(AI)来缓解的障碍。

人工智能及其在医疗保健领域的潜力

人工智能，定义为“计算智能”或“制造智能机器的科学和工程”[9]，描述了在计算机和技术中模拟智能、类人行为这一快速发展的领域[10]。人工智能可以为卫生保健提供者和患者提供决策支持。机器学习是人工智能的一个子领域，它使计算机能够在没有明确编程的情况下从数据中学习[11，12]。为计算机提供大量数据集，并学会作出准确的预测，例如在不同环境下，包括在初级保健中对个人健康结果的诊断和预测[13]，识别模式和趋势，并从以往的经验中学习[14]。

在过去的20年里，人工智能已经应用于各个领域，例如电信[15]、金融服务[16]和医疗保健[17]。人工智能在包括放射学在内的多个领域显示出可喜的成果[18]，眼科[19]，心脏病学[20.]，骨科[21]和病理学[22]。例如，在医学成像中，人工智能可用于评估x射线，从而减少卫生保健提供者的工作量[23]。它也有可能帮助卫生保健提供者评估患者的健康风险，提高干预和治疗的效率和效果，使患者能够更好地了解自己的健康状况和自我管理自己的病情，减少等待时间和成本，并最终改善护理质量和患者的治疗结果[24-26]。

人工智能有可能通过为决策提供信息和允许医疗保健提供者将精力集中在花更多时间与患者在一起来促进SDM [27]。人工智能工具提供了各种各样的信息，能够分析大量数据并发现研究人员和医疗保健提供者可能错过的相关性[28]。关于使用人工智能进行健康决策背后的生物伦理和障碍，有越来越多的文献[27患者和医疗保健提供者对基于人工智能的决策辅助的看法[29以及如何将其纳入以确保医疗保健以病人为中心。然而，对于人工智能在SDM中的实际应用，以及人工智能如何促进SDM的决策步骤，人们知之甚少。因此，我们的目标是通过对现有知识的范围审查来系统地检查在SDM中使用AI的证据。

目的与研究问题

范围审查的目的是检查在SDM中使用人工智能的证据，即探索已经完成的工作以及在SDM中使用人工智能可能存在的未来角色。

我们的具体研究问题如下:(1)在SDM中使用人工智能干预的现有知识是什么?(2)人工智能如何用于SDM的决策点?

方法

研究设计

Levac等人提出的范围审查方法框架[30.]、对原有范围检讨架构的修改[31]，以及乔安娜布里格斯研究所的范围评估方法指南[32]被用来指导这项研究。我们制定了以下步骤的方案:(1)确定研究问题;(2)确定相关研究;(3)采用迭代团队方法进行研究选择和数据提取;(四)用数字摘要绘制数据图表;(五)整理、汇总、报告研究结果;(6)定期查阅结果。本协议已注册并可在开放科学框架网站[33]。我们按照已发表的方案完成了这项综述。最后，我们使用PRISMA-ScR(系统评价和荟萃分析扩展范围评价的首选报告项目)清单进行报告[34]。填妥的PRISMA-ScR检查表可在多媒体附录1．

合格标准

定义了搜索的资格标准人群、干预、比较、结果、环境和研究设计组件(35]。

人口

提供卫生保健的任何人群(如全科医生、护士、社会工作者、药剂师和公共卫生从业人员)和接受护理的任何个人(如患者及其家属和照顾者)均被纳入研究范围。

干预

在临床SDM过程中实施或测试的任何人工智能干预措施都包括在研究中。AI的定义是根据McCarthy [9]和Russell等人[36]。人工智能干预包括专家系统、知识表示、涉及预测模型的机器学习、强化学习、自然语言处理和计算机视觉。如果在SDM中的决策点没有使用人工智能干预，则将其排除在外。我们将SDM定义为如果发生以下三个步骤，则发生的过程:(1)团队讨论，(2)选项讨论，和(3)决策讨论[7，8]。

比较者或控制者

没有限制。

结果

任何与患者、卫生保健提供者或卫生保健系统相关的结果都包括在本研究中。

环境与研究设计

在任何卫生保健机构(如初级保健和二级保健)进行的研究;所有采用定性、定量和混合方法设计的研究;而且只包括用英语发表的研究。综述、评论文章、社论、评论、新闻文章、信件和会议摘要被排除在外。

信息源与搜索策略

全面的文献检索是由一位经验丰富的信息专家与研究团队协商后设计和实施的。种子文章由团队中的专家确定，最终的搜索策略由主要作者审查。文献检索的过程是迭代的。以下6个电子数据库从建立到2021年5月被检索到:MEDLINE (Ovid)， EMBASE (Ovid)， Web of Science Core Collection, CINAHL, Cochrane Library (CENTRAL)和IEEE Xplore Digital Library。人工检索纳入研究的参考文献列表。检索到的记录使用EndNote X9.2 (Clarivate)进行管理，并导入到DistillerSR审查软件(Evidence Partners)中，以方便选择过程。每个数据库的最终搜索策略和关键词可根据要求提供。

研究选择过程

我们删除了重复的内容，然后使用标准化的纳入标准网格对1级(标题和摘要)和2级(全文)筛选应用纳入标准。对55项研究(占458次引用总数的12%)进行了一级筛选的先导试验。一旦熟悉感兴趣的文献，我们修改先验的资格标准，以调整我们的研究选择在必要的地方。随后，两位审稿人(PG、MC和YH)独立筛选了标题和摘要。记录排除原因，以便全文选择。任何关于纳入研究的分歧都由第三方审稿人(SAR)解决。

数据项和数据收集过程

根据团队成员的反馈起草并最终确定了数据提取表。提取数据的要素包括研究特征(如发表年份、通讯作者所属国家和研究环境)、人工智能干预的特征(如干预目的、使用的方法/技术、数据源和绩效)、最终用户参与干预开发的情况(如卫生保健提供者和患者)、人工智能干预的各个方面(如人工智能的可解释性和干预的可重复性)、人工智能是否被实施或测试，人工智能干预如何用于SDM中的决策，以及结果(例如，与患者、卫生保健提供者和卫生保健系统相关的结果)。共有2名审稿人(YH、PG和MC)独立地从每个纳入的研究中提取相关数据。所有数据均由第三方审稿人(SAR)验证。

关键的评价

与在范围审查中提出的方法指导框架一致，我们没有进行质量评估。在范围界定检讨中进行批判性评估并非强制性的[30.-32]。

合成

我们使用描述性统计总结了我们的发现，并进行了叙述性综合，描述了人工智能干预的特征，最终用户是否参与了开发和/或其验证，人工智能干预如何支持SDM的决策点，以及如果在临床环境中实施它会产生什么结果。我们通过Popay等人发表的工作和工具包来了解我们的合成[37]，题为“在系统评论中进行叙事综合的指导”。具体而言，我们进行了主题分析，并以归纳的方式确定了所纳入研究的3个主题(最终用户的参与、人工智能干预的结果和人工智能干预的决策点)。这使我们能够全面地组织和展示我们的结果。

咨询

结果提供给团队成员以供他们反馈。在第10届国际共享决策会议和北美初级保健研究小组年会上，由第一作者(SAR)主持的2个研讨会也向研究人员和卫生保健提供者提供了研究的最新情况。

结果

研究流程

搜索过程从选定的电子数据库中得到1445条记录，其中551条被排除为重复。在剩余的894项研究中，我们在1级筛选中排除了677项研究，因为它们不符合纳入标准，其余217项研究进行了全文审查。人工检索引文(n=227)，其中3篇研究被检索并评估其合格性。在参考文献检索中未发现符合条件的研究。最终有6篇文章符合我们的入选标准(图1)。在6篇文章中，有2篇提到了同一项研究[38，39]。包含文章的完整列表及其详细信息可在多媒体附录2［34-39]。

‎ 查看此图

纳入物品的特征

自2017年以来，每年发表的研究数量有所增加，其中大多数在北美和欧洲进行。纳入研究的分布和出版日期载于图2．

‎ 查看此图

人工智能特征——目的、发展、数据集和性能

在表1，我们强调了所纳入研究的人工智能特征，例如所使用的人工智能方法、数据集的特征和性能指标。

在收录的文章中，所有文章都将机器学习作为人工智能的类型。只有2篇文章介绍了用于开发人工智能干预的数据集的信息[42，43]，有1篇文章报道了他们干预的表现准确性(0.76)[42]。

大多数纳入的文章(n=4)没有报告用于开发人工智能干预的数据集;在这些研究中(n=2)，只有1个报告了患者数据的性别分布[42]，两者都在数据集中提供了有关患者年龄(平均或范围)的信息。只有1篇文章特别提到了用于开发和测试其干预措施的数据细分[42]，但没有报告两次故障的数据集特征。纳入的文章都没有评论算法的泛化性或用于开发和训练人工智能干预的数据的代表性。虽然有两篇文章提到了可解释性和可解释性[39，43]，纳入的文章都没有报告他们如何开发可解释和/或可解释的人工智能干预措施。

可解释人工智能是一个广阔的新领域，目前正在人工智能领域进行研究。一般来说，我们可以在整个AI开发过程中考虑可解释性:(1)premodeling explainability, (2)可辩解的建模(3)postmodeling explainability．该领域的挑战之一是所谓的可解释性与性能权衡(通常，深度学习等高性能方法的可解释性较差)。

在医疗保健中，患者和医疗保健提供者需要可解释性和可解释性来理解为什么人工智能干预会产生某种预测或建议，并信任这种输出[45]。如果没有这种理解，就会出现道德和实践上的挑战，包括人工智能工具缺乏信任和透明度[28]。缺乏可解释性和可解释性造成病人和保健提供者之间的信息差异，妨碍了风险评估，并引起道德问题，如在作出错误决定时的责任归属问题[28]。此外，缺乏可解释性和可解释性与保健中的知情同意问题有关[46]。目前尚不清楚使用人工智能的患者需要多大程度的了解才能提供知情同意，也不清楚卫生保健提供者有责任在多大程度上教育患者使用人工智能[46]。然而，可解释性和可解释性对于提高系统内部运作的透明度和促进医疗保健提供者和患者对人工智能在整个可持续发展管理过程中可能提供的结果的信任至关重要[45]。

Frize等[41开发并测试了一个决策支持系统，该系统使用人工智能来定制信息，以帮助父母决定继续、限制或停止对新生儿的重症监护[41]。该决策支持系统采用了人工神经网络和基于案例的推理方法等机器学习方法。AI组件具有知识学习、处理和派生的能力。开发的系统能够在所有参与者之间提供结构化的知识翻译和交换，并促进协作决策。总的来说，临床医生发现该模型的分类率与作为统计基准的恒定预测器相比是可以接受的，但没有提出其他性能指标。

Wang等[42]提出了一个与2型糖尿病患者的电子健康记录(EHRs)相连接的SDM系统框架，为他们和他们的医疗保健提供者提供量身定制的药物知识和选择[42]。使用机器学习方法、包括k近邻算法在内的多标签分类方法和基于EHR数据的随机k标签集来提供基于患者当前状况的药物推荐列表。用于开发人工智能干预的数据集包括来自2542名患者的数据。其中65.62%(1668/2542)为男性，34.38%(874/2542)为女性。患者平均年龄66.46岁(SD 13.81)。还报告了相关疾病和生命体征值。作者使用总数据集的70%来训练AI算法，剩余的30%用于测试它。人工智能模型的准确率为0.76。

Twiggs等[43]开发了一种临床工具来预测晚期骨关节炎患者全膝关节置换术的结果，以帮助患者和外科医生根据患者的具体情况决定手术或非手术途径是最合适的。该小组开发了一个贝叶斯信念网络，利用美国国立卫生研究院骨性关节炎倡议(一个可公开访问的数据库)的数据来识别全膝关节置换术后改善有限的患者。共纳入330例年龄在45岁至79岁之间接受全膝关节置换术的患者。该团队使用机器学习方法，即朴素贝叶斯网络，进行变量选择和模型生成。

Jayakumar等[44进行了一项随机临床试验，以评估基于人工智能的决策辅助是否影响考虑全膝关节置换术的晚期骨关节炎患者的决策质量、患者体验、功能结果和过程水平结果。他们使用了一个基于机器学习的平台来生成个性化的结果。本文中没有描述模型的开发和性能;然而，他们提到人工智能干预已经在临床环境中进行了测试，并且在部署之前已经与临床团队讨论了其保真度。

Kökciyan等[38，39]开发了一个决策支持系统，即“CONSULT”，以帮助中风患者自我管理和坚持治疗计划，与卫生保健提供者合作。患者、护理人员和卫生保健提供者合作决定患者的最佳治疗计划。该系统是使用金属级论证框架开发的。健康传感器数据、电子病历数据和临床指南作为输入，自动决策的建议和文本解释作为输出。

最终用户的参与

就最终用户(即患者和医疗保健提供者)参与人工智能系统的设计、开发和/或验证而言，我们发现有3篇文章[39，41，44包括医疗保健提供者以验证人工智能干预，其中1篇文章包括医疗保健提供者和患者对其人工智能工具的临床验证[43]。前3篇文章涉及临床医生验证人工智能工具向患者提供的建议和解释的正确性[39]，在部署前确认人工智能干预的保真度[44]，并纳入干预措施的可用性和可接受性测试，以及需求评估[41]。Twiggs等[43临床验证了他们的工具对患者和医疗保健提供者的作用。

其中一篇文章[38]还举行了最初的患者焦点小组，在小组中举行了共同设计活动。这些活动产生了一个以用户为中心的版本，说明他们希望如何查看决策支持工具显示的信息。没有提供关于如何组织共同设计活动的其他信息。

人口特征和结果

共有4篇纳入的文章测试了其干预措施的可用性和可接受性[38，39，41，42]，其中2篇文章在临床环境中针对目标最终用户(如患者和卫生保健提供者)实施了干预措施[43，44]。只有最后两篇文章报道了与患者和卫生保健提供者相关的结果。这些主要是社会心理结果，包括更好的决策质量、改善的SDM、增加的满意度和更好的临床术后结果。在纳入的文章中，有3篇还报告了与卫生保健系统有关的结果[42-44]。这些与一般工作流程以及干预措施如何没有显着改变提供护理所需的流程或时间有关。它们还包括将人工智能集成到医疗保健系统中的高度可行性和便利性。

所有包含的文章都提供了与他们用于训练或测试算法的数据集的总体相关的某种程度的详细信息。只有1篇文章通过报告参与者的社会人口学特征，全面介绍了人口[44]。总共有4篇文章测试了干预措施的可用性和可接受性，而2篇文章通过将其干预措施应用于临床环境来观察实际结果[43，44]。

Frize等[41]由新生儿学家、工程师或计算机科学家、临床护士专家、社会工作者和伦理学家组成的专家小组测试了他们的人工智能的可接受性和可用性。发现干预的分类率是可接受的临床试验工具。通过与5名新生儿临床医生的访谈进行的需求评估证实，他们的工具的设计满足了其设计人群的需求。可接受性是根据知情医疗决策基金会的问卷调查使用开放式问题来评估的。专家小组发现该工具清晰易用。

Kökciyan等[38，39]使用他们的CONSULT系统进行了一项试点研究，以评估其可用性和可接受性。该系统作为移动Android应用程序实施，并招募了6名健康志愿者使用该系统一周。他们与系统的不同方面进行互动，并被要求定期收集健康传感器的测量结果和输入数据。一项试点研究证明了这款应用的可用性。

Wang等[42使用临床数据测试他们的人工智能干预措施。作者使用了前面提到的30%的临床数据集来测试人工智能干预。总数据集包括2542例患者的数据，其中65.6% (n=1668)为男性。由于这些电子病历仅包括住院患者，因此没有考虑药物使用的结果。就医疗保健系统的结果而言，据报道，该干预措施具有很高的可行性和可维护性——如果适当功能所需的模型或知识过时，可以修改干预措施，而不会影响医院EHR系统的正常运行。

Jayakumar等[44进行了一项随机临床试验，招募了129名推定患有膝关节骨关节炎的患者，这些患者都是初级全膝关节置换术的候选者。干预组69例(n=46，女性67%)，对照组60例(n=37，女性62%)。干预组患者平均年龄为62.59岁(SD 8.85)，对照组患者平均年龄为62.62岁(SD 7.81)。作者报告了干预组和对照组的种族、教育、工作状况、社会地位和保险状况。对照组接受教育模块和日常护理，而干预组接受偏好模型和人工智能工具的输出。两组患者随后都会见了外科医生进行决策讨论。在患者相关结局方面，干预组表现出更好的决策质量，改善了SDM、患者满意度和功能结局。总体而言，使用人工智能工具并没有延长咨询时间。

Twiggs等[43]对150名患者进行了临床验证，这些患者在2个队列中接受了一位具有30年以上经验的外科医生的治疗。患者年龄≥55岁，伴有膝关节疼痛，无半月板或韧带损伤史。他们收集了3个多月的数据。患者首先被要求填写一份基于膝关节骨关节炎和损伤结果评分的数字问卷，以及人口统计和医疗状况数据。这些数据被用于他们开发的干预来计算预测性术后评分，并在骨关节炎患者看外科医生时以疼痛的百分位数直观显示。第一组包括75名(50%)同意填写小组开发的问卷的患者。在这个队列中，外科医生和患者对该工具的预测输出不知情，并照常进行咨询。第二组由75名(50%)同意的患者组成，患者和外科医生都暴露在干预的输出中。报告了患者和外科医生的结果。虽然人工智能干预输出的使用并没有改变预定全膝关节置换术的患者比例，但在使用该工具时，预定和未预定手术的患者报告的疼痛水平发生了变化。 Apart from the questionnaire, which only took 10 minutes to complete, there was no disruption to the normal surgeon consultation workflow.

决策点的人工智能干预

在纳入的文章中，有3篇设计了用于初级保健的人工智能干预措施[38，39，42]，与慢性疾病患者(包括糖尿病患者和中风幸存者)的护理有关，3与二级护理有关[41，43，44]，其中2篇(67%)聚焦于需要膝关节治疗的患者，1篇(33%)聚焦于新生儿重症监护。纳入的文章通过引入干预措施来预测结果，支持SDM的决策步骤[41，43，44]的临床意义和临床建议[38，39，42]。在表2，我们提供了关于设置、决策问题的信息，并总结了人工智能如何在SDM中用于决策。

Wang等人的人工智能干预[42通过整合电子病历数据，为患者和医疗保健提供者提供量身定制的降糖药物知识和选择，从而支持决策点。他们的工具为SDM的每个步骤(团队对话、选项对话和决策对话)设计了特定的终端用户界面。在决策谈话中，患者可以根据人工智能系统提供的药物建议与医疗保健提供者进行更有效的对话。它是为住院和门诊患者设计的，提供了对患者病情和糖尿病药物知识的更直观的了解。

Frize等人的人工智能干预[41]支持决策点作为工具的组件交互，以提供预测分析、文档存储库、自定义交付和自适应接口。他们的目标是在决策的各个阶段增加群体临床过程。目的是促进家长的参与和与临床团队的合作。该工具允许卫生保健提供者预测新生儿重症监护的结果，并就决定开始或退出治疗的利弊向家庭提供咨询。

Twiggs等人提出的工具[43]通过向最终用户(即患者和外科医生)提供与全膝关节置换术后无改善风险相关的可解释信息来支持决策点。它提供可解释的输出，允许最终用户了解替代处理的影响。这个工具可以帮助病人和他们的外科医生决定他们是否适合做手术。

Jayakumar等人的干预[44]通过为患者提供基于数据输入(即人口统计、患者报告的结果测量和临床合并症)的个性化结果报告来支持决策点，并在决策过程中与外科医生进行讨论。

Kökciyan等人的CONSULT系统[38，39]支持SDM中的决策点，根据患者的电子病历和无线传感器输入的个性化指标，呈现患者情况的最新视图，并提供工具自动决策的文本解释，以配合其提供的建议。CONSULT提供的相关的、最新的、总结的数据，以及治疗和建议，支持患者和他们的卫生保健专业人员之间的决策点。

讨论

主要研究结果

我们进行了范围审查，作为全面概述人工智能在SDM中使用的文献的第一步。本文的综述为今后的系统综述奠定了基础。我们的研究结果使我们做出以下观察。

人工智能在SDM中的作用

纳入的文章以类似的方式介绍了SDM期间用于决策的人工智能干预措施。在纳入的文章中，人工智能干预被专门用于预测具有临床意义的结果和提供临床建议。决策步骤可以从人工智能干预中受益，因为人工智能可以提供全面和个性化的治疗方案清单，以及风险和收益，从而增加与病情、治疗、副作用、风险和结果相关的知识。人工智能模型能够学习和处理与患者护理相关的所有信息，并可以生成基于证据的建议，以支持SDM [47]。这些模型还可以用于支持风险沟通。与集成到智能辅导系统中的方法类似，预测模型可以在讨论与患者病情相关的风险时以适合该特定患者的方式提供相关信息，并评估患者的理解水平并相应地提供补充信息[48]。

决策步骤是SDM的核心步骤，其中患者与医疗保健提供者的互动是必不可少的，应该独立于人工智能干预，不受人工智能干预的限制。病人和医疗保健提供者的关系是建立在责任的基础上的，责任是关系发展的基础。尽管承认人工智能可能对促进SDM有好处，但患者仍然希望他们的医疗保健提供者保留对治疗计划的最终决定权，并监督他们的护理，并根据他们的独特情况调整人工智能干预的任何贡献[49]。相反，患者希望保留决策权，可以对人工智能的输入提出异议或拒绝[49]。重要的是，在临床环境中设计和实施人工智能干预措施时，不能对SDM过程中某些决策的人类和个人方面产生负面影响。人工智能干预措施的实施方式必须保持和提升患者与医疗保健提供者在护理中的关系，并促进共同做出医疗决策。

人工智能干预可以为医疗保健提供者腾出更多时间与患者联系;然而，他们可能会让医疗保健提供者扮演类似调解人的角色，他们将负责向患者解释人工智能的输出。这可能很难实现，特别是当某些人工智能模型(如深度学习)可能缺乏可解释性和可解释性时。这种可解释性和可解释性的缺乏会导致缺乏信任，从而导致决策延迟或冲突，这些都是SDM旨在解决的因素[27]。医疗保健中的人工智能干预可以影响患者与医疗保健提供者的关系[27]，但对于它们如何影响这种关系，以及将人工智能整合到SDM、利用其优势并降低潜在风险的最佳方式是什么，我们知之甚少。需要进一步的工作来调查SDM的不同步骤如何从人工智能干预中受益，而不影响患者与医疗保健提供者的关系。

人工智能系统的可解释性和可解释性

将现代人工智能干预措施纳入卫生保健的主要挑战之一是可解释性和可解释性。这是指AI干预能够向用户阐明其功能;也就是说,如何算法从给定的输入生成输出[50-52]。可解释性和可解释性的水平取决于所使用的人工智能方法。在某些人工智能模型(如深度学习)中就是这种情况。

尽管人工智能的表现很有前景，但在临床实践中的实施仍然具有挑战性。对人工智能的信任是临床上应用人工智能的主要障碍之一[53]。人类无法理解人工智能系统做出特定决策的原因，这限制了新一代人工智能系统在关键环境(如初级卫生保健)中的有效性。先前的工作强调了可解释的人工智能在医疗保健中的重要性，并表明缺乏可解释性(黑盒)会影响医生和病人对人工智能的信任[54-56]。

在我们的回顾中，2篇纳入的文章[39，43]简要地谈到了可解释性和可解释性，指出文本解释是由人工智能工具提供的，用于解释自动决策[39他们的人工智能模型的结果是可解释的[43]。然而，这两篇文章并没有解释他们在开发工具的过程中所采取的步骤，以使其可解释或可解释，其他文章也没有考虑到这些方面。这可能会给临床实践中SDM过程中这些系统的实施带来障碍。在试图将人工智能集成到敏感的人类交互中的任何其他环境中，需要解决SDM的人工智能可解释性和可解释性。

此外，对人工智能工具的可解释性和可解释性的理解水平可能因不同的利益相关者而异。例如，在这一领域受过训练的人工智能专家可以比非人工智能专家更好、更快地理解和解释人工智能算法背后的推理。因此，医疗保健提供者和患者关于人工智能的教育可以更好地理解算法，从而更好地理解人工智能干预的可解释性。简而言之，最终用户对人工智能干预所做出的预测/决策的理解，以及人工智能工具的可解释性和可解释性的增加，可以增加最终用户信任在给出的结果中[57]。

缺乏可信度是在卫生保健和可持续发展管理中实施人工智能干预时可能出现的众多生物伦理障碍之一;因此，提高患者和医疗保健提供者的人工智能素养，以及提高人工智能系统的可解释性和可解释性，可以增加信任。此外，关于医疗保健环境中确保正确理解和信任算法提供的结果所需的可解释性水平，文献中存在差异[58]。未来的研究需要确定如何有效地教育最终用户关于AI-SDM工具，如何在这种情况下有效地结合可解释性和可解释性，以及在这种情况下和知情同意的情况下，多少的可解释性和可解释性被认为是足够的。

以人为中心的人工智能

在收录的文章中，有3 [39，41，44]在AI系统的验证阶段涉及医疗保健提供者，1在AI系统的临床验证阶段包括医疗保健提供者和患者[43]。一篇文章[38]将患者和保健提供者纳入共同设计活动，从而开发出用户生成的工具版本。然而，没有提供关于如何组织协同设计活动的细节，最终用户也没有参与人工智能工具的后续设计和开发。

人工智能和SDM社区都需要进一步努力，让卫生保健提供者和患者(作为已开发人工智能系统的最终用户)参与人工智能SDM工具的设计、开发、验证和实施。SDM是以患者为中心的护理的核心;因此，在确定过程的每一步都需要考虑患者的价值和偏好。伦理学家认为，不把病人的偏好或价值观作为输入或影响输出，而是把病人的偏好或价值观作为输入或影响输出共同的决定在患者从人工智能提供的循证方案中进行选择方面，这一过程并不是真正以患者为中心的[59]。

因此，为了确保引入人工智能干预时SDM从根本上发生，必须将患者的偏好纳入设计。被称为value-sensitive设计，这种方法在整个设计过程中融入了人文价值[59]。然而，将个体患者价值成功地纳入算法设计，以及如何有效地将患者和医疗保健提供者纳入SDM健康人工智能系统的开发和验证仍然是一个挑战，需要进一步研究。最近对当前方法的评估表明，大多数现有的以用户为中心的设计方法主要是为非人工智能系统创建的，并没有有效地解决人工智能系统中的独特问题[60]。AI-SDM工具也是如此。

人工智能干预报告

在我们的综述中，我们观察到纳入的研究中人工智能干预的报道不足。报告人工智能干预措施的研究应使用经过验证的框架和指南来报告其结果。透明和完整地报告支持SDM的人工智能干预措施对于发现错误和潜在偏差以及评估干预措施的有用性非常重要[61]。这种报告框架的一个例子是“个人预后或诊断的多变量预测模型透明报告”(TRIPOD)，其中包括一份被认为对透明报告至关重要的项目清单[62]。由于原有框架主要用于基于回归的预测模型，因此正在开发TRIPOD-AI扩展，专门用于基于机器学习的预测模型研究[63]。透明和完整的报告可以很好地理解并鼓励未来研究工作的可重复性，这是在临床环境中越来越多地实施AI-SDM时需要考虑的重要因素。

本综述中没有一篇文章提到遵守特定的报告框架或考虑可重复性。这导致纳入的文章在不同方面缺乏清晰度，包括训练数据集是否具有代表性，如何考虑潜在偏差(例如代表性和算法偏差)和缺失数据，人工智能如何在临床环境中使用，以及人工智能实施的结果是什么。事实上，只有一篇文章[44全面报告了参与使用人工智能干预的参与者的社会人口特征。此类报告应标准化，以便更好地了解人工智能干预措施和临床实施，并进行有效比较。在未来的人工智能研究中，需要强调使用报告框架的重要性，以促进对临床环境中人工智能- sdm的更多理解和可重复性。

本研究的局限性

我们没有对纳入的文章进行质量评估，尽管这并不常见，也不需要将其纳入范围审查。然而，我们的审查揭示了这一重要领域，还有一些有待改进的领域。我们的纳入标准非常严格，只纳入了在SDM中使用AI干预来支持决策点的文章。因此，我们可能错过了SDM其他方面的工作。这方面可能需要进一步的系统审查，以确保审查的结果能够应用于政策和实践。

结论

在这篇范围审查中，我们展示了在SDM中测试和实施的人工智能系统的范围和种类，表明这一领域正在扩大，并强调知识差距仍然存在，应该在未来的研究中优先考虑。我们的研究结果表明，利用人工智能支持SDM的现有证据尚处于起步阶段。纳入的研究数量较少，表明没有多少研究进行了测试，实施和评估人工智能对SDM的影响。未来的研究需要加强和规范人工智能干预在SDM不同步骤中的使用，并评估其对特定决策、人群和环境的影响。研究界需要更多地关注和努力解决可解释性、可解释性、可重复性和以人为本的人工智能方面的问题，特别是在开发他们自己的干预措施时。最后，未来的研究应该进一步调查哪些SDM步骤将从哪种类型的人工智能中受益最大，以及如何应用人工智能干预来加强患者与医疗保健提供者的关系。