我们选择了符合Arksey和O 'Malley框架的范围审查方法[ 39]并根据PRISMA-ScR(范围评审的系统评审和元分析扩展的首选报告项目)检查表( 图1) [ 40］．先前的一项检讨显示，在医疗保健领域实施人工智能的研究并不充分[ 37］．因此，范围审查将能够绘制出这一新兴研究领域的“研究活动的程度、范围和性质”[ 39］．

为了实现我们的目标，我们制定了三个研究问题:

在一位大学图书管理员的支持下，我们通过迭代测试3个概念的同义词来集中搜索: 人工智能， 卫生保健, 实现（ 文本框1)．为了清晰起见，我们区分了AI算法和模型(实际代码)，AI应用程序(创新) 包)，以及人工智能系统(其上下文中的应用程序)，并使用标准化的医学主题标题术语和主题标题描述人工智能及其由用于我们搜索的数据库提供的子类别[ 41］．实施被定义为“旨在改变或适应或将干预措施纳入常规的有意努力”，基于对将人工智能转化为医疗实践的框架的审查[ 37］．同义词由布尔运算符连接 或；接下来，我们将每个概念的搜索字符串与布尔运算符结合起来 和（ 多媒体附件1)．

为了涵盖一般和健康和医疗保健特定来源的内容，我们搜索了5个电子数据库:MEDLINE (PubMed)、Scopus、Web of Science、CINAHL和PsycINFO。此外，我们使用滚雪球抽样，通过手动审查我们在筛选过程中确定的可能包含给定综述主题的相关参考文献的综述文章的参考文献列表。

我们纳入了2011年12月至2022年2月间用英文发表的同行评议的实证研究，因为初步搜索表明，人工智能在医疗保健中的应用是最近才出现的现象( 表1)．

所有已识别的记录都被导入开放获取软件Rayyan。重复的记录被删除，剩余记录的标题和摘要被至少一位作者筛选是否合格。任何不确定或冲突都在定期检查时进行讨论，直到所有作者达成共识。作者的多学科背景为这些讨论提供了信息。我们还不断审查我们对筛选标准的解释，当有人提出问题时，我们会后退，以确保标准得到正确应用，并以一种普遍的方式，独立于筛选记录的人。我们使用了Rayyan的AI筛选和高亮功能，但我们仍然筛选了每条记录。我们在包容性方面也犯了错误。然后由至少两名研究人员独立筛选全文文章。冲突和不确定性再次通过讨论解决，直到所有研究人员达成共识。由于我们遵循原来的框架，没有对纳入的研究进行质量评估。

我们开发了一个数据提取模板，为每个研究问题绘制数据图表。为了界定这些概念领域，我们采纳了世界卫生组织关于人工智能在健康领域的伦理和治理的指导意见(根据经济合作与发展组织国家人工智能理事会的建议)[ 42， 43人工智能系统是一种基于机器的系统，可以针对一组给定的人类定义的目标，做出预测、建议或影响真实或虚拟环境的决策。人工智能系统被设计成具有不同程度的自主权”[ 42］．

提取了以下数据:

将提取的与研究问题1和2相关的数据进行映射和汇总。定性专题分析[ 44]对研究问题3的相关数据进行分析，总结实施动机和实施过程中的要素。文章被阅读了一遍又一遍，最初的想法被分类到某个领域 动机在实现之后或者 元素在实施过程中。接下来，在每篇文章中识别初始代码。这些代码根据异同进行比较，并整理成潜在的主题，然后进行比较，生成主题地图，用于为各自领域的每个主题生成明确的定义和名称。编码和数据分析成对进行，所有作者讨论任何不确定性，直到达成共识。

我们确定了9218条记录，其中9179条(99.58%)是通过数据库搜索确定的，39条(0.04%)是通过综述文章中参考文献列表的滚雪球搜索确定的(n=36)。在9218条记录中，去除重复项后，保留了5666条(61.47%)记录，我们对标题和摘要进行了筛选。在本次筛选中，98%(5553/5666)的记录被排除在外，其余2%(113/5666)的记录通过全文审查进行资格评估。在这113篇文章中，有68篇(60.2%)被排除在外 图1， 45个(39.8%)纳入范围评审。

回顾的文献主体是相当近期的，大多数研究(32/ 445,71%)发表于2020年至2022年之间[ 45- 76］．大部分文章(33/ 45,73%)来自北美和欧洲[ 46， 47， 49- 55， 57， 58， 61- 63， 67- 70， 73- 87]，其中大部分(18/ 33,55%)来自美国[ 46， 47， 49- 52， 54， 68， 73- 77， 79- 81， 84， 87］．在医院范围内实施人工智能系统的数量最多(6/ 45,13%)[ 50， 55， 56， 65， 74， 80]或放射学(6/ 45,13%)[ 53， 56， 66， 68， 73， 76］．大多数研究(27/ 45,60%)由多学科团队撰写[ 46， 47， 50- 55， 58， 59， 61， 62， 64， 67， 69， 70， 72， 74， 75， 78- 80， 82， 86- 89]，临床和IT或信息学背景是最常见的组合(9/ 27,33%)[ 47， 50， 55， 61， 70， 74， 79， 87， 89］．在作者仅来自一个领域的研究中，最常见的背景是临床(8/ 45,18%)[ 63， 65， 66， 68， 71， 73， 76， 84］．有各种各样的研究设计。大多数(24/ 45,53%)采用案例研究设计，包括单案例[ 46， 49， 50， 52， 53， 55- 57， 59， 60， 66- 68， 70， 74， 75， 78- 83， 85， 86]或多个比较的个案设计[ 53， 56， 78) ( 表2而且 多媒体附件2)．

最常见的人工智能应用类型是自动化或优化技术，71%(32/45)的已实现系统[ 45， 46， 49- 51， 53- 59， 62， 64， 65， 70， 71， 73， 75， 77- 79， 81- 84， 86- 89］．其他实现的技术包括人类语言技术、计算机视觉和机器人技术( 表2而且 多媒体附录2而且 3.)．最常见的人工智能模型是符号或基于知识的模型，近一半(22/ 45,49%)的综述研究报告[ 48， 52- 54， 57， 59， 68- 74， 77- 80， 84， 85， 88]，其次是统计模型(9/ 45,20%)[ 45， 49- 51， 58， 81， 82］．最常执行的任务是识别(16/ 45,36%)[ 52， 56， 61， 63- 66， 72， 73， 76， 78- 80， 84， 85]，其次是预测(9/ 45,20%)[ 45， 46， 49- 51， 53， 54， 57， 71］．执行的其他任务包括事件检测、目标驱动优化、交互支持和个性化( 表2， 多媒体附录2而且 3.)．尽管超过一半(24/ 45,53%)的AI应用程序没有行动自主权[ 46， 48- 51， 53， 54， 57， 63， 66， 67， 70， 73- 75， 79， 81- 85， 87- 89]，少数报告的申请数量较低(2/ 21,10%)[ 55， 72]，中(4/21,19%)[ 58， 69， 71， 86]，或较高(6/ 21,29%)[ 52， 55， 60， 61， 68， 76]行动自主性( 表2， 多媒体附录2而且 3.)．近四分之三的人工智能系统用于临床护理(33/ 45,73%)[ 46， 49， 51， 53- 59， 61， 63- 73， 78- 80， 84- 89]，其中大部分(18/ 33,55%)涉及提供支持以告知患者-提供者的遭遇[ 46， 49， 51， 55， 56， 61， 63， 65， 67， 68， 74， 78， 79， 84， 85， 87， 89]，其次是诊断和基于预测的诊断(13/ 33,39%)[ 53， 55， 57， 59， 64， 66， 70， 71， 73， 78， 80， 86， 88］．其余人工智能系统(12/ 45,27%)用于卫生系统管理和规划[ 45， 50， 52， 60， 62， 74- 77， 81- 83］．卫生保健提供者是最常见的目标用户;最常见的是医生(19/ 45,42%)[ 46， 49， 51， 53- 55， 57- 64， 66- 68， 70， 71， 73， 74， 76， 79， 80， 84， 85， 88， 89]，其次是护士(6/ 45,13%)[ 46， 49， 51， 59， 87， 88］．其他预期使用者包括卫生工作者、技术人员、管理人员、病人或护理人员以及一般公众( 表2而且 多媒体附件2)．

大约三分之一的研究重点是展示实施的干预措施的有效性(16/ 45,36%)[ 54， 58， 60- 62， 65， 66， 71， 73- 75， 77， 81， 82， 85， 88］．其他研究重点包括用户体验[ 51， 59， 63， 64， 69， 86， AI使用指标[ 48， 52， 80， 84， 89]，以及识别障碍或促进因素[ 50， 53， 55， 57， 67， 87) ( 表2， 多媒体附录2而且 3.)．大多数(32/ 45,71%)的研究将实施过程描述为成功，只有少数(4/ 45,9%)描述为不成功(在其余的研究中，要么没有提到实施的成功，要么结果是不确定的)。

在回顾的研究中，有超过一半(23/ 45,51%)的研究没有描述实施背后的动机。对于那些研究(22/ 45,49%)，我们确定了6种类型的动机，与 提高医疗质量而且 获得更好的患者结果2是最常见的。前一个主题的研究描述了用于提高服务质量的人工智能系统[ 46， 71， 75， 87， 88]，减少诊断错误[ 66]，缩短住院时间[ 73]，或减少非计划再入院[ 50， 54]，而后一个主题的研究描述了用于提高患者生存率的人工智能系统[ 59， 70］．另一个主题, 提高效率，侧重于降低卫生保健成本、增加服务生产和优化公共服务[ 45， 72， 74， 76， 77］． 应对COVID-19大流行被陈述为有必要获得最新资料的动机[ 48]，对医疗服务的需求突然激增[ 52]、有限资源的优先次序[ 72]，以及根据本地预防感染传播的指引，重新安排服务[ 62］． 提高提供者满意度专注于减少医护专业人员的工作量[ 55， 69］． 让病人通过使用人工智能来支持实验室调查的解释，而不仅仅是测试结果，是实施人工智能的另一个动机[ 86］．

在纳入的45项研究中，3项(7%)明确关注实施过程[ 46， 49， 68］．在其他研究中，确定了实施过程的共同特征:共同创造、情境化、非破坏性工作流设计、沟通、学习重点、培训、激励和组织战略。描述了障碍和促进因素。

一些(8/ 45,18%)实施工作涉及 cocreation与多学科利益相关者合作，从概念阶段开始，包括问题识别、需求收集和临床工作流程的设计或重新设计，以促进人工智能系统集成[ 45， 46， 49， 52， 55， 59， 68， 78］．共同创造也让终端用户参与用户界面的设计[ 46， 68］． 语境化与当地环境和目标人群相关的人工智能系统的重要性被强调为开发和实施的重要因素[ 52， 54］． 非中断工作流设计强调，努力围绕预期用户的现有角色和功能设计人工智能系统，以避免对当前做法进行彻底修改以适应人工智能系统[ 46， 49， 51］． 沟通通过与临床医生分享人工智能有效性的证据，并描述该技术的总体好处，这些努力被视为建立信任和促进使用的核心[ 46， 49， 59]，并任命专家在同行中推广人工智能[ 46， 53， 75]，并鼓励临床医生和IT开发人员之间的非正式沟通，以培养关系并建立对人工智能的信任[ 56］．然而，Sendak等人[ 46鼓励开发者和临床医生分离，并有意识地努力将注意力从人工智能的技术方面转移开。一个 学习的重点可以从构思阶段开始，在编码之前，通过开发和实现，通过迭代测试和调整工作流程来理解和评估人工智能要解决的问题[ 46］．实施后，通过持续获取用户反馈继续学习，以实现改进[ 68］． 培训包括非正式和正式会议，以实现人工智能的使用[ 56， 89］．实施后，培训可在正式的同行小组会议上继续进行，以分享最佳实践，并为更多不情愿的用户提供个人培训和支持[ 84］． 激励被用来促进或强制使用人工智能。更多的管制方法包括定期监察及审计[ 56， 84]或完全取消执行任务的替代方法，以便使用AI [ 84］．游戏化被用来促进奖励和竞争的感觉。 61， 65］． 组织的努力包括医院的最高领导层作为项目团队的重要成员，以及人工智能系统的设计和实施，以促进吸收[ 49， 55］．一个组织成立了一个特别治理委员会，作为监测医疗保健提供者使用人工智能的正式机制[ 46］．另一个组织的创新战略将创新经理作为组织结构的一部分，以促进人工智能[ 53］．

7%(3/45)的研究[ 50， 57， 68]，提到了以下实施框架的使用:范围、有效性、采用、实施和维护框架[ 90];不采用、放弃、扩大、推广和可持续性框架[ 91];知识维度的社会化、外部化、组合化、内部化模型[ 92］．在纳入的45项研究中，4项(9%)根据其提出的研究结果和实施经验提出了新的框架、原则或建议[ 49， 55， 56， 80］．摩尔人( 49]提出了实施人工智能的6项原则:信任和透明的要素，对工作流程的影响最小，利益相关者的参与，相关教育，人工智能产出的可操作性，以及通过后续互动的可持续性。Reis等[ 55]提出了一个克服对人工智能实施的认知和情感阻力的框架，围绕用户(医生)的关注点，如人工智能系统的透明度和可理解性，用户参与人工智能训练，以及对人工智能系统的信任。太阳( 56他提出了一个人工智能采用的权力战略矩阵，表明“老板战略”或“专家战略”可以影响人工智能的采用。文等[ 80]提出了开发基于人工智能平台的3个需求，其中第二个重点是提高采用率。

我们这项研究的目的是探索如何在研究文献中对AI在医疗实践中的实施进行实证调查。我们发现，关于人工智能系统实施的研究主要发表在高收入国家，涵盖许多不同的临床环境和学科，主要关注作为用户的护理提供者。人工智能模型主要是符号或基于知识的，使用自动化或优化技术，主要用于执行与识别相关的任务。人工智能系统主要用于临床护理，特别是与患者-提供者接触相关的临床护理。大多数没有行动自主权，而是支持人类的决策。大多数研究的重点是建立干预措施的有效性或与人工智能系统的技术和计算方面相关。关注实施过程的细节似乎还不是研究的优先事项，使用框架来指导实施也很少。

大多数研究都是最近发表的(2020-2022年)，考虑到人工智能医疗保健研究的时间分布，这并不令人惊讶。关于人工智能在医疗保健领域实施的研究本质上主要是概念性的，主要是评论、观点、观点文章和提出重要问题的概念框架，但没有必要的经验证据[ 93- 96］．由于在常规医疗保健中实施人工智能解决方案的经验证据基础仍然狭窄和不成熟，这限制了实践推广和方法方法进步的可能性。这些文章大多发表在高收入国家，尤其是美国。这一发现与北美和欧洲国家更发达的数字卫生基础设施、电子健康记录的常规使用以及大数据计划相一致，并与医疗保健各个领域人工智能应用的其他审查相一致[ 32， 97， 98］．许多不同的临床环境和学科可以证实医疗保健的数据驱动性质;人工智能的高度适用性;或者因为它的新生状态，人工智能仍在许多不同的环境中被尝试。考虑到对临床护理的关注，预期用户主要是卫生保健提供者，特别是医生，这并不奇怪。最近一项关于初级保健中人工智能使用范围的综述发现，医生作为目标最终用户的优势类似[ 99］．这表明人工智能系统是支持医生而不是其他卫生专业人员决策的工具。令人惊讶的是，AI应用程序很少用于处理传染病(除了McKillop等人的研究[ 48])，鉴于对2020-2022年COVID-19大流行管理给予的极大关注和提供的资金。另一个未被充分代表但人工智能前景看好的领域是心理健康(除了贝内特[Bennett]的研究)。 77]和Rahman等人[ One hundred.])。

近一半的人工智能模型是符号或基于知识的。它们使用人工生成的逻辑表示、规则和本体来推断结论，并且比基于纯数据驱动或统计方法的模型具有更好的解释性。然而，它们可能无法充分发挥人工智能的潜力，因为它们是“硬编码的专家烹饪书”，受到编码知识的限制。 101］．数据驱动的统计方法，如机器学习，根据输入的数据学习预测函数。然而，这些方法是不透明的，对与患者或提供者信任、问责制和质量保证以及患者安全有关的卫生保健有影响[ 3.， 102］．世界卫生组织关于人工智能促进卫生的伦理和治理指南承认透明度和准确性之间的潜在权衡，但鼓励人工智能的解释性和透明度优于黑箱方法[ 43］．基于知识或符号模型的主导地位，其更高的透明度和更长的存在时间可能会使护理提供者更容易接受，这与先前的综述一致[ 103］．然而，最近发布的大多数人工智能模型使用数据驱动或混合技术，基于知识的模型仅占应用程序的少数[ 104］．我们的研究发现，迄今为止，自动化或优化技术是最常见的，其次是人类语言技术。超过一半的人工智能系统没有行动自主权。相反，它们是人类决策支持系统，其中人工智能系统不能根据其建议或输出采取行动，而是依赖于操作系统的人类使用或忽略它提出的建议。这一发现表明，决策支持系统是最早被采用的人工智能系统类型，可能是因为它们增强了人类行为，对临床工作流程的干扰最小[ 105］．

这项研究发现，在医疗保健领域研究人工智能系统实施过程的方式是多种多样的，并且建立在许多类型的研究设计和方法之上。纳入研究的一半多一点的研究没有为实施人工智能系统提供明确的动机，这是在医疗保健领域成功采用人工智能的关键因素[ 105］．缺乏明确的动机表明与临床实践中明确定义的需求不一致，并有可能加强在医疗保健中实施人工智能的以技术为中心的逻辑。这种观察可能反映了对日常实践中人工智能实现的含义缺乏一致的理解，以及在如何研究和报告这种实现方面缺乏方法上的一致性。大多数研究要么对实施有技术或计算上的理解，要么从干预的有效性角度来看待实施。对实施研究的实际过程关注不多，而更多地是介绍实施案例。这表明该领域证据的相对新生性质，与其他研究相似，这些研究强调，许多关于医疗保健中的人工智能的出版物侧重于将人工智能模型应用于临床场景的方法和技术方面，但很少提供关于其在实践中实施的实际过程的信息[ 51， 99］．

尽管研究实施过程的重点有限，但我们的归纳分析确定了以下实施要素:共同创造、设计非破坏性工作流程、保持学习重点、沟通、情境化、领导力和有益的组织结构、培训以及人工智能使用的执行或激励。这些方面并非人工智能所独有，而是被强调为采用包括人工智能在内的所有数字技术的重要干预措施;例如，终端用户参与资讯科技服务和应用程序的设计和实施，是以用户为中心的设计的基础，这被视为采用数码技术的重要推动力[ 106］．在实践中，领导者的承诺、参与和问责也是成功实施的一个众所周知的因素[ 107］．与现有工作流程的无缝集成是采用人工智能系统的另一个核心因素。这一发现与大多数被研究的人工智能系统实施案例是基于决策支持系统的事实是一致的，这些决策支持系统没有行动自主权，可以方便地纳入日常工作流程。然而，从这些系统中得出关于人工智能实施策略的一般性结论是具有挑战性的，因为它们在工作流程中引入了增量改进，并且不代表更具破坏性的人工智能系统类型;例如，那些具有高度行动自主性的人。

这项研究的结果证实了Gama等人最近的工作[ 37关于什么应该被视为人工智能的不确定性，以及我们对实施的理解仍处于发展的早期阶段的概念。我们还要指出，由于对“执行”一词的含义缺乏一致意见，这种理解变得更加复杂。我们在筛选过程中拒绝了许多研究，因为术语实施是在计算意义上使用的;例如，产品概念或需求是 实现作为一种代码，或者说是编码的算法 实现使用现有的数据集。即使在涉及现实环境的研究中，这个术语也被用来指在不考虑执行过程的情况下执行计划。在已发表的文献中，实施的重点是改变常规实践、调整干预措施或增加干预措施对常规实践的吸收。

这项研究的优点包括审查的大量记录和在筛选过程中观察到的严格性。搜索战略是全面和广泛的，包括5个不同的电子数据库。然而，我们没有对灰色文献进行更广泛的搜索，这无疑会捕获更多的案例，并可能确定更多代表尚未在研究文献中发表的正在进行或已完成的实施项目的案例。由于我们的目标是调查临床实践中的实施经验，在筛选过程中，我们删除了临床试验、病例报告、试点、可行性研究和其他形式的有限和有控制的人工智能应用在实践中的引入。我们预计科技公司和护理提供者的工作与随后的学术出版物之间会有一个滞后。然而，由于我们确定的记录数量以及之前在文献中发现的以观点、见解和叙事评论形式出现的大量基于观点的文章[ 37，我们有意识地选择关注同行评议的文章。尽管这一过程可能会排除较小或不成功的实施尝试或与实施过程相邻的其他研究的相关知识，但我们根据日常临床实践中实施的实际经验将结果限定在文献中。

我们最初对标题和摘要的筛选不需要2名审稿人的决定，但全文筛选中的所有决定都是两人一组确认的。我们通过每两周的会议来保持一致性和减少个体差异，我们努力建立一个心理安全的环境，鼓励所有作者提出或标记怀疑，讨论排除标准的应用，或考虑不同的解释。有疑问的时候，我们会后退或重复，不相互指责，所有矛盾和不确定性都通过讨论解决，直到达成共识。与该领域的其他专家举行了其他会议，以确保方法的严谨性。虽然Arksey和O 'Malley框架用于范围审查[ 39]不包括质量评估，我们会建议未来的作者考虑这样做，因为仔细考虑实现的文章数量会增加。

目前的经验证据表明，研究和实践需求之间存在不协调。一方面，概念性和方法学的人工智能研究建立在人工智能革新医疗保健的巨大承诺之上，并提出了将其缓慢应用于实践的问题。另一方面，目前的经验支持的知识主要来自低行动自主性的人工智能系统的实现，并强调了其他类型信息系统实现的典型实现过程中的经验教训。需要对常规护理中实施的更具破坏性的人工智能系统类型进行进一步研究，以确定人工智能特有的实施方面。这凸显了未来研究需要在两个主要方向上推进:(1)对医疗实践中各种类型的人工智能系统的实施过程进行实证研究;(2)通过开发和传播人工智能特定的实施框架来支持实证研究和实际实施，该框架将考虑到与医疗保健中人工智能相关的一些独特方面，如建立信任，解决透明度问题，开发可解释和可解释的解决方案，解决隐私和数据保护方面的伦理问题。