由于高质量临床数据的可用性不断增加，基于人工智能的临床决策支持(AI-CDS)工具的开发正在兴起，以增强个性化医疗。AI-CDS工具利用学习算法，包括机器学习，在特定情况下，当应用于与医疗保健相关的预测任务的大型数据集时，这些算法可能会优于经典统计模型[ 1- 3.］．这些人工智能(AI)算法的复杂性及其对大量输入变量的使用可能会导致“黑盒”算法，这通常会让人不清楚为什么算法会输出特定的预测[ 4， 5］．在重症监护室(ICU)，复杂和高风险的决策可能受益于数据驱动的决策支持[ 6］．ICU由于高频监测，是医院中数据最丰富的环境，针对ICU决策支持的AI模型开发文献也有所增加[ 7］．然而，最近的一项综述显示，由于在几个层面上存在困难，这些AI-CDS工具在临床ICU实践中缺乏实施[ 8］．这些困难包括患者隐私、监管方面以及缺乏这些工具在复杂ICU环境中的临床价值的证明[ 8］．为了提高日常工作流程中的临床吸收和集成，并根据医生的需求定制AI-CDS工具，我们需要广泛了解医生当前的决策实践以及他们对使用AI-CDS工具的看法[ 9- 11］．

为了安全有效地实施AI-CDS工具，有必要研究人为因素，因为高预测性能并不能确保这些技术被接受[ 12， 13］．在精神病学领域的调查研究中，已经调查了医生对临床人工智能的看法[ 14]、消化内科[ 15]、诊断病理学[ 16]，以及心脏病学[ 17]，以及跨专业[ 18- 20.］．总体而言，研究人员对AI-CDS的使用表现出了浓厚的兴趣和良好的态度，但没有一项研究仅关注AI-CDS工具在ICU中的应用，即在临床实践中使用这种工具的意愿以及它如何适应临床工作流程。由于ICU在决策的复杂性、必须做出决策的压力以及数据可用性方面的潜力方面是独一无二的，因此专注于这一临床领域的知识是高度相关的。为了了解AI-CDS工具在数据丰富的ICU环境中的潜力，并试图解决现实世界实现中面临的具有挑战性的“最后一英里”问题，我们需要收集更多关于临床医生在当地背景下对这一主题的态度和观点的见解[ 21， 22］．这些见解可能会加强在这种高风险决策环境下的成功实施，因为临床医生的输入在整个实施过程中都很重要，以加强成功实施并最终改善患者的结果[ 23］．

这项调查研究是Pacmed Critical项目实施前研究的一部分。 24］．Pacmed Critical是一款基于机器学习的AI-CDS工具，可预测患者在ICU出院7天内的再入院和死亡风险，以支持医生决定将患者出院到较低护理病房[ 25， 26］．Pacmed Critical软件旨在由合格的ICU医疗专业人员作为补充工具使用，并将在医院场所访问;它不会在移动设备上使用。我们的目标是调查(1)医生目前在ICU患者出院方面的决策行为，(2)医生对AI决策支持工具总体使用的看法，(3)医生在日常临床实践中纳入AI- cds工具的意愿，以及(4)医生在日常工作流程中使用AI- cds工具的偏好。由于目前ICU领域缺乏医生对AI-CDS工具实施的态度的了解，本调查的总体目的是调查ICU医生对AI-CDS工具的看法，以加强实施过程，并提高ICU医生对即将实施的AI-CDS工具的认识。

本研究评估了AI- cds工具在4个领域的预实施:医生当前关于ICU出院的决策行为，他们对AI的看法，以及他们对AI- cds工具在临床实践中的实施和使用的偏好。我们发现，几乎所有的ICU医生都熟悉AI，并抱有积极的期望，64人中有55人(86%)认为AI可以支持他们作为医生的工作。并不是所有的医生都认为让病人出院的决定很复杂，但64人中有59人(92%)同意出院决策支持工具可能有价值。AI- cds工具开发部位的医生对AI的熟悉程度更高，总体上对AI的支持作用更有信心，但与非开发部位的医生相比，他们也更相信AI- cds工具专门用于出院决策支持。来自非发育部位的医生更重视了解哪些因素有助于预测。

其他研究也发现，医生对AI-CDS工具的使用持积极态度[ 15， 16， 18， 20.］．有趣的是，我们研究中的大多数受访者都相信AI- cds工具的附加价值，而64人中只有26人(41%)同意或强烈同意AI充分理解他们的工作以支持他们。与以往调查结果相同[ 18， 20.]，这一不一致的发现可以解释为这些医生在进行研究时没有使用AI-CDS工具，因此他们不知道这些工具是否能够捕捉复杂的ICU环境[ 28］．最后，文献证实了床位容量对医生出院决定的影响，这可能会限制AI-CDS工具在床位容量低的情况下的适用性[ 21］．

最近对AI-CDS工具开发指南的范围审查得出结论，需要更加关注实施策略，以便在临床环境中有效整合[ 29］．以定性访谈和问卷形式进行的人为因素研究可能会增强AI-CDS工具的使用，因为这种方法可能会改善系统的设计、培训过程和实施策略[ 12， 17］．我们建议重点关注每个实施前地点的重要当地和社会技术背景，以迎接实施“最后一英里”的挑战[ 11， 21， 22， 30.， 31］．我们观察到的使用AI-CDS工具的积极态度和意愿是接受这项新技术的积极指标[ 32， 33]，但它们也支持这样一种观点，即期望应与拟采用的AI-CDS工具的预期用途相一致[ 17］．此外，在实施AI-CDS工具用于ICU患者出院后，重复我们的问卷调查将是有价值的，因为之前已经观察到医生表现出较低的兴奋度( P<.01)关于AI-CDS实施后[ 34］．

从开发和非开发站点对AI-CDS的熟悉程度和热情的差异可以看出，应该充分重视培训和告知医生在日常实践中使用AI-CDS工具[ 10］．这种培训还应包括在医疗保健中使用AI-CDS的伦理和责任，因为医生保留治疗决定的最终责任[ 33］．最后，需要培训医生解释死亡率或再入院风险预测，因为我们观察到一系列关于患者是否会出院到低护理病房的阈值的答案( 图3)．由于再入院或未入院或出院后死亡的患者数量存在显著不平衡，风险预测在0%至100%的范围内倾斜，集中在5.3%的事件率附近[ 25];受访者没有被告知这一点。因此，在培训过程中应注意对这些校准风险预测的解释，因为对该结果的高风险和低风险的认识明显不同。

这项研究对AI- cds工具设计过程的影响包括需要可解释的AI，因为大多数受访者表示需要深入了解导致“黑箱”预测的因素。我们想强调的是，解决可解释性并不是成功实施AI-CDS所需的唯一因素;相反，在整个开发、设计和实施过程中，应该考虑领域专业知识、社会技术背景和医生的观点[ 31， 35， 36］．我们建议AI-CDS开发人员在设计和开发的早期阶段执行用户和人为因素研究，以最大限度地发挥影响并顺利集成到当前的决策过程[ 11］．

目前研究的局限性是我们只在荷兰的2家学术性三级转诊医院进行了调查。这可能会降低我们发现的普遍性;例如，来自非学术医院的ICU医生可能不太熟悉人工智能。其次，受访者对AI的理解可能存在差异，为了保持问卷简洁，我们没有向最终用户提供清晰的AI定义。另一个限制是我们没有正式评估这个问卷的效度和信度。然而，我们确实与广泛的专家团队一起构建了问卷，并在LUMC进行了可行性研究，然后将问题概括为适用于阿姆斯特丹UMC。未来的研究可以为AI-CDS工具的预实施开发经过验证的问卷，这里提出的与当前决策、工作流和AI-CDS前景相关的4个领域可以作为蓝图。大流行造成的工作量增加可能影响了我们的反应率(64/93;69%)。然而，在我们的ICU临床医生样本中，在ICU工作的医生的培训水平和医学专业的多样性是不同的，并且在有经验的ICU医生和其他受访者之间观察到的差异很小( 多媒体)．然而，无应答偏差可能影响了我们的结果，因为填写问卷的临床医生可能比非应答者对AI-CDS有更高的兴趣。

总之，这项调查为当前的决策行为和AI-CDS工具的使用提供了有价值的见解，这些工具可用于实施过程和最终用户的培训。尽管并非所有受访者都认为让患者出院的决定很复杂，但总的来说，他们对AI-CDS的态度是积极的，特别是对AI-CDS工具的态度是积极的。两个研究地点在AI-CDS工具的开发中有不同程度的参与，观察到它们之间的差异，表明在AI-CDS经验很少的部门需要教育和培训。我们建议AI-CDS工具的开发人员在设计过程的早期让最终用户参与进来，并通过调查的方式进行预实施，以调查当地环境下的潜在接受度，改进系统的设计和临床工作流程设计，最终促进临床应用。