聊天机器人在公共卫生领域的发展和使用:范围审查

简介

谷歌的首席执行官Sundar Pichai在最近的一次采访中表达了他的观点，他认为人工智能(AI)对人类的影响将比火、互联网或电的出现更深远[1］．尽管皮查伊在宣传人工智能增强的未来愿景方面有既得利益，但毫无疑问，计算技术的进步正在推动我们与计算系统、组织、彼此和世界的互动方式迅速转变。这种快速变化的技术图景的一个显著特征是对话代理(或称“聊天机器人”)的蓬勃发展和使用。

聊天机器人——一种旨在进行类似人类对话的交互的软件程序——正越来越多地应用于我们日常生活的许多方面。它们模仿自然语言对话，以促进人类和计算机之间的交互，也被称为“对话代理”、“对话助手”或“智能虚拟助手”，它们可以支持语音和文本对话。早期著名的聊天机器人包括ELIZA(1966;“一个模仿罗杰斯式心理治疗师”)，PARRY (1972;模拟偏执型精神分裂症患者的聊天机器人，由一名精神病学家针对ELIZA开发)和ALICE (1995;一个通用对话聊天机器人，受ELIZA启发)[2］．聊天机器人技术的发展和应用最近取得的进展，以及信使平台的迅速普及，推动了自2016年以来聊天机器人使用和开发的爆炸式增长[3.］．自然语言处理(NLP;包括语音识别、文本到语音、语音到文本、自然语言理解和自然语言生成)，以及商业“虚拟助手”的出现和推广，如Siri、谷歌Now、Cortana和Alexa [4将人工智能带入了我们日常生活的许多方面。现在，人们发现聊天机器人应用于商业和电子商务、客户服务和支持、金融服务、法律、教育、政府和娱乐，并越来越多地应用于卫生服务提供的许多方面[5］．

持续的COVID-19大流行进一步推动了聊天机器人的迅速普及和部署[6]，其中许多利用商业聊天机器人开发平台，如IBM的Watson Assistant、谷歌Dialogflow、Yellow Messenger和Turn。IO开发定制聊天机器人来帮助对抗这种疾病。面对大流行给卫生保健系统带来的负担，聊天机器人实现了服务自动化，以满足保持身体距离的需求，并帮助传播信息，缓解全球公共卫生系统对医疗服务的压力[7，8］．

使用人工智能进行大规模症状检查和分诊现在已成为世界许多地区的常态，标志着以人为本的医疗保健正在远离[9在非常短的时间内。世界卫生组织(世卫组织)认识到有必要在实地提供指导，最近发布了一套关于在卫生领域使用人工智能的伦理和原则的准则[10］．世卫组织本身利用聊天机器人提供指导，并通过其健康警报聊天机器人打击关于COVID-19的错误信息[11通过WhatsApp、Viber和Facebook messenger使用多种不同的语言进行交流，据报道，该应用已经覆盖了超过1200万人[12］．

鉴于为支持公共卫生服务而部署的聊天机器人数量急剧增长，迫切需要进行研究，以帮助指导其战略发展和应用[13］．本文旨在帮助解决这一赤字问题。我们研究了聊天机器人在公共卫生领域的发展和使用的证据，以评估该领域的当前状态，聊天机器人最多产的应用领域，以及聊天机器人被评估的方式。通过回顾目前的证据，我们发现了当前知识中的一些空白，以及为公共卫生服务开发和使用聊天机器人的可能下一步步骤。我们的研究问题如下。

1. 关于在公共卫生领域使用聊天机器人的证据告诉我们什么?
2. 在公共卫生的哪些领域中，聊天机器人的使用最为频繁?
3. 在公共卫生领域使用的聊天机器人有哪些类型?
4. 如何评估聊天机器人在公共卫生领域的作用?
5. 从在公共卫生领域使用聊天机器人的证据中可以学到什么潜在的教训?

方法

我们对在公共卫生领域使用聊天机器人的研究进行了范围审查。我们遵循Arksey和O’malley的PRISMA-ScR(系统评审和范围评审元分析扩展的首选报告项目)指南和方法框架[14的范围研究，并在2021年6月的两周时间内在MEDLINE、PubMed、Scopus、Cochrane中央对照试验登记册、IEEE Xplore、ACM数字图书馆和开放灰色数据库上搜索研究的标题和摘要。我们的搜索词包括“聊天机器人”、“对话代理”以及它们的同义词、公共卫生、全球公共卫生和相关词汇多媒体附录1)．我们选择将搜索范围扩大到包括医疗保健和健康，以更广泛地了解聊天机器人用于健康相关目的的应用领域。领域分类分为三种分配方式:(1)由作者自行确定，(2)根据当前公共卫生部门的定义进行分类，(3)根据聊天机器人的设计范围进行分配。关于心理健康，我们进一步区分了专门为未确诊患者提供社会支持的聊天机器人，将其定义为“咨询/支持”，以及那些旨在处理抑郁症等临床疾病的聊天机器人，将其定义为“心理健康”。

人工智能和数字技术的使用以及它们在卫生领域的作用往往会模糊人口与临床卫生之间的界限——也就是说，用于满足个人卫生需求的聊天机器人在应用中往往与人口层面的卫生同样相关。在这方面，基于人群的预防与个体层面的临床护理之间的综合[15变得尤为重要。聊天机器人等数字技术所隐含的效率和规模水平为提供医疗保健开辟了新的可能性，可以将个人层面的医疗保健扩展到人口层面。因此，我们纳入了旨在向个人提供卫生服务的聊天机器人的研究，这些研究有明显的健康影响的证据，而且重要的是，它们有可能提高可扩展的效率，以支持人口层面的卫生结果。

我们的选择方法如下。其中一名作者筛选了通过数据库搜索找到的研究的标题和摘要，选择了被认为符合资格标准的研究。然后第二个作者随机筛选了50%的同一组已确定的研究，以验证第一作者的选择。在标题和摘要筛选阶段，两位作者分别检索和审查了符合纳入标准的论文，随后讨论了差异和解决方案，以达成一致的纳入研究清单结束。

我们的入选标准是为了预防或干预的目的而使用或评估聊天机器人，并有证据表明对健康有明显影响的研究。我们包括了一些实验研究，其中聊天机器人进行了试验，显示出了对健康的影响。我们还包括了正在推出的代理的可行性研究，随机对照试验(rct)告知会话代理的可行性，这些代理具有明显的可扩展性适用性和人口水平干预的潜力，以及在职聊天机器人的比较分析。我们选择不区分具体化会话代理和基于文本的代理，包括这两种模式，以及带有基于卡通界面的聊天机器人。

我们排除了思想实验、对尚未实现的系统的设计概要和思考、拟议的聊天机器人和对话代理的描述、系统架构的原型、调查和预设计分析、框架、评论、验证研究、介绍代理的技术论文，这些论文解释了尚未试验的代理的架构和设计，以及探索用户对数字代理的感知或其可接受性或有效性的论文。我们也排除了比较技术方法(如消息传递)差异影响的研究和使用“绿野仙踪”协议的研究。“绿野仙踪”协议是一种用于测试用户反应的协议，在该协议中，人类通过一个界面对用户做出反应，用户认为他们是在与计算机交互。评审选择过程如图所示图1．

‎ 把这个图

结果

包括研究

共有32项研究符合纳入标准。这些研究包括随机对照试验(n=12)、用户分析(n=8)、用户体验研究(n=3)、试点试验(n=1)、描述性研究(n=1)、比较分析(n=2)、病例对照研究(n=1)、设计过程(n=2)和可行性研究(n=2)。这些研究分布在11个应用领域。

心理健康和COVID-19主导了应用领域。这一结果可能是心理健康领域关于使用聊天机器人的研究成熟的产物，以及使用聊天机器人帮助抗击COVID-19的大量增加。的图图2因此反映了应用领域研究的成熟度和这些领域研究的存在，而不是已经进行的研究的数量。

‎ 把这个图

公共卫生领域聊天机器人研究的成熟度

研究的时间轴，见图3这并不奇怪，因为从2016年开始，人们对聊天机器人的兴趣激增。尽管在聊天机器人的吸收和使用方面，卫生服务总体上落后于其他部门，但自2016年以来，人们对心理健康等应用领域的兴趣越来越浓厚。这一发现可能反映了对话技术在何种程度上有助于精神卫生领域使用的各种互动方法，以及对实地卫生从业人员使用的方法进行更严格审查的必要性。

同样，人们可以看到通过使用聊天机器人对COVID-19的快速反应，这既反映了在分诊和信息工作中使用聊天机器人的实际需求，也反映了大流行的时间轴。

‎ 把这个图

聊天机器人设计

在聊天机器人的开发中，详述任何以用户为中心的设计方法的研究属于少数(3/ 32,9%)[16-18］．大多数(22/32,69%)的论文只大致描述了聊天机器人中可用的消息内容(例如，涉及的主题)和用户可用的功能(例如，每日提醒)，但很少有人描述了决定这些功能和能力的过程。

一项突出的研究是Bonnevie及其同事的工作。16的发展蕾拉在意外怀孕风险较高的人群中，这是避孕和性健康方面值得信赖的信息来源。蕾拉是通过基于社区的参与式研究来设计和开发的，在这种研究中，将从聊天机器人中受益的社区也对它的设计有发言权。蕾拉展示了人工智能在增强社区主导的卫生干预方面的潜力。这些方法也提出了关于知识生产的重要问题，人们担心人工智能在更广泛的范围内正在进行清算。19］．

在纳入的研究中，三分之二(21/ 32,66%)的聊天机器人是在网络上的定制开发平台上开发的[6，16，20.-26]，适用于流动装置[21，27-36]，或个人电脑[37，38］．还有一小部分(8.32,25%)的聊天机器人部署在Facebook Messenger、Telegram或Slack等现有的社交媒体平台上。39-44];使用短讯短讯[42，45];或谷歌Assistant平台[18)(见图4)．

所有纳入的研究都测试了文本输入聊天机器人，其中用户被要求打字发送消息(自由文本输入)或从列表中选择一个短语(单一选择输入)。只有4项研究纳入了以语音回应的聊天机器人[24，25，37，38];其他所有的研究都包含了用文字回应的聊天机器人。

大多数研究(28/ 32,88%)对聊天机器人的技术实现描述非常少，这使得从这个角度对聊天机器人进行分类非常困难。大多数(19/32,59%)纳入的论文包含了用户界面的截图。然而，有些只提供了界面的草图，而且通常情况下，详细描述聊天机器人功能的文本与文本附带的图片不一致(例如，聊天机器人被描述为自由进入，但截图显示的是单一选择)。在这种情况下，我们将聊天机器人标记为使用组合输入法(参见图5)．

令人惊讶的是，在应用程序域、聊天机器人的目的和通信模式之间没有明显的关联多媒体附录2［6，8，9，16-18，20.-45])。一些研究确实表明，使用自然语言并不是积极的会话用户体验的必要条件，特别是用于自动填写表单的症状检查代理[8，46］．然而，在另一项研究中，不能自然交谈被视为与聊天机器人互动的一个消极方面。20.］．

聊天机器人角色的呈现(参见图6)通常以静态化身的形式呈现(n=17)。在这些聊天机器人中，8个被赋予了拟人化的化身，无论是照片还是绘画(例如，剪贴画)，而其余的则采用了机器人、动物、卡通或其他抽象的化身。具身对话代理(n=5)仅以“女性”类人化身的形式呈现。在那些没有头像的用户中(n=6)，这种缺失通常是由于平台限制(如WhatsApp或某些形式的嵌入式网络聊天)。虚拟形象的存在和聊天机器人的拟人化外观的影响仍然是一个研究不足的领域，但我们预计它将对医疗保健领域的未来聊天机器人设计具有特别重要的意义。

‎ 把这个图

‎ 把这个图

‎ 把这个图

基于聊天机器人的健康干预的有效性证据

纳入的研究包括随机对照试验(n=12)、用户分析(n=8)、用户体验研究(n=3)、试点试验(n=1)、描述性研究(n=1)、比较分析(n=2)、病例对照研究(n=1)、设计过程(n=2)和可行性研究(n=2)。

对于rct，参与者的数量在20到927之间变化，而用户分析研究考虑了129到36070名用户的数据。总的来说，发现的证据是积极的，显示出一些有益的影响，或混合的，显示出很少或没有影响。证据主要是初步的和上下文相关的。大部分(21/ 32,65%)纳入的研究表明，聊天机器人是可用的，但在用户体验方面存在一些差异，它们可以在不同的健康领域提供一些积极的支持。

在知识和技能提高方面的几项研究发现了中等积极的结果[20.，39，减少健康风险[25]，以及支持饮食和体育锻炼[31]，并且有一些初步证据表明，支持戒烟的聊天机器人可以提高戒烟的机会[36］．

关于使用聊天机器人治疗心理健康(尤其是焦虑和抑郁)的研究似乎也显示出了潜力，用户至少在一些测量中报告了积极的结果[33，34，41］．该研究表明，心理治疗聊天机器人可以作为更广泛的心理治疗过程的一部分作为辅助工具[21)在广泛的心理治疗方法和方法(见多媒体附录2查看聊天机器人角色的摘要)。

研究发现，聊天机器人通过减少筛查时间改善了医疗服务的提供[17并对有COVID-19症状的人进行分类，在需要时指导他们进行检测。这些研究明确表明，在COVID-19大流行的早期阶段，聊天机器人是应对大量人口的有效工具。然而，1比较研究[22]显示，在10个基于web的症状检查器之间，正确评估的COVID-19病例数量差异很大，只有2个聊天机器人在敏感性(没有将几乎所有患者归类为COVID-19阳性)和特异性(没有将所有患者归类为COVID-19阴性)之间取得了良好的平衡。总的来说，这一结果表明，尽管聊天机器人可以实现有用的可伸缩性属性(处理许多情况)，准确性是需要积极关注的，而且它们的部署需要基于证据的[23］．

关于使用聊天机器人来支持行为改变的证据有好有坏。一项研究发现，任何影响都仅限于那些已经在考虑做出这种改变的用户。24，另一项研究为老年人的健康教练提供了初步证据[31］．另一项研究报告称，尽管完成率很高，但支持问题赌徒并没有显著效果[40］．

关于依从性也报告了混合的结果。一项研究发现，坚持血压监测计划没有效果[39]，而另一项报告称药物依从性有积极改善[35］．

关于在公共卫生服务提供中使用聊天机器人的研究还处于早期阶段。虽然初步结果确实表明在一些应用领域产生了积极影响，但报告的结果在大多数情况下是好坏参半的。此外，不同的用户对聊天机器人的参与度(尽管不一定与效果相关]36)，研究的规模，以及目标人群的人口统计学特征(例如，某些人群更有可能使用聊天机器人获得更好的体验[18)是可能影响干预效果的少数变量之一。

聊天机器人设计评估

大多数研究(26/ 32,81%)使用定量方法和方法学评估聊天机器人设计及其对健康结果的影响。在大多数情况下，定性方法被用于检查聊天机器人对患者的可接受性，以及患者在使用聊天机器人和其他定量可用性指标时的自我报告体验[45］．用户体验和可用性评估由结构化问卷和调查组成，通常包含一些开放式问题(n=11)，只有一项研究使用了焦点小组(n=1)。

到目前为止，评估聊天机器人主导的干预措施的健康影响最普遍的方法是随机对照试验(n=12)。专注于聊天机器人对分配任务的有效性的研究，如分诊和症状检查，更容易通过用户分析进行评估(n=8)。然而，对用户体验的评估有限(n=3)，聊天机器人的开发很少由设计主导——尽管有明显的例外，有一项研究确定了开发中的用户原则[17];1项研究遵循以人为中心的设计过程，对接受癌症治疗的年轻人进行研究[43];另一个是利用基于社区的参与式研究开发聊天机器人[16］．在对广泛部署的聊天机器人进行评估时注意到的另一个限制是，聊天机器人收集的用于进一步分析的数据不包含个人身份信息，因此不可能知道目标人群是否为实际用户[16］．

没有纳入的研究报告直接观察(在实验室或原位;例如，民族志)或深度访谈作为评价方法。鉴于已认识到需要对用于公共卫生的聊天机器人进行观察性研究[28]以及目前在人机交互(HCI)中广泛使用的观察式和参与式方法[47]，未来的聊天机器人研究有动力依赖这些方法，如果他们的开发是最好的支持其用户。

讨论

主要研究结果

尽管关于在公共卫生领域使用聊天机器人的研究尚处于早期阶段，但技术的发展和抗击COVID-19的紧迫性推动了聊天机器人的使用大幅增加，尤其是在分诊方面。关于使用聊天机器人治疗心理健康(特别是抑郁症)的研究似乎也显示出了潜力，用户报告了积极的结果[33，34，41］．在2019冠状病毒病大流行之前，关于聊天机器人在心理健康方面的治疗性使用的研究仍主要是实验性的。然而，聊天机器人的研究领域还处于起步阶段，目前还没有证据证明聊天机器人在所有领域的预防和干预效果。

值得注意的是，人们似乎更愿意在与聊天机器人交谈时分享敏感信息，而不是与其他人交谈。20.］．在某些情况下，与聊天机器人而不是与人交谈被认为是一种积极的体验，因为人们认为聊天机器人不那么“挑剔”。48］．与聊天机器人的类人互动似乎对支持健康和幸福有积极贡献[27]以及通过提供陪伴和支持来对抗社会排斥的影响[49］．然而，在其他使用领域，人们担心AI症状检查器的准确性[22建立了与聊天机器人界面的关系。信息的可信度和准确性是人们放弃咨询诊断聊天机器人的原因[28]，并承认有必要对人工智能算法进行临床监督[9］．

尽管COVID-19大流行推动了聊天机器人在公共卫生领域的使用，但令人担忧的是，各国政府在抗击疾病的过程中以安全为由获取信息的程度。例如，在韩国，实施综合技术应对措施，包括个性化通信聊天机器人和使用收集的个人数据进行接触者追踪[50)，在使用人工智能时，侵犯了许多人认为是基本人权的隐私。商业实体和政府机构共享通过COVID-19症状检查收集的健康数据，对数据隐私法和司法管辖权边界提出了进一步挑战[51］．

大多数纳入的研究引用的证据要么是测量干预的效果，要么是表面和自我报告的用户满意度。几乎没有定性的实验证据能够提供对人与聊天机器人互动的更实质性的理解，比如参与者观察或深度访谈。在这方面，我们应该记住，聊天机器人是复杂的系统，在公共卫生领域部署聊天机器人是一种技术设计活动(平台的设计、交流方式和内容的设计)，就像它是一种医疗干预(干预的设计和为其有效性设置措施)。作为HCI和公共卫生研究的交叉学科，研究必须满足这两个领域的标准，而这两个领域有时是相互矛盾的[52］．为评估药理干预措施而开发的方法，如rct，旨在评估干预措施的有效性，在HCI和相关领域是已知的[53他们为更好的设计提供的见解受到限制。

现有研究中的研究往往不能提供关于被测试聊天机器人的设计的充分信息，包括RCT标准，因为聊天机器人的描述不足以实现一个等价的聊天机器人。干预设计中还有更多的混杂因素，这些因素与聊天机器人没有直接关系(例如，输入情绪数据的每日通知)，或者包括聊天机器人编程的个性等方面，这些因素会对人们产生不同的影响[33］．作为一个新兴的研究领域，未来人类与人工智能和聊天机器人界面的交互影响是不可预测的，因此需要标准化的报告、研究设计[54，55，以及评估[56］．

纳入的研究中很少讨论他们如何处理安全问题，即使只是在设计阶段。在那些做到了的研究中，研究人员提到，他们无法提供一个人来支持聊天机器人(即，与聊天机器人的对话不受人监控)，所以聊天机器人被编程为在用户遇到问题时通知用户联系官方卫生当局(例如，指示用户拨打911)。当聊天机器人大规模使用或在诸如心理健康等敏感情况下使用时，这种方法尤其值得关注。在这方面，聊天机器人可能最适合作为现有医疗实践的补充，而不是替代[21，33］．

对未来研究的启示

虽然在卫生领域使用自然语言处理是一个新的领域[47]，它是计算机科学和人机交互的一个深入研究的领域。在开发和部署新的技术干预措施时，必须注意确定这些干预措施可能复制或放大现有不平等的方式，例如获取语言熟练程度、技术知识、智能手机技术、移动数据，甚至电力[9］．在人机交互和计算机科学中使用的以人为本的设计过程，特别是那些在整个设计过程中让目标用户参与的设计过程，如参与式设计、协同设计和参与式行动研究，可能是从一开始就解决现有不平等的有用方法[57］．

大多数被收录的论文都包含了聊天机器人的截图。然而，其中一些只是界面的草图，而不是最终的用户界面，而且大多数截图对功能的描述都不充分。尽管对聊天机器人的技术描述可能单独构成论文，但这些描述超出了我们关注公共卫生证据的范围。然而，此前发表的一份范围审查[58]，重点关注聊天机器人实现医疗用途的技术方面，区分文本理解模式(例如，模式匹配、机器学习、固定输入和混合)、数据管理(医疗知识库、用户信息数据库和对话脚本)和文本生成(固定输出和机器学习)。进一步的范围研究将有助于更新用于与covid -19相关聊天机器人的技术策略的分布。

未来对聊天机器人的研究将受益于包括更多的细节，如聊天机器人是如何实现的，它使用什么类型的NLP，并交叉引用描述系统实现和技术贡献的等效技术论文(如果有的话)。

更广泛地说，在一个快速发展的技术领域，有来自行业参与者的大量投资，需要更好的报告框架，详细描述用于聊天机器人开发的技术和方法。同样，鉴于聊天机器人在各种各样的公共卫生领域的广泛部署，有必要制定比较标准的标准，以便更好地评估和验证这些代理以及它们用于改善健康和福祉的方法和途径。最后，需要了解和预测这些技术可能出错的方式，并确保有充分的保障框架来保护这些技术的用户并让他们有发言权。

限制

鉴于聊天机器人研究的不成熟、在其开发和使用方面的巨大投资以及人工智能和人机交互的动态性质，我们的研究没有捕捉到公共卫生应用领域开发的大量聊天机器人，包括商业和其他方面。在聊天机器人设计和健康影响方面的学术知识的产生与该领域的进展之间存在很大的滞后。

结论

在公共卫生领域，人工智能的最新进展使得对话代理能够与人类进行更现实的互动，这方面的研究仍处于初级阶段。研究显示出了潜力，特别是对于容易自动化和重复的任务，但与此同时，考虑到会话代理在实践中被采用的速度，对其在医疗保健中使用的临床、法律和伦理方面的担忧是有充分根据的。目前还没有临床试验和深入的定性研究形式的证据支持聊天机器人的广泛使用，而这在心理健康等敏感领域尤其必要。大多数用于咨询和治疗服务等辅助领域的聊天机器人仍处于试验阶段，或作为试点和原型进行试验。在有证据的地方，它通常是好坏参半的或有希望的，但在聊天机器人的有效性方面有很大的变化。这一发现在一定程度上可能是由于聊天机器人的设计有很大的可变性(如内容、特征和外观的差异)，但用户对聊天机器人的反应也有很大的可变性。

毫无疑问，包括聊天机器人在内的人工智能在公共卫生领域的使用将继续增长。这种增长带来了相当大的道德困境，我们最好警惕新技术的魅力。59］．最重要的是需要了解在什么情况下我们可以使用自动化而不是其他连接人类的技术(例如，机器辅助而不是机器智能)，以及在什么情况下，与模拟另一个人的计算机对话确实满足了这个人的需求。例如，最近发表的《世卫组织卫生领域人工智能伦理和治理指南》[10是朝着实现这些目标和围绕人工智能的使用制定一个人权框架迈出的一大步。然而，正如隐私国际在审查世卫组织指南时所评论的那样，指南在挑战使用人工智能必然会带来更好结果的假设方面做得还不够充分[60］．理想情况下，公共卫生领域的数字创新应以衡量聊天机器人等技术可能对卫生干预措施产生的影响、洞察用户体验并致力于确保用户安全和促进用户福祉的研究为依据。