这是一篇在知识共享署名许可(https://creativecommons.org/licenses/by/4.0/)下发布的开放获取文章,该许可允许在任何媒介上不受限制地使用、分发和复制,前提是原始作品首次发表在《医学互联网研究杂志》上,并适当引用。必须包括完整的书目信息,到//www.mybigtv.com/上原始出版物的链接,以及版权和许可信息。
利用人工智能驱动的应用程序进行健康教育和宣传,有助于实现若干联合国可持续发展目标。SnehAI由印度人口基金会开发,是第一个印度英语(印地语+英语)人工智能聊天机器人,专门为印度的社会和行为改变而设计。它提供了一个私人的、无偏见的、安全的空间来促进关于禁忌话题(如安全性行为和计划生育)的对话,并提供准确的、相关的、值得信赖的信息和资源。
本研究旨在利用吉布森的可得性理论来研究SnehAI,并就如何使用人工智能聊天机器人来教育青少年和年轻人、促进性健康和生殖健康,以及倡导印度妇女和女孩的健康权利提供学术指导。
我们采用了一种工具性的案例研究方法,使我们能够从技术设计、程序实现和用户参与的角度探索SnehAI。我们还混合使用定性分析和定量分析数据来三角测量我们的发现。
SnehAI在15个功能方面展示了强有力的证据:可访问性、多模态、非线性、可强制性、查询性、可编辑性、可见性、交互性、可定制性、可跟踪性、可扩展性、全球本地化性、包容性、连接性和可操作性。SnehAI还有效地吸引了用户,尤其是年轻男性,在5个月的时间里,该网站共发送了820万条信息。在收到的用户信息中,几乎有一半是非常私人的问题,以及对性健康和生殖健康以及相关主题的关切。总的来说,SnehAI成功地将自己塑造成一个值得信赖的朋友和导师;精心策划的内容既有娱乐性又有教育性,自然语言处理系统有效地个性化了聊天机器人的反应,优化了用户体验。
SnehAI代表了一种创新的、引人入胜的教育干预,使弱势群体和难以接触的人群能够谈论和了解敏感和重要的问题。SnehAI是人工智能技术为社会造福的巨大潜力的有力证明。
本文介绍了印度一个名为SnehAI的创新聊天机器人的重要案例研究的丰富见解,该机器人是由印度人口基金会有目的地概念化和设计的,旨在教育和激励青少年和年轻人过上健康的生活,促进性健康和生殖健康(SRH),并倡导妇女和女孩的健康和福祉。SnehAI聊天机器人旨在为印度年轻人提供一个安全的空间,让他们谈论性健康和生殖健康,消除与性有关的神话和禁忌,提供有关安全性行为和避孕选择的准确信息,并解决心理健康问题。印度人口约14亿,约占地球总人口的18% [
特别是,印度的年轻人对避孕和性传播感染的认识有限;他们的知识库由不准确的信息组成;家庭生活教育严重不足[
聊天机器人是社交媒体领域内在不同行业迅速崛起的一项技术。
2020年eNGO数码工具及赋权挑战大奖得奖者[
我们的调查重点是SnehAI实现SRH信息共享和用户参与的不同方式。首先,我们提出了我们的指导框架,即可视性理论。我们的文献综述强调了相关技术的基本论点和启示。然后,我们描述了我们的方法论方法,这是一个工具性的案例研究,收获了SnehAI的独特贡献。我们的研究结果是根据我们的理论推导的研究问题来组织的:第一,关于SnehAI的功能支持,第二,关于SnehAI的用户参与模式。最后,我们对这些主要发现进行了讨论,提出了对理论和实践的启示,并为未来的努力设定了一些方向。
动词to
在过去的40年里,可视性理论深刻地影响了日常物品的设计和人机交互的用户体验[
随着互联网的激增,关于其功能的评论强调了其通过宽带网络的可访问性。互联网越来越多地以多种媒体形式(如文本、音频和视觉)随时随地可用,体现了超文本和搜索引擎实现的超越时间和空间的新颖非线性用户体验[
尽管人工智能和聊天机器人已经存在了几十年,但随着云计算和机器学习利用大数据的最新发展,它们已经获得了广泛的关注[
在很大程度上,学者和实践者都同意
其次,大多数关于启示的文献都有积极的偏见,而且往往局限于它们在不考虑担忧或风险的情况下实现个人目标或公共利益的潜力。把迅速变化的媒体图景描绘成一幅美好的图景是危险的。与以往所有的信息和通信技术一样,智能互联移动设备和社交媒体平台就像一把双刃剑。在这个数字和网络社会中,减少技术决定论的偏见是我们的道德义务。
第三,人工智能聊天机器人的设计和研究仍处于起步阶段[
最后,尽管所有的技术产物都嵌入了某种监管体系中,无论是法律的还是社会的,但这些监管体系的作用很少被包括在对能力的讨论中。虽然我们关注的是算法将允许或禁止数字公民使用他们的智能设备做(或不做)什么,但人工智能的功能在公共话语空间中运行,可能影响个人自主权和隐私[
在上述文献综述和发现差距的基础上,我们研究了SnehAI聊天机器人作为人工智能驱动的会话代理和性教育和性教育交流的数字工具,嵌套在Facebook Messenger移动应用程序中。通过应用功能支持理论作为高级概念框架,通过连接和综合文献中的所有相关功能支持,并通过分析定性见解和不显眼的定量行为数据,我们回答了以下研究问题:
研究问题1:SnehAI在促进围绕SRH的对话方面的功能支持是什么?
研究问题2:用户如何与SnehAI进行对话?
SnehAI于2019年4月首次推出。虽然它目前的版本是一个独立的人工智能聊天机器人,但它的最初想法和前身深深植根于印度人口基金会的创新计划
2014年3月至2019年9月,3个季节
2019年4月,在第三季期间,
2020年4月,SnehAI(2.0版本)推出了自然语言处理(NLP)平台和更好的内容流,使SnehAI在与用户的对话中更加智能[
Facebook Messenger上的SnehAI聊天机器人用户界面。
用户与SnehAI之间的对话以热烈的欢迎信息开始。这个聊天机器人介绍自己是Sneha博士。她提到,她在一家医院工作,并参与了村里的其他发展项目。在介绍之后,她要求用户选择一个可用的选项,以确保用户理解他或她正在与聊天机器人而不是人类进行交互。之后,邀请用户订阅来自SnehAI的通知。然后,他们可以选择主菜单上显示的一系列内容并与之交互。根据他们的选择,信息可能以超链接文本、图像或短视频的形式显示。此外,这些主题互动被组织成五个内容类别(
帮助热线:该选项将用户引导到2个帮助热线。通过卫生和家庭福利部认可的全国免费电话Jansankhya Sthirata Kosh,有一条关于性健康和生殖健康的热线。它向来电者提供关于计划生育和生殖健康问题的信息和咨询,包括获取和使用避孕药具。另一个帮助热线选项将用户链接到一个关于基于性别的暴力的国家帮助热线,以咨询和报告事件。
SnehAI聊天机器人内容流程图。RKSK: Rashtriya Kishor Swasthya Karyakram。
除了改进的内容结构和流程之外,SnehAI(2.0版)的一个关键元素是使用NLP系统来处理和响应用户输入的自由文本查询。该NLP系统首先用预填充的正则表达式(简称RegEx,程序员通常使用)匹配自由文本,如果找到匹配,则执行相应的回复。如果没有找到匹配项,NLP系统激活微软语言理解(LUIS)会话AI服务,并使用它在客户端应用程序(如AI聊天机器人,如SnehAI)中应用自定义机器学习智能来处理用户输入并提供适当的响应[
案例研究方法对于在自然和现实环境中探索一种现象特别有用,并允许发展更深入,多方面和整体的理解[
从主要利益相关者那里获得了定性见解,机构代表是本文的共同作者,致谢中列出了其他利益相关者。从2018年9月到2020年12月,共举行了2次面对面小组会议、4次虚拟会议和多次后续电子邮件讨论。六份中期及最终报告(包括本文件引用的两份报告)[
主动处理个案研究方法的潜在缺陷[
为了回答研究问题1,我们编制了一份广泛的文献综述相关功能支持列表,根据我们获得的定性见解对SnehAI应用程序进行了评估,并提取了15个功能支持(见摘要)
为了回答研究问题2,我们检查了有关SnehAI用户行为的Dashbot综合分析数据。在5个月的时间里,SnehAI与135,263个独立聊天机器人用户之间交换了8,170,879条消息,其中聊天机器人向用户发送的消息为5,100,449条(62.42%),用户向聊天机器人发送的消息为3,070,430条(37.58%)。随着时间的推移,传出和传入消息之间的比率一直保持在60:40左右,除了7月份重复传出的消息(例如技术错误,用星号标记在
SnehAI的平均用户粘性为1.9次会话,7.6分钟,交换56.2条消息(
随着时间的推移,SnehAI聊天机器人发送和接收的消息比率。
SnehAI聊天机器人随着时间的推移平均用户参与度。
我们还通过内容类别跟踪用户参与度,包括使用可点击反应的引导流程和使用NLP处理自由文本消息。尽管每次用户参与特定内容类别时,可能会与SnehAI交换多个消息,但不同内容类别的参与频率的长期趋势提供了用户响应和偏好的经验证据。从入门到了解Sneha,到其隐私政策,从主菜单到视频,故事,游戏,帮助热线和通过NLP的查询回复,聊天机器人用户在5个月的时间里穿越了这些内容区域1,430,416次。这些互动中约有一半(705,305/1,430,416,49.31%)是关于聊天机器人对用户查询的回应,包括闲聊和与健康交流主题相关的任何问题(
我们的分析跟踪数据显示,SnehAI处理了99,936条来自用户的输入短信,并通过NLP系统回应了与六个主题相关的查询(
在Facebook的批准下,我们访问了SnehAI聊天机器人用户的性别分类数据。我们发现了一个极端的性别差异(
SnehAI聊天机器人内容参与度随时间分布。
SnehAI聊天机器人自由文本查询内容分布随时间的变化。
SnehAI用户与印度互联网和Facebook用户的性别差异。
更糟糕的是,基于15,000个抽样查询,我们的数据科学团队发现“女性用户在与SnehAI交谈时表现出明显缺乏自信的行为模式。”这可能是因为印度女性用户在移动设备拥有率和数字媒体素养方面存在性别差异。
此外,他们可能不太愿意公开讨论性健康和生殖健康问题,并可能对数字滥用和性剥削持有更高的隐私担忧。相比之下,也有男性用户要求SnehAI为他们介绍一个女孩,有些人甚至与她进行淫秽聊天,通过性短信表达亲密关系,要求提供色情视频,并使用辱骂性语言。一些问题也显示了性虐待最黑暗的一面,男性用户询问,如果他们不愿意与女孩发生性关系,他们可以给女孩哪些药片,意图凌驾于双方同意的性行为之上。
SnehAI率先使用人工智能聊天机器人来吸引用户,特别是年轻男性,参与关于SRH的对话。在5个月的时间里,总共交换了820万条信息,其中几乎一半的用户信息是自由文本查询,包括个人问题和对SRH的关注。总的来说,斯尼哈的化身是基于斯尼哈博士的
利用Gibson的理论指导我们的研究,并在现有文献的基础上,我们提炼了SnehAI的15个功能启示。我们的重要案例研究结果证明,SnehAI为用户提供了一个安全的空间来谈论敏感的SRH话题,寻求和获得准确的信息,通过帮助热线获得当地的服务,并寻求个人咨询。
与此同时,我们还发现,在许多潜在的不平等中,存在着极端的性别差距。在印度,父权制对女性自主性、流动性和自我表达的限制在SnehAI用户分析数据中得到了生动的反映。这种比例差异是一种风险,可能会在人工智能聊天机器人的NLP模型中引入性别偏见。我们的团队目前正在调整基于现场的促销策略,以吸引更多的女性用户。根据我们的结果,其他具体的改进机会包括:
一个更智能的NLP模型与有针对性的行为改变策略相结合,重点关注妇女和女孩的意识建设和赋权,以减少性别偏见。
提醒和提示的系统设置,以重新吸引闲置和不活跃的用户。
在发送文本信息给聊天机器人后,可以选择编辑或召回文本信息,或者使用基于语音的输入和输出,包括低文化水平的用户。
当数字工件传播到更大的范围时,可以在聊天机器人中定制菜单、过滤内容和搜索信息。
该功能允许用户邀请其他值得信赖的朋友使用聊天机器人,并利用匿名和聚合的用户数据来提高用户参与度和点对点学习。
建立一种机制,教育最脆弱的用户如何保护他们的隐私,安全地参与网络活动,并倡导他们的基本人权。
一个可以将聊天机器人用户直接连接到当地健康和社会服务的网络,例如,可以通过聊天机器人拨打热线电话和安排预约。
我们的研究结果对卫生信息学具有重要的政策和规划意义,特别是对以用户为中心和人工智能驱动的干预措施的设计。了解像SnehAI这样的人工智能聊天机器人的积极和消极方面,可以帮助我们在设计、实施和研究这些技术时,为未来的努力提供信息,以加强和扩大积极的一面,并最大限度地减少消极的一面。SnehAI的15个功能可以作为类似应用程序的综合清单。它帮助我们的研究团队确定了SnehAI的独特属性和优势,并明确了未来改进的下一步。它们还可以帮助聊天机器人设计和分析团队选择关键绩效指标进行跟踪,并监控用户行为模式,以确保环境安全并提高用户参与度。本案例研究还描述了SnehAI 2.0版本中使用的NLP模型,用于自定义AI聊天机器人与用户之间的交互。NLP有助于优化对话动态和个性化用户旅程,从而使我们更接近实现联合国可持续发展目标,重点是良好的健康和福祉、性别平等和优质教育。
此外,通过涵盖SnehAI聊天机器人的所有相关方面,我们了解到,当将技术视为工件时,它们的功能不仅应该包括特定的应用程序本身。同样重要(如果不是更重要的话)的是包含应用程序所嵌套的信息系统和通信网络,因为所有这些都是相互联系和相互依存的。如果没有Facebook Messenger、移动设备接入或移动互联网连接,SnehAI就无法正常工作。
此外,关于技术支持的研究通常应包括对公众通常看不见的法律和社会管理制度的注意。当一个公民按照偏见和等级制度(如阶级、性别和种族)划分时,这一点尤为重要。人工智能技术的快速发展将继续给创新者、营销人员和用户带来道德困境的挑战。我们的团队直接与SnehAI的目标用户合作,尊重他们的生活条件,同时促进有意义的社会和行为改变,这在共同创造和协作中显示出巨大的价值。
我们对SnehAI的案例研究证明了吉布森的能力支持理论的稳健性和适应性,该理论在提出约40年后。同时,我们对SnehAI的调查也揭示了当前文献中关于技术支持的研究空白,并为扩展这一理论框架提供了新的见解。只有对用户界面及其操作系统的设计有了更深入的了解(类似于我们的研究团队所做的),才有可能通过它们的存在、识别和实现来评估新技术的可用性。研究人员在对其他类型的社会、认知、情感和治疗推断下结论之前,应该回到基本功能上来。
第二,新媒体研究中的启示存在乌托邦偏见。在研究新兴技术的社会塑造和后果时,平衡技术决定论和社会建构主义是很重要的。对自然启示的识别是一个人个人能力的函数。一种能力是永久的,但它的感知取决于个人的文化、历史、努力和必要性。因此,让用户处于设计的前端和中心是至关重要的。SnehAI的开发以用户为中心,因为印度用户所感知的功能路径对他们来说是独一无二的。功能支持包含了用户表现出的微观行为,因此必须在积极和消极的可行可能性之间取得平衡,并主动解决潜在的风险和担忧,特别是当目的是更好地服务于弱势群体时。
最后,我们通过SnehAI观察到的人类与人工智能的互动非常有趣。这可以看作是霍顿和沃尔[
我们的工具性案例研究不包括从SnehAI用户收集的任何原始数据。这是必要的下一步。虽然
技术接受的其他理论模型[
虽然2.0版的SnehAI是一个独立的应用程序,但化身仍然是以主人公为原型的
作为第一个
SnehAI聊天机器人的功能支持。
SnehAI中语言理解(LUIS)自然语言处理系统的实例。
SnehAI语言理解(LUIS)自然语言处理系统的视频演示。
人工智能
图形交换格式
语言理解
自然语言处理
Rashtriya Kishor Swasthya Karyakram
性健康和生殖健康
SnehAI(1.0版)是在联合国人口基金的资助下开发的,而SnehAI(2.0版)是在比尔和梅林达·盖茨基金会通过印度社会和行为改变中心的资助下开发的。作者感谢印度人口基金会的Abhijit Mali、Urvashi Mitra、Tanushree Sengupta、Alok Vajpeyi、Ritesh Laddha、Nikita Serrao和Mandira Kalra Kalaan的大力支持;Kriti Sharma和Fintan Naggle在人工智能为善,英国;印度Velotio Technologies Pvt Ltd;吴义新,美国纽约州立大学布法罗分校研究员。
HW构思了这项研究的想法,并导致了数据处理和手稿撰写的协同过程。SG, AS, SS, PS和AP多次审阅了手稿,并提供了重要的意见和修改。PM和SS分享了开创性的项目文件,并代表印度人口基金会(SnehAI聊天机器人的所有者)。PS提供的截图
没有宣布。