使用语言分析技术诊断和预测精神疾病的伦理意义

简介

2018年，足球评论员、前利物浦后卫马克·劳伦森被他的一名观众注意到了面部癌症的缺陷[1］．全科医生艾伦·布伦南给英国BBC发了电子邮件，并在电视上看到劳伦森并发现了可疑的皮肤病变后通知了他。劳伦森成功地治疗了皮肤癌，后来他把医生带到电视节目中采访并感谢他。2020年，记者维多利亚·普莱斯在直播时，一名观众注意到她脖子上有个肿块[2］．这名女子立即给记者发邮件，提醒普莱斯应该检查一下甲状腺——观众说她过去也有颈部隆起，后来被查出是癌症。在与肿瘤学家进行检查和预约后，Price确认肿块为甲状腺癌，并接受了有效的治疗[2］．这是许多例子中的两个，在这些例子中，一个人的未诊断疾病的迹象可能会被第三方发现，他们抓住机会提醒这个人。这种态度往往能挽救生命，因为它们最终会得到诊断和有效的治疗。然而，如果精神疾病也能以某种方式变得可感知呢?

在这篇文章中，我们讨论了精神疾病的内在隐私保护，以及当前的技术，特别是人工智能(AI)如何让我们“看到”精神疾病，并有可能绕过这种保护。所谓“看”，我们指的是通过数字方式观看。然后讨论污名化问题，因为它是使“看到”精神疾病的能力与“看到”其他疾病的能力产生不同后果的主要问题。与前两个项目相关的生物伦理问题和此类技术的使用进行了讨论。然后我们讨论人工智能模型的可解释性，这是一个可能威胁生物伦理原则的问题。最后，我们讨论了在临床和研究环境之外使用这些技术的相关问题。

精神疾病的隐私保护

我们通常认为精神疾病具有内在的隐私保护，因为我们需要有人谈论他们的想法和感受，以做出精神状态评估。然而，许多精神疾病对受过训练的心理健康专业人员甚至外行的人来说都是很明显的。外表和行为是精神状态检查的首要项目，这是精神健康专业人员的路线图，相当于全科医生的体检[3.］．在检查过程中，还会仔细评估某人说话的内容和形式，因为言语是我们了解患者思想和感受的主要途径。这些都是我们广义上所说的交际的内容:第一种是非言语交际(或非言语语言)，另一种是言语交际。4］．因此，一个人的行为方式和说话方式，即使不是在精神病学访谈中，有时也可以提供足够的数据来推测精神障碍的可能性。例如，这与黄疸、体重减轻或其他疾病中的全身肿块类似。然而，诊断的确认取决于所示体征之外的进一步检查。这种确认，以及诊断的公开，取决于病人是否同意接受实验室检查、影像学检查和体格检查，并在面谈中进一步询问他们的精神状态，以透露他们的感受和经历。然而，这种“隐私保护”可能会被技术和人工智能建模的快速进展所克服。

首先，社交媒体的广泛使用使得空前数量的私人数据得以公开。这并不是一个新问题，因为它已经在不同领域的电影和出版物中得到了解决[5，6)，最近由于针对大型信息技术公司的隐私诉讼而成为公众辩论的焦点[7］．虽然这种个人大数据用于盈利目的的情况已经公开，但其用于心理健康的用途在很大程度上仍然未知。人们在社交媒体上分享图片、视频和文字，展示他们的行为、言语和想法。这些正是心理健康专家用来诊断的工具。显然，社交媒体上显示的问题并不是心理健康咨询所调查的问题，但当用户频繁地在网上发布他们的亲密感受、分享他们的情绪等时，这些问题往往是重叠的。除此之外，人工智能技术已经发展到一个非凡的水平，他们用于个人语言和非语言分析的机器学习(ML)算法也有了同样的发展[8，9］．2020年发表的一项研究使用上传到Facebook上的语言和图像来识别与精神疾病相关的迹象[10］．ML算法从223名患有精神分裂症或情绪障碍的参与者和健康志愿者中获取了3404959条Facebook消息和142390张照片。第一次精神病住院之前的所有数据都被上传，以最大限度地减少药物治疗、住院和复发以及接受正式精神病诊断对社交媒体活动的潜在影响。该算法能够在首次发病住院前一年仅使用Facebook活动来区分诊断，曲线下面积(auc)在0.72-0.77之间变化。

关于严重精神障碍的这种“可见性”，在更多的临床/研究环境中，视频诊断框架也得到了测试，并取得了令人鼓舞的结果。例如，研究人员发现精神分裂症的神经运动前体可以追溯到童年。11］．因此，对儿童吃午餐的简短录像带片段的分析表明，观察到的运动异常能够区分那些后来患上精神分裂症的儿童和那些没有患上精神分裂症的儿童[12］．最近，从视频和音频记录中提取的口头语言特征被证明是精神疾病的重要早期迹象[13-17］．这些特征包括语篇连贯性、句法复杂性、言语内容贫乏、隐喻性语言和语言结构连通性[13-17］．贝迪等[13]，例如，表明话语连贯性与亚临床精神病症状显著相关。尽管他们的模型来自精神病高危精神状态(arms)的一小部分样本，但他们的模型可以100%准确地预测从危险状态到精神分裂症的进展。斯宾塞等人也发现高危人群的言语连通性较低[17]，他们在分析中使用了语音图表，这是另一种评估句法复杂性和语音内容贫乏的技术。这些特征通常被称为自然语言处理，在更大的样本中，被用于获得高达0.88的auc，以预测哪些高危个体将在未来发展为精神障碍。对于首发精神病患者，auc最高可达0.92，用于预测谁将提前6个月被诊断为精神分裂症[16］．音频功能，如暂停[18]和非语言行为，如手势[19]和整体运动[20.]也被认为是健康和arms的区别。除了严重的精神障碍外[21]，人工智能框架也已被开发用于检测和分类其他精神疾病，正如许多出版物和挑战所示，从音频、视频和文本信息中建立准确的抑郁症估计[22，23］．

因此，“看到”精神障碍的可能性本身就是一项创新技术。它可以增加获得精神卫生保健的机会，并允许预防、早期诊断和治疗，就像本文开头所述的疾病一样。它还可以帮助临床医生在日常实践中诊断、随访和预测他们的病人。这将极大地改善精神疾病患者的预后和生活质量。然而，有一个问题将精神障碍与其他疾病区分开来，这使得“看”它们的想法不那么可取。这个问题就是耻辱。

精神疾病的污名化

精神疾病会带来很大的社会耻辱，而大多数身体疾病不会。24］．对精神障碍患者的偏见和歧视由来已久，早在精神病学诞生之前就存在了[25，26］．不幸的是，尽管精神病学在过去几十年里取得了巨大的进步，但耻辱仍然以多种形式存在[27］．它的原因有很多，但当精神障碍产生行为变化时，它们往往被公众判断为患者的道德行为。如果一个人把精神疾病看作是一种严格意义上的生物疾病，例如，由于遗传原因，对精神疾病的恐惧和不安全感就会产生，就好像这个人无法控制自己的行为一样。28］．如果精神疾病被认为是唯一的社会心理问题，那么患者就应该为他们的抑郁症状、焦虑等等负责。严重精神障碍人群的情况更糟。精神分裂症患者的幻觉和妄想象征着患有这种疾病的人与公众的共同经验不匹配，产生恐惧，感知危险，以及保持社交距离的愿望[29-31］．

因此，污名化是精神障碍患者的主要治疗障碍，阻碍了预防措施，严重恶化了结果。这种障碍出现在治疗开始之前(心理健康知识普及程度低、刻板印象认可、诊断延迟和拒绝诊断)，并在治疗之后继续存在(自我污名化、治疗依从性低、诊断披露)[32］．污名还会污染精神疾病患者周围的人，包括家庭成员、朋友和卫生专业人员。正如过去人们对艾滋病和麻风病等其他疾病的偏见一样，人们常常把精神疾病当作传染性疾病来对待。33］．这加剧了歧视和社会隔离，因为即使是亲密的人也倾向于远离那些被诊断出患有这种疾病的人——这被称为礼貌耻辱[34，35］．由于这种多方面的耻辱负担，揭示某人可能患有抑郁症，或某人未来可能有患精神分裂症的风险，与指出某人因怀疑患有甲状腺癌或皮肤癌而应该去看医生是不同的[36］．

让耻辱问题更糟糕的是，还有假阳性的问题[37］．关于精神病学中研究最多的预防范式之一的准确性，即精神病的ARMS概念(或精神病的临床高风险)，一直存在争议[38］．研究人员正试图提高ARMS标准的准确性，因为研究表明，大多数符合标准的人(76%)根本没有发展成精神障碍[39］．换句话说，仅使用ARMS标准就会产生大量的假阳性。正如在一些研究中所看到的那样，使用语言对ARMS个体进行分类，可以潜在地预测高达80%-90%的病例，尽管样本很小。这种准确率与子宫颈抹片检查宫颈癌的准确率相似，假阳性率约为20% [40］．然而，虽然子宫颈抹片检查通常被用作一种重要的预防性公共卫生战略，但人们关注的是如何改善这种错误的负比(41，通过语言分析“看到”严重的精神障碍仍然是一个问题。尽管语言框架可以大大减少假阳性的数量，但与病情相关的巨大耻辱和这一阶段干预的不确定性仍然阻碍了预防策略的实施。因此，必须权衡预防病例的数量与因被误诊为有危险而受到伤害的个人数量[42］．

生命伦理问题

考虑到精神障碍现在可能对分析交流的人工智能算法“可见”，而且这些障碍与耻辱有关，人们必须考虑生物伦理学的影响。生命伦理学的四个主要原则是(1)有益，(2)无害，(3)自主，(4)公正[43］．

行善是指导医生为病人的利益而行动的原则。它还意味着在诊所中除了通常的医患关系之外的其他一些行动，例如拯救处于危险中的人，消除会造成伤害的条件，以及帮助残疾人。善行是一个积极的概念，在某种意义上，一个人必须积极主动，提出行动和干预。另一方面，不伤害是指医生有义务不伤害他们的病人，不使他们的健康恶化，不使他们丧失行动能力，不造成痛苦，不剥夺他人的生命之物。在实践中，这意味着权衡所有干预和治疗的收益和负担，并考虑不采取行动[43］．自治主张，每个人都有权力做出理性的决定和道德的选择，每个人都应该被允许行使自己的自决能力。自治原则衍生出其他三个重要原则[43]:

1. 知情同意:患者必须接受充分的披露，并理解这种披露，才能自愿同意医疗程序或研究。
2. 实话实说:医患关系中的一个重要组成部分，因为自主的患者有权利知道自己的诊断，但也有选择放弃这种披露。
3. 保密性:医生有义务在未经患者同意的情况下，不得将患者提供的任何保密信息泄露给另一方。

公正是第四条伦理原则。它包括公平、公正和适当地对待人的需要。这一原则可包括微观环境，如在紧急服务中对个人进行适当治疗，以及涉及卫生保健政策的宏观环境。

话虽如此，为心理健康目的使用语言检测算法可能会带来一些生物伦理困境，使用此类工具仍然必须谨慎。医疗建议和诊断在一个人的疾病轨迹中的作用是相关的，精神疾病的早期发现可以使卫生保健从业者进行干预并避免负面结果。另一方面，标签的归属也会增加自我污名化的几率[42］．社会污名对精神障碍患者来说是一个巨大的负担，尤其与精神病诊断(即标签)有关[29]，从而产生较差的结果和其他负面后果[44］．考虑到之前提到的ARMS情况的高假阳性率，这一点尤其重要[39］．也就是说，这些人(错误地)被归类为ARMS，但他们永远不会发展成精神障碍。不加区别地使用ARMS范式对个体进行诊断，而没有适当地揭开这种信息的神秘面纱，也没有消除精神疾病的污名化，这将对无害原则构成威胁[42］．此外，这也可能是家长式的，损害自治。

为了了解精神病的生物学途径并开发新的治疗方法，研究工作正致力于增强ARMS概念的预测能力[45］．这是通过研究生物标记或使用ML算法来完成的。从这个意义上说，人工智能用于自然语言处理已经产生了令人鼓舞的结果，其诊断准确性与医学中使用的其他分类器相似或更好[14，15］．然而，如果病耻感没有得到全面的解决，无论假阳性的情况有多少，它们仍然会成为非有害的问题。此外，使用这种算法来解释语言数据也会对非恶意性和自主性构成威胁，更具体地说，是关于缺乏对这种算法给出的某些信息的理解，我们将在下面描述。

算法的可解释性和有效性

一些ML模型无法解释的问题最近引起了越来越多的兴趣[46］．关于这种算法对高风险决策的影响，人们正在进行讨论。这种模型被称为黑盒模型，因为它们对输入变量的操作是不完全可见的。众所周知，它们会从微妙的元数据中学习，这可能会带来隐藏偏见的风险(例如，Clever Hans问题)[47］．

举例来说，2018年，一项研究旨在研究深度学习模型在胸部x光片中检测肺炎的跨位点的泛化性[48］．起初，该模型在区分高危患者和非高危患者方面表现非常好。然而，经过外部验证后，性能急剧下降。人工智能模型并没有从图像中学习临床相关信息。相反，它正在学习并基于与特定x光机相关的硬件元数据进行决策。这台机器被用于重症监护室(ICU)，主要用于对高危人群进行成像[49］．也就是说，该算法将把高风险分类归因于来自ICU x光片的大多数图像，而不是使用x光片本身的临床数据来做出决定。一些学者已经讨论了可解释性，这是人工智能在医疗保健中使用的一个主要问题[50］．

对于一些计算问题，很难将有意义的参数与单个变量联系起来。例如，在计算机视觉检查的图像中，如果没有上下文，每个像素都是没有意义的，而全部像素集合包含局部(例如，组成一个微笑的像素)和全局(例如，从阴影方向推断出的光源)特征。复杂模型根据每个应用程序使用几种启发式方法来捕获抽象概念。图像中的对象和时间序列中的季节性等概念被编码并分布在模型中的不同结构中。因此，像“焦虑随着压力的增加而增加”这样的简单描述几乎是不可能的，这与熟悉的回归方法所发生的情况相反。由于多重条件依赖关系排除了对结果的直接陈述，因此需要额外的分析和实验步骤来解释复杂的模型[51］．

简而言之，仅仅提高预测能力和避免误报是不够的，还要了解黑盒算法的现实世界基础[49］．机器语句和人类语句都与给定的基本真理一致[50］．以上面的例子为例，我们相应地有两个语句。首先，某些给定x光片的特定特征与肺炎的高风险相关(机器声明)。其次，我们应该优先考虑那些x光片的患者，因为根据ML模型(人类陈述)，他们患肺炎的几率更高。这两种说法同样适用于决策。然而，人类模型通常以因果关系为基础，作为理解潜在机制和干预的目标。虽然这种相关性被认为是决策的基础，但它被视为中间步骤。例如,为什么这些特定的患者患肺炎的风险更高吗?我们应该研究它们的特征，以了解肺炎的高风险，并开发一种特定的抗生素。另一方面，ML算法通常基于概率模型，仅为进一步建立因果关系提供了粗略的基础。在打开黑匣子时，这组特定的x光片和肺炎之间的关系是由于位于ICU服务中的一台x光机，它处理的肺炎病例比其他机器多得多。也就是说，ML模型提供了重要的决策工具，即优先考虑这些个体。然而，除了简单的联系之外，还应该进行进一步的调查，打开黑箱，解决生理病理解释和因果关系。

保健方面的决定意味着责任，包括法律和财务影响。因此，每一项决定都必须有可解释的证据进行逻辑推理[49］．人工智能模型可能对科学家有深刻的见解，但它们也应该足够清晰和可解释，以支持最终用户的决策[52］．否则，这可能会对病人的自主性构成威胁。因此，传统算法必须以可解释的方式处理信息源，例如急性冠状动脉综合征的GRACE评分和icu中器官衰竭的顺序器官衰竭评估评分[53，54］．他们将坏结果的高概率映射到严重的迹象(例如，生物标记的异常值)。基于不透明(“黑箱”)算法的临床支持决策系统必须为从业者提供一个清晰的基本原理。除了携带隐藏的偏见，不透明算法的使用导致了防御性的医疗实践。当没有提出基本理据时[55，医生倾向于同意机器，以避免责任。另一方面，可解释的输出将帮助医生用更少的被忽视的发现和误导的预测来治疗他们的病人。

当模型参数众多，计算过程超越了基本函数和算子时，可以选择后期分析技术(局部可解释的模型未知解释，Shapley可加性解释，多语言无监督和有监督嵌入等)[51］．特别是对于语言数据，研究人员应该像对待传统指标一样对待基于计算机的评估结果。例如，有代表性的数据作为每个提出的行为标记的规范曲线的基础是至关重要的。它是如何随着时代发展的;它是如何根据性别或种族而变化的;社会因素如社会经济地位、教育水平、社区或城市暴力的影响是什么?在得出某些行为标志与病理因素之间关系的结论之前，我们首先需要绘制和理解跨文化、语言和国家的规范性差异[56，57］．例如，精神病患者的语言结构连通性会随着消极症状的严重程度而减弱[16]也会在典型的发育过程中增加，与教育水平密切相关。在解释这一发展轨迹方面，正规教育的年限比年龄更重要，以至于文盲成年人讲述他们的故事的结构模式与学龄前儿童相似[58］．

在深入了解潜在的病理标志物和病理混杂因素后，我们仍然需要讨论潜在的公共政策，以保护个人权利，不被评估，甚至未经同意被判断。

法例及资料私隐

奥托·哈恩1939年因发现核裂变并使核反应堆产生巨大能量而获得诺贝尔奖[59］．然而，他是一个有争议的历史人物，因为他的发现也允许制造第二次世界大战的原子弹。Arthur W Galston研究了2,3,5-三碘苯甲酸对大豆生长和开花的影响。后来，军方将其开发成橙剂，并在越南战争中作为化学武器使用。这使高尔斯顿成为一名生物伦理学家，并就科学滥用问题发表演讲。60］．同样，互联网、智能手机、社交媒体和搜索机制彻底改变了我们与知识的关系，以及人类与他人的关系。然而，不道德地滥用大数据来控制个人对信息的接触，刺激消费，并为了盈利目的而占用某人的时间，是这种发明扭曲的代理。61］．不管是科学的还是非科学的发现，都有不计其数的发现被其发明者以外的第三方滥用。很容易理解，通过语言来处理心理状态的技术是如何遵循同样的方式的。

例如，对言论自由的自动分析可以根据某人所说或所写的内容建立思维障碍指数[13］．此外，这些指标可以预测未来严重的精神疾病，如精神分裂症。也就是说，输入分析的数据可以从书籍、成绩单或其他公众可用的数据集(例如，社交媒体或个人博客)的书面文本中提取。考虑到人们的书面数据在互联网上的在线可用性，这增加了恶意使用的可能性。另一个可能利用现有信息来推断个人精神状态的例子是开头提到的Facebook研究。该算法可以以72%-77%的确定性预测未来严重的精神障碍。所有这些工作都重要地推进了科学，并为临床医生和政策制定者提供了有用工具的视角。此外，这些发现是在严格遵循伦理委员会给出的伦理标准的环境下开发的，并受到科学界的监督。然而，问题不在于这些规定的设置，而在于这项发明超越了科学家。

同样，伦理委员会审查和规范科学研究和卫生专业人员的做法;除了这些设置之外，法律的存在是为了监督和惩罚不规范使用大数据[62］．因此，现在人们对数字隐私的担忧越来越多，尤其是在几年前针对大型科技公司的诉讼提高了人们的意识之后。这些大型科技公司声称对人们的生活和个人信息拥有过多的权力。这导致了立法的增加，以规范个人信息的访问和使用，特别是那些在在线社交网络上公开的信息。然而，总是存在法律空白的风险，因为尖端发明暂时领先于保护它们不被滥用的立法。这在今天尤其明显，因为新的ML算法和技术出现的频率越来越高。在个人信息隐私保护立法没有涵盖这一差距的国家，这可能会助长对精神障碍患者的歧视。例如，允许在工作面试、学术面试等中滥用这些技术，基于对精神障碍的先入为主的想法将人从选择过程中解雇。

结论

综上所述，人工智能衍生的新技术有可能通过某人的行为和话语“看到”精神障碍。这些技术本身将极大地有助于疾病的早期检测和预后。然而，与精神障碍相关的历史和持久的耻辱妨碍了这些工具的使用。消除与精神障碍有关的偏见和歧视应成为未来的方向，以使污名化不会成为使用这些创新技术的障碍。此外，为了遵守非伤害原则，避免污名化，这些技术在预测某人未来患精神疾病的可能性时，也需要有较低的假阳性率。还有一个进一步的风险是，这些ML算法会变成黑盒模型。这种隐藏的偏见问题可能会潜在地损害患者的自主性和知情性。因此，有必要清楚地描述算法，使用事后解释方法，并进行偏差检查程序。此外，由于耻辱感以及个人口头和非口头语言的个人信息在网上的高可用性，从算法中获得的信息有被滥用的风险，例如因个人的精神健康状况而歧视个人。从这个意义上说，应该提高在现实环境中规范这些技术使用的意识。 There is a challenge for legislators to catch-up with the ever-renovating new technologies and algorithms designed to decipher human behavior to prevent these inventions from being misused.