基于情绪的注意力网络在Reddit上的抑郁检测:算法开发和验证gydF4y2Ba

介绍gydF4y2Ba

背景gydF4y2Ba

根据免费词典的定义，抑郁指的是抑郁的行为或抑郁的状态。抑郁症通常被认为是一种情绪障碍;抑郁症的主要临床特征是显著且持续的心境抑郁。抑郁症患者的情绪可以从沮丧到悲伤，自卑，甚至悲观，这可能导致自杀企图或行为[gydF4y2Ba1gydF4y2Ba]。世界精神病学协会于1992年将10月10日定为世界精神卫生日，以加强公众对精神障碍的认识。世界卫生组织(世卫组织)发表的最新报告指出[gydF4y2Ba2gydF4y2Ba世界上大约有3.22亿抑郁症患者，患病率约为4.4%。抑郁症患者的数量逐年增长。从2005年到2015年，全球抑郁症患者人数增加了18.4%。根据世界卫生组织的统计[gydF4y2Ba2gydF4y2Ba)，抑郁症是世界上导致自杀的20个主要原因之一，约占自杀人数的1.5%。它也是全球疾病中致残比例最高的疾病，也是全球非致命性健康损失的主要因素。gydF4y2Ba

随着互联网在人们日常生活中的发展，人们开始在社交媒体上分享自己的感受和问题[gydF4y2Ba3.gydF4y2Ba，gydF4y2Ba4gydF4y2Ba]，比如Reddit和Twitter。Park等人[gydF4y2Ba5gydF4y2Ba研究表明，抑郁症患者倾向于在社交媒体上发布有关抑郁症甚至治疗的信息。因此，我们可以从社交媒体中获得很多有价值的信息。如果我们可以根据互联网上的信息判断一个人是否患有抑郁症，这可以帮助医生及早干预，避免自残或自杀的发生。许多来自不同学科的研究者，如计算机科学和心理学，都非常关注这个话题。此外，还提出了一些改进的凹陷检测方法。但是，检测精度还有待提高。gydF4y2Ba

抑郁检测的目标是将一个人或一篇文章分类为抑郁或不抑郁。社交媒体上抑郁症检测的表现有助于抑郁症的临床治疗。这个问题需要解决。抑郁症患者的帖子通常包含强烈的情绪。我们给出了Reddit上留下的三个文本帖子的例子，包括两个指示抑郁的帖子和一个标准帖子，如下所示。gydF4y2Ba

• 例1:“今天，我感觉糟透了，真想去死。我在工作中出丑，会后又觉得自己很蠢，所以我就请假了，告诉老板我病了。”剩下的一下午都躺在床上。”标签:抑郁gydF4y2Ba
• 例2:“当你讨厌自己这个人，但又无法让自己改变的感觉，因为过去几年你已经习惯了这样的状态。我变成了一个卑鄙的人。在这一点上，改变对我来说似乎是不可能的。”标签:抑郁gydF4y2Ba
• 例子3:“寻找酷炫的方式告诉父母我妻子怀孕了。”标签:nondepressiongydF4y2Ba

例1和例2包含了抑郁症患者强烈的情绪信息。例1中，单词包括gydF4y2Ba可怕的gydF4y2Ba，gydF4y2Ba死gydF4y2Ba,gydF4y2Ba愚蠢的gydF4y2Ba，表达了作者强烈的负面情绪。这句话gydF4y2Ba讨厌gydF4y2Ba和gydF4y2Ba较差的gydF4y2Ba例2也表达了作者强烈的负面情绪。例3显示了一个普通用户的帖子。它不包含强烈的负面情绪。如前所述，情绪语义信息通常为我们提供抑郁症检测的有用线索。gydF4y2Ba

我们还统计了Reddit数据集的抑郁指示性帖子和标准帖子中出现的积极词汇和消极词汇的比例[gydF4y2Ba6gydF4y2Ba),分别。统计结果见gydF4y2Ba表1gydF4y2Ba。表中积极情绪词的百分比由gydF4y2Ba。消极情绪词汇的比例相似。此外，我们还计算了抑郁指示帖子和标准帖子中情绪词的百分比。抑郁用户比非抑郁用户使用更多的负面词汇。与此同时，他们在帖子中使用的积极词汇比非抑郁用户少。从统计结果可以看出，情绪语义信息可能在抑郁检测任务中发挥了有效的作用。gydF4y2Ba

自动检测抑郁症已经取得了一些进展。现有的许多模型都是基于特征工程来检测抑郁的，如词袋[gydF4y2Ba7gydF4y2Ba，gydF4y2Ba8gydF4y2Ba]、潜在狄利克雷分配(LDA) [gydF4y2Ba9gydF4y2Ba，gydF4y2Ba10gydF4y2Ba]， N-gram [gydF4y2Ba11gydF4y2Ba]、语言探究与字数统计(LIWC)字典[gydF4y2Ba12gydF4y2Ba]，或它们的组合[gydF4y2Ba4gydF4y2Ba，gydF4y2Ba13gydF4y2Ba，gydF4y2Ba14gydF4y2Ba]。词袋、LDA和N-gram在自然语言处理(NLP)中被广泛应用于特征提取，并取得了很大进展。LIWC可以对文本内容的词类(尤其是心理词)进行定量分析，包括情感、情感等。LIWC提取的情绪在抑郁检测任务中经常被用到。随着深度学习在自然语言处理领域的发展，越来越多的研究将深度学习模型用于抑郁症检测。Orabi等[gydF4y2Ba15gydF4y2Ba提出了一种基于深度学习(卷积神经网络[CNN]和递归神经网络[RNN])的抑郁症检测方法。Gui等[gydF4y2Ba16gydF4y2Ba提出了一种基于RNN的强化学习方法用于抑郁症检测。虽然这些基于深度学习的高级模型可以提取更高层次的语义信息，并取得了很大进展，但它们仍然缺乏对情感语义信息的有效提取。这可能会限制他们的模型的能力，因为情绪信息可能会为抑郁检测带来有效的线索，如例子1和2所示。gydF4y2Ba

在介绍我们的模型之前，为了更方便地理解我们的论文，我们给出了几个概念的定义，包括高级情感语义信息、语义理解网络(SUN)、情感理解网络(EUN)和动态融合策略。gydF4y2Ba

• 高级情感语义信息是指深度学习所捕获的情感语义信息。gydF4y2Ba
• SUN是一种深度学习方法，用于捕获文本中的上下文语义信息以进行抑郁检测。gydF4y2Ba
• EUN是一种深度学习方法，用于捕获文本中的情感语义信息，用于抑郁症检测。gydF4y2Ba
• 动态融合策略是指一种能够动态融合积极情绪信息和消极情绪信息的融合策略。gydF4y2Ba

为了有效地提取情绪信息，我们提出了一种基于情绪的注意力网络(EAN)用于抑郁检测。我们的EAN模型主要包括SUN和EUN两个模块。SUN模块用于获取上下文语义信息，在自然语言处理中得到了广泛的应用。我们使用EUN模块来捕捉情绪信息，因为如前所述，情绪信息对于抑郁症的检测起着重要的作用。如图所示gydF4y2Ba表1gydF4y2Ba抑郁指示性帖子中消极词汇较多，积极词汇较少;标准帖子中消极词汇较少，积极词汇较多。因此，我们设计了EUN模块。EUN模块包含两个单元，积极情绪理解单元和消极情绪理解单元，分别用于提取积极情绪信息和消极情绪信息。此外，我们还在EUN模块中提出了积极情绪信息与消极情绪信息的动态融合策略。gydF4y2Ba

本文的主要贡献可以概括为以下几点:gydF4y2Ba

• 我们提出了一种新的深度学习框架用于抑郁症检测。我们还设计了一个专门的模块来显式提取抑郁症检测的高级情绪信息。gydF4y2Ba
• 我们同时考虑了积极情绪信息和消极情绪信息。同时，采用动态融合策略将积极情绪信息与消极情绪信息进行融合。gydF4y2Ba
• 我们在Reddit数据集上进行抑郁症检测实验。实验表明，我们的模型可以达到最先进或相当的性能。烧蚀实验也验证了模型中所提出组件的有效性。gydF4y2Ba

相关工作gydF4y2Ba

在这一节中，我们回顾了社交媒体上抑郁症检测的相关工作。gydF4y2Ba

近年来，随着社交媒体的发展，越来越多的人愿意在社交媒体上发布自己的想法、情感或生活细节，包括Reddit、Twitter等。Park等[gydF4y2Ba5gydF4y2Ba研究表明，抑郁症患者倾向于在社交媒体上发布有关抑郁症甚至治疗的信息。因此，我们可以从社交媒体中获得很多有价值的信息。越来越多的研究者开始基于社交媒体的信息来分析用户的心理健康状况。因此，基于社交媒体的抑郁症检测引起了很多关注。gydF4y2Ba

De Choudhury等[gydF4y2Ba17gydF4y2Ba]在Twitter上收集抑郁症用户与普通用户的数据，结合他们在社交媒体上的行为差异(抑郁症用户表现为社交活动减少、负面情绪和自我关注增加、宗教思想表达程度高且增加等)，建立抑郁症检测的特征模型。Park等[gydF4y2Ba18gydF4y2Ba]通过社交媒体对抑郁症用户进行了测试，并对14名活跃用户进行了半结构化的面对面访谈。研究得出结论，抑郁症用户将社交媒体视为社会意识和情感分享的平台，而非抑郁症用户则将社交媒体视为分享信息的平台。因此，情绪信息在社交媒体中检测抑郁症的任务中很重要。gydF4y2Ba

现有的凹陷检测方法大多是基于特征工程的。LIWC通常用于提取个体的心理状态，如积极情绪和消极情绪、代词等。因此，LIWC常被用于抑郁检测任务[gydF4y2Ba4gydF4y2Ba，gydF4y2Ba12gydF4y2Ba-gydF4y2Ba14gydF4y2Ba]。Kang等[gydF4y2Ba19gydF4y2Ba]提出了一种多模态的抑郁症检测方法，包括文本分析、基于单词的表情符号分析和基于支持向量机的图像分类器。作者应用视觉情感本体[gydF4y2Ba20.gydF4y2Ba]和SentiStrength词典，构建用于表情符号分析的情绪词典，以增强抑郁症检测的结果。沈等[gydF4y2Ba21gydF4y2Ba]提取了6个抑郁症相关特征组(包括社交网络特征、用户档案特征、视觉特征、情感特征、话题级特征和特定领域特征)用于抑郁症检测。Hiraga [gydF4y2Ba22gydF4y2Ba提取语言特征用于凹陷检测，包括字符n-gram、标记n-gram、引理和选定引理。Hussain等[gydF4y2Ba3.gydF4y2Ba]开发了一款名为“社会调解患者门户”的应用程序。该应用程序可以为抑郁症检测生成一系列特征。gydF4y2Ba

Shneidman [gydF4y2Ba23gydF4y2Ba表现出与自杀密切相关的抑郁。De Choudhury等[gydF4y2Ba24gydF4y2Ba分析了Reddit用户关于心理健康话题的帖子，这些帖子后来转向了自杀念头的话题。这种转变可以通过自我关注、糟糕的语言风格、减少社交参与、表达绝望或焦虑等特征来预测。Yates等[gydF4y2Ba25gydF4y2Ba提出了一个检测抑郁的神经框架，他们提出了自我伤害与抑郁密切相关。早期风险预测评估论坛会议及实验室(CLEF eRISK)是一项涉及健康和安全等不同领域的公开竞赛。[gydF4y2Ba26gydF4y2Ba]。CLEF eRISK 2018是关于抑郁症和厌食症的早期发现[gydF4y2Ba8gydF4y2Ba，gydF4y2Ba27gydF4y2Ba]。CLEF eRISK 2019是关于抑郁、自残和厌食症症状的严重程度[gydF4y2Ba28gydF4y2Ba]。gydF4y2Ba

与传统的基于特征工程的方法不同，深度学习方法主要采用端到端模型。Yates等[gydF4y2Ba25gydF4y2Ba提出了一种基于CNN的抑郁症检测神经框架。Orabi等[gydF4y2Ba15gydF4y2Ba提出了一种基于CNN和RNN的抑郁症检测方法。Song等[gydF4y2Ba29gydF4y2Ba提出了一种用于抑郁症检测的神经网络，命名为特征注意网络。Gui等[gydF4y2Ba16gydF4y2Ba提出了一种基于长短期记忆(LSTM)的强化学习方法用于抑郁症检测。Ray等[gydF4y2Ba30.gydF4y2Ba提出了一个多层次的注意力网络来融合多模态的特征来进行抑郁检测。gydF4y2Ba

根据以往对抑郁检测的研究，可以得出情绪信息在抑郁检测任务中很重要的结论。此外，深度学习可以考虑高层次的语义信息，但目前深度学习的抑郁症检测方法仍然缺乏对情感语义信息的有效提取。因此，我们提出了一个深度学习模型来考虑深度学习方法捕获的高级情绪信息，该模型被命名为EAN。gydF4y2Ba

本文的结构组织如下。绪论部分介绍了研究背景和相关工作。方法部分显示了所建议模型的细节。结果部分给出了本文的实验结果。讨论部分显示了结论和未来的工作。gydF4y2Ba

方法gydF4y2Ba

数据集gydF4y2Ba

作为一种新兴的社交媒体，Reddit已经成为一个广受欢迎的网络讨论论坛。Reddit用户可以在这个基于网络的平台上匿名讨论各种话题。在这个平台上讨论的话题可以被安排在100多万个讨论组中。由于Reddit上有大量的讨论文本，吸引了很多研究者利用Reddit平台上的数据进行研究。Pirina和Çöltekin [gydF4y2Ba6gydF4y2Ba]建立了一个基于Reddit的抑郁症检测数据集，并将其命名为Reddit数据集。Reddit数据集中的样本[gydF4y2Ba6gydF4y2Ba都是从Reddit平台收集的。Reddit数据集[gydF4y2Ba6gydF4y2Ba]包括洼地指示岗位1293个，标准岗位549个。gydF4y2Ba

我们对Reddit数据集进行预处理，例如删除停止词。然后，我们统计了萧条指示帖子和标准帖子中每个单词的出现次数。我们根据统计数据对单词进行排序，并显示单词列表的顶部gydF4y2Ba图1gydF4y2Ba。统计抑郁指示性岗位和标准岗位的积极情绪词和消极情绪词的出现次数。在所有词中，出现频率较高的积极情绪词和消极情绪词也显示在gydF4y2Ba文本框1gydF4y2Ba。gydF4y2Ba

如图所示gydF4y2Ba文本框1gydF4y2Ba，从抑郁用户最常用的词汇中，我们可以看到许多负面词汇也包含在最常用的词汇中，如抑郁或他妈的。非抑郁症患者最常用的词汇是日常生活中常用的词汇。从抑郁症用户使用频率高的负面词汇列表中可以看出，抑郁症用户使用的负面词汇比非抑郁症用户帖子中出现的负面词汇更为强烈，如suicide、die、kill、hate。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

EAN模型概述gydF4y2Ba

在本节中，我们简要介绍提出的抑郁症检测模型，称为EAN，如图所示gydF4y2Ba图1gydF4y2Ba。提出的EAN模型主要包括SUN和EUN两部分。SUN模块用于捕获抑郁指示帖子中的上下文语义信息。EUN模块用于捕捉抑郁指示岗位的情感语义信息。最后，我们将两部分捕获的特征连接起来，并通过抑郁检测器判断文本是否具有抑郁指示性。接下来我们将详细介绍SUN、EUN和损失函数。gydF4y2Ba

语义理解网络gydF4y2Ba

使用SUN捕获文本中的上下文语义信息进行抑郁检测。SUN模块有三层，包括词编码层、上下文编码层和注意机制(Att)层。我们将更详细地介绍这三层。gydF4y2Ba

字编码层gydF4y2Ba

我们将简要介绍SUN模块中的单词编码层。我们任务的输入是文本。文本可以表示为w = {gydF4y2BawgydF4y2Ba_1gydF4y2Ba，gydF4y2BawgydF4y2Ba_2gydF4y2Ba、……gydF4y2BawgydF4y2Ba_ngydF4y2Ba}，其中n表示文本的长度，和gydF4y2BawgydF4y2Ba_我gydF4y2Ba表示文本中的单词。在NLP任务中，单词通常被映射到单词向量的形式。受其启发，我们也将每个单词编码成d维单词向量。我们将预训练的全局向量用于单词表示(GloVe) [gydF4y2Ba31gydF4y2Ba]。然后我们可以得到文本表示S =gydF4y2BaRgydF4y2Ba^{ngydF4y2Ba×gydF4y2BadgydF4y2Ba}，其中n为文本长度，d为单词的维数。gydF4y2Ba

上下文编码层gydF4y2Ba

上下文编码层用于获取上下文信息。双向长短期记忆[gydF4y2Ba32gydF4y2Ba]在NLP任务中被广泛用于捕捉上下文信息。受此启发，我们在上下文编码层应用了Bi-LSTM。双LSTM包括正向LSTM和反向LSTM。输出gydF4y2BaBi-LSTM包括两个部分，其中一个是前向LSTM输出gydF4y2Ba和后向LSTM输出gydF4y2Ba。gydF4y2Ba

LSTM由Hochreiter和Schmidhuber提出[gydF4y2Ba33gydF4y2Ba]，用来捕捉文本中的转发信息。LSTM不能捕获反向信息;因此，提出了Bi-LSTM。LSTM有三个门和一个单元，包括一个输入门gydF4y2Ba我gydF4y2Ba_tgydF4y2Ba遗忘门gydF4y2BafgydF4y2Ba_tgydF4y2Ba，输出门gydF4y2BaogydF4y2Ba_tgydF4y2Ba，以及一个存储单元gydF4y2BacgydF4y2Ba_tgydF4y2Ba。LSTM的操作如下。gydF4y2Ba

在哪里gydF4y2BaxgydF4y2Ba_tgydF4y2Ba是当前输入的词向量，gydF4y2Ba表示元素乘法运算，和gydF4y2BaσgydF4y2Ba表示s型函数。gydF4y2BaWgydF4y2Ba_fgydF4y2Ba，gydF4y2BaWgydF4y2Ba_我gydF4y2Ba，gydF4y2BaWgydF4y2Ba_cgydF4y2Ba,gydF4y2BaWgydF4y2Ba_ogydF4y2Ba表示在训练过程中可以训练的参数。gydF4y2BahgydF4y2Ba_tgydF4y2Ba是隐藏状态向量。gydF4y2Ba为LSTM的输出。有关LSTM的更多详情，请参阅Hochreiter和Schmidhuber [gydF4y2Ba33gydF4y2Ba]， Bi-LSTM的输出为H = [gydF4y2BaHgydF4y2Ba_1gydF4y2Ba，gydF4y2BaHgydF4y2Ba2,…HgydF4y2Ba_ngydF4y2Ba]。gydF4y2Ba

注意机制层gydF4y2Ba

Att层的输入为H = [gydF4y2BaHgydF4y2Ba_1gydF4y2Ba，gydF4y2BaHgydF4y2Ba_2gydF4y2Ba、……gydF4y2BaHgydF4y2Ba_ngydF4y2Ba]。Att用于为重要单词分配更高的权重。在抑郁检测任务中，我们应用Att来捕获抑郁指示帖子中的重要词。Att的运算基于以下方程:gydF4y2Ba

在哪里gydF4y2BaHgydF4y2Ba_我gydF4y2Ba为Bi-LSTM的隐藏状态向量，gydF4y2BawgydF4y2Ba和gydF4y2Ba问gydF4y2Ba_我gydF4y2Ba是加权矩阵吗gydF4y2BahgydF4y2Ba_{丙氨酸gydF4y2Ba}是Att的输出。gydF4y2Ba

情绪理解网络gydF4y2Ba

许多研究论文[gydF4y2Ba19gydF4y2Ba-gydF4y2Ba21gydF4y2Ba他们的实验证明了情绪特征在抑郁检测任务中的有效性。受此启发，我们考虑了基于EUN的抑郁指示帖子中的高级情感语义信息。利用EUN捕获文本中的情感语义信息进行抑郁检测。EUN模块有三层，分别是输入层、情感编码层和情感融合层。我们将在下面几节中更详细地介绍这三层。gydF4y2Ba

输入层gydF4y2Ba

在本节中，我们将介绍EUN模块的输入。输入包括积极情绪部分和消极情绪部分。我们采用SenticNet应用程序编程接口，将原始文本划分为积极情感部分和消极情感部分。这两个情感部分也被映射到一个词向量矩阵中，就像在SUN模块的词编码层中一样gydF4y2BaRgydF4y2Ba_posgydF4y2Ba和gydF4y2BaRgydF4y2Ba_{负的gydF4y2Ba},分别。gydF4y2Ba

情绪编码层gydF4y2Ba

情绪编码层是对积极情绪信息和消极情绪信息进行编码。gydF4y2BaRgydF4y2Ba_posgydF4y2Ba和gydF4y2BaRgydF4y2Ba_{负的gydF4y2Ba}作为情感编码层的输入。情绪编码层有两个单元，包括积极情绪理解单元和消极情绪理解单元。这两个单元分别用来捕捉积极情绪信息和消极情绪信息。我们还应用Bi-LSTM来捕捉语境情感信息，并应用Att来捕捉两个单元文本中的重要情感。Bi-LSTM和Att的操作与EUN模块相同。我们可以得到gydF4y2BahgydF4y2Ba_posgydF4y2Ba从积极情绪理解单元和gydF4y2BahgydF4y2Ba_{负的gydF4y2Ba}从消极情绪理解单元。gydF4y2Ba

情感融合层gydF4y2Ba

情绪融合层的目的是融合积极情绪信息和消极情绪信息，用于抑郁检测。我们得到了积极的情感信息gydF4y2BahgydF4y2Ba_posgydF4y2Ba消极的情绪信息gydF4y2BahgydF4y2Ba_{负的gydF4y2Ba}从情感编码层，可以在训练处理中学习。考虑到每个文本的差异，我们设计了一种动态融合策略，可以动态融合积极情绪信息gydF4y2BahgydF4y2Ba_posgydF4y2Ba消极的情绪信息gydF4y2BahgydF4y2Ba_{负的gydF4y2Ba}。受Att的启发，我们设计了一个随机浮点数θ∈[0,1]。可以在培训过程中进行培训。我们可以得到输出gydF4y2BahgydF4y2Ba_{情绪摇滚gydF4y2Ba}EUN模块的计算公式如下:gydF4y2Ba

hgydF4y2Ba_{情绪摇滚gydF4y2Ba}= θ *gydF4y2BahgydF4y2Ba_posgydF4y2Ba+ (1 - θ) *gydF4y2BahgydF4y2Ba_{负的gydF4y2Ba} （10）gydF4y2Ba

损失函数gydF4y2Ba

如前所述，我们获得上下文语义信息gydF4y2BahgydF4y2Ba_{丙氨酸gydF4y2Ba}从SUN模块和情感语义信息gydF4y2BahgydF4y2Ba_{情绪摇滚gydF4y2Ba}从EUN模块。在本节中，我们应用了一个连接操作来融合上下文语义信息gydF4y2BahgydF4y2Ba_{丙氨酸gydF4y2Ba}情感语义信息gydF4y2BahgydF4y2Ba_{情绪摇滚gydF4y2Ba}作为最终的表现gydF4y2BafgydF4y2Ba_{最后gydF4y2Ba}：gydF4y2Ba

fgydF4y2Ba_{最后gydF4y2Ba}=连接(gydF4y2BahgydF4y2Ba_{丙氨酸gydF4y2Ba}；gydF4y2BahgydF4y2Ba_{情绪摇滚gydF4y2Ba}]gydF4y2Ba（11）gydF4y2Ba

因此，抑郁症检测的最终分类决策由softmax函数表示:gydF4y2Ba

y = softmax(W∙gydF4y2BafgydF4y2Ba_{最后gydF4y2Ba}+ b)gydF4y2Ba（12）gydF4y2Ba

在我们的模型中，交叉熵损失用于抑郁检测。训练的目标是尽量减少损失。gydF4y2Ba

结果gydF4y2Ba

实现细节和度量标准gydF4y2Ba

我们实验中Bi-LSTM的单位大小为64。我们在词编码层应用了预训练的300维词嵌入(GloVe)。此外，优化函数为Adam，批大小为128。继Tadesse等人[gydF4y2Ba4gydF4y2Ba]，我们还在实验中应用了10倍交叉验证;数据集中90%的帖子被用作我们的训练集，另外10%的帖子被用作测试集。gydF4y2Ba

我们采用标准指标，包括准确性、精密度、召回率和f1评分，来评估我们的抑郁症检测模型的有效性。F1定义如下:gydF4y2Ba

与现有方法的比较gydF4y2Ba

我们将模型的结果与Reddit数据集上许多最先进的方法进行了比较。我们将其与基线进行比较，包括LIWC、LDA、unigram、bigram、LIWC + LDA + unigram、LIWC + LDA + bigram [gydF4y2Ba4gydF4y2Ba]、LSTM、Bi-LSTM和Bi-LSTM + Att。gydF4y2Ba

• LIWC: Tadesse等[gydF4y2Ba4gydF4y2Ba]基于LIWC提取语言特征和心理特征[gydF4y2Ba34gydF4y2Ba进行抑郁检测。gydF4y2Ba
• LDA: Tadesse等[gydF4y2Ba4gydF4y2Ba]基于LDA提取主题的70维特征。它可以帮助发现其潜在的主题结构，以进行抑郁症检测。gydF4y2Ba
• 图:Tadesse等[gydF4y2Ba4gydF4y2Ba]基于项频率-逆文档频率(TF-IDF)的一元图提取3000维特征用于凹陷检测。gydF4y2Ba
• 图表:Tadesse等[gydF4y2Ba4gydF4y2Ba]在TF-IDF中基于二元图提取2736维特征用于抑郁症检测。gydF4y2Ba
• LIWC + LDA + unigram:该模型基于上述特征，包括LIWC、LDA和unigram，进行抑郁检测。gydF4y2Ba
• LIWC + LDA + bigram:该模型基于上述特征，包括LIWC、LDA和bigram，进行抑郁检测。gydF4y2Ba
• LSTM: LSTM由Hochreiter和Schmidhuber提出[gydF4y2Ba33gydF4y2Ba]。我们在本文中使用了相同的词嵌入，单位大小为128。gydF4y2Ba
• Bi-LSTM: Bi-LSTM由Graves等人提出[gydF4y2Ba32gydF4y2Ba]。我们在本文中采用了相同的设置和相同的词嵌入。gydF4y2Ba
• Bi-LSTM + Att:基于Bi-LSTM和Att的模型。gydF4y2Ba
• EAN:本文提出了基于深度学习的情感语义信息模型。gydF4y2Ba

如图所示gydF4y2Ba表2gydF4y2Ba，基于深度学习的结果通常高于基于特征工程方法的结果。这是因为深度学习可以捕获文本的高级语义信息。此外，我们还可以得到以下结论。gydF4y2Ba

基于双图(bigram和LIWC + LDA + bigram)的结果高于单图(ungram和LIWC + LDA + ungram)。可以得出结论，上下文信息可以改善模型的结果。基于Bi-LSTM的结果高于LSTM。由此可见，考虑双向语境语义信息是必要的。基于Bi-LSTM + Att的结果高于Bi-LSTM;结果表明，该方法对抑郁检测任务是有效的。EAN模型由于同时考虑了上下文语义信息和情感语义信息，得到了较高的结果。gydF4y2Ba

详细分析gydF4y2Ba

在本节中，我们分析了两个模块(SUN和EUN)的有效性，不同情感语义信息的有效性以及动态融合策略的有效性。gydF4y2Ba

SUN和EUN的有效性gydF4y2Ba

为了验证SUN和EUN的有效性，我们设计了一系列的实验。SUN是指不含EUN模块的EAN模型。EUN是指没有SUN模块的EAN模型。如图所示gydF4y2Ba图2gydF4y2Ba， EUN模块的结果最差。这是因为该模型只考虑了情感语义信息，没有考虑完整的语义信息。验证了所设计的SUN模块的有效性。EAN模型的计算结果高于SUN模型，进一步验证了我们的EUN模型的有效性。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

不同情绪语义信息的有效性gydF4y2Ba

为了验证不同情绪语义信息的有效性，我们设计了一系列实验，包括无情绪(SUN)、无积极情绪(SUN +消极)和无消极情绪(SUN +积极)。如图所示gydF4y2Ba图3gydF4y2Ba， SUN +阳性模型和SUN模块的结果相似。这表明积极情绪对模型的影响较小。EAN模型虽然没有得到最好的召回值，但得到了最好的召回值gydF4y2BaPgydF4y2Ba值、ACC值和F1值。实验结果表明，本文提出的EAN模型与上述三种基线模型相比效果最好。并验证了框架中每个模块的有效性。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

动态融合策略的有效性gydF4y2Ba

为了验证动态融合策略的有效性，我们设计了一系列实验，包括串联融合策略的EAN模型、固定融合策略的EAN模型和动态融合策略的EAN模型。EAN (concatenate fusion)模型将连接操作应用于情感融合策略。EAN(固定融合)模型将固定融合操作应用于情感融合层。方程10中的θ固定为0.5。EAN(动态融合)模型是本文提出的模型。如图所示gydF4y2Ba图4gydF4y2Ba动态融合的效果最好。gydF4y2Ba

在本节中，我们设计了一系列实验来验证EAN模型的有效性，包括EAN模型中的两个模块，不同的情感语义信息，以及动态融合方法。gydF4y2Ba

一些θ的可视化结果直观地说明了所提出的动态融合策略的有效性gydF4y2Ba图5gydF4y2Ba。如图所示gydF4y2Ba图5gydF4y2Ba，这两个例子都是预示萧条的职位。饼状图表示动态融合策略中θ的值。从结果可以看出，在抑郁指示性岗位中，负面情绪信息可以得到更多的关注。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

讨论gydF4y2Ba

结论gydF4y2Ba

抑郁症越来越受到人们和组织的关注。随着计算机技术的发展，一些研究人员正在尝试使用计算机自动识别抑郁症患者。在本文中，我们提出了一个EAN模型来明确地提取抑郁检测任务的高级情绪信息。提出的EAN模型由SUN和EUN组成。在该模型中，我们同时考虑了积极情绪信息和消极情绪信息。同时，采用动态融合策略对积极情绪信息和消极情绪信息进行融合。实验结果验证了情绪语义信息在抑郁症检测中的有效性。gydF4y2Ba

未来的工作gydF4y2Ba

根据世界卫生组织的统计，抑郁症是世界上自杀的主要原因之一。我们将集中讨论抑郁症和自杀之间的关系。我们将在未来的工作中尝试将自杀检测与抑郁检测结合起来，通过多任务学习来提高这两个任务的表现。此外，今后的工作将结合自我报告的抑郁症状或临床诊断。希望我们的研究能为医疗卫生领域提供一定的技术支持。gydF4y2Ba