致命的信息流行病:社交媒体和COVID-19错误信息的力量

COVID-19信息大流行

COVID-19大流行继续在全球产生重大影响，确诊病例超过2.66亿例，死亡人数超过500万[1］．在2021年，根据月份的不同，COVID-19是美国第一、第二或第三大死亡原因，与心脏病和癌症并列。2］．尽管富裕国家有过剩的疫苗，采取了遏制病毒传播的公共卫生干预措施，有了新的治疗方案，前线医护人员做出了英勇的努力，但仍有人死于COVID-19。为什么?虽然我们最初关注的是一种致命和传染性的病毒，但同时我们也被网上关于这种病毒的错误信息和虚假信息的致命和传染性影响所淹没[3.］．就像COVID-19大流行本身一样，我们面临着一种具有长期后果的广泛疾病:COVID-19信息大流行。

世界卫生组织将“信息流行病”定义为“过多的信息或虚假和误导性信息”，“导致混乱、冒险行为……以及对卫生官员的不信任" [4］．联合国教育科学文化组织认为假新闻虚假信息的总称，可进一步定义为意图性[5］．Misinformation指的是“虚假但并非故意制造伤害的信息”，disinformation指的是“虚假且故意制造以伤害个人、社会团体、组织或国家的信息”，通常是出于经济或政治动机精心策划的[5］．这两种情况在所有社交媒体平台上都很普遍。6］．这些共同破坏了人们对政府干预措施、公共卫生应对措施、专家指导和关于COVID-19的科学事实的信任[7，8］．因此，我们将COVID-19信息流行病定义为关于COVID-19的大量复杂且往往相互矛盾的信息，包括关于病毒起源的大量假新闻，没有严格临床数据支持的治疗方案，以及关于救生疫苗不良影响的毫无根据的说法;这些错误的叙述可能是由权威机构或有影响力的人传播的，而这些人原本被认为是值得信赖的，他们在塑造观点和影响人类行为方面发挥着重要作用，从而可能导致不良的健康结果。

COVID-19疫情的临床影响是深远的。戴口罩和保持社交距离等有效策略受到了破坏，损害了风险最大的人群。由于目前已有几种有效的SARS-CoV-2疫苗，疫苗犹豫和疫苗拒绝这两个不同原因和不同解决方案的不同问题已成为主要问题。疫苗犹豫是指即使在疫苗供应充足的情况下，也长期考虑或延迟接受疫苗接种;这与拒绝接种疫苗不同，拒绝接种疫苗的定义是不接种疫苗的特定意图，类似于“反vax”运动的追随者，在“反vax”运动中，人们拒绝所有疫苗，包括儿童疫苗。社交媒体上的错误信息助长了对疫苗的犹豫和拒绝，最初在线下表现出来的疫苗错误信息可以迅速传播到社交媒体平台;错误信息的交换是双向的。9］．事实上，美国卫生部长在2021年警告说，错误信息是对COVID-19疫苗接种工作的最大威胁[10］．社交媒体上的COVID-19错误信息和虚假信息加剧了对疫苗的犹豫，降低了疫苗接种率，并导致可预防的死亡，特别是在某些人口群体中[11，12］．COVID-19信息疫情仍然是致命的，我们必须采取行动。

为了解决这个问题，斯坦福大学伦理、社会和技术中心和斯坦福急诊医学系共同发起了INFODEMIC:斯坦福关于社交媒体和COVID-19错误信息的会议。INFODEMIC召集了来自社交媒体、医学、公共卫生和生物医学伦理学领域的专家，目标是确定新的最佳做法，以打击COVID-19在线虚假信息[13］．相应的《医学信息研究杂志》主题问题“社交媒体、伦理和COVID-19错误信息”以这项工作为基础，讨论了这一信息大流行的影响和结束它的方法。在这篇社论中，我们将研究社交媒体公司(高管、金融家、领导者和用户)在健康错误信息中的作用，以及他们在缓解COVID-19信息大流行方面的义务。

社交媒体的作用

在2019冠状病毒病(COVID-19)之前，人们就认识到社交媒体传播虚假健康新闻的力量，尤其是围绕烟草使用、电子烟和娱乐性毒品使用等话题。6］．然而，2020年是这是网络虚假信息的一年，政治和科学上的错误信息和虚假信息往往相互加强[14］．社交媒体公司和平台用户都在当年COVID-19疫情的诞生中发挥了重要作用。互联网在全球范围内迅速传播知识，通常不需要检查准确性，并助长了当前的信息大流行。社交媒体公司试图对其平台上的错误内容进行自我监督，但成功与否不一，这既是因为它们必须处理大量的COVID-19信息，也是因为它们不愿审查用户的帖子。信息通过互联网上的各种渠道迅速过滤，通常通过搜索引擎和社交媒体算法访问。谷歌是占主导地位的搜索引擎，每天在全球进行超过35亿次搜索，允许个人从广泛的来源检索信息[15］．尽管看起来可能是用户拉信息，但搜索引擎会优先考虑某些结果，实际上是将相关信息推送给用户。16］．社交媒体算法也会将选定的内容推送给数十亿用户(表1) [17］．社交媒体公司使用的专有算法经常被利用来传播COVID-19的错误信息和虚假信息，某些内容反复呈现给具有特定剖析特征或搜索历史的用户。这些算法可以更好地优化，以减少危害公众健康的有害信息的在线贩运。

除了社交网络，与传统媒体渠道相比，越来越多的用户在社交媒体平台上消费新闻[18］．个人在这些平台上虚拟地参与社交圈和网络，他们不会离开——他们的信念被计算机算法为他们和与他们相似的人选择的信息所强化。如果没有干预，他们会接触到新的内容，但很少或根本不会接触到新的知识或思维方式。社交媒体公司使用的算法创造了新闻回音室，通过放大可信度较低的信息源，可以成为错误信息的载体。在COVID-19大流行早期，可信度较低的消息来源主导了与COVID-19有关的Twitter和Facebook帖子，超过了传统新闻和媒体渠道[19］．在线机器人进一步迷惑用户，降低他们辨别真假新闻的能力。机器人是被设计成用户档案或可靠新闻来源的计算机代码，但实际上是虚假信息的武器。社交媒体公司很难识别和删除使用最简单人工智能的机器人，这些机器人利用了平台数据和社交媒体推送算法。因此，社交媒体平台助长了关于COVID-19病因和起源、治疗方法以及通过疫苗预防的骗局和错误信息，也就不足为奇了[19］．社交媒体公司可以投入更多资源来打击这些传播信息的媒介。

此外，卫生错误信息不仅限于COVID-19。在2021年的一项系统审查中，推特上发现了最普遍的健康错误信息，与吸烟、药物和疫苗有关[6］．该怪谁呢?很多人都有责任，社交媒体公司是其中之一。自顶向下这些平台上允许名人和其他公众人物发布的错误信息加剧了这个问题。与非名人帖子相比，名人占网络虚假信息的20%，平台用户关注的70% [19］．社交媒体公司受益于用户活跃度的增加，名人影响力也很有吸引力。这些引人注目的人可以不受限制地接触用户，因为社交媒体公司很少限制他们的信息，即使这些信息包含关于COVID-19的错误事实。社交媒体公司可以通过更好地监督其平台，为用户标记有关COVID-19的真实新闻和娱乐与虚假之间的模糊界限。

行动的义务

美国联邦贸易委员会(US Federal Trade Commission)对总部位于美国的社交媒体公司的监管方式与美国其他企业的监管方式相同。然而，他们不受联邦政府的约束社交媒体法规任何一种——因为根本就没有[20.］．社交媒体平台是私人公司，它们制定自己的内部监管政策，不受美国联邦通信委员会(FCC)的监管，也不受1934年《通信法案》第230条的监管。21］．该法案第(c)(1)小节认为，社交媒体公司不像其他媒体实体那样充当信息发布者，免除了它们在其平台上监控用户生成内容的义务。这些公司的自治方式或方法没有法律规定，它们的任何行动都是出于善意。但是，他们也坚持内部政策，其中一些政策旨在遏制各种有害于公众福利的信息的传播，从COVID-19的错误信息到恐怖组织之间的通信。这些“好撒玛利亚人”政策决定了什么构成对其平台的可接受使用，并划定了限制某些类型的社会表达的界限[22］．

也就是说，社交媒体公司大多不受监管，一些人声称他们应该保持这种状态，而不是像电视和广播公司那样受到联邦通信委员会的监管。这些公司目前采取的行动是自愿的，而不是强制性的，通常是为了应对外部压力。然而，如果公司没有有意地解决其平台上的错误信息和虚假信息，就应该考虑政府的监督。内部政策是重要的第一步，但我们继续看到大多数社交媒体平台上经常发布与科学证据相矛盾的公然虚假信息。3.］．例如，一项评估了1225个假新闻故事的内容分析研究发现，社交媒体平台负责传播一半(50.5%)可识别的虚假信息[3.］．社交媒体公司在一定程度上助长了COVID-19信息疫情，我们认为，在解决这一问题上持续的不作为或不充分的行动使它们成为同谋。考虑到风险，未能解决健康错误信息和虚假信息应被视为公共卫生危机，相应的应对措施应包括政府以公共利益的名义对社交媒体公司(类似于其他媒体来源)进行监督。

除了法律和公共政策，还有其他干预措施需要考虑。我们认为，社交媒体公司有道德义务采取行动。生物伦理学家认识到社交媒体使用的更广泛的公共健康后果，以及社交媒体平台的具体设计和实施如何决定偏见[23］．道德框架指导道德决策和作为/不作为，其中两个与社交媒体公司尤其相关[24］．首先，功利主义伦理要求做出能对最大多数人产生积极影响的决定。这也是公共卫生的基石。功利主义伦理的应用表明，即使在不方便的情况下，公司也应该做出具有社会意识的决定。25］．例如，社交媒体公司可以也应该重新设计传播信息疫情的算法，即使这种改变会危及广告收入和利润。同样，对传播虚假信息的名人用户进行审查可能会降低用户在平台上的参与度和活跃度，但这些行动是解决信息泛滥所必需的。其次，美德伦理是基于造就一个好人，或者在这种情况下是一个好公司的美德的推理。Kaptein [26)定义了企业道德准则，包括清晰性、透明度和可制裁性等。一个好认真进行自我监管的社交媒体公司会表现出许多其他优点，包括诚实、勇气、自我控制和正直。当考虑到企业的优点时，是什么使一个企业好社交媒体公司中，值得注意的是企业恶习的缺失好:缺乏、模棱两可、颠覆性和不透明[26］．这些恶习通常与社交媒体公司目前的做法有关，特别是考虑到他们的算法反复向用户推送危险内容。这些算法强化了一些用户对COVID-19的错误信息，并将他们排除在有关合法科学证据的报告之外。

事情不应该是这样的。“优秀的社交媒体公司”是有希望的，它们在面对全球大流行时采取了大胆的行动，而且可能是在牺牲自己。我们认为社交媒体公司最终可能会成为盟友，尤其是因为它们推动社会变革的力量是前所未有的。事实上，许多公司已经在努力减少错误信息。例如，Twitter、Facebook和谷歌搜索会删除内容，添加警告标签，并停用宣传虚假信息的误导性账户。然而，这些公司必须应对大量不断变化的关于COVID-19的信息，努力辨别欺骗性内容和科学不准确的内容替代的事实，甚至是真正的科学分歧[27］．这种斗争值得考虑。例如，关于SARS-CoV-2可通过空气传播的说法可能在2020年1月被标记为错误信息或虚假信息。今天，在2022年初，大多数科学家认为这种病毒至少在某些环境和条件下是通过空气传播的。一家删除了声称SARS-CoV-2可通过空气传播的帖子的社交媒体公司，是否在大流行的早期伤害了公众或阻碍了重要的学术辩论?

承认局势的真正复杂性并没有削弱而是阐明了我们呼吁采取行动的紧迫性。事实上，认识到社交媒体公司在公平裁决虚假信息方面的困难，意味着需要调动更多的财力和人力资源来充分解决这个问题。富有的公司已经为这些努力投入了一些资本，但他们有能力做得更多。错误信息的数量令人印象深刻，被删除的信息通常很快就会在平台内被类似的有害信息所取代，从而阻碍了进程。从本质上讲，社交媒体公司充其量只是在原地踏步，需要额外的资源和举措。这些努力可能需要从战略上针对信息大流行的特定方面，例如关于病毒临床严重程度的错误信息或关于疫苗功效的虚假信息。有必要采取不同的战略来处理在大流行病的不同阶段可能形成的一系列固定观念;一家社交媒体公司的单一方法可能不足以一次性改变人们对病毒起源、传播能力和预防措施的看法。每种类型的错误信息都应该有一个独特的回应信息，这些信息必须针对特定社区用户的文化差异进行定制。

应对这种“信息大流行”不应仅仅是社交媒体公司的责任，我们也不能仅仅依靠少数人或少数实体来对抗它。关键的潜在变革推动者还包括当选的政府代表、公共卫生官员、研究科学家、记者、临床伦理学家和医生。然而，对于许多选民来说，对政府的普遍不信任和对科学的低估在某种程度上被社交媒体放大了，这就需要真正多学科的应对挑战。28］．因此，我们认为，值得信任的社区领导人有效传递信息也会产生重大影响，例如，他们可以通过网络和亲自接触疫苗犹豫不决的个人社区:部长、青年辅导员、教师、社会和精神卫生工作者、一线工作者和其他人。

最后，实施科学家没有被充分地用作资源。实施科学是研究将研究结果引入卫生保健环境的方法。关于COVID-19，向全世界人口推广新疫苗的方法是一个重要但经常被错过的机会[29］．2020年期间，高度重视快速开发和测试COVID-19疫苗;对同样重要的领域给予的关注相对较少，这些领域包括如何公平地按规模生产疫苗以及如何公平地分配疫苗[30.］．COVID-19疫苗现在在大多数工业化国家都能广泛获得，但实施科学的潜在影响仍然同样重要。实施科学的一个关键原则是使用不同的策略来针对不同的患者群体[31］．特别是在某些社区和亚人群对疫苗的犹豫日益加剧的情况下，我们认为，实施科学家应该参与进来，帮助指导社交媒体公司的战略和行动，并同样帮助其他变革推手，如民选官员。采用提高COVID-19疫苗接种率所需的最佳现有证据和方法，是一种社会责任和伦理责任。我们建议社交媒体公司在制定抗击疫苗和其他COVID-19错误信息的战略时，寻求实施科学专家的建议。

下一个步骤

十多年来，健康方面的错误信息和虚假信息一直在迅速增加[14］．在COVID-19大流行期间，最初大量注意力集中在确保疫苗本身的分发上，但不幸的是，不是分发可靠的信息，也不是减少有害的错误信息和虚假信息。这产生了长期的影响。随着时间的推移，一些曾经说过“我不会戴口罩”的人现在说，“我不会接种疫苗”。展望未来，我们必须超越实验室科学家、一线医生或社交媒体公司战略家的角色。我们必须设法更广泛地扩大我们在卫生教育和公共卫生信息传递方面的影响。我们必须走出医学的藩篱，在病人和公众所在的地方——网上——与他们见面。当我们这样做的时候，我们需要依靠从教育和领导力文献中收集的合理策略来有效地帮助我们的患者[8，32］．我们需要确定以证据为基础的干预措施，有效地消除网上的错误信息，然后实施它们。14］．

如果我们想要创造有意义的改变，我们不能仅仅依靠临床科学的进步。我们必须考虑如何通过社交网络和线下社区最好地实施和传播新发现。对于科学和医学领域的许多人来说，这可能意味着他们第一次接触大众媒体。这意味着我们对患者和社区的直接服务要个性化，要有同理心，在寻求改变之前寻求理解。33］．此外，我们必须抵制一种家长式的做法，即我们保护病人不了解信息，而是赋予他们权力，让他们寻求可靠的信息，并对自己的健康作出知情的选择。幸运的是，有一些框架可以指导我们。包蒂斯塔等[33]为寻求反驳错误信息的医生提出了一个两步概念模型——第一步:确定健康错误信息的类型和来源;第二步:尝试在私下和公开场合进行纠正，有策略地、有礼貌地纠正。同时，Chou等人[34他敦促医生与社交媒体公司和有影响力的人合作，解决在线健康错误信息，教育公众识别潜在的错误信息，并培养对医学界更好的信任。最后，沃尔特等人[35证实，当来自某一特定领域的专家时，纠正健康错误信息的干预措施是最成功的。

复杂的问题需要协作的方法。社交媒体公司、医疗专业人员、研究人员、实施科学家和可信的信使必须形成协同合作伙伴关系，以成功抗击COVID-19信息大流行以及普遍的健康错误信息和虚假信息。变革推动者可以通过展示他们采取行动和实施新的最佳实践的意愿，而不是专注于推卸责任，从而最有效地发挥作用，不管他们以前是否对我们今天面临的一些问题有所贡献。

当你阅读《医学互联网研究杂志》这期特刊的文章时，我们敦促你反思如何在当前的工作环境之外扩大自己的贡献。在文本框1，我们为社交媒体公司和医疗保健提供商提供了几个可行的下一步措施，以打击COVID-19的虚假信息。考虑一下我们大家如何才能更好地应对当前的COVID-19信息疫情，并对抗和预防未来的疫情。为了真正赢得这场斗争，我们必须立即将我们的专业知识转化为正确的语言和正确的行动。无论我们是在临床环境中还是在社交媒体上发现我们的患者，我们都必须保护他们免受错误信息和虚假信息的伤害，并帮助他们从我们必须提供的挽救生命的医疗和健康信息中受益。