MIT CSAIL与AI对抗假新闻

 
虚假新闻(一种松散定义为通过传统媒体或社交媒体故意传播的虚假信息组成的宣传)是一种威胁。皮尤研究中心(Pew Research Center)在2016年12月进行的一项调查显示，有23%的美国成年人有意或无意地与朋友和其他人分享了假新闻。研究显示，它开始削弱对主要电视台和报纸的信任。对蒙茅斯大学(Monmouth University)进行调查的受访者中有77%表示，他们相信媒体报道了假新闻。在一个特别令人震惊的例子中，有关华盛顿披萨店的一个不真实(但具有病毒性)的故事在一次1224次民意测验中导致9%的美国选民报告说，他们认为前国务卿希拉里·克林顿“与儿童色情圈有关” 。”
为了引起人们对问题规模的关注，麻省理工学院计算机科学与人工智能实验室(CSAIL)的研究人员最近研究了可以用事实文章欺骗所谓的假新闻检测器的方法。与这项工作同时进行的是，同一团队使用了世界上最大的事实检查数据集之一来开发可以检测虚假陈述的自动化系统。
它基于MIT CSAIL去年进行的一项研究，该研究产生了一个AI系统，该系统可以确定来源是准确的还是有政治偏见的。
研究人员在两篇预印本中的第一篇描述了一个基于OpenAI的GPT-2的框架，这是一种AI模型，他们选择了AI模型来破坏人类手写文本的含义，然后再将其提供给假新闻检测器。在一个实验中，他们利用类似于可靠来源的自动完成工具来生成有关合法新闻的信息。生成器提供了一个有关NASA如何收集日冕质量抛射数据的故事，并就此数据如何帮助科学家研究地球磁场发表了翔实(正确)的解释。尽管如此，它仍被识别为“假新闻”，表明假新闻检测器无法将假文本与真实文本区分开来(如果两者都是机器生成的)。
研究贡献者和麻省理工学院教授Regina Barzilay表示：“我们的这一发现令人质疑当前分类器在帮助发现其他新闻来源中的错误信息方面的可信度。”
在第二篇论文中，该团队采购了事实提取和验证(FEVER)，这是一个虚假陈述的存储库，该存储库经过了Wikipedia文章的证据交叉检查，以开发出同类最佳的事实检查算法。说起来容易做起来难。他们注意到，FEVER包含偏差，如果不加以解决，可能会导致机器学习模型出错。
问题是，接受FEVER训练的系统往往只关注陈述的语言，而没有考虑外部证据。 (例如，“ Adam Lambert不会公开隐藏他的同性恋”之类的陈述可能会被事实核对的AI宣布为错误，即使该陈述是真实的，并且可以从语料库中推断出来。)当目标陈述包含以下内容时，这种影响会加剧。今天是正确的信息，但将来可能会被认为是错误的信息。
合著者创建了一个数据集，该数据集消除了FEVER的偏倚以解决此问题，但并不能完全解决这一难题。模型在无偏的评估集上的表现很差，因此研究人员认为这些模型过分依赖最初暴露的偏见。最终解决方案涉及设计一种全新的算法-在经过去偏的数据集上进行训练时，该算法在所有指标上的表现均优于先前的事实检查AI。
该团队希望将事实检查与现有防御措施相结合，可以使模型对攻击的防御能力更强。将来，他们希望通过开发新算法和构建涵盖更多类型错误信息的数据集来进一步改善现有模型。
他们并不是唯一试图通过AI打击假新闻传播的人。 总部位于德里的初创公司MetaFact利用自然语言处理算法来标记新闻报道和社交媒体帖子中的错误信息和偏见。 AdVerif.ai是去年在Beta版中启动的软件即服务平台，可分析文章中的错误信息，裸露内容，恶意软件和其他有问题的内容，并交叉引用包含数千个虚假和合法新闻的定期更新数据库。 就其本身而言，Facebook已尝试部署可“识别帐户和虚假消息”的AI工具。
无论最终解决方案是什么，无论是AI，人工策展还是两者兼而有之，它都无法很快实现。 Gartner预测，到2022年，如果保持当前趋势，发达世界中的大多数人将看到比真实信息更多的虚假信息。