NeurIPS要求AI研究人员应对社会影响和财务利益冲突

 
会议组织者告诉记者，向全球最大的AI研究会议之一NeurIPS提交论文的研究人员现在必须首次陈述“其工作对社会的潜在潜在更广泛影响”以及任何财务利益冲突。 VentureBeat。
NeurIPS是制定要求的首批也是最大的AI研究会议之一。社会影响力声明将要求AI研究人员面对并说明其工作的正面和负面潜在结果，同时财务披露要求可能会阐明行业和大型科技公司在该领域中发挥的作用。财务披露必须说明与提交的研究直接相关的潜在利益冲突和任何潜在的不相关利益冲突。
NeurIPS 2020交流主席Michael Littman在一封电子邮件中告诉VentureBeat，每篇论文都会发表“道德方面和未来社会后果”声明。但是，它们只会出现在可用于相机的版本中，因此不会损害审阅过程的双盲性质。
具有潜在道德问题的研究将得到特别考虑。 “审核员和区域主席的评估将仅基于技术贡献进行。但是，如果将某篇论文标记为潜在的道德问题，则该论文将被发送给另一组具有道德和机器学习专长的审阅者。这些论文的最终接受也取决于第二批审稿人的正面评价。”利特曼说。
去年在市政厅，NeurIPS 2019的组织者建议今年的研究人员可能需要使用ML CO2 Impact之类的计算器陈述其模型的碳足迹。该模型对气候变化的影响当然可以归类为与“未来社会影响”有关，但2020年征集论文中未包含此类明确要求。
利特曼说：“围绕社会后果陈述的规范尚未得到很好的确立。” “我们希望它们能在接下来的几届会议上形成，并且很可能随着社会的广泛关注而逐步发展。请注意，提交给会议的许多论文本质上是概念性的，不需要使用大规模的计算资源，因此，尽管特别重要，但这种特殊关注并不是普遍适用的。”
对新规则的回应各不相同。
需要明确的是，我认为这不是一个积极的步骤。人工智能的社会影响是一个艰巨的领域，并且有研究人员和组织对其进行了专业研究。大多数作者在该领域没有专业知识，也不会做足够好的奖学金来发表有意义的事情。
多伦多的Vector Institute for AI的教职人员Roger Grosse博士抱怨说，新政策将“导致重要问题的琐碎化”。 Grosse是CIFAR领导层的成员，并建议公司赞助商就其对社会的广泛影响发表声明。
近年来，对于诸如Google AI，OpenAI和Facebook AI Research(FAIR)之类的科技巨头的主要AI研究部门日益重要的作用，NeurIPS受到了批评。
为了回应格罗斯关于将社会影响应留给注重伦理或社会影响的研究人员的论点，乔·雷德蒙说，由于担心计算机视觉对世界的潜在危险，他停止进行计算机视觉研究。雷德蒙与阿里·法哈迪(Ali Farhadi)共同创建了YOLO实时物体检测系统，后者的公司Xnor最近被苹果收购。
雷德蒙(Redmon)形容自己是一个曾经误以为科学是非政治性的神话的人。他宣称，如果认真对待更广泛的社会影响，几乎不会发表任何面部识别研究。
我停止进行简历研究，因为我看到了自己的工作产生的影响。我喜欢这项工作，但军事应用和隐私问题最终变得不可忽视。
上个月，纽约大学AI Now研究所的研究员Deborah Raji为企业引入了内部审计框架，以评估其AI系统的道德绩效，并弥合她和合著者所说的“ AI问责制差距”。
该框架利用了用于记录影响的工具，例如来自Google AI的数据集数据表和模型卡。它还借鉴了航空和制药药物测试等其他行业的监管惯例。
拉吉在电话采访中对VentureBeat表示：“我认为很多事情是其他领域所不能做的。”
拉吉(Raji)表示，由于去年会议上发表的关于伦理学有问题的研究(例如可以在社交媒体中散布错误信息的评论生成算法)的发布，在诸如NeurIPS之类的会议上要求社会影响力声明可能正在出现。
她称新规则是朝正确方向迈出的一步。
“行业(在AI研究领域中)才刚刚出现，因此事物的运作方式，进入市场和行业的速度如此之快，以至于您有必要真正考虑自己的工作方式她说，迫使研究人员花时间去做，对于使他们更加反思工作的影响而言，是很重要的。” 。
拉吉(Raji)表示，只有研究人员关注伦理或社会影响的态度才能评估模型“对您作为研究人员的责任的误解”。
“在我的教育中，我们并没有真正了解其中的任何词汇。我认为这就是为什么人们有点吓坏了，但最终没什么大不了的，”她说。
会议组织者在上周第34届年度神经信息处理系统会议(NeurIPS)征集论文的同时，共享了新规则。该会议将于12月在加拿大温哥华举行。 NeurIPS论文将于5月12日到期。