新闻
您现在的位置:首页 > 新闻 > 研究人员提出描述符以防止AI系统组件不匹配
  • 第三批专项债六月底发完 项目完成审核

    第三批专项债六月底发完 项目完成审核

    发布时间:2020/04/06

    财政部副部长许宏才4月3日在新闻发布会上表示,今年以来,根据全国人大常委会授权,财政部提前下达了2020年部分新增专项债券额度12900亿元。截至2020年3月31日,全国各地发行新增专项债券1.08万亿元,占84%,发行...

  • 国美零售转型加速 携拼多多“迎战”零售业大考

    国美零售转型加速 携拼多多“迎战”零售业大考

    发布时间:2020/04/06

    随着国内疫情初步得到控制,零售消费市场也在逐渐恢复运转。日前,国务院联防联控机制举办新闻发布会。商务部消费促进司负责人王斌在会上指出,将千方百计促进消费回补和潜力释放,壮大新型消费和升级消费,扩大...

  • 美新冠疫情蔓延,建霖家居等IPO企业受累

    美新冠疫情蔓延,建霖家居等IPO企业受累

    发布时间:2020/04/06

    编者按: 随着疫情蔓延,全球新冠肺炎确诊病例已突破百万,累计死亡超5万例,其中,美国确诊超过23万例,欧洲确诊超过50万例。作为全球经济重要力量的欧美地区,其疫情将对IPO企业产生什么影响? “有一天美国将成...

  • 信托代销哪家强?招行去年赚64亿

    信托代销哪家强?招行去年赚64亿

    发布时间:2020/04/04

    证券时报记者 杨卓卿 随着银行年报密集披露,一些行业巨头代销信托产品的情况也浮出水面。 证券时报记者注意到,“零售之王”招商银行2019年代销的信托产品规模超过3000亿元,借此实现64.32亿元的手续费及佣金收入...

研究人员提出描述符以防止AI系统组件不匹配

发布时间:2019/11/07 新闻 浏览次数:652

 
人工智能至少在理论上为公共部门带来了巨大的希望。但是实际上,将AI组件集成到公共部门应用程序中受到了这些组件的脆弱性以及它们之间的不匹配的限制。例如,如果使用与操作环境中的数据不同的数据训练机器学习模型,则组件的性能将大大降低。
这个难题促使卡内基·梅隆大学的研究人员研究了AI系统集成中的配置类别,并确定了不同领域的从业者(包括数据科学家,软件工程师和运营人员)所做的假设。他们的目的是寻找新的方法来明确地传达适当的信息,同时开发减轻不匹配影响的方法。
合著者指出,在工作和应用中部署AI模型仍然是一项艰巨的挑战。合著者详细介绍了该研究的论文已在今年的政府和公共部门诉讼会议上接受。这是因为模型的开发和操作通常涉及三个不同的角度:数据科学家,软件工程师和操作人员。第一种构建模型并对其进行训练,然后再针对一组通用指标对其进行测试,而第二种将训练后的模型集成到一个更大的系统中,而第三种则部署,操作和监视整个系统。
研究人员说,这三种观点是分开运作的,并使用不同的术语,导致假设之间不匹配。结果,模型测试期间使用的计算资源与运营期间使用的计算资源并没有什么不同,从而导致性能下降。更糟糕的是,通常没有设置监视工具来检测模型准确性下降或系统故障。
团队的解决方案就是他们所说的机器可读的ML-Enabled系统元素描述符,一种在AI系统中启用不匹配检测和预防的机制。描述符将属性编码,以从所有上述角度做出明确的假设。也就是说,它们可以以手动,有监督的方式用于信息和评估目的,或者可以通知开发在设计时和运行时运行的自动失配检测器。
研究人员提出了一种由三个阶段组成的描述符构建方法。他们首先通过与机器学习从业人员的访谈得出不匹配及其后果的示例,然后他们将从GitHub描述和文献中识别用于描述系统元素的属性。在随后的映射阶段,他们将为每个不匹配项确定一组属性,以用于检测它们,并针对未映射到任何属性的表面不匹配项进行差距和可行性分析。
然后,团队将从第一阶段开始与从业者重新接触,以验证他们的工作,以期达成90%的共识。他们还将开发自动不匹配检测的演示,并创建可以检测不匹配的脚本-理想的示例是验证不匹配和属性之间的映射以及从该映射创建的描述符集的示例。
“我们的工作愿景是,社区开始开发用于自动检测不匹配的工具,而组织开始在其工具链中包括不匹配检测,以开发支持ML的系统”,共同作者写道。 “为了使[AI]组件能够以有意义的方式部署,我们将需要了解存在的不匹配,并开发减轻这些不匹配影响的方法。”

姓 名:
邮箱
留 言: