新闻
您现在的位置:首页 > 新闻 > ProBeat:“算法就像凸面镜子一样,可以折射人的偏见”
  • 潮流餐饮文化打破传统市场 《创业中国人》携资本赋能创业者

    潮流餐饮文化打破传统市场 《创业中国人》携资本赋能创业者

    发布时间:2020/04/04

    作为新时代的消费者主体,九零后与零零后的消费观念往往对各行业发展趋势有着举足轻重的影响。餐饮行业更是如此,如果仅仅认为做餐饮只用把注意力放在菜品的味道上,而忽略了这些年轻消费者对用餐氛围、用餐体验...

  • 何止好看!第十代索纳塔获奖设计背后的实用主义

    何止好看!第十代索纳塔获奖设计背后的实用主义

    发布时间:2020/04/01

    “美观性”和“实用性”的融合一直以来都是设计界的难题,汽车设计也是如此。 在现代汽车设计中,优秀的作品在设计之初就把整车的“美观性”和“实用性”并列作为重点。作为第一款基于全新i-GMP平台打造的车型,第十代索纳塔...

  • 索尼正在放缓欧美的PlayStation下载速度

    索尼正在放缓欧美的PlayStation下载速度

    发布时间:2020/03/31

      索尼今天宣布将对美国的PlayStation下载进行更改,这反映了本周早些时候欧洲的类似变化。也就是说,它会减慢或延迟游戏的下载,以期在社交孤立期间帮助管理流量。 由于我们所有人都在室内度过更多的时间,...

  • 欧洲刑警组织追捕利用冠状病毒大流行的黑客

    欧洲刑警组织追捕利用冠状病毒大流行的黑客

    发布时间:2020/03/31

      欧洲刑警组织(Europol)希望您放心,它正在利用网络犯罪分子,通过利用冠状病毒危机来窃取您的个人数据和节省资金。 该机构在一份新报告中指出了黑客在大流行期间采用的一些最常见的战术,以诱骗受害者。欧...

  • 第三批专项债六月底发完 项目完成审核

    第三批专项债六月底发完 项目完成审核

    发布时间:2020/04/06

    财政部副部长许宏才4月3日在新闻发布会上表示,今年以来,根据全国人大常委会授权,财政部提前下达了2020年部分新增专项债券额度12900亿元。截至2020年3月31日,全国各地发行新增专项债券1.08万亿元,占84%,发行...

  • 国美零售转型加速 携拼多多“迎战”零售业大考

    国美零售转型加速 携拼多多“迎战”零售业大考

    发布时间:2020/04/06

    随着国内疫情初步得到控制,零售消费市场也在逐渐恢复运转。日前,国务院联防联控机制举办新闻发布会。商务部消费促进司负责人王斌在会上指出,将千方百计促进消费回补和潜力释放,壮大新型消费和升级消费,扩大...

  • 美新冠疫情蔓延,建霖家居等IPO企业受累

    美新冠疫情蔓延,建霖家居等IPO企业受累

    发布时间:2020/04/06

    编者按: 随着疫情蔓延,全球新冠肺炎确诊病例已突破百万,累计死亡超5万例,其中,美国确诊超过23万例,欧洲确诊超过50万例。作为全球经济重要力量的欧美地区,其疫情将对IPO企业产生什么影响? “有一天美国将成...

  • 信托代销哪家强?招行去年赚64亿

    信托代销哪家强?招行去年赚64亿

    发布时间:2020/04/04

    证券时报记者 杨卓卿 随着银行年报密集披露,一些行业巨头代销信托产品的情况也浮出水面。 证券时报记者注意到,“零售之王”招商银行2019年代销的信托产品规模超过3000亿元,借此实现64.32亿元的手续费及佣金收入...

ProBeat:“算法就像凸面镜子一样,可以折射人的偏见”

发布时间:2019/11/18 新闻 浏览次数:209

 
昨天在多伦多举行的Movethedial全球峰会上,我专心地听了一个主题为“没有礼貌的小说:人工智能揭示了人类的内容。”北欧化工AI产品总监Kathryn Hume列举了一系列AI和算法故障-我们已经看到了很多。但这正是休described(Hume)描述算法的真正方法。
休ume说:“算法就像凸面镜一样,可以折射人的偏见,但要做到直率。” “他们不允许像我们经常以此来维持社会生活的有礼貌的小说。”
我真的很喜欢这个比喻。这可能是我到目前为止所听到的最好的,因为它并没有就此结束。休ume(Hume)在稍后的演讲中,讨论了一种偏向于黑人的算法,该算法用于预测美国的未来犯罪分子。
休ume说:“这些系统不允许有礼貌的小说。” “实际上,它们是一面镜子,可以使我们直接观察社会上可能存在的问题,以便我们进行修复。但是我们需要小心,因为如果我们不能很好地设计这些系统,那么它们要做的就是对数据中的内容进行编码,并可能放大当今社会中存在的偏见。”
反射与折射
如果算法设计不当,或者-如今几乎AI中的所有人都会告诉您-如果您的数据天生就有偏差,那么结果也将是错误的。您很有可能经常听到这个消息,它已经被敲响了。
凸镜比喻告诉您的不仅仅是获取更好的数据。关于镜子的事情是你可以看一下它。您会看到反射。凸镜会变形:当物体靠近时,反射的图像会变大。镜子反射的主要部分占据了镜子的大部分。
请看本周流行的推文风暴:
@AppleCard真是个该死的性别歧视计划。我和我的妻子提交了联合纳税申报表,居住在社区财产州,并且已经结婚很长时间了。然而,苹果公司的黑匣子算法认为我应得的信用额度是她的20倍。没有上诉的工作。
— DHH(@dhh)2019年11月7日
是的,数据,算法和应用程序似乎有缺陷。苹果和高盛的代表不知道为什么。
因此,没有人理解算法。没有人有权检查或检查算法。但是,我们与Apple和GS进行交流的每个人都确信,该算法没有任何偏见和歧视。那就是认知失调的A级管理。
— DHH(@dhh)2019年11月8日
显然正在发生什么。苹果和高盛正在调查中。纽约州金融服务部也是如此。
无论最终有什么偏差,我认为我们都可以同意,一个合伙人的信用额度是另一个合伙人的20倍是可笑的。也许他们会修复算法。但是,一旦调查完成,我们还需要提出更大的问题。人类会分配较小的倍数吗?会被保证吗?为什么?
因此,您已经设计了一种算法,并且您所在的社区,您的业务和数据集都存在某种问题。您可能会意识到您的算法给您带来有问题的结果。但是,如果缩小,则会发现算法不是问题。它正在反映和解决这个问题。从那里,不仅需要确定数据集和算法,还需要确定您的业务和社区。
ProBeat是专栏,其中Emil对那周遇到的任何事情都rant之以鼻。

姓 名:
邮箱
留 言: