新闻
您现在的位置:首页 > 新闻 > Facebook推出了TensorBoard支持的PyTorch 1.1
  • 第三批专项债六月底发完 项目完成审核

    第三批专项债六月底发完 项目完成审核

    发布时间:2020/04/06

    财政部副部长许宏才4月3日在新闻发布会上表示,今年以来,根据全国人大常委会授权,财政部提前下达了2020年部分新增专项债券额度12900亿元。截至2020年3月31日,全国各地发行新增专项债券1.08万亿元,占84%,发行...

  • 国美零售转型加速 携拼多多“迎战”零售业大考

    国美零售转型加速 携拼多多“迎战”零售业大考

    发布时间:2020/04/06

    随着国内疫情初步得到控制,零售消费市场也在逐渐恢复运转。日前,国务院联防联控机制举办新闻发布会。商务部消费促进司负责人王斌在会上指出,将千方百计促进消费回补和潜力释放,壮大新型消费和升级消费,扩大...

  • 美新冠疫情蔓延,建霖家居等IPO企业受累

    美新冠疫情蔓延,建霖家居等IPO企业受累

    发布时间:2020/04/06

    编者按: 随着疫情蔓延,全球新冠肺炎确诊病例已突破百万,累计死亡超5万例,其中,美国确诊超过23万例,欧洲确诊超过50万例。作为全球经济重要力量的欧美地区,其疫情将对IPO企业产生什么影响? “有一天美国将成...

  • 信托代销哪家强?招行去年赚64亿

    信托代销哪家强?招行去年赚64亿

    发布时间:2020/04/04

    证券时报记者 杨卓卿 随着银行年报密集披露,一些行业巨头代销信托产品的情况也浮出水面。 证券时报记者注意到,“零售之王”招商银行2019年代销的信托产品规模超过3000亿元,借此实现64.32亿元的手续费及佣金收入...

Facebook推出了TensorBoard支持的PyTorch 1.1

发布时间:2019/05/02 新闻 浏览次数:870

 
昨天,Facebook推出了PyTorch 1.1,支持TensorBoard并升级到其即时(JIT)编译器。 PyTorch创建者Soumith Chintala称JIT编译器改变了深度学习框架的里程碑性能改进。
PyTorch在Facebook内部用于为其人工智能服务(如PyText)提供语言理解任务等功能。自2017年开源以来,PyTorch已成为世界上最受欢迎的深度学习框架之一。
去年秋天的2018年GitHub Octoverse报告称PyTorch是GitHub平台上最受欢迎的开源项目之一,全球有3100万开发人员使用。
PyTorch 1.1带有新的API,支持布尔张量和自定义递归神经网络,以及JIT编译器的升级,用于优化计算图形。
“我们一直在与Nvidia密切合作,基本上将所有优化添加到我们的编译器本身。因此,如果您实际编写了偏离规范的递归神经网络,可能是表达新想法的用户,并且他们想要看看他们是否可以启动更好的LSTM,或某种更好的RNN,它实际上也是接近cuDNN的速度,这意味着他们只是提高了产量,“Chintala说。
今天在加利福尼亚州圣何塞举行的F8开发者大会第二天的主题演讲中分享了这条消息。
Facebook的PyTorch深度学习框架去年在F8首次亮相,并于去年秋天公开亮相。
他说,编译器的alpha版本在去年秋天的版本1.0中可用,但没有比PyTorch的基本模式快得多。 Chintala表示,新的JIT编译器是研究人员和自动驾驶模型制造商的一项备受关注的功能。它还为PyTorch带来了更多的Python编程语言概念。
“我们实际上开始支持更多的Python概念,如甲板和列表,以便运往生产,因此在1.1中我们有效地开始构建Python到生产故事,这比PyTorch到生产故事要大一些,”他说。
JIT编译器现在能够在运行时确定如何生成最有效的代码。 Chintala期望JIT编译器的更改能够为自定义RNN模型提供更好的性能。
“人们遇到的问题是,当他们偏离规范时,他们的代码会慢10倍,因为快速版本会很大,而且我们没有高性能的cuDNN内核,”他说。
PyTorch 1.1的发布恰逢Udacity和Fast.ai的新培训课程。新的软件模块将作为Fast.ai课程的一部分引入,包括fastai.audio和fastai.vision。 Udacity和Fast.ai的训练也是去年秋天发布1.0的一部分。
今天也是来自Facebook的新功能:机器学习实验平台Ax和贝叶斯模型优化包Botorch进行功率参数和调优优化。
PyTorch的路线图上的下一步是量化,以更少的比特运行神经网络,以实现更快的CPU和GPU性能,并支持AI从业者创建的张量中的命名维度。
“这可能看起来像一个小功能,”Chintala谈到维度命名,“但它实际上是一个基本功能,并改变了人们编写代码的方式。这使他们更容易进行簿记并提高工作效率。“
PyTorch还将继续使用像PySyft这样的项目,这是一项使用联合来与PyTorch一起训练机器学习系统的计划。
“我认为这不仅仅是Facebook。我认为这个领域一般都非常认真地看待这个方向,是的,我认为你绝对会看到更多的努力,更多的方向,更多的包装,无论是PyTorch还是其他人都朝这个方向肯定,“Chintala说。
在3月举行的TensorFlow开发者大会上,Google推出了其流行的TensorFlow机器学习框架的最新版本,以及用于分散计算的TensorFlow Federated和用于培训具有隐私保证的AI模型的TensorFlow Privacy。

姓 名:
邮箱
留 言: