北京pk10开奖直播

IT资讯
当前位置:风语网 > IT资讯 >  物联网

仅2毫秒!英伟达打破实时对话AI的训练和推理用时记录

2019-09-24 14:52:24 乐邦 编辑:小语 浏览数:13风语网

据国外媒体报道,英伟达用于开发和运行可理解和响应请求的对话式AI的GPU强化平台,已经达成了一些重要的里程碑,并打破了一些记录。这对任何基于其技术进行开发的人来说意义重大——当中包括大大小小的公司,因为英伟达将很多用于实...

据国外媒体报道,英伟达用于开发和运行可理解和响应请求的对话式AI的GPU强化平台,已经达成了一些重要的里程碑,并打破了一些记录。

这对任何基于其技术进行开发的人来说意义重大——当中包括大大小小的公司,因为英伟达将很多用于实现这些进步的代码开源。那些代码用PyTorch编写,易于运行。

北京pk10开奖直播英伟达今天宣布的最大成果包括:BERT训练用时打破记录,进入1小时关口。BERT是世界上最先进的人工智能语言模型之一,也被广泛认为是自然语言处理(NLP)标杆的先进模型。英伟达的AI平台仅仅需要53分钟就能够完成模型训练,经过训练的模型在短短2毫秒多一点的时间里(10毫秒在业内被认为是高水平线)就能够成功地做出推理(即利用通过训练学习到的能力得出结果)——又一个记录。

英伟达的这些突破不仅仅是吹嘘的资本——这些进步可为任何使用NLP对话式人工智能和GPU硬件的人提供切实的好处。英伟达在它的其中一个SuperPOD系统上打破了训练时间记录,该SuperPOD系统由运行1472个V100 GPU的92个英伟达 DGX-2H系统组成;在运行英伟达 TensorRT的英伟达 T4 GPU上完成推理过程。英伟达 TensorRT在性能上超出高度优化的CPU许多个量级。不过,该公司将公开BERT训练代码和经过TensorRT优化的BERT样本,让所有人都可以通过GitHub利用。

除了这些里程碑以外,英伟达的研究部门还建立并训练了有史以来最大的一个基于“Transformer”的语言模型。这也是BERT的技术基础。该定制模型包含的参数多达83亿个,规模是当前最大的核心BERT模型BERT-Large的24倍。英伟达将这个模型命名为“Megatron”,它也对外提供了用于训练这个模型的PyTorch代码,因而其他人能够自行训练出类似的基于“Transformer”的大型语言模型。

分享到:

版权与免责声明:

凡未注明"稿件来源"的内容均为转载稿,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性;


本文地址:http://www.huaguanwd.com/news/2019/09/24/25361055.html北京pk10开奖直播

转载本站原创文章请注明来源:风语网

行业聚焦

十代酷睿版宏碁蜂鸟FUN上架:i5

IT之家9月3日消息 十代酷睿版宏碁蜂鸟FUN现已正式上架京东,加量不加价,i5-10210U+MX 250仍为3999元。7月底,宏碁推出了FUN 品牌的笔记...[详细]

义乌绿禾网、澜兰汇、顺联动力等电商为汶川“造血”赋能

●全媒体记者 吴峰宇 实习生 季品娴人勤地不懒,土堆能变 刮金板 。 这句俗谚在汶川广为流传。地处川西北的汶川县是藏、羌、回、汉等各族群众交汇融合的聚集区,崇山...[详细]

阿里巴巴零售通:打造百万小店核心服务平台

本报记者/孟颖颖 作者/荆保锋8月底,阿里巴巴零售通战略发布会上,阿里巴巴集团副总裁、零售通事业部总经理林小海宣布,经过三年的努力,零售通已经完成物流、支付、数...[详细]

OPPO VOOC闪充家族全面升级 搭载Reno Ace、K5领先商用

2019年9月17日,OPPO广东移动通信有限公司(以下简称:OPPO)正式发布65W超级闪充技术,将率先在十月发布的Reno Ace中首次搭载,凭借“30分钟...[详细]

苹果iOS 13代码曝光AR设备“Garta”:使用“StarBoard”模式

IT之家9月2日消息 据外媒MacRumo报道,苹果长期以来一直在研究增强现实(AR)设备或眼镜,尽管最近DigiTimes报告声称该项目已被暂停,但在iOS...[详细]

科技趋势

更多

美国人讨厌互联网巨头?2/3调查者希望拆分它们

 

9月19日消息,据国外媒体报道,在美国,拆分大型科技公司的主意可谓深得民心,尤其是如果这意味着亚马逊和谷歌等公司不再优先...[详细]

支付宝、蚂蚁森林、相互宝立功,蚂蚁金服首次上榜“互联网企业100强”排名第五

 

IT之家8月14日消息 一年一度的互联网百强榜单又有新面孔。8月14日,中国互联网协会、工信部网络安全产业发展中心联合发...[详细]

谷歌Pixel 4真机曝光 发布日期尚未确认

 

近日,网上出现了谷歌Pixel 4的真机谍照,爆料人似乎是 Sprint 的员工。在将 Pixel 4 的屏幕点亮后,可...[详细]

跨境电商将踏入十万亿市场 网易考拉等头部平台优势进一步扩大

 

国民消费的升级和与之带来的用户对于产品质量和产品种类的要求提高,推动了跨境电商市场发展,与此同时,《电商法》的出台为行业...[详细]

华为EMUI10正式发布:基于安卓系统,下一代Mate系列首发

 

IT之家8月9日消息 今日,在2019华为开发者大会上,华为消费者业务软件部总裁王成录发布了操作系统EMUI10。定位为...[详细]

一周排行每月关注