NVIDIA加速推动AI进程
2017-05-30
2017年9月26日,NVIDIA GTC CHINA2017大会在北京举办,NVIDIA创始人兼首席执行官黄仁勋亮相大会,展示了能够加快人工智能大规模采用速度的全新技术。
这场为期三天的盛会吸引了超过3500名科学家、工程师和新闻界人士参加。黄仁勋向这3500多名参与者所做的演讲标志着GTC全球巡回之旅的启程。在未来几个月里,NVIDIA将陆续前往慕尼黑、特拉维夫、台北、华盛顿和东京,向数以千计开发人员讲述AI创新的故事。
黄仁勋在主题演讲时提到,众多互联网公司竞相将深度学习AI引入受众达数十亿人的服务之中,还介绍了AI推理工作负载是如何呈指数级增长等内容。视频领域,每日运行的推理计算估计有3000亿次;语音领域,每日运行的推理计算估计达500亿次以上;语言翻译领域,每日运行的推理计算更是达到约7000亿次以上。
为满足市场需求,NVIDIA发布了TensorRT 3 AI推理软件。它不但能在生产环境中运行经过训练的神经网络,还能够大幅提升从云端向终端设备(包括无人驾驶汽车和机器人)的推理性能,降低成本。
若将NVIDIA GPU与TensorRT 3结合,便可以在所有框架上开展超快、超高效推理工作,进一步实现众多支持AI的服务,例如图像和语音识别、自然语言处理、视觉搜索和个性化建议等功能。据黄仁勋介绍,搭配Tesla V100 GPU加速器的TensorRT每秒能够识别约5700张图片,对比现今CPU每秒仅能识别140张图片的速度其效率可见一斑。搭配NVIDIA最新GPU的一台服务器顶得上当前150台CPU服务器。换个角度来说,采用GPU加速技術的一个数据中心所开展的推理工作相当于13个仅采用CPU的数据中心。
黄仁勋宣布,阿里云、百度和腾讯均已在其云服务中部署Tesla V100 GPU加速器。另外,包括华为、浪潮和联想在内的中国顶尖OEM均已采用NVIDIA的HGX服务器架构并使用Tesla V100 GPU来构建新一代加速数据中心。