您现在的位置是:主页 > 品牌 > 百度 >
百度开源了一种能提升31倍速度的人工智能算法
发布时间:2017年03月23日 17:47:22 百度 人已围观
简介百度硅谷人工智能实验室(SVAIL)于2月22日宣布开源了Ring Allreduce算法库。该算法在高性能计算中广泛应用,但在深度学习领域尚未得到充分利用。通过此次开源,SVAIL希望促进深度学习...
在美国东部时间2月22日,百度在硅谷的人工智能实验室(SVAIL)宣布将Ring Allreduce算法库开源,旨在推动深度学习领域的发展。尽管Ring Allreduce在高性能计算方面颇具声望,但在深度学习的应用上尚显不足。
简单来说,Ring Allreduce算法的关键在于其并行数据传输。过去,数据是逐个发送至单独处理器的,这种方式速度较慢,而Ring Allreduce则通过同步发送数据显著缩短了传输时间,提高了整体效率。
以下是传统算法的示意图:
而这是Ring Allreduce算法的示意图:
据了解,利用Ring Allreduce算法,百度的硅谷人工智能实验室成功地将神经网络训练扩展到了40个GPU,并且训练速度提升了31倍。
百度表示:“我们推出这个项目最大的愿望,是分享我们在分布式深度学习和大数据领域的技术积累,降低分布式机器学习的门槛,让更多个人和机构能够体验到大数据所带来的便利。”
百度还强调,互联网精神的核心是共享。技术的创新与进步不仅仅是为了企业的利润,更是为了全人类的利益。通过开源提供更多技术支持,我们期望与大家共同推动人工智能的发展,最终惠及所有人。
Tags: