本栏推荐

快讯信息

发布时间：2022年09月16日 16:04:25 好文人已围观

简介AI人工智能近年来备受关注，CPU和GPU不断提升其性能。竞争多年的Intel、NVIDIA和ARM首次合作，推出了FP8格式。这种新型AI格式显著提高了运算性能，目前最强的加速卡H100也因此受益。...

近年来，人工智能（AI）已经成为一个重要话题，CPU和GPU的性能提升主要集中在AI应用上。曾经互为竞争对手的Intel、NVIDIA和ARM如今首次联合，推出了FP8格式。这一全新的AI格式能够显著提升计算性能，当前最强大的加速卡H100在性能上实现了4.5倍的提升。

三家企业推出统一的AI格式是为了应对现有的混乱局面。过去，人们通常使用FP32（单精度）和FP64（双精度）格式来衡量GPU性能，但在AI应用中，这些格式过于精确。这使得许多厂商开始使用各自定义的计算格式，近年来出现了如INT8、BF16和TF32等多种AI标准。

各大厂商各自为政显然不利于AI技术的进步。因此，Intel、NVIDIA和ARM三大巨头联合推出了AI标准FP8，并发布了《FP8 Formats for Deep Learning》白皮书，同时将该标准提交给IEEE协会，预计将成为AI领域的通用标准。

据他们介绍，FP8标准将包含两个编码变体，分别为E5M2和E4M3，旨在最大限度地减少与现行IEEE754标准的偏差，不仅提升AI计算的灵活性，同时保证软硬件之间的平衡，以优化开发效率。

根据NVIDIA的测试结果，FP8在常用训练模型中可实现与16位浮点相媲美的效果，而且性能更为优越。NVIDIA的H100加速卡采用新型FP8格式，在BERT模型中展现了4.5倍的性能增长。

值得关注的是，虽然三大厂商联合制定了FP8标准，但AMD却未出现在合作名单中，目前尚不清楚其态度如何。不过，预计AMD最终也会接受FP8标准，以便与其他三家企业保持一致。