清华郑纬民院士：AI for Science 的出现，让高性能计算与 AI 的融合成为刚需

导读：算力的需求，远比以往来得更为猛烈。甚至有人直呼：得算力者得未来。　　元宇宙、AIGC、AI for Science 的涌现，又给高性能计算（HPC）平添了好几把火。　　在诸

　　算力的需求，远比以往来得更为猛烈。甚至有人直呼：得算力者得未来。

　　元宇宙、AIGC、AI for Science 的涌现，又给高性能计算（HPC）平添了好几把火。

　　在诸多挑战与机遇共存交织的当下，这一领域泰斗中国工程院院士、清华大学计算机科学与技术系郑纬民，在MEET2023 智能未来大会上，分享了自己的见解和思考。

　　估计未来两年到四年，HPC（高性能计算）+AI+BigData 融合的服务器就会出现。

　　AI for Science 的出现，让 HPC+AI 的融合成为刚性需求；而数据处理又是 AI 的基础，数据和 AI 的融合也很自然。

　　甚至他还开玩笑说，现在要获 HPC 领域的戈登贝尔奖，必须要有 AI 的算法。你没有 AI 的算法，否则奖都得不了。

　　虽然这是玩笑说法，但实际上也是一种趋势。

　　除此之外，他还谈到人工智能计算机设计的三大平衡性原则、AI 基准设计四大目标以及如何通过并行方法加速大规模预训练模型。

　　为了完整体现郑纬民院士的分享及思考，在不改变原意的基础上，量子位对他的演讲内容进行了编辑整理。

　　关于 MEET 智能未来大会：MEET 大会是由量子位主办的智能科技领域顶级商业峰会，致力于探讨前沿科技技术的落地与行业应用。今年共有数十家主流媒体及直播平台报道直播了 MEET2023 大会，吸引了超过 300 万行业用户线上参会，全网总曝光量累积超过 2000 万。

　　演讲要点

　　估计未来两年到四年，HPC（高性能计算）+AI+BigData 融合的服务器就会出现。过去 HPC 是一台机器、AI 是一台机器，大数据处理是第三台机器，这三个机器自己管自己，但现在这三台机器正在融合之中；

　　AI 基准设计要达到四个目标：统一的一个分数、可变的问题规模、具有实际的人工智能意义、评测程序包含必要的多机通信；

　　现在要获 HPC 领域的戈登贝尔奖，必须要有 AI 的算法，你没有 AI 的算法，否则奖都得不了。这是开玩笑的说法，但实际上也是一个趋势；

　　AI for Science 的出现，让 HPC+AI 的融合成为刚性需求；

　　探索更大参数量模型的效果，是具有重要科学意义的；

　　我们希望人工智能计算机跟 HPC 有 TOP 500 一样，也有一个 AIPerf 500。

　　（以下是郑纬民院士演讲全文）

　　人工智能计算机设计的三大平衡性原则

　　今天给大家讲讲我们团队为人工智能做的三件事，就是AI 与算力基础设施的设计、评测和优化。

　　第一件事，HPC（高性能计算）和 AI 的应用是不一样的。

　　HPC 的应用领域主要有科学和工程计算、天气预报、核聚变模拟、飞行器设计。它的运算精度是双精度浮点运算，64 位甚至 128 位的，所以加减乘除做得很快，主要是这点不同。

　　人工智能计算机就是半精度的，甚至是定点的，8 位的、16 位的、32 位的。

　　因此这两台机器应该是不一样的，而人工智能计算机最近两年才开始有。因此我们团队设计了一台能比较好地处理人工智能问题的计算机，究竟长什么样子？

　　我们团队第一个贡献，是人工智能计算机设计的平衡性原则。

　　第一个，计算平衡设计。人工智能是处理单精度的或者定点的，你这台机器是不是只要把定点的、单精度的做好就行了？但实际上也不是。虽然我们主要考虑半精度运算，但是也要考虑到双精度运算的能力。

　　这两年下来有一个经验：

　　1）双精度与半精度的运算性能之比 1：100 比较好。

　　2）人工智能计算机不能只做 CNN 的，还要做大模型训练。

　　因此，提出来叫变精度平衡设计思想，总体来说还要增加通用计算。

　　第二，网络平衡设计，既然这台机器很大，由上千个、上万个小机器连在一起，那么这个网络也要做得好。如果只做 CNN 那就好办，但还要考虑训练。这样一来，网络怎么做平衡设计也非常重要。

　　第三，存储，即 IO 子系统设计。我们知道现在每台机器都有 SSD，怎么把每台 SSD 联合起来开成一个大的分布式文件系统？这也是很要紧的。

　　因此，我们提出来这三个平衡设计原则，已被很多公司采用。现在国内 20 多个城市陆续启动人工智能超算中心，让算力无处不在、触手可及，这其中大多数都用上了平衡设计这个想法。

　　目前行业有个趋势是HPC+AI+BigData 融合在一块。过去 HPC 是一台机器、AI 是一台机器，大数据处理是第三台机器，这三个机器自己管自己，但现在这三台机器正在融合之中。

　　为何这么说呢？

　　一方面，AI for Science 的出现，让 HPC 程序中包含了 AI 算法。因此 HPC+AI 的融合，成为刚性需求。

　　我曾经开玩笑说，你现在要获 HPC 的领域戈登贝尔奖，必须要有 AI 的算法，你没有 AI 的算法，否则奖都得不了。这是开玩笑的说法，但实际上也是一个趋势。

　　另一方面，数据处理是 AI 的基础，数据和 AI 的融合也很自然。因此，我估计两年到四年，HPC、AI 和 BigData 融合的服务器就会出现。

　　这是我们小组第一个贡献，即人工智能计算机应该长成什么样子。

　　AI 基准设计要达四个目标

　　第二个贡献，大规模人工智能算力基准评测程序 AIPerf。

　　什么意思呢？传统 HPC 有个评测程序 Linpack，TOP500 就是它评出来的，但它不能用于 AI 计算机评测。Linpack 是用来测 64 位，甚至 128 位加减乘除做的快慢。现在人工智能计算机是 16 位、32 位，甚至 8 位，这是完全不一样。

　　因此，我们需要做一个能回答这个问题的人工智能算力基准测试程序。我们希望有个简单的评价指标，来判断哪家系统的人工智能算力更强。

　　那现在有没有相应的评测程序呢？其实也有，但没有太合适的。

　　比如，DeepBench针对单个芯片，不适用于整机评测。Mobile AI Bench针对的是移动端硬件上的模型训练评测，不是整个系统的。MLPerf可扩展性不好。因此，我们决定要自己做一个。

　　做个 AI 基准设计一定要达到这四个目标：

　　1、统一的分数。我们希望运行 Benchmark 出来一个值，就一个值就行了。而不是结果出来一个报告，这样看起来很费劲。

　　2、可变的问题规模。Benchmark 可以测 4 个节点组成的机器，也可以测 1000 个、20000 个，要规模可变，大规模的做起来也挺费劲。

　　3、具有实际的人工智能意义。不能随便说加减乘除，那就不能反映人工智能的问题。特别是要反映人工智能问题中的神经网络运算、自然语言处理能力。

　　4、评测程序包含必要的多机通信，因为是一个大的系统，由多机连起来的，需要有通信。

　　最后，以清华大学为主的团队做了一个 AIPerf 来测试，于 2020 年 11 月 15 日首次发布。我们希望人工智能计算机跟 HPC 有 TOP 500 一样，也有一个 AIPerf 500。

　　现在它已经连续三年每年都发布排行榜，得到了很多单位、企业的认可。

　　大规模预训练模型的三种并行加速方法

　　第三个贡献，百万亿参数超大规模训练模型的加速方法。

　　简单举个例子，学界至今已形成一个共识：模型规模和模型效果呈正相关关系。GPT 有 1.1 亿参数，GPT-3 有 1750 亿参数，悟道 2.0 有 1.75 万亿参数，我们做的BaGuaLu却有 174 万亿参数，应该说参数越多，效果越好，越接近人的智慧，但有个问题就是，训练数据越多，要求的算力也就越大。

　　再来看左边这张图 SAT（美国高考）任务的情况，如果模型参数达到 100B（相当于 1000 亿个参数），那么模型完成 SAT，就有 70% 的准确度。

　　因此，探索更大参数量模型的效果，是具有重要科学意义的。

　　但模型越做越大，问题随之而来。现在国内很多单位模型都做得很好，但怎么把模型安装到一台机器上去，这有讲究。

　　举个例子，我们就将BaGuaLu模型安装到了新一代神威体系结构芯片上。

　　图上可以看到，核组共有 64 个核，再加上黑色主核，共有 65 个核。一个 CPU 共有 6 个这样的组成：CG0、CG1、CG2、CG3、CG4、CG5，这 6 个通过环形网连在一起。我们称之为一个节点，将它集成到一块，一个节点大概有 390 个核。一共有 256 个节点组成超节点，超节点内部通信一步直联，超节点跟超节点之间要经过上层的网络。

　　因此，256 个节点内部通信很快，一步就到。但超节点之间的通信就比较慢了。

　　而要将大模型在这台机器上运行，问题就来了。现在预训练模型都是 Transfomer，而 Transfomer 结构是嵌入层、注意力层、前反馈网络层，中间注意力层跟前反馈层都会经过 N 次迭代，整个运算又基本上是矩阵乘法。

　　如果一个模型能在单个 CPU 上运算，那最省事了，但 CPU 的计算能力有限，内存也有限，模型也就大不到哪里去。因此大模型训练一定是多机的、分布的，这就涉及到了多种并行方法。

　　第一种，数据并行。假如整个模型设两个节点，一个模型节点 0、另一个模型做的节点 1，整个模型都做了数据并行，数据各一半要拿去训练学习，但是要注意训练完了以后不是最终的结果，因为只输入了一半的数据。因此这中间要 AII-Reduce，AII-Reduce 就做好多通信，整件事情就会很复杂。

　　第二种，模型并行。将整个模型切成一半，一半模型节点 0，一半模型节点 1，数据是整个拿去训练。训练完了以后出来的结果也不是最终结果，因为只训练了一半的模型，出来还有 AII-Gather，也是做通信的。

　　第三种，专家并行，跟数据并行、模型并行一样，同样要求通信。

　　现在如果你只有一种方法，究竟用哪种并行方法呢？实际上这跟计算机结构有关。如果每台计算机之间通信都非常快，那么用数据并行就可以；如果你的通信比较慢，就要考虑模型并行或者专家并行。

　　因此，这些模型如何跟数据、机器实际情况匹配？这就涉及到软硬件协同这件事。

　　我们在新一代神威机器上采用了" 拓扑感知的混合并行模式 "。

　　具体而言，刚才提到，该体系架构节点内部通信很快，但超节点之间通信比较慢。因此在混合并行模式下，一个通信超节点内部，采用数据并行；超节点之间则采用专家并行或模型并行。

　　除此之外，还有内存大小、访问内存等问题：怎么样让内存访问的比较快，负载比较均衡？

　　做大规模模型训练时，平均每小时都会发生一次硬件软件出错，不要以为这个机器不可靠。目前这个水平已经很好了。因此，一般都要做检查点，如果写的不好，这件事情就有做三个小时，怎么能让它加速呢？最后我们做到了 10 分钟就完成了。

　　现在，我们把模型开源了，尤其是并行训练模型，将他们放在了开源系统 FastMOE 里，现在得到了工业界很多认可，像阿里巴巴的淘宝、天猫，腾讯的端到端语言模型，都用上了我们的并行系统。百度飞桨的 MOE 模块，也使用了我们的 FastMOE。

　　最后总结一下，一是人工智能算力是当前人工智能领域发展的关键。

　　二是团队对人工智能的三点小贡献：

　　1）提出了一种 AI 算力基础设施的架构和平衡设计原则，现在全国 20 多个城市的 20 多个人工智能超算中心基本上都采纳了我们的设计思想。

　　2）做了评测，即人工智能基准测试程序 AIPerf，现在每年都会发布 500 名榜单，在国内外产生了一定影响。

　　3）大模型怎么训练得快？特别是关于数据并行、模型并行，还是专家并行。我们做了一个库放在 Open Source 上。现在工业界都来用我们的东西，使得大训练模型训练能够加快。

　　因此，我们团队对人工智能做了这三点小贡献，希望能够推动人工智能的发展。

　　讲的不对的地方请大家批评指正。谢谢大家！