互联网爱好者创业的站长之家 – 南方站长网
您的位置:首页 >运营 >

人工智能:中国工程院院士郑纬民算力系统的“三驾马车”未来或融为一体

时间:2022-12-17 13:45:04 | 来源:

今天,分享一篇中国工程院院士郑纬民算力系统的“三驾马车”未来或融为一体,希望以下中国工程院院士郑纬民算力系统的“三驾马车”未来或融为一体的内容对您有用。

封面新闻记者 欧阳宏宇

人工智能算力是当前人工智能领域发展的关键,围绕AI与算力基础设施搭建应该如何实现突破?近日,中国工程院院士郑纬民在分享中表示,聚焦人工智能的基础研究上,可从算力基础设施的设计、评测和优化方面入手推动技术发展。

在设计方面,郑纬民提到,传统数值超算系统(HPC)与AI算力系统(AI)之间在应用领域、运算精度等方面都有很大不同。基于此,人工智能计算机设计应遵循平衡性原则,即计算平衡设计、网络平衡计算、IO子系统设计。他将HPC、AI和BigData(大数据处理系统)比作算力系统的“三驾马车”,指出“目前,行业整体趋势是HPC+AI+BigData融合在一起,预计未来两到四年,三者融合的服务器就会出现。”

在评测方面,在郑纬民看来,AI基准设计要达到四个目标:统一的分数、可变的规模、具有实际的人工智能意义、评测程序包含必要的多机通信。由于传统的AI算力评测基准存在着只针对单个芯片、只是移动端的硬件、可扩展性不好等问题,所以,行业没有太多合适的大规模人工智能算力基准评测程序。

在优化方面,学界已达成一个基本共识,即模型规模和模型效果呈正相关关系。对此,郑纬民认为,由于模型规模增加了,但CPU的内存、计算能力是有限的,因此大模型训练一定是多机的,分布并行的。“融合了数据并行、模型并行、专家并行三种训练模型后,百万亿参数超大规模训练模型的加速方法已得到了工业界的认可。”

中国在大数据领域的算力处于领先,但是在另两种算力领域还和世界顶尖存在差距,特别是“智能算力严重制约我国AI领域的创新能力”。对此,郑纬民表示,我国算力发展面临三大问题,即国产超算平台架构多样,应用移植和调优工作难度大;国产算力平台支持复杂应用全流程计算的能力亟待改善;和人工智能企业所可能面临的风险。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。