在今天的首届创新聚光灯活动中,英特尔透露,它正在与谷歌合作开发这家芯片制造商的第一个基于专用集成电路 (ASIC) 的 IPU,称为 Mount Evans。英特尔表示,Mount Evans——它称之为“基础设施处理单元”或 IPU——将得到“行业标准”编程语言和开源基础设施程序员开发套件的支持,该套件专门设计用于简化对谷歌云技术的访问数据中心。
IPU 和数据处理单元 (DPU) 越来越受欢迎,因为云服务提供商希望跨系统集群从 CPU 卸载某些网络、安全和存储功能。随着云采用率的攀升,尤其是在大流行期间,这些任务稳定地占用了数据中心和云中的 CPU 资源。谷歌和 Facebook 的研究表明,基础设施工作负载在一系列微服务工作负载中消耗了 22% 到 80% 的 CPU 周期。
今年夏天在英特尔架构日上首次宣布,Mount Evans 将多达四个至强 CPU 与 Barefoot Networks 开发的数据包处理技术配对,该技术是英特尔于 2019 年收购的一家网络初创公司。 IPU 还包含多达 16 个运行速度高达 3Ghz 的 Arm Neoverse N1 内核以及 I/O 接口、缓存和三个具有 102Gbps 内存带宽的双模 LPDDR4 控制器。
在一篇博客文章中,英特尔以太网部门的总经理 Patricia Kummrow解释说 Mount Evans 的计算综合体与网络子系统紧密耦合,允许加速器内核使用系统级缓存作为它们自己的最后一级缓存。
Kummrow 写道:“这款 ASIC 支持许多现有用例,包括 vSwitch 卸载、防火墙、虚拟路由”和遥测功能,同时支持每秒高达 2 亿个数据包和高达 1600 万个安全连接。“Mount Evans IPU 通过利用和扩展英特尔傲腾 NVMe 控制器以非常高的每秒输入和输出操作 (IOPS) 速率模拟 NVMe 设备。在基于 FPGA 的 IPU 上运行的相同英特尔基础架构操作系统也将在 Mount Evans 上运行。Mount Evans IPU 的其他技术创新是下一代可靠传输协议,与 [Google] 共同创新以解决有损网络的长尾延迟问题,以及我们先进的加密和压缩加速器。”
广告优势
领导该公司 IPU 架构工作的英特尔研究员 Brad Burres 断言,Mount Evans 等设备的优势在于服务提供商和租户之间的功能分离。他说,除了支持裸机托管等用例在相同的硬件平台上运行,使用与虚拟机相同的服务之外,这还为各方提供了更高的安全性和隔离性。Burres 说,除此之外,DPU 和 IPU 可以通过抽象从租户启动的存储来启用新的存储服务模型。
“[Mount Evans] 让租户可以完全控制他们的 CPU。他们可以做一些事情,比如运行他们自己的管理程序。在这种情况下,云运营商仍然完全控制网络、存储和安全等基础设施功能,因为这些功能存在于 IPU,” Burres在 8 月份告诉HPC Wire。“IPU [也] 提供 [一个] 基础设施优化的执行环境。这包括对 IPU 中硬件加速器的大量投资,这使 IPU 能够非常有效地处理基础设施任务。这允许针对这些类型的工作负载更好地调整软件和内核。总的来说,这优化了性能,云运营商现在可以将 100% 的 CPU 出租给他的客人,这也最大限度地提高了收入。”
竞赛
英特尔在 DPU/IPU 派对上有点晚了,像 Nvidia 和 Marvell 这样的竞争对手已经进入了他们的设计几代。今年 4 月,英伟达发布了用于人工智能和分析工作负载的 BlueField-3 DPU,其中包含软件定义的网络、存储和网络安全加速功能——英伟达声称提供相当于高达 300 个 CPU 内核的马力。Fungible和Speedata等初创公司也在为以数据中心为中心的工作负载开发 DPU,而亚马逊网络服务几年前推出了 Nitro System,这是 DPU 硬件和软件的组合,旨在提供更高的性能和安全性。
但根据 Kummrow 的说法,IPU 的定位是成为英特尔更广泛的云硬件战略中的一个战略要素。事实上,全球数据中心加速器市场到 2027 年可能价值 530 亿美元,而 2020 年仅为 42 亿美元,Valuates Reports预测——复合年增长率接近 44%。
她写道:“我们相信,我们领先的 IPU 产品组合提供了通用基础设施基础,使我们的云客户能够在不久的将来在异构数据中心架构中充分利用他们的通用计算、XPU 和加速资源。”“这些功能的融合完美契合了微服务开发的持续趋势,并为构建与高速硬件网络组件和通用软件框架相匹配的优化、基于功能的基础设施提供了独特的机会。IPU 为云服务提供商提供了重新思考数据中心架构、加速云计算以及在数据中心的每个服务器 CPU 上托管更多创收服务(在虚拟机上运行的租户应用程序)的机会。”