算力芯片如何做算力输出，进而形成ChatGPT等生成式AI背后的算力基座。

发布日期：2024-01-12

268 次

我们谈到算力芯片和内存，这一期我们来聊聊算力芯片如何做算力输出，进而形成ChatGPT等生成式AI背后的算力基座。

现在的算力服务器中，里面并不是一颗颗芯片堆叠在一起，而是一张张算力卡并排插在卡槽里。目前大部分算力服务器单台放置8张或者16张算力卡。

算力卡的核心当然还是计算芯片，会搭配大容量高带宽的内存、缓存，以及搭载CPU用于调度，为了帮助数据传输，便会使用高速通道，这便是PCIe（高速串行计算机扩展总线标准）在系统中的作用：提供总线通道。

图：算力卡示意图

PCIe在数据运算中的应用非常广泛，比如CPU控制和调度芯片组进行工作会采用PCIe总线，算力卡和算力卡之间的互联也可能用到Serdes总线，计算好的数据存入到SSD硬盘中也是使用PCIe总线，算力中心里的交换机内部CPU与Switch芯片之间，采用PCIe总线。

图：PCIe总线在AI异构计算系统中的应用

因此，PCIe相当于是一种通用的总线标准，串联起整个AI背后的异构计算系统。通过采用PCIe接口，研发人员完全不必担心计算芯片、加速芯片、内存芯片、存储芯片、网关芯片和交换机等人工智能系统不同组件之间的互联问题。

PCIe从多个方面赋能当前人工智能系统的高速发展，包括以下几个特性：

1. 高效传输

2. 高可扩展性

3. 实时处理能力

4. 持续优化的低功耗性能

由于PCIe连接了系统中核心的芯片，又承担着数据传输的责任，因此其性能可靠性非常重要。在实际测试过程中，首先要测试PCIe接口的上传和下载峰值速度，以及稳定传输的速度，这是保证高效计算的关键。然后是测试PCIe接口的电气特性，包括传输功耗，以及高速逻辑唤醒等低功耗功能的具体表现，如下图：

图：是德科技PCIe测试拓扑图

此外，在PCIe接口稳定性方面，还要测试热插拔特性、隔离度和EMC性能等。当然，目前有一些厂商已经不满足于PCIe的传输速度，于是他们自己研发了一套连接标准。比如，英特尔提供Xe Link用于算力卡的互联，这是一种基于PCle 5.0扩展的新协议；英伟达则是开发了NVLink作为PCle的替代方案，带宽和能效能够达到PCle 5.0的数倍。这些自研方案会带来更高的测试挑战，对于是德科技而言，无论采取的是PCle协议，还是自研的高速互联协议，我们的方案都能够满足相关测试需求，如下图：

图：是德科技PCIe 6.0全链路测试方案

版权声明：本站内容除特别声明的原创文章之外，转载内容只为传递更多信息，并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题，请及时通过电子邮件或电话通知我们，以便迅速采取适当措施，避免给双方造成不必要的经济损失。联系电话：020-2204 2442,邮箱：Sales@greentest.com.cn。

上一篇: 智能物联网AIoT SoC芯片产业链分析
下一篇: 物联网设计有哪些成本需要考虑？

为您精选

调查显示中国生成式人工智能普及率领跑全球

7 月 9 日消息，一项最新调查显示，中国在生成式人工智能的普及率方面处于世界领先地位，这表明中国在这项技术领域取得了长足···

更新日期：2024-07-10 42 次
Cadence演示全球首款128GT/s PCIe 7.0光纤连接方案,误码率仅有标准约 3%

6 月 18 日消息，Cadence楷登电子在近日举行的 2024 年 PCI-SIG 开发者大会（PCI-SIG DevCon 2024）上演示了全球首个PCIe 7.···

更新日期：2024-06-20 144 次
误码率仅有标准约 3%，Cadence演示全球首款128GT/s PCIe 7.0光纤连接方案

Cadence楷登电子在近日举行的 2024 年 PCI-SIG 开发者大会（PCI-SIG DevCon 2024）上演示了全球首个 PCIe 7.0 光纤连接方案。···

更新日期：2024-06-19 246 次
ADAS 前置摄像头设计面临的四大电源挑战

前置摄像头是高级驾驶辅助系统 (ADAS) 的重要组件，尤其是鉴于现在的新车碰撞测试要求将自动紧急制动和正面防撞作为汽车的标···

更新日期：2024-05-08 252 次
工业机器人：继汽车电子、人工智能之后的新风口

前言工业机器人是一种面向工业领域的多关节机械手或多自由度的机器装置，其主要功能是通过自动控制来执行各种任务，从而替代···

更新日期：2024-05-08 257 次