Home / 资讯中心 / 博客 /

当人工智能遇到PCIe,会擦出怎样的火花?

发布者:兆龙互连 发布时间:2023-09-08
分享到:




人工智能这么重要(火爆),那么,人工智能的作用有多“大”?投资人工智能的都是“谁“?” PCIe 技术可以在人工智能领域发挥什么作用?为什么一定要选择“ PCIe 技术”来助力人工智能的发展?在人工智能领域, PCIe 技术将会有怎样“令人惊喜”的“潜在市场”呢?兆龙互连目前拥有哪些 PCIe 技术相关的电缆和连接产品?

...

以上问题,请见本文。



人工智能的作用有多“大?投资人工智能的都是“谁”?



根据 ABI Research 的分析报告,人工智能正在成为人类社会不可或缺的一部分,包括我们的生活、工作和娱乐等各个方面。例如,最近两年大火的 Chat GPT 以及其他可以自动生成图片和视频的 AI app,基于人工智能的推荐引擎、购物 app 上的智能回复客服等等。此外,为了实现流程自动化、提高生产效率,企业还开发了用于仓库自动化和质量检测的高性能模型,同时部署了机器人和自动驾驶车辆。不仅限于私营部门,公共机构也一直在部署人工智能来治疗疾病、克服供应链危机、优化城市基础设施和加强公共安全。


为了满足人工智能工作负载的内部需求,从云服务提供商到跨国公司和国家研究实验室,所有组织都在积极推出人工智能基础设施。


图 1:云计算和边缘人工智能芯片组收入(来源:ABI Research)


由上图可知,2020年 -- 2023 年,云 AI 芯片组和边缘 AI 芯片组的年收入逐年递增,2022 年云 AI 芯片组和边缘 AI 芯片组的年收入组目前收入已达到 300 亿以上,预计到 2027 年云 AI 芯片组和边缘 AI 芯片组将可以达到 600 亿美元以上的收入。


人工智能的发展离不开云计算和边缘人工智能芯片组等的发展,云计算和边缘人工智能芯片组的收入可以作为人类对于人工智能投资”的其中一个证明。由图 1 可知,人类很重视“人工智能”的发展、在积极布局、推进推广人工智能的发展。 




人工智能目前的发展现状如何?



有了先进的人工智能基础设施,人工智能研究人员和开发人员正在争分夺秒地创建更复杂、更精确的人工智能模型。人工智能和 ML 训练模型的快速发展导致模型规模大约每 3 到 4 个月就会翻一番。例如,在 DL 的早期,AlexNet 只有 7 层深度,而现在最流行的卷积神经网络(CNN),如 ResNet 和 Inception v3,深度已超过 40 层。与此同时,自然语言处理(NLP)模型的规模也在不断扩大。例如,OpenAI 的 GPT-3 被广泛认为是 2021 年最先进的 NLP 模型,根据支持的用例类型,它拥有 1.25 亿到 1750 亿个参数。展望未来,对话式人工智能模型的参数可能是 GPT-3 的两倍,而生成式电子邮件或文档摘要等高级应用可能需要拥有数百亿参数的网络。


所有这些大型人工智能模型都是在大量数据的基础上训练出来的。人工智能系统必须能够通过人工智能开发管道移动大型数据集。因此,研究人员和开发人员需要具有广泛计算能力和内存带宽的计算系统来进行训练和推理。这可以通过直接快速访问内存来实现,以减少处理过程中的延迟。他们还非常看重任何能够根据最终用户的要求在不牺牲性能和延迟的情况下扩大或缩小人工智能工作负载的技术。


此外,人工智能的未来并不局限于图像和文本的专门模型。新的人工智能技术,如多模态学习、图神经网络和深度强化学习,为人工智能的训练和推理带来了额外的复杂性。这些模型使用广泛的数据源和数据类型。人工智能训练过程日益复杂,需要更多高性能的人工智能训练和推理芯片组。除了通用 CPU 和 GPU 之外,人工智能开发人员正在将新的人工智能加速器纳入现有的人工智能系统。这些人工智能加速器具有高速计算、高内存带宽的特点,并针对并行计算进行了全面优化。


更重要的是,CPU、GPU 和人工智能加速器的组合创造了一种异构计算环境,标准互连技术将使这种环境受益匪浅。



PCIe 技术可以在人工智能领域发挥什么作用?



人工智能技术供应商有很多理由考虑采用 PCIe 架构。首先,PCIe 架构是一种广泛采用的芯片到芯片互连协议,可减少互操作性方面的挑战,使最终用户能够充分利用人工智能的异构计算。人工智能研究人员和开发人员无需担心人工智能系统不同组件(包括人工智能加速器、计算芯片组、存储卡、交换机和网卡)之间的互连问题。PCIe 技术将确保在各种定制电路板设计和系统拓扑结构中实现必要的高数据速率串行传输。


使用 PCIe 技术作为加速器互连解决方案,人工智能芯片组供应商将自动确保加速器可以连接到几乎所有可用的计算芯片。该技术可确保向后兼容现有的人工智能基础设施。已在人工智能基础设施上投入巨资的企业无需担心不断升级其人工智能系统, 以兼容新的人工智能加速器。相反,可以使用标准软件驱动程序、工具和库实现即时部署,从而降低部署成本,缩短产品上市时间。


最后,PCIe 技术有助于提高能效,使人工智能研究人员和开发人员能够最大限度地减少“碳足迹”。可持续发展是近年来的一个热门话题,而人工智能所带来的便利——相对“低功耗”,可以实现“低碳”“少碳排放”的可持续发展目标。其中,PCIe 技术可实现高效的点对点通信,从而缩短训练时间、降低推理延迟或提高推理吞吐量,从而提高人工智能训练和推理工作负载的效率。此外,PCIe 技术还提供链路功率状态,可根据空闲时间和带宽使用情况调节链路功耗。随着人工智能工作负载的不断飙升,可以大大提升能效。




为什么一定要选择 “PCIe技术“ 来助力人工智能和AI服务器发展?




PCIe技术是人工智能和AI服务器发展的重要助力之一,原因如下:

峰值下载和上传速度高:正如 PCIe 技术概述部分所强调的,PCIe 接口可为外围元件提供市场领先的上传和下载速度,可以有效满足AI应用中大量数据和信息的快速传输和处理需求,从而提高整体计算效率。


可扩展性:受到人工智能和数据中心、云计算等数据密集型应用的驱动,数据中心架构正在持续发展,这对 PCIe 接口提出了更高的要求。作为 CPU 与扩展卡之间的连接通道,PCIe一直在稳步发展着、持续提高速率。选择 PCIe 技术的话,有助于供应商利用每一代 PCIe 技术推向市场所带来的速率增长。去年初,PCIe 6.0 标准正式发布,相比较上一代 PCIe 5.0 规范,速率再次翻倍,达到了 64 GT / s, 预计将是 PCIe 5.0 的两倍。


电源管理功能:PCIe 3.0 代之后开发的 L1 子板可在 PCIe 收发器内启用高速逻辑唤醒设备。其目标是在激活状态下实现近乎零功耗。简单地说,PCIe 接口可以在不使用任何电源的情况下准备就绪。这样就能节省大量功耗。这将有助于移动设备延长电池寿命--这对终端用户来说是至关重要的价值驱动因素。


实时数据处理:PCIe技术可以提供实时数据处理能力,满足AI应用中对实时性要求高的场景,如实时分析、实时控制等。

5. 集成其他技术:PCIe技术可以与其他技术如GPU、FPGA等进行集成,实现更高效的数据传输和处理,提高AI应用的性能和可靠性。


综上所述,PCIe技术具有高速、高效、兼容性强、扩展性好、可与其他技术集成等优点,非常适合用于助力人工智能和AI服务器的发展。随着技术的不断进步,PCIe将继续发挥重要作用,推动AI应用的进一步发展。


应用于服务器的兆龙PCIe技术相关的内部线产品方案 

目前,兆龙互连已经拥有较为丰富的高速互连内外部连接产品方案。其中,高速互连MCIO/PCle Riser Cable/Gen-Z/Slim SAS/MiniSAS HD等内部连接产品方案主要可用在AI服务器等服务器内部,外部线(比如CDFP)主要用在GPU卡的扩展互联上。


兆龙开发出的PCIe 5.0 Riser Cable产品,特性如下: 

  • 支持PCIe 5.0长距离应用  

  • 客户系统结构可以更灵活设计  

  • 降低客户端PCBA成本  

  • 优化焊点阻抗和衰减  

  • PCBA根据客户需求灵活设计  

  • 可提供从设计到成品出货整体打包方案   


图为兆龙RISER CABLE


同时,兆龙也开发出完全符合 OCSP 标准Riser Cable,特性如下: 

  • 结构尺寸完全符合OCSP标准。 

  • 速率满足PCIe 5.0 32GT/s标准。 

  • 自研LONGSPEED™ HSC裸线,提供低损耗,高质量的SI性能。 

图为兆龙PCIe 5.0 X16 to MCIO 16X


兆龙提供的MCIO Cable Assembly特性如下:

  • 可支持30AWG 1M长距离应用

  • 提供定制化方案

  • 支持30~34AWG不同线规85ohm差分阻抗设计

  • SI 标准符合Internal Cable Specification for PCI Express 5.0 and 6.0  Rev0.7

  • 可提供 4X (38Pos) , 8X (74Pos), 16X (124Pos) & 24X (148 Pos)

  • 直头 (STR) / 弯头 (R/A) & 侧出(LSE/RSE)

  • 结构尺寸完全符合SFF-TA-1016(MCIO)标准

  • 速率支持 PCI-e 5.0 32 GT/s 标准,可向下兼容 PCI-e 4.0

  • 自研 LONGSPEED™ HSC 裸线,提供低损耗,高质量的SI性能。


另外,兆龙还可提供更低功耗的DAC/ACC等外部线产品方案:

  • 提供800/400/200/100/50/25 Gbps产品  

  • 支持小外径铜缆,机架布线更弹性  

  • ACC使用redriver IC功耗更低  

  • DAC功耗低至0.05W  

  • ACC长距离性价比更高





在人工智能领域,PCIe技术将会有怎样“令人惊喜”的“潜在市场呢?



ABI Research 预计,到 2030 年,人工智能领域的 PCIe 技术 TAM(包括边缘和数据中心部署)将从 4.4933 亿美元增长到 27.84 亿美元,年复合增长率为 22%。随着越来越多的企业垂直部门部署边缘服务器,以及人工智能不断民主化,边缘人工智能市场可能会以 50% 的复合年增长率快速增长。


图2:人工智能PCIe技术潜在市场总量(TAM)来源:ABI Research)


图 3 :PCIe 技术是新增长的主力军 (来源:PCI-SIG)  


由上图可知,到2027年,PCIe技术市场将保持14%的年度复合增长率。受PCIe技术影响,到2030年,人工智能将保持22%的年度复合增长率。


另外,AI服务器受益于人工智能,也呈现逐年增长的趋势。根据中商产业研究院整理的数据,2019-2023年全球AI服务器市场规模一直保持着增长,2022年AI服务器的市场规模已经由2019年的99亿美元增长到了183亿美元,预计到2023年将达到211亿美元。


图 4 :2019 - 2023 年全球 AI 服务器市场规模预测趋势图 

(数据来源:IDC、中商产业研究院整理)


图 5 : 2022 - 2026 年全球 AI 服务器出货量预测趋势图 

(数据来源:TrendForce、中商产业研究院整理)


随着人工智能和AI服务器的增长,我们相信PCIe技术将得到更广范围的应用。 未来,人工智能将撑起高科技的”半边天“,敬请期待人工智能和PCIe技术的腾飞吧!



关于兆龙互连

兆龙互连,创建于 1993 年,是一家制造数据线缆及连接组件的高新技术企业,是中国通信标准化协会全权会员、数据电缆国家标准起草单位,是业内屈指可数能在全部工艺基础上实现 400G/800G 连接解决方案的企业。


兆龙目前已经成为PCI-SIG正式会员,未来,兆龙将致力于与众多协会伙伴协作,推出更高效、更多样化、高性价比、满足多场景化的产品。


关于PCI-SIG

PCI-SIG,其英文全称为:Peripheral Component Interconnect Special Interest Group(外围部件互连专业组),简称PCI-SIG。该组织成立于1992年,拥有并管理着开放式行业标准——PCI规范。


目前,全球共有900多家业界领先公司成为了PCI-SIG成员。



本文编译来源:ABI Research 的分析报告《PCI Express 垂直市场机会》

图片

往期回顾


品牌快报 | 兆龙新品高速线缆之PCIe 5.0 Riser Cable系列发布

新品发布 | 兆龙内高速线缆之 MCIO PCIe 5.0 Cable Assembly 发布


END





找不到您想要的产品?