什么是人工智能网络？
AI网络是指支持大规模人工智能和机器学习工作负载所需的高性能网络基础设施。与传统企业应用不同，AI工作负载对网络的要求极高，因为它们依赖于海量数据在计算、存储和加速器资源之间持续流动。.
现代人工智能训练环境会产生显著影响。 东西向交通分布式训练采用的是数据中心内部的服务器间通信，而非传统应用中常见的南北向流量。在分布式训练过程中，数千个GPU频繁交换模型参数、梯度和中间数据以保持同步，从而实现高效传输。 GPU集群网络 对大规模性能至关重要。.
随着人工智能集群从几十个加速器扩展到几千个加速器，网络性能变得至关重要。高容量交换机由……提供支持 商用硅AI开关, ， 包括 400G 和 800G 以太网平台, 有助于减少瓶颈，维持大规模人工智能工作负载的吞吐量。.
该过程高度依赖于快速的GPU同步和集体通信操作，例如all-reduce。即使是少量的延迟、拥塞或丢包也会导致昂贵的GPU闲置，从而减慢模型训练速度并降低基础设施效率。.
为了满足这些需求，现代人工智能网络依赖于低延迟、高带宽的架构，旨在最大限度地利用 GPU 并高效地在集群中传输数据。支持资源，例如： 人工智能/机器学习白皮书, Edgecore Open Fabric， 和 博通 Tomahawk 6 提供关于大规模人工智能织物设计的更深层次技术背景。.
为什么人工智能工作负载会破坏传统数据中心网络？
人工智能工作负载对网络基础设施的要求与传统企业应用截然不同。随着人工智能集群规模的扩大，传统架构往往会成为瓶颈，限制性能并延长训练时间。.
主要挑战来自密集的GPU集体通信模式，例如： 全部减少, 其中，在每次训练迭代期间，都需要在多个GPU之间交换大量数据。这些操作需要极快且可预测的通信，以保持分布式工作负载的同步。.
AI工作负载还会产生短暂但强度很高的流量突发，称为 微爆流, 这会使传统的以太网架构不堪重负，导致网络拥塞、丢包和重传。即使是短暂的中断也会使GPU流水线停滞，并显著降低集群效率。.
为了应对这些挑战，现代 人工智能数据中心网络 越来越依赖于诸如以下技术 RDMA（远程直接内存访问）, 无损以太网, 以及可扩展的 leaf 脊柱架构。这些技术有助于减少瓶颈，同时提高 AI 训练和推理的吞吐量。.
许多组织也在采用 面向人工智能的开放式网络 通过 分散式人工智能基础设施, 将硬件和软件层分离，以提高可扩展性、灵活性和成本效益，同时减少供应商锁定。.
核心概念
探索塑造现代人工智能网络的六大核心概念——从 GPU 集群通信和以太网人工智能架构到开放、解耦的基础设施。.
了解支撑可扩展人工智能基础设施的网络拓扑结构。.
了解如何实现大规模、快速、高效的GPU通信。.
探索能够提高灵活性并减少锁定效应的开放式网络模型。.
了解以太网如何支持高性能人工智能通信。.
了解高速交换如何支持更大规模的人工智能集群。.
评估性能、成本和可扩展性之间的权衡。.
以太网与InfiniBand
关于此的辩论 以太网与 InfiniBand 在人工智能网络领域的比较 随着企业规模化扩展大型人工智能集群，这项技术的重要性日益凸显。这两种技术都能满足现代人工智能集群所需的低延迟和高吞吐量。 GPU集群网络, 但它们在成本、灵活性和生态系统开放性方面有所不同。InfiniBand 长期以来一直是超低延迟高性能计算 (HPC) 环境的首选，而无损以太网、RoCE 和拥塞管理技术的进步正在迅速提升现代网络的性能。 以太网人工智能架构. 对于构建可扩展组织的机构而言 人工智能数据中心网络 对于基础设施而言，决策往往取决于如何在性能、成本效益、操作简便性和长期灵活性之间取得平衡。.
| 特征 | 以太网 + RoCE | InfiniBand |
|---|---|---|
| 成本 | 降低 | 更高 |
| 供应商锁定 | 低的 | 高的 |
| 生态系统 | 广阔 | 专门 |
| 人工智能性能 | 高的 | 非常高 |
为了更深入地了解技术细节 RoCE、PFC 和 ECN 和 总拥有成本, 探索我们的技术资源。.
面向人工智能的开放网络
随着人工智能基础设施的扩展，许多组织正在重新思考依赖于紧密集成的硬件和软件的专有网络模型。. 面向人工智能的开放式网络 通过将网络操作系统与底层硬件分离，提供了一种更灵活、更经济高效的方法。.
这种方法的核心是 网络分解, 这使得运营商能够独立选择最佳的硬件和软件。这实现了更强大的可扩展性。 GPU集群网络 同时减少对单一供应商生态系统的依赖。.
白盒人工智能网络 是该模型的关键推动因素。它基于标准化硬件构建，并由……驱动。 商用硅AI开关, 白盒平台能够提供超大规模的性能，而无需支付专有系统的高昂成本。.
例如操作系统 SONiC 通过自动化、遥测和现代 API 实现高度可扩展、可编程的网络。精心设计的 SONiC AI面料 有助于简化操作，同时支持大规模人工智能工作负载。.
结果较低 总拥有成本（TCO） 通过降低硬件溢价、提高运营效率和最大限度地减少供应商锁定，贯穿网络生命周期。.
传统人工智能网络与开放式人工智能网络
| 传统人工智能网络 | 开放式人工智能网络 |
|---|---|
| 专有堆栈 | 分散堆栈 |
| 已关闭的NOS | SONiC |
| 供应商锁定 | 多供应商灵活性 |
| 总拥有成本更高 | 降低总体拥有成本 |
Edgecore 的独特之处在于，它融合了高性能开放硬件、业界领先的芯片以及广泛的生态系统兼容性，从而提供可扩展、高效且面向未来的 AI 网络基础设施。了解更多 现实世界的人工智能部署 亲眼见证开源人工智能面料的生产应用。.
资源库
为什么 SONiC 非常适合 AI 数据中心？ | 探讨 SONiC 如何实现可扩展、开放和灵活的网络架构，以优化高性能 AI 和云数据中心环境。.
从基础组件到完整方案：一站式企业 AI 开放基础架构解决方案 | 详细介绍了模块化、开放式网络组件如何组合在一起，为企业 AI 部署提供完整的交钥匙基础设施。.
大规模 AI 赋能：数据中心桥接技术在大规模 GPU 部署中发挥不可或缺的作用 | 解释了 PFC 和 ECN 技术如何实现无损以太网性能，这对于大规模 GPU 集群和 AI 训练工作负载至关重要。.
Broadcom Tomahawk 6：为最新一代人工智能和超大规模网络提供支持 | 介绍了博通的 Tomahawk 6 交换架构如何支持下一代 400G/800G AI 和超大规模数据中心网络。.
立即部署的五个杀手级 AI 应用理由！ | 重点介绍推动对可扩展、高性能数据中心网络需求的关键实际人工智能应用驱动因素。.
人工智能/机器学习白皮书 支持人工智能和机器学习工作负载的网络基础设施最佳实践。.
Edgecore Open Fabric 白皮书 | 深入探讨可扩展的人工智能网络架构和部署注意事项。.
总拥有成本 (TCO) | 对现代人工智能环境的基础设施效率、可扩展性和成本优化进行分析。.
构建人工智能优化的数据中心架构：解耦与高性能网络的融合 | 了解分散式基础设施和开放式网络如何实现可扩展、高性能的 AI 架构，从而针对现代 GPU 工作负载进行优化。.
利用博通的 Edgecore 开放式网络交换机和企业级 SONiC 为企业解决方案提供强大支持 | 了解 Edgecore 和 Enterprise SONiC 如何结合开放的硬件和软件来构建可扩展的、可用于生产的 AI 网络。.
构建人工智能的完美架构：DriveNets 调度以太网 | 探索调度以太网如何改善大规模 AI 集群的拥塞管理、延迟和吞吐量。.
可编程解耦网络运行环境 | 了解可编程、解耦式网络如何为现代人工智能基础设施带来更高的自动化、灵活性和控制力。.
600 个网络。一个网络操作系统。零厂商锁定。. | 了解统一网络操作系统如何简化操作，同时减少大规模部署中的供应商锁定。.
Broadcom SONiC X Edgecore 数据中心交换机 | 展示了 Edgecore 和 Broadcom SONiC 如何为现代数据中心架构提供可扩展的高性能交换。.
通过 Edgecore 社区 SONiC 发行版解锁创新 | 展示了 Edgecore 的社区版 SONiC 发行版如何为现代数据中心环境实现灵活、开放和可扩展的网络部署。.
IPNexia携手Edgecore Networks和Deca Consulting为数据中心提供支持 | 了解 IPNexia 如何使用 Edgecore 开放式网络解决方案构建高性能、可扩展的数据中心网络。.
Edgecore Networks：率先采用 Submer、Stellium 数据中心和 Circle B 进行浸入式冷却 | 探索浸没式冷却和开放式网络如何帮助大规模支持高密度、高能效的 AI 基础设施。.
LINX 选择 Edgecore 网络和 IP Infusion 进行 LON2 LAN 更新 | 了解 LINX 如何利用解耦网络实现网络基础设施现代化，从而提高可扩展性和运营灵活性。.
Edgecore在交通大学部署基于OpenFlow的全球SDN | 重点介绍了软件定义网络如何实现集中控制和更大规模的网络可编程性。.