按：昨天整理了UALink(vs NVLink)最新进展，作为片上互联技术，其传输效率要求最高；而集群（Pod）间互联技术，同样也存在竞争，即超以太网UE，对标NV的IB网络。

问题意识：AI 与网络

AI用于网络，还是网络用于AI？

•  许多文章/博客讨论了AI如何改变网络基础设施
• ...但你需要什么样的网络基础设施才能拥有足够的AI来改变网络基础设施？
•  是否不仅仅是超高速和馈送？
•  海量数据集，并行处理要求
•  数据需要在哪里，何时需要？

AI和网络基础设施之间的相互关系和依赖性。主要观点包括：

AI工作负载的特性和需求，强调了其对计算资源的巨大需求。主要观点包括：

UE是网络哪部分？

对算力基础设施中的网络做了区分：

图左：带宽和延迟

• 大型模型（例如，从GPT-3的175B参数到GPT-4的1T+参数）在网络上驱动更大的消息

图右：总结阶段（即训练）是GPU密集型环节，重点关注计算利用率，需保证通信效率（网络敏感），以提高GPU利用率；生成阶段（即推理）是计算密集型，内存资源稀缺。

UEC 组织最新情况

超以太网架构

图右是UEC架构图，从物理层到应用层需重新设计。

UEC（Ultra Ethernet Consortium）传输技术如何应对现代网络面临的重大挑战。主要观点包括：

传统RDMA网络与超以太网比较。

对比传统RDMA基础网络与Ultra以太网联盟（UEC）提出的新方案，突出UEC如何更好地满足AI网络需求。主要特点包括：