今年会官网-OpenAI公开大规模稳定训练的秘密
首页财产ai正文 OpenAI公然年夜范围不变练习的奥秘 OpenAI在上周经由过程Open Compute Project向全行业开放花两年研发的MRC和谈，该和谈能确保年夜范围练习收集通讯不变，还有同步发布了播客。 2026-05-07 17:56 ·微信公家号：量子位存眷前沿科技 AI投资人解读· OpenAI开放超年夜范围AI练习收集和谈MRC，可确保年夜范围练习情况下收集通讯不变。该和谈由OpenAI结合英伟达等花两年制成，已经运用在其超算。MRC经由过程多平面收集拓扑、自顺应包喷射、SRv6静态源路由三项技能，从拓扑、传输、路由三个维度确保收集靠得住性。 · 行业竞争可能促使其他公司加速近似技能研发，对于OpenAI形成挑战。 总结：OpenAI的MRC和谈技能上风较着，具备较高投资价值，但需存眷行业竞争危害，建议连续跟踪行业动态与技能成长。内容由AI天生，仅供参考
OpenAI，此次又真·Open了一下。
方才，OpenAI经由过程OCP开放了超年夜范围AI练习时利用的收集和谈——MRC。
此次开放的MRC，是实现微秒级妨碍恢复、能撑持10万块以上GPU高效协作的底层通讯和谈。
焦点奥义就是，于年夜范围的练习情况下，确保收集通讯的不变性。
并且这一波是及硬件厂商互助，于OpenAI的构造下，英伟达、AMD及英特尔都介入了这个项目。
有网友暗示，把这些厂商聚于一路互助制订尺度，的确比实现AGI还有难以协调。
年夜范围集群，也要通信不变
这套MRC（Multipath Reliable Connection）和谈，是OpenAI结合英伟达、AMD、英特尔、微软及博通，花了两年时间做出来的，上周经由过程Open Compute Project向全行业开放。
它此刻跑于OpenAI所有*范围的NVIDIA GB200超算上，包括OCI于德克萨斯Abilene建的星际之门及微软的Fairwater超算。
这件事的配景是，同步预练习（synchronous pretraining）的通讯模式对于收集极端敏感。
十几万块GPU于每一个练习step里以all-reduce为重要通讯原语协同事情，单次迭代可触发数百万次点对于点数据传输。
这种调集通讯的完成时间由最慢的那次传输决议，任何链路堵塞或者丢包城市以滚雪球的情势传导到整个job，轻则造成吞吐骤降，重则触发checkpoint回滚。
跟着集群范围扩展，收集妨碍的*频率只会上升。
为相识决这个问题，MRC重要做了三件事。
*件是多平面收集拓扑（Multi-Plane Network）。
传统做法是把800Gb/s的网卡当一整条链路用，整个集群需要三四层互换机才能连起来。
MRC把它拆成8条100Gb/s子链路，各自连到自力的互换机，形成8个并行的收集平面。
单台互换性能接入的端口数是以扩展了8倍，拓扑也随之扁平，层数从三四层压到两层，13万块GPU的互联成本及妨碍点都随之年夜幅降落。
层数少还有象征着妨碍点少，8个平面并行又象征着冗余路径年夜幅增长，这也是后面两项技能可以或许建立的物理基础。
第二件是自顺应包喷射（Adaptive Packet Spraying）。
经典RoCE要求统一条RDMA传输的所有数据包走统一路径以维持挨次语义，这于多平面情况下会造成严峻的流量碰撞及路径使用率不足。
MRC扩大了RoCE的乱序处置惩罚能力，于包头中嵌入方针内存地址，使吸收端可以将乱序达到的包直接写入准确位置，从而答应将单次传输的包喷射到数百条路径上并行传输。
堵塞检测及路径切换则是于毗连层完成，发明堵塞则换路，检测到丢包则当即停用该路径并触发重传，整个相应于微秒级完成。
这类模式可以理解为，本来一批货必需走统一辆车按挨次投递，MRC让这批货同时上几百辆车分头跑，每一个箱子上贴好收货地址，到了直接入库，哪条路堵就换哪条。
调集通讯对于尾延迟极端敏感，这套机制险些消弭了收集焦点的堵塞，直接压低了练习step完成时间的抖动。
第三件是用SRv6（IPv6 Segment Routing）静态源路由代替动态路由和谈。
传统方案依靠BGP于互换机间动态计较及同步路由，链路妨碍时路由收敛需要数秒甚至更长，这段时间内练习流量会年夜面积中止。
SRv6将路径决议计划彻底移到发送端，把逐跳的互换机标识符序列直接编码进数据包的方针地址，沿途每一台互换机只需按当地静态路由表履行转发，无需感知任何拓扑变化。
还有是拿物流来类比，这就相称在出发前就把完备线路写于包裹上，每一个路口的事情职员尽管照单操作，不需要及任何调理中央接洽。
某条路径呈现妨碍，MRC发送端直接住手于该路径喷包、切换到其他路径，互换机侧零感知、零动作，整类路由收敛激发的抖动从底子上被消弭。
三层设计从拓扑、传输、路由三个维度同时发力，确保了年夜范围下的收集靠得住性。
One More Thing
MRC技能博客宣布以后，OpenAI还有同步发布了一期播客。
这期播客中，OpenAI收集卖力人Mark Handley及事情负载卖力人Greg Steinbrecher聊了MRC从念头到落地的完备历程。
感兴致的话，可以去听一听。
【本文由投资界互助伙伴微信公家号：量子位授权发布，本平台仅提供信息存储办事。】若有任何疑难，请接洽（editor@zero2ipo.com.cn）投资界处置惩罚。
-今年会官网
