3 月 12 日，云天励飞中标湛江市AI浸透因循新质坐褥力基础重要建造方法，中标金额4.2亿元。方法将基于云天励飞自研的国产AI推理加快卡，建造国产AI推理千卡集群。

该集群将搭载DeepSeek等国产大模子，为政务、产业及各类诓骗场景提供愈加简短、低老本的AI才气，探索打造“国模国芯”的AI生态样板。

岂论是春节时代大热的SeeDance，近期平淡究诘的“小龙虾”，照旧各行业不休上线的AI Agent诓骗，背后都离不开推理算力的因循。说明Gartner臆想，到2026年，约55%的AI专用云基础重要支拨将用于推理使命负载。

曩昔，国内好多智算中心无数剿袭“训推一体”的建造模式。而这次在湛江建造的集群，则定位为专注推理任务的AI推理集群，主要面向各类行业诓骗场景，为传统产业的AI化提供凯旋因循。

湛江亦然国产大模子DeepSeek创举东谈主梁文峰的家乡。连年来，当地在“DeepSeek+”诓骗探索方面手脚频频。2025岁首，DeepSeek-R1发布后，湛江即完老土产货部署——基于国产工夫栈的DeepSeek-R1大模子最初在湛江政务云上线。该模子在处置通用政务事务的同期，还偶然执续学习土产货产业学问与方言抒发，徐徐酿成具有方位本性的“湛江灵巧”。

这次云天励飞建造的AI推理集群，也将与DeepSeek等国产模子进行深度适配，开云体育为更多行业诓骗提供算力因循。

湛江落地的千卡推理集群，剿袭云天励飞自主研发的AI推理芯片，并在系统架构上成立了“优先优化Prefill、兼顾Decode”的工夫门道。通过在芯片想象中对策画资源与存储带宽进行针对性成就，使系统在长高下文推理场景下也曾偶然保执较高的隐隐效果。

在集聚互联方面，系统剿袭和洽高速互联架构，通过400G光集聚构建集群物理层集聚，收场节点之间的高带宽、低延伸通讯。与传统在节点内和节点间分离剿袭不同条约构建集聚的方式比较，这种同构互联架构减少了条约转移带来的稀奇开销，也简化了系统部署。

通过芯片架构、集聚互联以及系统编削等多层优化，这一推理集群在举座效果与老本收场方面酿成了显着上风，为AI规模化诓骗提供了愈加经济的算力决策。

据悉，本次AI推理集群将分三期建造，并一皆剿袭云天励飞自研的国产AI推理加快卡。其中，一期方法将部署云天励飞 X6000 推理加快卡；二、三期建造将最初搭载公司最新一代芯片产物。

跟着大模子徐徐插足诓骗阶段，产业关心点正从“算力峰值”转向“单元老本效果”。湛江方法的落地，也为这一连络提供了紧迫的扩充场景。千卡级推理集群不仅偶然知足现时AI诓骗需求，同期也为更大规模算力系统提供工夫部署平台。

在典型架构下，一个千卡级集群相通由多级扩张结构构成：从单节点8卡、32卡，到64卡以致百卡级超节点，再到跨节点的大规模集群。通过这一规模系统的现实开动，不错充分考证卡间互联、节点通讯和负载平衡等关键工夫，为明天更大规模AI算力系统建造积聚警戒。

南边+记者 郜小平开云体育官方网站