3 月 11 日消息，科大讯飞研究院官宣，科大讯飞携手华为在国产算力领域取得重大进展，双方联合团队率先突破国产算力集群上 MoE 模型的大规模跨节点专家并行集群推理，这是继 DeepSeek 公布其 MoE 模型训练推理方案(àn)后(hòu)，业(yè)界(jiè)首(shǒu)个(gè)基(jī)于(yú)国(guó)产(chǎn)算(suàn)力(lì)的(de)全新(xīn)解(jiě)决(jué)方(fāng)案(àn)。

　　联(lián)合(hé)团(tuán)队(duì)通(tōng)过(guò)软(ruǎn)硬(yìng)件(jiàn)的(de)深(shēn)度(dù)协(xié)同(tóng)创(chuàng)新(xīn)，在(zài)多(duō)个(gè)关键技(jì)术(shù)层(céng)面(miàn)深(shēn)挖(wā)硬(yìng)件(jiàn)潜(qián)力(lì)，完(wán)成(chéng)昇(shēng)腾(téng)集群(qún)上(shàng)的(de)验(yàn)证(zhèng)和(hé)部(bù)署(shǔ)。在(zài)算(suàn)子(zi)融(róng)合(hé)方(fāng)面(miàn)，团(tuán)队(duì)在(zài) MLA 预(yù)处(chù)理(lǐ)阶(jiē)段(duàn)通(tōng)过(guò) Vector 与(yǔ) Cube 异构计算单元并行流水，并将多个小算子融合重构为原子级计算单元，消除小算子下发开销，MLA 前处理时延降低 50%+，实现性能的显著提升。

　　科大讯飞研究院介绍称，在混合并行策略和通信计算并(bìng)行(xíng)优(yōu)化(huà)方(fāng)面(miàn)，团(tuán)队(duì)构(gòu)建(jiàn)了(le) TP（张(zhāng)量(liàng)并(bìng)行(xíng)）+EP（专(zhuān)家(jiā)并(bìng)行(xíng)）混(hùn)合(hé)范(fàn)式(shì)：对(duì) MLA 计(jì)算(suàn)层(céng)采用(yòng)机(jī)内(nèi) TP 并(bìng)行(xíng)，发(fā)挥(huī)机(jī)内(nèi)高(gāo)速(sù)互(hù)联(lián)优(yōu)势(shì)，降(jiàng)低(dī)跨(kuà)机(jī)通(tōng)信(xìn)损(sǔn)耗(hào)；创(chuàng)新(xīn) MoE 专(zhuān)家(jiā)分(fēn)层(céng)调(diào)度(dù)，64 卡(kǎ)均(jūn)衡(héng)分(fēn)配(pèi)专(zhuān)家(jiā)计算节点，定制 AllToAll 通信协议，专家数据交(jiāo)换(huàn)效(xiào)率(lǜ)提(tí)升(shēng) 40%，构(gòu)建(jiàn)跨(kuà)机(jī) / 机(jī)内(nèi)双(shuāng)层(céng)通(tōng)信(xìn)架(jià)构(gòu)，通(tōng)过(guò)分(fēn)层(céng)优(yōu)化(huà)降(jiàng)低(dī)跨(kuà)机(jī)流(liú)量(liàng) 60%；同(tóng)时(shí)研(yán)发(fā)路由(yóu)专(zhuān)家(jiā)负(fù)载(zài)均(jūn)衡(héng)算(suàn)法(fǎ)，实(shí)现(xiàn)卡(kǎ)间(jiān)负(fù)载(zài)差(chà)异(yì)小(xiǎo)于(yú) 10%，集群(qún)吞(tūn)吐(tǔ)提(tí)升(shēng) 30%。

　　通(tōng)过分布式架构创新与算法协同优化，联合团队在国产算力上实现了显著的性能提升。单卡静态内存占用缩减至双机部署的 1/4，效率提升 75%，专家计算密度增加 4 倍，推理吞吐提升 3.2 倍，端到端时延降低 50%。

　　科大讯飞研究院(yuàn)表(biǎo)示(shì)，这(zhè)一(yī)突(tū)破(pò)性(xìng)的(de)解(jiě)决(jué)方(fāng)案(àn)也(yě)将(jiāng)应(yīng)用(yòng)于(yú)讯(xùn)飞(fēi)星(xīng)火(huǒ)深(shēn)度(dù)推(tuī)理(lǐ)模(mó)型(xíng)的(de)训(xun)练(liàn)加(jiā)速(sù)，预(yù)期(qī)训(xun)练(liàn)时(shí)推(tuī)理(lǐ)效(xiào)率(lǜ)将(jiāng)提(tí)升(shēng) 200%。同(tóng)时(shí)，基(jī)于(yú)该(gāi)方(fāng)案(àn)的(de)推(tuī)理(lǐ)引(yǐn)擎(qíng)也(yě)实(shí)现(xiàn)了(le)国(guó)产(chǎn)算(suàn)力(lì)上(shàng) DeepSeek V3 和(hé) R1 的(de)高(gāo)效(xiào)推(tuī)理(lǐ)。

　　IT之(zhī)家(jiā)从(cóng)科(kē)大(dà)讯(xùn)飞(fēi)公(gōng)告(gào)获(huò)悉(xī)，科(kē)大(dà)讯(xùn)飞(fēi)深(shēn)度(dù)推(tuī)理(lǐ)大(dà)模(mó)型(xíng)星(xīng)火(huǒ) X1 也(yě)完(wán)成(chéng)升(shēng)级(jí)，在(zài)模(mó)型(xíng)参(cān)数(shù)量(liàng)比(bǐ)业(yè)界(jiè)同(tóng)行(xíng)少(shǎo)一(yī)个(gè)数(shù)量(liàng)级(jí)的(de)情(qíng)况(kuàng)下(xià)，星(xīng)火(huǒ) X1 的(de)数(shù)学(xué)能(néng)力(lì)全面(miàn)对(duì)标(biāo) DeepSeek R1 和(hé) OpenAI o1，在(zài)中(zhōng)文数(shù)学(xué)各(gè)项(xiàng)任(rèn)务(wu)中(zhōng)“均(jūn)实(shí)现(xiàn)领(lǐng)先(xiān)”。