寒武纪拥抱众智 FlagOS 生态，打破不同架构芯片间的软件生态壁垒

【导语】11月12日消息，寒武纪宣布加入众智FlagOS生态。因单一芯片架构难满足多元业务需求，跨架构芯片业务迁移耗时久成瓶颈，而FlagOS旨在打破芯片软件生态壁垒，实现“一次开发，处处运行”。寒武纪与智源研究院已联合开发多组件，且FlagOS 1.5版本性能更优、支持更广。

　　11 月 12 日消息，寒武纪宣布拥抱众智 FlagOS 生态。寒武纪表示，单一芯片架构难以满足多元化的业务需求，大模型应用厂商为部署不同类型业务往往需要引入多种不同架构 AI 芯片，造成跨芯片架构间业务代码迁移与维护工作往往耗时数月，成为业务迁移流程主要瓶颈。

　　据介绍，北京智源人工智能研究院联手社区伙伴启动了众智 FlagOS 项目，目的通过统一软件层解耦 AI 模型与异构硬件，打破不同架构芯片之间的软件生态壁垒，为芯片硬件与上层 AI 应用之间搭建统一且高效衔接的桥梁，系统性解决“适配难、调优慢、协同弱”行业难题，实现“一次开发，处处运行”。

　　寒武纪和智源研究院从 2024 年(nián)初(chū)起(qǐ)就(jiù)开(kāi)始(shǐ)进(jìn)行(xíng) FlagGems（基于 Triton 的高性能通用 AI 算子库）的联合开发工作，后续进一步拓展到 FlagTree（统一多后端的增强版 Triton 编译器）、FlagCX（统一通信库）、FlagScale（并行训推一体框架）等组件。

　　寒武纪与 FlagOS 的适配与优化主要集中在算子、编译器、分布式通信库和并行框架组件等方面。

　　据悉，FlagOS 是由北京智源人工智能研究院牵头研发的面向多种 AI 芯片的开源系统软件栈，支持超 20 种国内外主流 AI 芯片型(xíng)号(hào)。该(gāi)系(xì)统(tǒng)融(róng)合并行训推框架 FlagScale、高性能算子(zi)库(kù) FlagAttention 和(hé) FlagGems、统(tǒng)一(yī)通(tōng)信(xìn)库(kù) FlagCX 等(děng)技(jì)术(shù)组(zǔ)件(jiàn)，平(píng)均(jūn)性(xìng)能(néng)超(chāo)过(guò)芯(xīn)片(piàn)厂(chǎng)商(shāng)原(yuán)生(shēng)算(suàn)子(zi)。

　　今(jīn)年(nián) 9 月(yuè)，众(zhòng)智(zhì) FlagOS 1.5 发(fā)布(bù)，支(zhī)持(chí)超(chāo)过(guò) 12 家(jiā)国(guó)内(nèi)外(wài)主流(liú)芯(xīn)片(piàn)厂(chǎng)商(shāng)的(de) 20 余(yú)种(zhǒng)芯(xīn)片(piàn)型(xíng)号(hào)，降低硬件适配的复杂(zá)性(xìng)；改(gǎi)进(jìn)并(bìng)行(xíng)策(cè)略(è)与(yǔ)调(diào)度(dù)算(suàn)法(fǎ)，在(zài)典(diǎn)型(xíng)大(dà)模(mó)型(xíng)任(rèn)务(wu)中(zhōng)实(shí)现(xiàn)最(zuì)高(gāo) 36.8% 训(xun)练(liàn)加(jiā)速(sù)与(yǔ) 20% 推(tuī)理(lǐ)加(jiā)速(sù)；全面(miàn)支(zhī)持(chí)机(jī)器(qì)人(rén)“大(dà)脑(nǎo)”（如(rú)智(zhì)源(yuán) RoboBrain）与(yǔ)“小脑”（如 VLA）模型的开发与部署等。