中新網北京2月25日電(記者 宋宇晟)智源研究院25日宣布,已聯合多個芯片廠商一同開發并開源DeepSeek-R1多芯片版本,旨在推動大模型在不同芯片的適配應用,打破生態墻和算力束縛,構建多元芯片的統一技術棧和開源軟硬件生態。
智源研究院稱,此次發布基于FlagOS的DeepSeek-R1多芯片版本,是業界首次通過統一開源軟件棧實現DeepSeek-R1的多芯片開源版本,并同時給出了嚴謹的模型對齊結果,保證了開源可用、統一易用。
智源研究院副院長兼總工程師林詠華在接受中新網記者采訪時表示,基于FlagOS,只需要幾步,用戶即可在支持的AI芯片服務器上完成環境搭建和模型部署。這意味著國產芯片也可部署滿血版DeepSeek-R1。
林詠華稱,DeepSeek-R1多芯片版本,使用同一套開源代碼和底層框架,實現了不同AI芯片架構的DeepSeek-R1推理,推動生態統一、開放;在各個芯片服務器上,均與英偉達芯片上的DeepSeek-R1進行嚴格評測,保證在不同芯片架構上的DeepSeek-R1版本與原始英偉達版本效果對齊。
據介紹,多芯片版本的源代碼、各個芯片的DeepSeek-R1模型文件、各個芯片的一站式Docker運行鏡像文件分別開放到Github/Gitee,Huggingface和魔搭,云廠商鏡像倉庫等平臺,方便廣大開發者用戶的獲取。依托各芯片適配的基礎鏡像,安裝 FlagOS 核心組件,其中涵蓋異構并行訓推框架 FlagScale 與大模型通用算子庫 FlagGems。在此基礎上,能夠一鍵部署 DeepSeek - R1 模型服務和自動分布式推理調優能力,同時提供與 OpenAI 兼容的 API,極大降低使用門檻,提升部署效率。(完)