8月15日，科大訊飛在星火認(rèn)知大模型發(fā)布會上，與華為共同發(fā)布一款用于企業(yè)構(gòu)建專屬大模型的軟硬件一體化設(shè)備“星火一體機”，讓所有企業(yè)都可以在國產(chǎn)自主創(chuàng)新的平臺上自主、安全、可控地私有化部署大模型。

科大訊飛董事長劉慶峰在發(fā)布會上介紹稱：“星火一體機可用于大模型的訓(xùn)練和推理，企業(yè)拎回去，開箱即可用。每一家企業(yè)，每一個行業(yè)、每一個學(xué)校、每個醫(yī)院都可以有機會構(gòu)建自己的專屬大模型。”

他還表示，正在與華為打造面向超大規(guī)模參數(shù)大模型訓(xùn)練的國產(chǎn)算力的集群，對標(biāo)英偉達(dá)的A100芯片。A100是目前在大模型訓(xùn)練市場上應(yīng)用最廣泛的芯片。

(資料圖片)

另據(jù)第一財經(jīng)記者獨家證實，星火一體機使用的是華為尚未官方對外發(fā)布的昇騰910B人工智能芯片。今年8月1日，華為在官網(wǎng)上公布了昇騰910B NPU驅(qū)動和固件升級指南。

一位業(yè)內(nèi)人士告訴第一財經(jīng)記者：“華為昇騰910B芯片的性能從未對外公布，但最近華為在業(yè)內(nèi)大力推廣這一平臺，而且它的性能與上一代的910相比，應(yīng)該絕對不是一個量級。”

第一財經(jīng)記者了解到，星火一體機也是910B芯片首個對外商業(yè)化應(yīng)用產(chǎn)品。上個月，科大訊飛就與華為宣布，打造基于中國自主創(chuàng)新的通用智能新底座。一方面，訊飛星火認(rèn)知大模型基于訓(xùn)練推理一體化設(shè)計，實現(xiàn)大模型稀疏化、低精度量化的技術(shù)突破，能高效適配昇騰AI，加速大模型的行業(yè)落地應(yīng)用和迭代；另一方面，以昇騰AI為核心，軟硬件協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓(xùn)練集群。

據(jù)介紹，星火一體機提供從底層算力、AI框架、訓(xùn)練算法、推理能力、應(yīng)用成效等全棧AI能力，可用于問答系統(tǒng)、對話生成、知識圖譜構(gòu)建、智能推薦等多個領(lǐng)域的應(yīng)用，具備大模型預(yù)訓(xùn)練、多模態(tài)理解與生成、多任務(wù)學(xué)習(xí)和遷移等能力。

劉慶峰表示：“華為與科大訊飛將共同在生成式軟硬件平臺上，把高算力、高性能的算子庫，多卡的高速互聯(lián)以及分布式存儲結(jié)合起來，尤其是我們聯(lián)合針對人工智能所需要的最重要的算子庫進行甄別和打磨，在此基礎(chǔ)上架構(gòu)科大訊飛的訓(xùn)練和數(shù)據(jù)閉環(huán)的全流程設(shè)計，以及訓(xùn)練和推理一體化設(shè)計的自研的大模型訓(xùn)練平臺。”

劉慶峰稱，目前該平臺在單卡算力上已經(jīng)能夠?qū)?biāo)英偉達(dá)的A100芯片。“現(xiàn)在我們基本按照國產(chǎn)的芯片來規(guī)劃了，因為我們已經(jīng)不能買美國芯片了，除了早期有的那些（英偉達(dá)）的算力外，我們現(xiàn)在必須全部國產(chǎn)化。”他表示。

訊飛星火大模型擁有130億、650億和1750億三個版本的模型參數(shù)可選，圍繞星火大模型，科大訊飛也在構(gòu)建開發(fā)者生態(tài)，目前已經(jīng)有4000多個助手開發(fā)者團隊加入星火平臺。

在媒體采訪中談及星火大模型未來是否會走向開源時，劉慶峰說道：“我們會做一部分開源，但是肯定不會全部開源，開源的部分主要是為了推動科研、高校研發(fā)這些目的，我們會給他們一份開源。”

關(guān)鍵詞：