近年來(lái),隨著技術(shù)的不斷創(chuàng)新和發(fā)展,生成式AI已經(jīng)從云端逐漸擴(kuò)展到終端側(cè),這為人們?cè)谌魏螘r(shí)間、任何地點(diǎn)都能體驗(yàn)到各種創(chuàng)新的AI功能,提供了可能。據(jù)悉,中國(guó)移動(dòng)終端公司研發(fā)的終端小語(yǔ)言模型(CM-3B)已經(jīng)成功面向驍龍旗艦移動(dòng)平臺(tái)完成優(yōu)化,功效卓著。這樣的模型專門(mén)為高隱私低延遲的AI應(yīng)用而打造,且已適配和部署于旗艦智能手機(jī)。此舉成為運(yùn)營(yíng)商自研語(yǔ)言模型在端側(cè)應(yīng)用的首個(gè)案例,也是AI發(fā)展史上的一項(xiàng)重要里程碑。
作為全球領(lǐng)先的無(wú)線連接與移動(dòng)計(jì)算公司,高通一直積極推動(dòng)終端側(cè)AI的發(fā)展。去年10月,高通推出了專為生成式AI而精心打造的移動(dòng)平臺(tái)——第三代驍龍8。這個(gè)平臺(tái)具有高性能和低功耗的特點(diǎn),能夠提供強(qiáng)大的終端側(cè)AI推理能力。與此同時(shí),第三代驍龍8還支持異構(gòu)計(jì)算。這意味著,它可以綜合運(yùn)用高通AI引擎上的多樣化處理器,包括CPU、GPU、NPU等,為各種終端側(cè)的AI用例賦予強(qiáng)大的功能和能力。
今年10月,高通又推出了更新升級(jí)的新一代移動(dòng)平臺(tái)――驍龍8至尊版。這一平臺(tái)首次采用了一系列的先進(jìn)技術(shù),包括第二代定制的高通Oryon CPU、高通Adreno GPU和增強(qiáng)的高通Hexagon NPU。這些技術(shù)的應(yīng)用使得該平臺(tái)在性能和能效上實(shí)現(xiàn)了大幅的提升,并且能夠直接在終端側(cè)提供個(gè)性化的多模態(tài)生成式AI。這將支持對(duì)語(yǔ)音、情境和圖像的理解,全面提升從生產(chǎn)力到創(chuàng)意任務(wù)等方面的用戶體驗(yàn)。另外,驍龍8至尊版還特別重視用戶隱私的保護(hù),將這一要素放在了技術(shù)開(kāi)發(fā)的首要位置。
CM-3B模型是由中國(guó)移動(dòng)終端公司研發(fā)的,其以中國(guó)移動(dòng)研究院九天端側(cè)大模型為基礎(chǔ),開(kāi)發(fā)出的一種新型終端智能體。而以語(yǔ)音助手為應(yīng)用載體的CM-3B,則在多個(gè)終端應(yīng)用場(chǎng)景,如意圖識(shí)別、中英互譯、文本總結(jié)等方面,均達(dá)到了行業(yè)同參數(shù)規(guī)模的領(lǐng)先水平。
經(jīng)過(guò)一系列的技術(shù)攻關(guān),中國(guó)移動(dòng)終端公司成功地將CM-3B模型面向第三代的驍龍8以及驍龍8至尊版移動(dòng)平臺(tái)進(jìn)行了優(yōu)化,并完善了其運(yùn)行表現(xiàn)。這一進(jìn)步必將為廣大用戶帶來(lái)豐富和全新的終端側(cè)AI體驗(yàn),同時(shí)也有助于推動(dòng)終端側(cè)生成式AI的規(guī)模化擴(kuò)展。
隨著技術(shù)的推動(dòng)和創(chuàng)新,生成式AI逐漸地從云端走向終端,這不僅相關(guān)企業(yè)帶來(lái)了新的機(jī)遇,也為用戶帶來(lái)了前所未有的體驗(yàn)。我們有理由相信,未來(lái)的AI發(fā)展一定會(huì)更加精彩紛呈。