近年來,隨著技術的不斷創(chuàng)新和發(fā)展,生成式AI已經(jīng)從云端逐漸擴展到終端側,這為人們在任何時間、任何地點都能體驗到各種創(chuàng)新的AI功能,提供了可能。據(jù)悉,中國移動終端公司研發(fā)的終端小語言模型(CM-3B)已經(jīng)成功面向驍龍旗艦移動平臺完成優(yōu)化,功效卓著。這樣的模型專門為高隱私低延遲的AI應用而打造,且已適配和部署于旗艦智能手機。此舉成為運營商自研語言模型在端側應用的首個案例,也是AI發(fā)展史上的一項重要里程碑。
作為全球領先的無線連接與移動計算公司,高通一直積極推動終端側AI的發(fā)展。去年10月,高通推出了專為生成式AI而精心打造的移動平臺——第三代驍龍8。這個平臺具有高性能和低功耗的特點,能夠提供強大的終端側AI推理能力。與此同時,第三代驍龍8還支持異構計算。這意味著,它可以綜合運用高通AI引擎上的多樣化處理器,包括CPU、GPU、NPU等,為各種終端側的AI用例賦予強大的功能和能力。
今年10月,高通又推出了更新升級的新一代移動平臺――驍龍8至尊版。這一平臺首次采用了一系列的先進技術,包括第二代定制的高通Oryon CPU、高通Adreno GPU和增強的高通Hexagon NPU。這些技術的應用使得該平臺在性能和能效上實現(xiàn)了大幅的提升,并且能夠直接在終端側提供個性化的多模態(tài)生成式AI。這將支持對語音、情境和圖像的理解,全面提升從生產(chǎn)力到創(chuàng)意任務等方面的用戶體驗。另外,驍龍8至尊版還特別重視用戶隱私的保護,將這一要素放在了技術開發(fā)的首要位置。
CM-3B模型是由中國移動終端公司研發(fā)的,其以中國移動研究院九天端側大模型為基礎,開發(fā)出的一種新型終端智能體。而以語音助手為應用載體的CM-3B,則在多個終端應用場景,如意圖識別、中英互譯、文本總結等方面,均達到了行業(yè)同參數(shù)規(guī)模的領先水平。
經(jīng)過一系列的技術攻關,中國移動終端公司成功地將CM-3B模型面向第三代的驍龍8以及驍龍8至尊版移動平臺進行了優(yōu)化,并完善了其運行表現(xiàn)。這一進步必將為廣大用戶帶來豐富和全新的終端側AI體驗,同時也有助于推動終端側生成式AI的規(guī);瘮U展。
隨著技術的推動和創(chuàng)新,生成式AI逐漸地從云端走向終端,這不僅相關企業(yè)帶來了新的機遇,也為用戶帶來了前所未有的體驗。我們有理由相信,未來的AI發(fā)展一定會更加精彩紛呈。