C114訊 北京時(shí)間11月20日消息(艾斯)韓國(guó)電信運(yùn)營(yíng)商SK電訊(SKT)正在持續(xù)大舉進(jìn)行AI轉(zhuǎn)型。
近日,該運(yùn)營(yíng)商宣布推出推出了一款A(yù)I客服工具,旨在提高處理客戶查詢的效率。這一新系統(tǒng)利用SKT自研的電信大語(yǔ)言模型(Telco LLM)和大型多模態(tài)模型(LMM)技術(shù),專注于電信領(lǐng)域知識(shí)。SKT韓國(guó)客服中心從今年10月中旬以來(lái)一直在測(cè)試該工具,測(cè)試階段持續(xù)了大約一個(gè)月時(shí)間。
報(bào)道稱,上述Telco LLM是通過(guò)與Anthropic等主流國(guó)際大模型公司合作開(kāi)發(fā)的,使該系統(tǒng)能夠提供深厚的電信專業(yè)知識(shí)。
SKT還開(kāi)發(fā)了能夠理解與通信相關(guān)的文本和圖像的專用LMM。測(cè)試版服務(wù)于10月中旬逐步推出,并顯示出良好的效果。這是韓國(guó)國(guó)內(nèi)客服中心首次采用這類AI咨詢系統(tǒng)。這家運(yùn)營(yíng)商表示,該系統(tǒng)提高了工作效率,提供了更加個(gè)性化的客戶咨詢。利用其自研的Telco LLM,可幫助agent更快地從內(nèi)部數(shù)據(jù)庫(kù)中檢索相關(guān)信息,從而縮短響應(yīng)時(shí)間,并提高服務(wù)質(zhì)量。
另外,SKT采用了檢索增強(qiáng)生成(RAG)進(jìn)一步優(yōu)化系統(tǒng),使模型在回答客戶查詢時(shí)僅訪問(wèn)最準(zhǔn)確的數(shù)據(jù)。此功能提高了響應(yīng)的可靠性和準(zhǔn)確度,確保agent能夠提供最好的服務(wù)。RAG的集成還通過(guò)簡(jiǎn)化數(shù)據(jù)檢索過(guò)程提高了整體響應(yīng)質(zhì)量,使其更快、更有效。
在過(guò)去的一年里,SKT重組了其知識(shí)管理系統(tǒng),以更好地適應(yīng)AI需求。該公司利用各種通信數(shù)據(jù)和客服專家的大量反饋對(duì)其模型進(jìn)行了微調(diào)。
這種由強(qiáng)化學(xué)習(xí)驅(qū)動(dòng)的迭代過(guò)程確保了Telco LLM和LMM是量身定制的,能夠以最高的準(zhǔn)確度處理與電信相關(guān)的查詢。
除了核心的AI功能外,SKT還計(jì)劃推出三項(xiàng)創(chuàng)新解決方案:AI知識(shí)搜索助手、智能文檔處理、自動(dòng)后處理系統(tǒng)。這些功能已于今年10月開(kāi)始測(cè)試,并將于2025年全面推出。
據(jù)C114了解,韓國(guó)電信運(yùn)營(yíng)商一直在AI數(shù)字化轉(zhuǎn)型方面表現(xiàn)得果敢激進(jìn)。就在最近,SKT還宣布了一項(xiàng)新計(jì)劃,將致力于建設(shè)所謂的“AI基礎(chǔ)設(shè)施高速公路”,以AI數(shù)據(jù)中心(AIDC)、GPU即服務(wù)(GPUaaS)和邊緣AI三大主軸為中心,在全國(guó)范圍內(nèi)構(gòu)建AI基礎(chǔ)設(shè)施,從而成為亞太地區(qū)的“AI樞紐中心”(AI Hub)。
SKT首席執(zhí)行官Yoo Young-sang表示:“迄今為止,通信基礎(chǔ)設(shè)施一直是關(guān)于網(wǎng)絡(luò)連接的競(jìng)爭(zhēng),也即網(wǎng)速和容量的較量,但現(xiàn)在網(wǎng)絡(luò)演進(jìn)的范式必須改變了。未來(lái),6G將發(fā)展成為融合通信和AI的下一代AI基礎(chǔ)設(shè)施。”
此前在2024年6月,SK電訊與德國(guó)電信(Deutsche Telekom)、e&、新加坡電信(Singtel)、軟銀(SoftBank)共同宣布成立全球電信人工智能聯(lián)盟(GTAA),聯(lián)盟成員同意成立一家合資企業(yè),開(kāi)發(fā)專門(mén)針對(duì)電信行業(yè)的大語(yǔ)言模型,這是對(duì)利用海量電信數(shù)據(jù)的一次主動(dòng)嘗試。
市場(chǎng)研究公司Omdia在一篇報(bào)告中寫(xiě)到,現(xiàn)有大語(yǔ)言模型的局限性引發(fā)了打造Telco LLM的想法,這是一種先進(jìn)的大語(yǔ)言模型,可以為AI服務(wù)配備電信行業(yè)知識(shí),以了解用戶的意圖。Telco LLM將推動(dòng)AI轉(zhuǎn)型并提高客戶服務(wù)質(zhì)量標(biāo)準(zhǔn),同時(shí)還具有提升生成式AI表現(xiàn)的潛力。
Omdia資深分析師Harith Abdul Hadi指出,在生成式AI當(dāng)中打造Telco LLM的目的是簡(jiǎn)化員工的工作流程,更重要的是,支撐運(yùn)營(yíng)商在各個(gè)領(lǐng)域(例如咨詢、研發(fā)和營(yíng)銷)的AI轉(zhuǎn)型計(jì)劃,包括將運(yùn)營(yíng)商的新業(yè)務(wù)與核心業(yè)務(wù)相結(jié)合。電信公司將能夠留住人才并使工作變得更有趣,特別是在需求下降的領(lǐng)域(例如客戶服務(wù)、后端運(yùn)營(yíng))。
不過(guò),也有電信運(yùn)營(yíng)商對(duì)于是否需要打造專門(mén)的Telco-LLM持懷疑態(tài)度。例如,歐洲大型電信運(yùn)營(yíng)商O(píng)range就表示,從商業(yè)角度來(lái)看,目前最好的做法是對(duì)現(xiàn)有模型進(jìn)行微調(diào),而不是從頭開(kāi)始構(gòu)建自己的大模型或?qū)ΜF(xiàn)有的大模型進(jìn)行全面的再訓(xùn)練。Orange認(rèn)為,對(duì)“特定的”電信大模型的需求仍是一個(gè)需要探討的問(wèn)題。
因此,Orange并未將過(guò)多的精力放在構(gòu)建特定的大模型上,而是持續(xù)通過(guò)開(kāi)發(fā)自己與現(xiàn)有大模型的接口來(lái)探索通用大模型應(yīng)用。