近年來,大數(shù)據(jù)所帶來的挑戰(zhàn)推動了計算技術(shù)的快速發(fā)展,催生了分布式并行處理平臺Hadoop、軟硬件一體化數(shù)據(jù)庫服務(wù)器Exadata等一批新產(chǎn)品。對于電信運營商這樣的大型企業(yè)而言,需要思考如何應(yīng)用這些新技術(shù),解決在大數(shù)據(jù)時代背景下所面臨的挑戰(zhàn),從而提升企業(yè)價值。
數(shù)據(jù)處理面臨5個挑戰(zhàn)
當(dāng)前,電信運營商通過多年的信息化建設(shè),已建成各種各樣的業(yè)務(wù)系統(tǒng)和IT支撐系統(tǒng),而隨著業(yè)務(wù)規(guī)模、用戶需求的不斷提升以及移動互聯(lián)網(wǎng)應(yīng)用的快速發(fā)展,在數(shù)據(jù)處理上正面臨著各種挑戰(zhàn)。其存在的問題主要包括5個層面。
一是需要處理的數(shù)據(jù)量日益龐大,難以實現(xiàn)海量數(shù)據(jù)的高效存儲和訪問。電信運營商僅一個省公司一個月的計費清單量就多達(dá)數(shù)十億條記錄,使用傳統(tǒng)的數(shù)據(jù)處理方法效率往往低下乃至不可忍受。而運營數(shù)據(jù)的日報、月報和實時營銷等需求,更是令統(tǒng)計、分析、挖掘、營銷等系統(tǒng)不堪重負(fù)。
二是無法應(yīng)對高并發(fā)讀寫的需求。當(dāng)前的業(yè)務(wù)環(huán)境中,一些營銷優(yōu)惠活動,例如網(wǎng)廳的秒殺活動、iPhone首發(fā)優(yōu)惠辦理等,容易引發(fā)一些難以預(yù)估的短時間內(nèi)極端高并發(fā)讀寫需求,并往往達(dá)到每秒上萬次讀寫請求,這使得傳統(tǒng)技術(shù)難以承受如此巨大的負(fù)載。
三是數(shù)據(jù)模型擴(kuò)展困難。在目前激烈競爭的行業(yè)環(huán)境下,電信業(yè)務(wù)變化頻繁,部分?jǐn)?shù)據(jù)如客戶特征信息、客戶聯(lián)系方式等,經(jīng)常出現(xiàn)數(shù)據(jù)模型擴(kuò)展需求,對傳統(tǒng)的技術(shù)而言,數(shù)據(jù)模型的變更涉及的工作復(fù)雜而龐大。
四是需要處理的數(shù)據(jù)類型趨于多樣化,除了話單這樣的傳統(tǒng)格式化文本之外,還有圖片、音頻甚至視頻等,另外即使是文本,也可能是大段落的文本,難以進(jìn)行格式化處理。
五是大量的中小行業(yè)應(yīng)用服務(wù)器,一方面占用了相當(dāng)規(guī)模的硬件資源和維護(hù)工作量,另一方面對行業(yè)應(yīng)用快速發(fā)展時,傳統(tǒng)的體系架構(gòu)難以方便地實現(xiàn)橫向擴(kuò)展。
內(nèi)部:基礎(chǔ)設(shè)施完善
因此,應(yīng)用大數(shù)據(jù)技術(shù)解決當(dāng)前的各種挑戰(zhàn),對電信運營商有著重要意義。在此過程中電信運營商面臨著什么樣的機(jī)遇和挑戰(zhàn)?可利用SWOT方法(如圖所示)探知。
從企業(yè)內(nèi)部看,電信運營商具備IT基礎(chǔ)設(shè)施完善、資金和人員充足、信息獲取便捷等自身優(yōu)勢。電信運營商從80年代起進(jìn)行信息化建設(shè),目前已建成了業(yè)務(wù)系統(tǒng)、支撐系統(tǒng)等眾多信息化平臺,信息化基礎(chǔ)設(shè)施非常完善,積累了豐富的數(shù)據(jù)。運營商在信息化建設(shè)方面的投入資金每年都達(dá)數(shù)十億元,而且擁有龐大的IT研發(fā)、支撐和運營團(tuán)隊,能為大數(shù)據(jù)技術(shù)的研究、應(yīng)用提供資金和人力的保障。
另外,運營商作為信息服務(wù)的管道,是用戶享用信息服務(wù)的必經(jīng)之路,具備獲取各種信息的天然優(yōu)勢,能夠相對容易地獲取用戶行為數(shù)據(jù)。
當(dāng)然,運營商作為傳統(tǒng)企業(yè),在運作上相對保守,一般傾向于使用比較成熟、可靠的技術(shù),因此對新技術(shù)的研究力度不足,技術(shù)創(chuàng)新能力也有待提高。而同時,運營商作為大型的國企,企業(yè)組織在地域、業(yè)務(wù)和IT等維度的條塊分割比較嚴(yán)重,地域上劃分為全國、省和地市三個層級,業(yè)務(wù)部門劃分為政企客戶、公眾客戶、市場營銷、客服等多個部門,技術(shù)部門也劃分為業(yè)務(wù)網(wǎng)絡(luò)、無線網(wǎng)絡(luò)、支撐系統(tǒng)等多個部門,這些部門之間的互相溝通協(xié)作存在著一定的障礙,而大數(shù)據(jù)應(yīng)用往往要求從客戶的角度綜合統(tǒng)籌各種信息,一般都涉及跨地域、跨部門的協(xié)調(diào)。所有這些都是運營商應(yīng)用大數(shù)據(jù)技術(shù)時需要處理好的內(nèi)部不足。
外部:技術(shù)條件成熟
從企業(yè)外部環(huán)境看,大數(shù)據(jù)處理的軟硬件技術(shù)經(jīng)過近幾年的快速發(fā)展,已日益成熟。例如,針對關(guān)系數(shù)據(jù)庫模型過于簡單,不便表達(dá)復(fù)雜嵌套的需求以及支持?jǐn)?shù)據(jù)類型有限等局限性,從數(shù)據(jù)模型入手出現(xiàn)了高可靠、高可用、最終一致的非結(jié)構(gòu)化數(shù)據(jù)庫理論和相關(guān)產(chǎn)品;基于開源的分布式并行計算技術(shù),使用廉價的計算設(shè)備解決海量數(shù)據(jù)、極高并發(fā)、高可用性、高擴(kuò)展性等技術(shù)難題;采用軟硬件一體化設(shè)計技術(shù)提高數(shù)據(jù)處理效率;采用大型機(jī)x86虛擬化技術(shù)在兼容現(xiàn)有系統(tǒng)的同時,降低主機(jī)運營維護(hù)管理成本;采用FLASH盤等新型存儲技術(shù)提升IO吞吐量;采用云計算技術(shù)構(gòu)建資源池,提供面向多租戶按需分配的主機(jī)云、數(shù)據(jù)庫云服務(wù)等。
與此同時,近年來智能移動終端應(yīng)用快速發(fā)展,據(jù)《經(jīng)濟(jì)學(xué)家》雜志去年估計:目前人們儲存的數(shù)據(jù)足夠填充60000家美國國會圖書館;全世界有40億手機(jī)用戶(其中12%的人擁有智能手機(jī))已經(jīng)將他們自己變成了數(shù)據(jù)流;智能手機(jī)的數(shù)量以每年20%的速度增長,而傳感器數(shù)量的增長率為30%。所有這些都意味著數(shù)據(jù)極速膨脹,而用戶的信息化需求則日益增長。
另外,新浪、騰迅、百度等互聯(lián)網(wǎng)巨頭對大數(shù)據(jù)技術(shù)的探索,也為運營商提供了寶貴的參考例案。
可見,運營商應(yīng)用大數(shù)據(jù)技術(shù)具有技術(shù)日益成熟、用戶信息化需求日益增長和存在可供參考案例等不可多得的外部機(jī)遇。
當(dāng)然,在進(jìn)行大數(shù)據(jù)處理、提供數(shù)據(jù)服務(wù)的同時,也存在著如何界定和規(guī)避用戶隱私,如何解決用戶數(shù)據(jù)安全以及當(dāng)前部分互聯(lián)網(wǎng)企業(yè)已捷足先登,提供了主機(jī)云、數(shù)據(jù)庫云等服務(wù)的問題。
但總體而言,大數(shù)據(jù)背景下的電信運營商是機(jī)遇和挑戰(zhàn)并存,并且更多的是機(jī)遇。運營商在大數(shù)據(jù)技術(shù)研究和應(yīng)用已被互聯(lián)網(wǎng)行業(yè)拋離的趨勢下,必須緊抓有限的時間窗口奮起直追,避免徹底淪為管道的尷尬,真正轉(zhuǎn)型為綜合信息服務(wù)提供商。
作者:中國電信廣州研究院 高智衡 來源:通信世界周刊