AI技術(shù)落地過程存挑戰(zhàn) UCloud用云計(jì)算賦能AI

（文頤/文）5月23日消息，如果說2017 年是人工智能技術(shù)爆發(fā)的“元年”，那么 2018 年則是人工智能技術(shù)的“落地之年”。那么，在AI技術(shù)實(shí)際落地的過程中，會(huì)遇到什么樣的瓶頸? 企業(yè)的人工智能之路如何走才能穩(wěn)健有力呢？近日，國內(nèi)領(lǐng)先的中立云服務(wù)提供商UCloud給出了答案。

在日前UCloud主辦的Think in Cloud 2018大會(huì)上，UCloud 高級(jí)研發(fā)工程師宋翔接受飛象網(wǎng)采訪時(shí)總結(jié)了AI的挑戰(zhàn)來自三大方面：一是基礎(chǔ)環(huán)境，在AI入門階段基礎(chǔ)環(huán)境是非常大的挑戰(zhàn)，涉及AI框架、算法庫、GPU技術(shù)庫、存儲(chǔ)等各種設(shè)備，各類交叉選擇之后的環(huán)境更加復(fù)雜，如何選擇適合自己的研發(fā)環(huán)境是一大挑戰(zhàn)；二是AI系統(tǒng)建設(shè)，這個(gè)過程中需要考慮算法兼容性、平臺(tái)擴(kuò)展性、分布式化、縱向擴(kuò)展、高可用以及容災(zāi)能力等問題；三是投入產(chǎn)出問題，如何用較少的投入得到較高的回報(bào)？如何通過調(diào)研精確需求，控制研發(fā)成本，如何降低資源成本和運(yùn)營成本，讓研發(fā)人員更關(guān)注算法，都是AI所面臨的挑戰(zhàn)。

如何應(yīng)對(duì)這些挑戰(zhàn)呢？UCloud認(rèn)為解決這些問題的核心方法就是實(shí)現(xiàn)平臺(tái)化，包括環(huán)境分離、分布式化、可擴(kuò)展性和資源共享四個(gè)方面。環(huán)境分離方面有兩個(gè)主要方向，一是通過容器的封裝把軟件和運(yùn)行環(huán)境隔離，把存儲(chǔ)和計(jì)算隔離，讓更多的存儲(chǔ)資源可以接入到AI環(huán)境中去；二是數(shù)據(jù)分離，因?yàn)閷?duì)AI來說，訓(xùn)練過程中的數(shù)據(jù)非常重要，只需要提供本地存儲(chǔ)的接口即可訪問各種數(shù)據(jù)層，實(shí)現(xiàn)良好的數(shù)據(jù)訪問。

同時(shí)，平臺(tái)化能做到良好的資源共享，例如通過UCloud的AI訓(xùn)練平臺(tái)和在線服務(wù)平臺(tái)，用戶想做AI訓(xùn)練，只需要把任務(wù)提交到訓(xùn)練平臺(tái)，就可以在平臺(tái)上自動(dòng)的完成任務(wù)，而無需要關(guān)心這個(gè)任務(wù)是否失敗、到底在哪臺(tái)機(jī)器上跑等一系列問題，可以大大簡(jiǎn)化AI算法人員使用平臺(tái)的復(fù)雜度；對(duì)于算法人員或業(yè)務(wù)人員來說，有了在線服務(wù)平臺(tái)，當(dāng)他實(shí)現(xiàn)算法之后，可以用這個(gè)平臺(tái)快速地部署自己分布式的在線任務(wù)，而無需自己搭建一個(gè)分布式的環(huán)境或服務(wù)。

也許有人會(huì)問，云服務(wù)商發(fā)力人工智能為哪般？為什么說云計(jì)算跟人工智能的落地有很大的關(guān)系呢？隨著云計(jì)算的發(fā)展，不同行業(yè)企業(yè)的數(shù)據(jù)生產(chǎn)和消費(fèi)都是在云計(jì)算平臺(tái)上進(jìn)行的。云計(jì)算就是為了提供計(jì)算能力而產(chǎn)生的。所以，天然來說，在云計(jì)算上做機(jī)器學(xué)習(xí)的訓(xùn)練和推理是非常自然的一件事情。

于是，我們看到UCloud推出了支持人工智能算法框架的大規(guī)模分布式計(jì)算平臺(tái)——UAI-Inference。UAI-Inference面向初創(chuàng)企業(yè)、傳統(tǒng)企業(yè)AI轉(zhuǎn)型而生，旨在提供易部署、易運(yùn)維、更安全以及多AI框架支持的海量AI在線服務(wù)節(jié)點(diǎn)，自動(dòng)實(shí)現(xiàn)負(fù)載均衡、擴(kuò)容縮容。按實(shí)際使用量計(jì)費(fèi)，普遍適用于常見的AI在線服務(wù)場(chǎng)景，如圖像識(shí)別、自然語言處理。

宋翔介紹說，UAI-Inference提供了類似Serverless的架構(gòu)，為用戶提供了“兩步走”的部署模式。首先，向用戶提供SDK工具包，內(nèi)含接口代碼框架、代碼和數(shù)據(jù)打包模板以及第三方依賴庫描述模板。用戶只需根據(jù)SDK工具包內(nèi)的代碼框架編寫接口代碼，準(zhǔn)備好相關(guān)代碼和AI模型以及第三方庫列表，就可以通過打包工具一鍵完成任務(wù)的在線部署。

任務(wù)打包完畢后，用戶可以通過UAI-Inference分布式的AI在線服務(wù)PaaS平臺(tái)進(jìn)行后續(xù)管理和維護(hù)。該平臺(tái)可以同時(shí)管理上萬個(gè)計(jì)算節(jié)點(diǎn)，并擁有自動(dòng)請(qǐng)求負(fù)載均衡、自動(dòng)資源管理的功能。用戶只需要將業(yè)務(wù)部署在平臺(tái)上，就無須操心其后續(xù)的運(yùn)維，也就是“免運(yùn)維”。

宋翔表示，云計(jì)算解決了系統(tǒng)運(yùn)維問題，它沒有解決應(yīng)用運(yùn)維的問題。Serverless架構(gòu)可以解決應(yīng)用運(yùn)維的問題，讓UAI-Inference變成以應(yīng)用為中心、以算法為中心的服務(wù)。