banner.jpg)
相關(guān)專題：
互聯(lián)網(wǎng)不斷進化，人工智能迎來一波新浪潮�；ヂ�(lián)網(wǎng)會變成天網(wǎng)嗎？人工智能會超越人類嗎？
文 |劉鋒
《終結(jié)者》電影中，人工智能發(fā)生突變，控制互聯(lián)網(wǎng)形成”天網(wǎng)”并開始摧毀世界。
另一部著名科幻電影《黑客帝國》則講述了一名年輕的網(wǎng)絡(luò)黑客尼奧發(fā)現(xiàn)看似正常的現(xiàn)實世界實際上是由一個名為“矩陣”的超級人工智能系統(tǒng)設(shè)計和控制，這個超級版的”天網(wǎng)“不但控制了機器人，也控制了人類，讓人類大腦相連，生活在一個虛擬的但看似真實的世界里。
▲《黑客帝國》海報科幻預(yù)言的實現(xiàn)，崛起的超級智能
關(guān)于互聯(lián)網(wǎng)進化為“天網(wǎng)”的題材被很多科幻小說和電影題材以不同方式表現(xiàn)出來，成為人類一直揮之不去的夢魘。
科幻作品的意義在于可以跳過科技進步的天塹，直達可能的未來世界，如今人類興奮于人工智能的興起，恐慌于人工智能是否超越人類時，一個更為龐大和令人驚嘆的超級智能正在崛起，科幻成真的現(xiàn)實逐步到來。
人類群體智慧以云群體智能的形式成為了互聯(lián)網(wǎng)的“右大腦”，設(shè)備的機器智能以云機器智能的形式形成了互聯(lián)網(wǎng)“左大腦”。作為基于互聯(lián)網(wǎng)大腦架構(gòu)形成的超級智能，它的未來會不會真的演變成“天網(wǎng)”、“矩陣”？這是一個值得思考和警惕的問題。
互聯(lián)網(wǎng)大腦能否演變?yōu)椤疤炀W(wǎng)”？
如果我們仔細觀察一下互聯(lián)網(wǎng)大腦的構(gòu)成和運轉(zhuǎn)情況，就可以看出關(guān)鍵風(fēng)險點主要集中在一個地方，“不斷發(fā)育成熟的互聯(lián)網(wǎng)運動神經(jīng)系統(tǒng)”。
回想一下互聯(lián)網(wǎng)的發(fā)展歷程，在1969年到1990年的21年中，互聯(lián)網(wǎng)主要連接了科研機構(gòu)、軍事機構(gòu)和政府機構(gòu)的計算機，人類通過互聯(lián)網(wǎng)進行科技軍事政治的信息分享與資料保存，這時的互聯(lián)網(wǎng)對現(xiàn)實世界的影響還很小。
1990年到2010年的20年中，隨著萬維網(wǎng)的確立，新聞、電子商務(wù)、社交網(wǎng)絡(luò)、博客、音樂、游戲等互聯(lián)網(wǎng)應(yīng)用蓬勃發(fā)展，數(shù)十億的人被連接到互聯(lián)網(wǎng)上。這時的互聯(lián)網(wǎng)對人類依然沒有值得警惕的危險性。
但變化還是在悄然發(fā)生，隨著互聯(lián)網(wǎng)線路的不斷升級，傳輸速率加快，21世紀以來，越來越多的攝像頭、聲音傳感器、溫度傳感器，濕度傳感器被鏈接到互聯(lián)網(wǎng)上，互聯(lián)網(wǎng)已經(jīng)開始從虛擬世界的建設(shè)邁向與現(xiàn)實世界的關(guān)聯(lián)上。不過這時的互聯(lián)網(wǎng)對于現(xiàn)實世界依然是安靜和安全的。
危險的苗頭在2012年以后逐步顯現(xiàn)，隨著工業(yè)4.0、工業(yè)互聯(lián)網(wǎng)、無人汽車、3D打印、智能制造的興起，無數(shù)的智能汽車、無人機、工業(yè)機器人、家庭服務(wù)機器人、辦公設(shè)備被連入到互聯(lián)網(wǎng)上，互聯(lián)網(wǎng)大腦的運動神經(jīng)系統(tǒng)開始加速發(fā)育了。
還記得《速度與激情8》中黑客通過互聯(lián)網(wǎng)控制數(shù)百臺無人汽車追逐并試圖殺害外交官嗎？這已經(jīng)不再是科幻的想象。
英國《泰晤士報》2009年12月18日報道，伊斯蘭武裝分子使用廉價的網(wǎng)上黑客軟件，成功侵入美國中央情報局（CIA）的“捕食者”無人機攻擊系統(tǒng)。
盡管武裝分子目前仍無法使用黑客軟件遠程遙控“捕食者”無人機，但他們卻可以觀看無人機傳給美國控制中心的實時監(jiān)控畫面。這個案例突出顯示了互聯(lián)網(wǎng)運動神經(jīng)系統(tǒng)未來的安全風(fēng)險問題。
▲《速度與激情8》海報互聯(lián)網(wǎng)大腦的安全風(fēng)險
從廣義上說，任何鏈接到互聯(lián)網(wǎng)上可以移動或?qū)ΜF(xiàn)實世界進行改造的設(shè)備都可看做是互聯(lián)網(wǎng)大腦的運動神經(jīng)系統(tǒng)，當(dāng)這個系統(tǒng)出現(xiàn)問題時，可以產(chǎn)生出無數(shù)令人不寒而栗的場景。
例如水庫的大壩閘門因為控制程序浮點數(shù)溢出，突然將閘門保持關(guān)閉改為迅速提升，從而導(dǎo)致大壩突然放水，造成下游重大水災(zāi)；還有就是被互聯(lián)網(wǎng)云端控制的數(shù)千臺機器人由于控制它們的互聯(lián)網(wǎng)云端AI程序出現(xiàn)BUG，導(dǎo)致混亂的運動和操作，對周圍的工人造成傷害。
更為嚴重的是，聯(lián)網(wǎng)的核武器被遠程的黑客控制或由于自身的程序錯誤，發(fā)生科幻小說里“天網(wǎng)”做出發(fā)射攻擊行為。雖然這個事故不像“天網(wǎng)”那樣，是AI產(chǎn)生敵對意識導(dǎo)致，但其后果和影響是一樣的。
因此可以看出在今天的現(xiàn)實世界，互聯(lián)網(wǎng)大腦產(chǎn)生威脅人類安全的風(fēng)險點，主要發(fā)生在互聯(lián)網(wǎng)運動神經(jīng)系統(tǒng)的運行過程中，有兩種風(fēng)險產(chǎn)生情況。
第一種是云機器智能中的AI程序特別是AI巨型神經(jīng)元程序出現(xiàn)BUG，導(dǎo)致的重大事故。上面談到大壩突然防水、工業(yè)機器人失控、核武器發(fā)射都屬于這一類。
第二種是黑客、野心家或者是沒有受過專業(yè)訓(xùn)練的操作者對互聯(lián)網(wǎng)運動神經(jīng)系統(tǒng)進行操作導(dǎo)致的重大災(zāi)難，這是一種更為常見和更為嚴重的類型，包括我們前面提到的黑客攻擊醫(yī)院的醫(yī)療設(shè)備、敵方人員接管無人機、智能機器人、航空器材等等。
對于這一類風(fēng)險，如何區(qū)分哪些是破壞分子的角色，哪些是正常操作，在監(jiān)控和防范上要更為復(fù)雜和困難。阻止敵對力量、破壞力量對互聯(lián)網(wǎng)運動系統(tǒng)的侵入和使用，將是人類未來持續(xù)博弈的過程。
互聯(lián)網(wǎng)大腦進化，人類參與和控制不可或缺
應(yīng)該說這一輪的人工智能熱潮本質(zhì)上依然是互聯(lián)網(wǎng)進化過程中的又一次波浪式高潮。它的產(chǎn)生離不開互聯(lián)網(wǎng)之前應(yīng)用和技術(shù)為人工智能新爆發(fā)奠定的基礎(chǔ)。
不過這一次人工智能浪潮具有與以往不同的特點，人工智能和機器人不再是一個個單獨的個體，而是通過與互聯(lián)網(wǎng)的大數(shù)據(jù)、社交網(wǎng)絡(luò)、云計算結(jié)合，形成了互聯(lián)網(wǎng)的大腦模型。
這個類大腦架構(gòu)不但擁有更為豐富的知識，更為強大的計算能力；而且還深入到人類生活的方方面面，譬如路邊的攝像頭、家庭的服務(wù)機器人、每日陪伴我們的手機等。
面對這個龐大的超級智能，單個的人產(chǎn)生了巨大的壓力感和無力感，也許這是今天人們擔(dān)心互聯(lián)網(wǎng)變成天網(wǎng)，人工智能超越甚至控制人類的根本原因。
從互聯(lián)網(wǎng)大腦模型的形成可以看出互聯(lián)網(wǎng)進化的動力源泉主要來自人類的群體智慧和機器的云端智慧，與“天網(wǎng)”、“黑客帝國”不同的是，離開了人的參與，互聯(lián)網(wǎng)的左大腦-機器云端智慧并不具備獨立的智慧和進化能力，它將會逐步枯萎。
而互聯(lián)網(wǎng)的右大腦-人類群體智慧是驅(qū)動互聯(lián)網(wǎng)前進的核心動力。人保持自己的主動性和能動性，是互聯(lián)網(wǎng)大腦的關(guān)鍵組成部分，而不是受控于互聯(lián)網(wǎng)大腦的奴隸。
互聯(lián)網(wǎng)雖然在形態(tài)上形成類腦巨系統(tǒng)結(jié)構(gòu)，但它依然是人類參與和控制的系統(tǒng)，它就是人類自己的延伸，是人類社會的一部分，因此，科幻電影中”天網(wǎng)”、“矩陣”、“奧創(chuàng)”與人類的對抗，在現(xiàn)實中歸根結(jié)底依然是人類之間的斗爭。
