banner.jpg)
人工智能是否會失控?如何防止人工智能對人類造成傷害?日前，在第十屆世界和平論壇大會上，中國科學院院士、清華大學人工智能研究院名譽院長張鈸就“安全的人工智能”這一主題發(fā)表了演講。他表示，由于現(xiàn)階段算法存在不安全、不可靠等風險，因此即便人工智能只是發(fā)展到初級階段，但仍存在不確定性和危險性。
張鈸還表示，雖然現(xiàn)如今不必擔憂有人利用智能機器人打造殺人武器，但人工智能被誤用、濫用也會導致“仿聲”“換臉”深度偽造的問題，這類技術往往以假亂真、難以分辨。而且由于技術難度小、懲治力度小，也大大降低了造假成本。
現(xiàn)階段人工智能是否威脅人類安全?
人工智能是否會失控呢?包括霍金在內的很多學者秉持的基本觀點是，如果人類一旦研制出有自我意識的超智能機器，那么人類將無法對它進行控制，這可能會對人類造成災難性后果。但目前人類是否能制造出超級智能機器在學術界還存在爭議，現(xiàn)階段無法回答這一問題。因此，對于人工智能的安全問題，張鈸認為不僅要有遠慮，更要考慮近憂。
現(xiàn)階段人工智能不會對人類造成威脅嗎?張鈸否認了這一點，他認為到現(xiàn)在為止，人工智能雖然只發(fā)展到初級階段，但實際上也已出現(xiàn)一些安全問題，原因在于現(xiàn)階段人工智能算法還存在不安全、不可信等風險。
張鈸表示，現(xiàn)階段給大家展示的人工智能的決策結果往往是經(jīng)過精心挑選后的最好結果。但實際上大多數(shù)情況下，一些人工智能很難給出合意的結果。他舉例說明了這一觀點:“當我問人工智能，人有多少只眼睛時?它第一次回應稱左眼100個，右眼99個；當我再次提問時，它又給出另一個回答稱，人有2.8萬個眼睛；如果再問它同一問題，它會說，經(jīng)測算白日里有4億顆眼睛，是夜里的20多倍�！�
“試想一下，如果我用這個系統(tǒng)幫助我做決策，那它可能會經(jīng)常做出錯誤的決策�！睆堚撜f。
數(shù)據(jù)安全也是目前面臨的重大安全問題。張鈸指出，當前大數(shù)據(jù)對人工智能產(chǎn)生了較大的影響。第一，數(shù)據(jù)呈現(xiàn)幾何級增長，而現(xiàn)在也傾向于搜集全部數(shù)據(jù)來代替數(shù)據(jù)采樣；第二，重視數(shù)量，而不是重視質量；第三，強調數(shù)據(jù)的關聯(lián)關系，而非因果關系。
張鈸認為這三種轉變給人工智能帶來了較嚴重的安全問題。2016年微軟曾推出一款聊天機器人，由于不重視數(shù)據(jù)質量，后來這一款聊天機器人發(fā)表了一系列種族歧視、性別歧視的言論。此外，目前有一種攻擊人工智能系統(tǒng)的方法——“數(shù)據(jù)下毒”，通過為人工智能提供錯誤的訓練數(shù)據(jù)影響人工智能。
深度偽造聲音、面貌，造假代價低、真假難分辨
針對防止人工智能被誤用、濫用的問題，大多數(shù)人可能想得比較長遠，比如利用智能機器人打造殺人武器。但實際上，當下人工智能也可能被濫用；如果被濫用，后果也極為嚴重。
張鈸介紹了深度偽造這一問題，他指出現(xiàn)階段用人工智能算法來偽造視頻、照片、語音已不存在技術難題。為了更生動地闡明這一點，他在會議上播放了某主播的原聲與合成音。記者發(fā)現(xiàn)，這兩個聲音極為相似，幾乎難以識別。
張鈸表示，這兩個講話有一個是假的，一個真的，很難辨別。于是我們用機器判定，但兩個機器的檢驗結果卻都是錯誤的。第一個檢驗結果認為A是假的，B是真的，第二個檢驗結果是兩個都是假的。但實際上A是真的，B是假的。
“試想一下，如果將來你沒講過的話，被別人造謠為你講過的，而且后期技術也難分辨真假，那這對社會的危害是極大的，因此對于這一問題各方都應重視�！睆堚撜f。
除了聲音以外，“換臉”技術也足以以假亂真。張鈸談到通過換臉技術可以把視頻中的“臉”置換，而且這一技術非常容易，但后期卻很難判斷真假。“原來視頻上的人不是你，把你的臉放上去，你沒做過的事情也歸你了�！�
張鈸還表示，現(xiàn)在造假代價太低，很難找到始作俑者，而且懲治力度也較低。
如何防止人工智能出現(xiàn)失控的狀態(tài)?
科幻作家阿西莫夫曾提出了機器人三原則。第一，機器人不能傷害人類，而且在人類受傷害時不能袖手旁觀；第二，機器人必須服從人類的命令，除非這個命令違反了第一個原則；第三，機器人要保護自己不受傷害，但是不能違反前兩個規(guī)則。
張鈸表示，但由于現(xiàn)階段機器人行為是不可預測的，因此我們不知道這一行為是否會傷害到人類，因此也很難去執(zhí)行這一原則。對此，他重申要“發(fā)展第三代人工智能”。第三代人工智能的中心思想是以人類的安全為出發(fā)點，為人工智能提供了安全滲透、評估、加固、防火墻等方法，發(fā)展可信、可靠、可擴展的人工智能。
“我們現(xiàn)在提的方案很簡單，就是把人類的智慧加進去。人類的智慧是什么?知識�，F(xiàn)在數(shù)據(jù)驅動的方法只強調數(shù)據(jù)、算法、算力是不夠的，還必須要把知識加進去�！睆堚撜f。
張鈸呼吁:“如今發(fā)展安全的人工智能已是當務之急。作為人工智能研究者，我們必須把精力集中在發(fā)展以人類安全為核心的安全的人工智能。我也希望全世界可以團結起來，通過國際合作來讓技術服務人類需要，讓人工智能健康發(fā)展，造福全人類。”
