Facebook AI研究總監︰現在擔心出現「天網」太過早

Facebook AI研究總監︰現在擔心出現「天網」太過早
Photo Credit: Scott Lynch, CC BY-SA 2.0
我們想讓你知道的是

Facebook人工智能研究總監楊立昆認為,媒體上常見的AI威脅論言過其實,短期至中期內不可能出現像電影《未來戰士》般的情形。

大約三個月前,有傳媒報道指Facebook研究的人工智能(AI)「自行發展出秘密語言」,令研究人員要終止實驗。後來就有媒體(包括本網)指出,這些報道誤解了有關實驗,實際上並沒有報道所指那麼可怕,實驗終止亦不是因為「AI失控」。

當時Facebook人工智能研究(Facebook AI Research, FAIR)總監、機械學習專家楊立昆(Yann LeCun)就在Facebook上指出,有些文章的標題吸旨在引人點擊、內容煽動恐懼,根本不值得去回應及更正,但事情已發展得太過份,以致論文其中一位作者需要回應。

這次事件再次反映在社交媒體年代,很多傳媒都為追求流量、吸引眼球而變成標題黨,不少媒體只求迅速交出報道,只會直接翻譯外媒報道內容而不作查證。除此以外,事件也反映出對人工智能迅速發展的恐懼和擔憂。

Yann_Lecun
Future of Life Institute 影片截圖
楊立昆
從中了解媒體運作

昨日楊立昆接受《The Verge》專訪,再次被問及此事,他表示,一開始見到時只覺得好笑,但當引起話題、錯誤廣傳後,反應就變成︰「他們完全弄錯了!」

不過楊立昆仍然認為,事件對他們有教育意義,因為可以了解媒體如何運作,並以數種方法回應。他自己就先簡單發一則貼文,以輕鬆幽默方式回應。其後他們跟希望報道事實的記者討論該研究,也撰寫一些文章破解流言。

記者於是追問楊立昆,認為過去數年見到更多抑或更少這類誤解AI研究的報道。楊立昆認為媒體中人以至大眾,似乎都越來越察覺到這類標題黨式報道的本質。

他又說︰「以往你不會見到一篇關於AI的報道不配上『未來戰士』(Terminator)的圖片。過去一直是未來戰士,百分之百。現在開始變少了,這是好事。」

跟「真正有智能」的機器有一大段距離

不過楊立昆同時指出,有時候他仍然見到某些媒體完全誤解事實。他希望大眾了解到——正如他在公開演講時經常強調——人類要建造真正有智能的機器,前面還有漫漫長路。

現時我們見到的AI,包括在自駕車、解讀醫學圖片、戰勝圍棋世界玩軍等,都是非常狹窄的智能,有關的AI就是被訓練作特定用途。

AP_771087045354
Photo Credit: Lee Jin-man / AP / 達志影像
2016年3月,李世石跟AlphaGo對奕。

不少人把AlphaGo的發展視為邁向通用智能的重要過程,楊立昆認為這是錯誤的。他說︰「不會因為機器能在圍棋上贏人類,就會有智能機械人在街上行走。它(AlphaGo)甚至無助解決那個問題,兩者完全無關。其他人可能有另一些說法,但這是我的意見。」

他認為,目前的機械甚至不能像人類及動物一樣,學會理解這世界的一些基本事情。在特定範圍內,機器有遠超人類的表現,但整體而言,AI的一般智能甚至不如一隻老鼠。

機器未懂得建立「現實」的模型

在訪問中楊立昆指出,AlphaGo可以大量模擬圍棋對奕,最新的AlphaGo Zero幾日內就玩了數百萬局圍棋,這可能比起人類數千年內大師級的棋局更多。AlphaGo能夠做到這一點,是因為圍棋非常容易模擬,但你模擬現實世界時,不會比實際的時間快。

楊立昆認為唯一可突破上述限制的方法,是令機器能透過學習,建立對世界的內在模型,讓機器可以模擬得比實際時間快。可是他指現時的科學及科技,尚未能夠令機器建立世界的模型。

他舉例說,當一個人學習駕駛時,這個人腦內有個對世界的模型,從而知道當駕駛失控撞上樹時會發生甚麼事——而且這不是好事。即使在剛開始駕駛時,我們腦內已經有個足夠好的模型,令我們知道要保持車子在馬路上,不要衝下懸崖或撞上樹。

但楊立昆指如果純粹使用(AlphaGo亦有使用的)增強學習(reinforcement learning)技巧去訓練系統透過模擬器駕車,它要撞上樹4萬次才發現這不是好事。所以他認為,宣稱只靠增強學習是獲得智能的關鍵並不正確。

真正的危險不像《未來戰士》

正因如此,他相信很多人提出的問題——例如機械會否不受人類控制、統治人類——為時過早。楊立昆認為這不代表我們不應提出這些問題,只是當下以至中期而言不會有危險——AI研究有其他實際風險,但不會像《未來戰士》般。

除了楊立昆外,Google的工程高級副主席賈南德雷亞(John Giannandrea)早前亦反對宣稱AI會毀滅人類的炒作,明言完全不擔心「AI末日」。他同樣認為電腦很強大同時頗愚蠢,其真正的危險在於,如果我們提供有偏誤的數據去訓練AI,它們運行時便會帶有相同偏誤。

相關文章︰

參考資料︰

或許你會想看
更多『新聞』文章 更多『科技』文章 更多『Kayue』文章
Loader