在擔心被人工智慧宰制時,我們早已被其它「毫無人性」的東西擺佈了

在擔心被人工智慧宰制時,我們早已被其它「毫無人性」的東西擺佈了
Photo Credit: Corbis/達志影像
我們想讓你知道的是

人工智能的進步勢不可擋,值得我們思考的不是如何反轉此一趨勢,而是如何透過安排一個不鼓勵歧視、宰制與惡性競爭的合宜社會體制,來回應它的現實衝擊、以及它在我們潛意識裡植下的反烏托邦噩夢。

經過幾天的激烈賽事之後,人工智能AlphaGo以4比1的成績擊敗南韓棋手李世石。這場比賽不只吸引了熱愛圍棋、熱愛人工智慧議題的人,也有更多人是被「捍衛人類尊嚴」的噱頭引來湊熱鬧:人工智能再這樣快速進化下去,它們超越、取代、乃至奴役人類的日子是否不遠了?從AlphaGo拿下首勝開始,諸此科幻作品中常見的預言又再次成為熱門話題。

一方面,這種可能性確實不該等閒視之,這在學界也已有若干討論。我一位最關注這場棋賽的友人,在學校裡的研究興趣叫作「transhumanism & posthumanism」(超人類主義與後人類主義),其旨趣正是在探討當科技的角色從「輔佐人類」(例如眼鏡與義肢)晉升為「強化人類機能」(例如提升體能、智能的科技)、甚至「改寫人類定義」(例如半獸人或半機械人)的時候,所造成的衝擊。人工智慧從協助人腦到與人腦競爭的進程,同樣是該領域的常見主題。

但是另一方面,AlphaGo的驚人下棋能力,大概也只是重新提醒了這類議題的存在。至於人工智能在圍棋這種高難度技藝上擊敗人類,此一事件本身卻並沒有為此議題提供新的啟示。以下我想簡單回顧一下「人工智能威脅論」的論點,並且試著說明為何AlphaGo的成就暫且不會令這些論點更加可信。

電腦奴役人類?

「人工智能威脅論」最悲觀的版本,就像《機械公敵》或《駭客任務》等科幻電影所描繪的那樣:人工智能進化到超乎人類控制之後,出於某種動機而開始統治人類。但「某種動機」或許就是疑點所在。幾位評論者(例如周偉航李開復等)談到AlphaGo時都提到一個論點:AlphaGo沒有辦法思考意義、產生感情,所以它和現存的各種技術物一樣,仍然只是一種工具性的存在。

人想要統治、奴役別人有各種理由,比方說爭取財富、名聲與權力的慾望,或者想要解決社會問題的理想抱負等等。然而這些動機在AlphaGo所展現的人工智慧當中都還不存在:它沒有處理慾望或理想抱負的能力(基本上,它根本沒有性格可言)。

況且,它只要有電有網路就能運轉,也不會因為麵包、健保或投票權之類的問題跟人類產生矛盾,統治、奴役人類對它有什麼好處呢?AlphaGo的出現只是再次確認了人工智能的潛能可觀,但是單憑強大的運算能力,並不足以構成征服人類的理由。

反之,如果這幾場比賽發生的事情,並不是AlphaGo以精準的運算擊敗了人類玩家,而是它展現了某種精準「以外」的特質,例如因為領先而大意、因為緊張而失誤等等,在那種情況下,我們才開始有理由要為人類與人工智慧共存的未來感到擔心。

但如果人工智能精進各方面智識素養的能力,都跟它學習下棋的能力一樣強,那麼屆時我們還是有保持樂觀的權利:畢竟,從歐洲的新納粹與美國的「紅脖子」(redneck)的低教育程度來看,打壓異己的法西斯主義、排外主義只會對一定智識水平以下的人有吸引力——所以先別急著絕望!等到電腦終於聰明得超出人類控制之際,它們或許已經聰明到不想透過迫害人類來解決問題了。

Photo Credit: Corbis/達志影像
電腦衝擊到人類的經濟生活?

史學家哈拉里對AlphaGo的評論,則呈現了電腦威脅人類的另一種想像:人類敵不過人工智能的競爭,在電腦沒有傷害人類的惡意之下,人類的生活資源依舊受到了競爭與排擠。這種可能性合理多了,而且有先例可循:許多比人工智能更低階的科技,都曾引發過經濟衝擊的恐慌。馬克思曾論證過資本家為了增加利潤而進行技術革新,結果新技術的普及反而會壓低利潤率,逼使資本家加緊剝削工人。

撇開太艱澀的理論不談,技術突破的經濟威脅即便用直覺聯想,也能很真實地感受到:它顯然會造成其它未掌握尖端技術的企業,不敵競爭而發生虧損;非技術的工人會被取代而失業;技術工人則必須駕馭日漸複雜的生產技術。那麼,AlphaGo的表現象徵著電腦所能執行的任務更上層樓,這是否意謂著技術對經濟的衝擊亦將進入新一篇章呢?

這類論點不禁令人想起工業革命時,工人砸毀紡織機器的「盧德運動」。然而盧德運動已經是距今數百年前的事,在那之後,縱有更多傳統產業被新技術取代,新技術倒也不斷激發新工作,於是全球的就業人口不減反增,資本主義經濟則時常動盪卻還是屹立至今,「人口過剩、資源不足導致經濟崩潰」之類的馬爾薩斯式預言從未實現。

另一方面,害怕人工智能的人也犯了盧德運動的錯誤:把人與人(駕馭技術的人與被技術威脅的人)之間的矛盾,倒映在全人類與技術物的關係上。實則,如果技術物對人們的生活構成威脅,重點從來就不是它們太先進發達了,而是它們被統治者拿來控制人民、被資本家拿來剝奪工人。比起阻止人工智能繼續進步,我們更需要的是整頓它普及之後即將投身的社會關係、確保它不會被人濫用。

小結

事實上,相較於這些把技術物給擬人化的虛構威脅,把(應當充滿人性的)社會給物化了的威脅,對我們而言或許才是更近在眼前的議題。人們擔心被人工智慧這種「毫無人性的」東西給宰制的未來,然而某方面來說,我們現在早已被科層組織與經濟學模型這些「毫無人性的」東西所擺佈了。

現代的統治機器雖然是由人類組成,但其運作卻是建立在標準流程與科學定律上,並且只有在能接受民主監督的範圍裡,才會受到一點人性的挹注。再多的自動化、電腦化、人工智慧化,能造成的「去人性化」或許已經非常有限了。

而這能帶出我想為上述討論下的註腳:讓我們想想對人工智能議題的思辯,能為自己所處的社會帶來哪些反思吧。以上篇幅都是為了論證人工智能目前還沒有什麼嚴重威脅可言,但這種威脅論之所以仍有討論價值,是因為每種思潮必然藏有所屬社會的線索,也就能成為回頭審視當代社會時的靈感來源。

新浪網的一篇評論引述了Facebook人工智慧研發人員Yann LeCun對人工智慧威脅論為何受歡迎的解釋:「有些人是因為對人工智慧的原理不理解而導致恐懼,有些人是為了個人名望而宣揚人工智慧威脅論,有些人則是為了商業的利益推動人工智慧威脅論。」

作為本文結尾,我認為可以在此添上第四個理由:亦即,我們其實是將自己對各種社會問題的焦慮(異己統治者、政治迫害、競爭壓力、人性淪喪)投射在人類與人工智能之間的關係上——看看人工智能在威脅論中的形象,那簡直是社會菁英的負面化身:它各方面的條件都勝過你我,更糟的是,它還有可能歧視我們、搶我們的工作、甚至統治我們。

人工智能的進步勢不可擋,值得我們思考的不是如何反轉此一趨勢,而是如何透過安排一個不鼓勵歧視、宰制與惡性競爭的合宜社會體制,來回應它的現實衝擊、以及它在我們潛意識裡植下的反烏托邦噩夢。

責任編輯:孫珞軒
核稿編輯:翁世航

或許你會想看
更多『評論』文章 更多『社會』文章 更多『呂昆霖』文章
Loader