《雷霆救兵》的道德思考、無人駕駛車難題、後記—講座補遺(下)

《雷霆救兵》的道德思考、無人駕駛車難題、後記—講座補遺(下)
Photo Credit: Saving Private Ryan / IMDb
我們想讓你知道的是

繼上篇探討「模擬真實版」電車難題的道德思考,作者再以電影及無人駕駛車難題,提出不同角度的道德反思。

前篇:瘋狂實驗:親身試一次「電車難題」,他們會如何抉擇?—講座補遺(上)
難道電影中Tom Hanks是徹頭徹尾的效益主義者?
MV5BMTM5MzI1MDE5Nl5BMl5BanBnXkFtZTcwNDM3
Photo Credit: Saving Private Ryan / IMDb

不如,我們暫且放下那個曾經苦惱千萬人,又令一些人捉錯用神的「電車難題」,改談一齣電影,今年適逢電影《雷霆救兵》(Saving Private Ryan)20周年,如果細心留意的話,湯漢斯(Tom Hanks)飾演主角Captain John H. Miller有一段對白簡直是經典道德教材:

Do you know how many men I’ve lost under my command?

……Ninety-four.

But that means I’ve saved the lives of 10 times that many, doesn’t it?

Maybe even 20, right? 20 times as many?

And that’s how simple it is.

That’s how you rationalize making the choice between the mission and the men.

This Ryan (had) better be worth it.

He’d better go home, cure some disease, or invent a longer-lasting light bulb or something.

我們很容易理解,Captain Miller之所以滿腦子計較死了多少部下、殺了多少敵人、救回多少國民,一個人能為社會帶來多大福祉(拯救Ryan的價值),並不是因為他是個麻木不仁的效益主義者,事無大小都在「計算」生命數量,而是他的「處境」——戰爭,這個處境迫使他如此思考,受部下的怨言影響,同時思考付出的犧牲,軍事任務的價值,眾多念頭在腦海盤旋交戰,對於身陷戰地的人來說,可謂合情合理(還有一幕,狙擊手Jackson表示欲親手殺掉希特拉一人,終結這場犧牲無數性命的戰爭)。

photo_2018-07-25_13-30-34
Photo Credit: 照片由作者提供

一如邱吉爾帶領英國抗擊納粹德軍時,為了應付侵略者,經常盤算如何減少人命傷亡、撃潰敵人,早日結束戰事,幾乎沒有人在戰爭情境中,斥責這類想法,或看相關電影後厲聲批評。

然而,在日常討論之中,若話題牽涉一些道德理論或原則時,有些人經常不重視「情境」,不重視考慮在「甚麼情況之下」運用哪些原則「比較合適」,更慣常的思維,是先站在認為鐵定正確的某個原則、某個主義,誓死捍衛,猶如手執一把「光明神聖之尺」,量度塵世間的一切,不分任何情況皆可應用,不會區分到底是「危急狀況、戰爭狀態、極地高峯」等特殊情況,抑或是一般情況,總之,凡有言論或做法違反那套價值標準,即視之人渣,斥之做事殘忍。

如何平衡理論與實踐,最考驗人的理性和智慧
Slide10
Photo Credit: 作者提供

神經科學家格林(Joshua Greene)曾參與一項研究,他發現從事公共衛生領域的專業人士,他們回答道德抉擇時,說法大多圍繞制度、社會整體福祉(傾向效益主義);至於前線醫生,他們的說法則大多圍繞病人自身的權益(傾向義務論)。

我們可以設想,假如有人身兼兩職,不但在政府處理重大公共衛生政策,同時是私家診所醫生為人們診症;那麼,我們認為此人最負責任、最符合道德的做事方式,應該是按照「義論務」抑或「益效主義」?

相信任何理性又通達事理的人,立即察覺這問法十分不妥,為甚麼硬要二擇其一?為甚麼要無分任何情況,必須一以貫之?不是由做甚麼事去判斷那套原則比較合適嗎?有必要煩惱嗎?

當聰明人以為道理太過平常,實在無須多談的時候,現實卻告訴我們,並不難碰上「僵化、死硬」看待各類原則、理論的人,偶爾叫人心寒,更可能「好心做壞事」卻不自知。或者換個角度,我們想一想以下問題:

(假設)一旦全球再次重演第二次世界大戰,納粹德軍步步進逼,你身處英國,眼前有兩位政治人物可擔任領袖,一位宣稱不管是和平日子或是面對戰事,他都會絕對貫徹「義務論」的價值原則處事;另一位跟邱吉爾的處事作風完全相同,你會選擇哪一位作為領袖?你相信哪一位的決策會比較「理性」?

談論無人駕駛車難題,不再能視為思想小遊戲
Slide65
Photo Credit: 作者提供

現在,我們回到與「車」相關的討論,這次不談虛擬的電車難題,改談「無人駕駛車難題」。

2012年,美國認知科學家蓋瑞.馬庫斯(GaryMarcus)在《紐約客》(The New Yorker)提出了以下情境:

一輛載滿了乘客的自動駕駛車,高速行駛在高架橋上。突然一輛載了很多孩子的校車(失控)從對向車道開過來。如果自動駕駛車不改變行進路線,就會迎頭撞上校車,使許多孩子失去生命。

如果自動駕駛車緊急轉向,校車上的孩子就能得救。但是,自動駕駛車就會從高架橋上摔下去,車上乘客就此死亡。我想知道,自動駕駛車在這種狀況下該怎麼選擇?

即使你向來把「電車難題」看作是思想小遊戲,無須認真,連回答的氣力也可省掉,可是,上述問題不再一樣,至今苦惱著全球許多專家、車商。

因為當有朝一日無人駕駛科技發展非常成熟,已達「第五級」(level 5)的層次,再無須車上任何人接管駕駛,那麼,主宰車輛反應的演算法承擔了一切責任,變相代替人類進行「道德抉擇」。

Screen_Shot_2018-07-26_at_7_35_34_PM
Photo Credit: The New Yorker截圖

這樣的問題或一時難有鐵定答案,或難有廣泛共識,不過,目前社會大眾如何取態,倒有其參考意義。去年底,科技博客David Silver談論USA Today的相關報導,美國加州大學心理學助理教授Azim Shariff扼要交代一項調查,受訪者一般會認同若無可避免發生交通意外,無人駕駛車應當以減少人命傷亡為依歸,儘管這樣極可能犧牲車內的少數人(有如此想法很正常);然而,弔詭的是,人們又不欲購買傾向犧牲車上的乘客,務求拯救多數人的無人駕駛車(掙扎出現了)。

甚至有人提出一系列更頭痛的問題,如果將來技術先進到一個地步,可以判辨車內不同座位承受的風險程度,一旦意外發生,應該擺哪位置的人承受更高風險?又,不管任何情況兒童的生存權益應該優先嗎?還有,90歲老人與在職專業人士應如何取捨呢?另外,牽涉其他動物又如何?

道德抉擇的背後,同時是「生命何價」的問題
Slide78
Photo Credit: 作者提供

在筆者眼中,這些科技倫理難題,同時是「生命何價」的問題。至少,當人們站在公共安全角度思考問題時,抽離個人安危不談,一般人都會同意所有車子應以「拯救最多生命」為依歸,「這情況」之下按效益主義抉擇,並無不妥,一如普遍人回答「轉轍器難題」(switch dilemma)的判斷。

另一方面,又如經過改版的電車難題般,假如抉擇的範疇能夠控制和收窄,能掌握一個人的年齡、職業或家庭背景時,你難以聲稱抉擇的情況絲毫沒有改變,譬如,你可以設想將來加拿大政府立例,上至總統下至一般乘客,全城共享同一型號、同一系統的無人駕駛車,那麼,是否一旦發生意外,總統身處座位所承受的風險,相關演算法真的無須作出特殊考慮?(雖然感覺荒謬,但的確可以這樣設想不同情境)

也許,我們雖然對這些問題未必能下定論,不過,思考過程往往更加重要。

不管怎樣,誠如筆者在半年前的文章總結,自哲學家菲莉帕.芙特(Philippa Foot)在1967年《牛津評論》(Oxford Review)首次提出了「轉轍器難題」初版,至今數十年,全球仍有人認真參與思考難題,執著箇中反映的是非對錯,希望了解自己如何判斷這類道德抉擇,卻可能困在一些抽象理論之中,未覺察令人困惑之處,是「魔鬼在情境中」。

最後,且撇開各類難題,歸於人生智慧。我們必須緊記前篇《國王的新衣》可供我們提煉的反思,尤其,獨立思考其中一個重要態度,是務求先了解更多,再嘗試作出判斷,面對任何難題或處境時,先追問更多具體細節,逐一細問擺在眼前的是甚麼,可以的話,甚至追溯一切從何而來,為何演變成當下的樣子,再問最重要的部分是甚麼。

當社會愈多人容忍自己退一步、停一停,遇有問題,腦海即浮現一張清單,追問如果要在清單寫上自己「目前所知」的東西到底是甚麼,再去判斷或回答一個問題,那麼,這個社會的騙子可能要考慮移民了,他們不再能佔便宜,因為受人蒙蔽、自以為是的國王愈來愈少,而心眼明透的小孩,不管騙子口中說出的理論再多、再妙、東拉西扯、顧左右而言他,這位小孩總會摸索出事情真相;至少,小孩會追問詭辯者,一件看不見的透明神奇衣服,此說尚且可忍,但連保暖的質料也完全觸碰不到,實在「是可忍,孰不可忍」,講多無謂,怕冷啊!

【後記】
12799333_10156627298555187_7316430282686
Photo Credit: 照片由作者提供

在上星期講座開始之前,趙子明博士問我為何很少談論自己的事,大意是指數年來累計的作品篇章這麼多,卻鮮有交代我的思想世界與心路歷程。確實,這數年來是悲喜交集的歲月,世界觀似有翻天覆地的改變,在尋求真知的路途上有過很大犧牲,或許,合適的時候會為此分享更多,也談談我有意對「統合力」三字賦予新的思想意義。

這次講題才讓我連帶記起,數年前跟Michael Sandel談論社會道德、科學與人性議題,在離開酒店之前還觸發個小話題,他好奇我對「電車難題」的想法是怎樣,可惜沒時間多談下去,而當日我心中的思想框架,再經過時間沉澱之後,大致如此。

延伸閱讀:

前篇:瘋狂實驗:親身試一次「電車難題」,他們會如何抉擇?—講座補遺(上)

  1. 法學教授提出聞名奇案:被困山洞為免餓死,隨機吃掉一人可以嗎?
  2. 「是你見死不救」(上)——極端情境下食人、殺嬰未必有錯?
  3. 「是你見死不救」(下)——極端情境下食人、殺嬰未必有錯?
  4. 是誰殘忍?這位法官在判案之前,參考了著名的「電車難題」
  5. 惡搞「電車難題」facebook專頁火速走紅:一個玩爛後的啟示
  6. 惹火的道德心理學(上)︰科學可以研究道德?
  7. 惹火的道德心理學(下)︰你未夠善良

核稿編輯:周雪君

或許你會想看
更多『評論』文章 更多『教育』文章 更多『王陽翎』文章
Loader