立即捐款

《超越潛能》:當科技變成了唯一的神

《超越潛能》:當科技變成了唯一的神

批判科技發展帶來災難的電影實在多不勝數,例如《人工智能》、《智能叛變》、《謊島叛變》等,但最近在香港上映的《超越潛能》(Transcendence),所提出的概念嶄新,批判的涵蓋面十分廣闊,甚有啓發性,不單只讓觀眾反思人工智能,還討論到意識(consciousness)和生命究竟為何物,科技發展最終是否讓人變成了神?抑或是人類會被科技所操控呢?

(以下內容涉及劇透,敬請留意)

電影的前半部分拍得不錯,以文戲為主,還帶點文藝色彩。講述人工智能科學家Will Caster(Johnny Depp飾演)被反科技恐怖組織槍擊,在Will臨終前,他的妻子Evelyn與好友Max決定將Will的大腦上載到超級電腦中,將電腦與人腦結合成前所未有的超級人工智能,企圖讓Will繼續生存……

當Will成為了超越人腦和電腦的超級人工智能後,他漸漸成長為「神」。他掌握世間上一切資訊,再配合超強的分析和研究能力,不斷開發新的科技,例如醫治各種病人、加快植物生長、培植人體器官……最終更創造了「納米機械人」,透過無線網絡控制世間上所有物質,包括操控人類,讓Will變得無所不在,甚至連天氣也可以控制……無疑電影在中後段開始失控,突然變成了一部商業片味濃厚的《變形金剛》式電影,突然有不少動作場面,甚至有喪屍片的感覺。當中的科幻劇情過份誇張,進展得太快,導致說服力不足。

儘管電影拍得有點爛尾,但故事中的概念很有啓發性,值得觀眾討論,筆者選擇了以下兩個重點:

(一)將一個人的大腦內容上載到超級電腦之後,那部超級電腦還是否可以被當成是原先的那個人呢?

電影在問一個哲學問題:究竟甚麼是意識(consciousness)?意識可以被我們證明嗎?我們如何證明自己的身份呢?

在電影中,Will所發明的技術,能將大腦內的所有資料數碼化,包括記憶、情緒、性格、感情等,然後上載到超級電腦中,超級電腦會模仿大腦自行運算,與人類大腦無異。其實,上述這個做法有點像複製人,雖然沒有複製肉體,但將記憶和情緒都全整地複製,那部超級電腦的「意識」的確是Will的意識。最終,「人工智能Will」更創造出新的肉體,與之結合,究竟「那個人」是不是Will呢?

思考這些問題的同時,讓筆者聯想到一個經典的思想實驗「The Chinese Room」。假設一名只懂說英語的人士被困在一間密室,門上只有一個小窗口。他隨身帶著一本有關中文翻譯和會話程序的字典,他可以在紙條上寫中文,然後通過小窗口發出去,讓房間外的人都以為他懂得中文。這故事批判電腦和人工智能其實並非「智能」,只是根據程序去處理信息,但人腦其實又是不是另一形式的「程式運算」呢?

人類是會不斷成長和學習的,電影中「人工智能Will」的成長模式已超越人類。Will的大腦內容被上載到超級電腦之後,初時「人工智能Will」還尚算是Will的意識延續,因為只是搬字過紙。但當超級電腦開始運作,「人工智能Will」以極速的方式接收和分析資訊,不斷建立出超越人類限制的經驗,那已經不再是當初以人類作為載體的Will了。Will變成了一部有情緒的超級電腦,慾望與無限的權力結合使他腐化,成為了新世界的「神」。

(二)不斷發展科技,人類是要成為神嗎?

在電影初段的學術研討會,台下有人問Will:「你是不是想創造出神呢?」Will回答說:「人類不是一直都是這樣做嗎?」Will的答案其實沒有錯,人類社會科技不斷進步的同時,愈來愈多的事物受我們操控。例如發展醫療科技,就是要讓人類活得更長壽更健康,不斷延遲死亡。再看看我們日常生活經常出現的電燈、冷氣器、藥物、眼鏡、植物化學肥料、電話……通通都說明了科技在改善人類生活的同時,人類是在企圖操控和改變大自然的某些規律,科技發展本來就是一件違反自然的事情。

Will在中槍之後,曾在戲中說過一句經典對白「People fear what they don't understand.」若果因為違反自然而不發展科技,等於斬腳指避沙蟲,重點是人類應該如何有限制地發展科技?例如是要遵守哪些道德規範呢?「人工智能Will」所發明的技術,例如是讓盲人重獲光明、拯救傷者等,都是人類夢寐以求的醫療技術,但同時也是一個潘多拉盒子。當人類變得長生不老,就等於在衝擊整個社會制度,究竟是好是壞呢?實在是一件非常矛盾的事情。

一個硬幣有兩面,就算「人工智能Will」救人無數,更「偉大」到將污水變為潔淨的食水,將沙漠變成綠化帶,但他企圖操控人類的這一點,導致人類不能接受他的存在,因為每個人也有自由意志,沒有人或電腦有權操控別人。但假若「人工智能Will」沒有操控別人,完全受人類所控制,又是否能夠被接受呢?「人工智能Will」代表著一種巨大的權力,若權力過份集中於一少撮人身上,最終也會演變成腐化的力量,遺害人間。

若然記憶、意識和性格也可以被複製,生命概念將會愈來愈朦糊,究竟甚麼是生命?人工智能電腦和複製人的「生命」有沒有價值呢?假若生命的價值是建立於因為每個生命也是獨一無異的存在,那麼人工智能電腦和複製人的「生命」就是沒有價值的嗎?但他們也可能有自由意志、痛感和人性,與人無異,消滅他們是否不道德呢?當現代人類連汽車也無法完全安全地操控的時候,以人類現時的智慧和質素來說,似乎還未處理到上述極富爭議的難題,或許那就是現時科技發展不可觸及的地方吧?

淒美的愛情故事

如果你不想思考得那麼複雜的話,你可以將電影當成是一個淒美的愛情故事。Will在未死之前,其實只是一個醉心科學研究的科學家,從沒有想要為世界帶來甚麼實質改變,更將自己的家打造成不受無線網絡干擾的空間,帶著一點反科技的味道。其實,最渴望改變世界的人是他的妻子Evelyn,在Will臨死前,他提醒Evelyn不要迷失,因為他早已預料到「人工智能Will」的可怕。結局有點出人意表,原來「人工智能Will」是為了達成Evelyn的心願,才會研發出各種神一般的科技。一切都是因「愛」而起,儘管那只是電腦程式,但人類的愛情也只不過是生物化學的反應吧?