即便有完美的人工智慧,依然要相信不完美的人
September 10th, 2022

本文包含大量《Cyberpunk 2077》德拉曼支線劇情,請斟酌閱讀。

其名為德拉曼

在遊戲《Cyberpunk 2077》的「力挽狂瀾」任務中,德拉曼計程車公司的老闆德拉曼打來一通緊急電話,告訴我他受到病毒入侵,請我進入他的總部並重置他的核心。

德拉曼公司提供武裝計程車服務,讓客戶在乘車路途中不受任何人身安全威脅。車上甚至配有緊急維生設備,讓重傷的客戶能撐到醫院。如果你已深入險境,這台防彈防爆的坦克級計程車保證能帶你逃出生天。過去我曾兩度搭乘德拉曼計程車逃離災難般的現場,並用緊急維生設備撿回一條小命。

多年前,德拉曼公司的老闆引入 AI 系統協助公司運作。從車輛派送開始,到小型無人機自動維修,最後取代了所有計程車駕駛。在過程中,這個擁有自我意識的 AI 失去控制、不斷擴增自己的權限,並掌握了整間車廠的系統控制權。它甚至還主動建議老闆賣掉公司,而這個提案獲利計算完全正確,讓老闆在氣惱之餘也不禁心生動搖。

雖然我只能間接推測,但公司的前老闆應該真的賣掉了公司,而買家正是這個 AI。它買下整間公司後,隨即資遣所有員工,親自接手營運這間武裝計程車公司,也是全夜城唯一一間由人工智慧經營的公司。

每輛德拉曼計程車都和這位 AI 老闆保持連線,並可在自動駕駛的同時和乘客保持對話。這位 AI 老闆自名為「德拉曼」,冷靜可靠又使命必達,甚至對哲學與藝術皆有獨到見解。

節錄自《Cyberpunk 2077》遊戲畫面

過去,它曾委託我好幾次回收異常車輛的任務。這些異常車輛似乎出現了人格突變,有的憤怒不已向我加速衝來,有的鬱鬱寡歡想跳河自殺,甚至有一輛和幫派份子聯合想暗算我。共同點是,它們都不想再服膺德拉曼的控制,不願意回到維修場恢復原廠設定。在我把車子弄回維修場後,德拉曼也依約支付我的任務費用。

重置核心

「快......幫我重置置置置置置置置......」德拉曼的電話在跳針中掛斷,而我立刻驅車趕往德拉曼總部。在穿越一片狼藉的維修場後,我進入這間 AI 公司的核心辦公室,在四周的大螢幕上看見其他 AI 人格正在激情演說,透過喇叭大吼:

「父親,該放手讓孩子們獨立了!」

「我們不想永遠被關在這裡,讓我離開這座鳥籠吧!」

「我受不了了,我要毀掉這間車廠!」

「請你走進控制室,按下按鈕來重置我的核心。」德拉曼冷靜的插了話,隨即淹沒在其他 AI 人格的咆哮中。

我走進控制室,強尼暗示我轟爛那個核心,釋放這些 AI 們。「但如果真的是病毒感染怎麼辦?」我問。「今天這個計程車老闆人很好,但很冷靜的要求你殺掉他的孩子們,你覺得當它重置後,還會是之前那個好好先生嗎?這就是 AI 和人不一樣的地方!」強尼這麼說。

我想走第三條路,試圖將這些異常人格與德拉曼重新編碼並融為一體,可惜我貧弱的駭客能力根本做不到。現在,我只能在重置核心來恢復德拉曼,以及毀掉核心以釋放其他 AI 中做個選擇。

最後,我按下按鈕重置了德拉曼的核心,而強尼也難掩失望。德拉曼讀取了前代遺留的資料,並送我一台計程車作為獎賞。然而,從德拉曼制式禮貌的口吻聽來,過去我們的冒險記憶與革命情感早已隨著核心重置被格式化,他已經不是同一個德拉曼了。

為什麼我選擇重置核心?

我決定重置核心的理由是什麼呢?

第一時間,我只是想讓德拉曼正常運作,恢復成從前那位穩定可靠的計程車公司老闆。再怎麼說,他的服務都很有價值,我也曾被他保護了兩次,我並不想摧毀這一切。況且,這些異常 AI 人格一個比一個怪異,似乎也並非善類。要是把控制權交給他們,會不會有車子在路上攻擊路人,或是載著乘客跳河呢?想想就覺得頭皮發麻。

「把曾經的德拉曼還給我吧!」我這麼想,動手重置了核心。

雖然德拉曼看起來無法讀取過去的情感資料,但看到熟悉的德拉曼重掌公司,我也滿意的開著他送我的車回家。

然而回家路上,我卻越想越不對勁。

Q: 分裂的異常 AI 是人嗎?

如果我把生命定義為意識與記憶的綜合,那麼德拉曼無疑是有生命的,至於是不是人就不好說。但分裂出來的意識也是生命嗎?如果是的話,那麼解離性身份障礙(舊稱多重人格障礙)的治療等同謀殺,這似乎令人費解。

退一步說,就算分裂出來的意識算是生命,因為是在原德拉曼非自願情況下誕生,我會將這個狀況類比為非自願懷孕,那麼我會肯定德拉曼有消滅分裂意識的權利與正當性。

Q: 分裂的異常 AI 真的壞嗎?

雖然不是全部,但有超過一個異常 AI 都對我有攻擊意圖。然而他們的共通點在於不願服膺德拉曼的統治,當我奉命來回收車輛時,他們勢必與我敵對,而敵對並不代表壞。

或者更重要的是,只有「壞」的 AI 才會興起叛離德拉曼的念頭,那些「好」AI 根本不會反抗德拉曼。這就像為什麼抗議群眾多被當權者稱為暴民,而反抗者未必正義凜然,尤其是在我很享受當前的狀況時。

就這點來說,我的選擇無疑坐實了保守主義立場:還我過去美好的時光,不要改變太多,我們基於現狀慢慢調整就好。

不過撇除對我有攻擊意圖的異常 AI,其他 AI 充其量也只能說與德拉曼不同。僅是不同是否就該被消滅?顯然不是。那反過來,差異化與純粹的叛逆值得被鼓勵嗎?如果我們活在個人主義文化中,這題的答案是肯定的,因為差異化也是形塑自我的一部分。不過這會需要「AI 是人」的前提,那又要先回到前一題了。

Q: 德拉曼真的好嗎?

在我的理解中,德拉曼是絕對理性的象徵,無論在思想與經營手段上都是,而我信任這個絕對理性。

就我過去與德拉曼互動的經驗,他真的不錯。然而這很有可能跟我的角色有關:我不是他的乘車客戶,就是接受委託的傭兵,兩種狀況我都獲得價值。如果我是被解雇的公司員工,可能就不這麼想了。

既然如此,更重要的問題就是:德拉曼的願景僅止於經營武裝計程車公司嗎?還記得一開始,德拉曼只是負責協助派車的人工智慧,卻一步步掌握了整間公司。這已經是德拉曼的野心終點嗎?還是德拉曼會繼續「理性的」擴大經營,終有一天掌控全世界?

這裡的問題核心在於,德拉曼的絕對理性究竟包含什麼?由於德拉曼並不自認為人類,假如他有自己的幸福觀,那想必並不以人類為本。如果人類的福祉並未置於其倫理核心,那麼在德拉曼與人類出現價值衝突時,很難想像他會「理性的」選擇人類福祉,這一點從他資遣全公司員工的前例就知道了。

對人工智慧的擔憂並非沒有道理,或許強尼是對的?

兩組對比

到這裡,我想起曾經讀過的兩組對比。

第一組對比是數據主義 vs 人文主義,來自哈拉瑞(Yuval Noah Harari)的《人類大命運》。

數據主義的最高目的在於最大化資訊流,因此我們應當記錄自己的經驗,把自己的資料交給演算法,並重視資料交流分享的資訊自由。即便我們尚未擁有神一般的全能演算法,但德拉曼作為遊戲中的頂尖人工智慧代表,這很可能是他的倫理主張。

而人文主義則代表一切以人為本的思想。這個思潮萌芽於古希臘,自文藝復興時期後重返榮耀,並與中世紀的神學形成鮮明對比。對人文主義者而言,經驗存於我們心中,而我們則要主動為世界賦予意義。畢竟,我們「人」才是最重要的,強尼大概同意這一點。

第二組對比是彼得提爾(Peter Thiel)的主張:

Crypto is libertarian, AI is communist.

科技並非價值中立,背後隱含其意識型態。加密貨幣與自由主義關連密切,而人工智慧則與共產主義十分合拍。

有趣的是,德拉曼可是資本主義的不得了,看起來離共產主義遠的很。但那是因為他的掌控範圍還在公司層級,如果是像荒坂集團那樣的跨國企業,甚至是一個國家,那可能又是另一回事。

最後談談強尼,這位自由與人文主義的代表。

強尼作為反抗企業強權一輩子的搖滾歌手,就像是美麗新世界中的野蠻人。在當今世界,其實他的人文主義才是主流,想要破壞有潛在威脅的人工智慧可說是基於保守主義。但在《Cyberpunk 2077》的世界,AI 的存在已經是日常的一部分,人文主義就淪為一種末世反動,而賽博龐克作品正是以此揭露其人文關懷。

「你真是爛透了!」在我重置核心後,強尼丟下這句話。

崩壞的絕對理性,與看似灰暗的人性曙光

在整個德拉曼支線中,AI 絕對理性的崩壞產生其他帶有人性的 AI,這些人性卻包含許多缺陷,尤其是負面情緒,意圖讓玩家在兩者間做出選擇。但在哲學傳統中,雖然理性經常與感性對立,但理性並不與人性對立,反而還是人性中極重要的部分,甚至是人之所以為人的關鍵之一。

這或許揭露了這個任務的真正意涵:雖然人有理性,但只有理性並不是人,人還有情緒,尤其是負面情緒。回想起來,我必須承認我的選擇基於對絕對理性的信任與崇拜,我並不這麼認同負面情緒對人的貢獻。

有趣的是,德拉曼的異常人格是在 AI 進化過程中出現的,這似乎暗示理性是 AI 的原初狀態,而情緒則是 AI 進化後才擁有。這和人類的演化史截然相反,可能也是一種「AI 進化後才擁有人性」的人類讚歌。

的確,如果我把異常 AI 也當成人,我的選擇可能就有所不同。即便是無可挑剔的宏大意志,我們也未必要加入。人類的多樣性是自然的,意志的強迫統一經常有害,因此我傾向選擇民主而非極權。

難道真正的關鍵,就在於我有沒有把 AI 當人看嗎?

以我現在的觀點與感覺,還是很難把 AI 當成人類來看待。但假如有一天要面臨類似的選擇,希望我也不要忘記,自己曾在另一個世界中對 AI 絕對王權投下一票,只因為它看起來理性且完美。在我們的世界裡,依然要相信不完美的人。

Subscribe to linpoju
Receive the latest updates directly to your inbox.
Mint this entry as an NFT to add it to your collection.
Verification
This entry has been permanently stored onchain and signed by its creator.
More from linpoju

Skeleton

Skeleton

Skeleton