耶路撒冷希伯來大學歷史學家哈拉瑞（Yuval Noah Harari）回應雜誌專題《民主正在凋零？》（Is democracy dying?）的文章指出，他認為包含人工智慧在內的資訊科技有利於極權暴政，人們不該擔心人工智慧擁有自己的意識，而是先擔心它被人類拿來破壞民主。

 

　　哈拉瑞在文章提到，民主並非歷史的必然，儘管民主國家在過去一個多世紀取得成功，但它仍算是歷史上罕見的「特例」，君主制、寡頭政治與其他類型的獨裁專制是更普遍的人類治理模式。他寫道：「民主理念其實比我們想像的還要脆弱，它在二十世紀的成功取決於得天獨厚的技術革新條件，這些短暫的條件很容易就會消失。支撐民主的條件正在轉變，隨著人工智慧的發展，它或許會進一步產生變化。」

 

　　資訊科技每年都有突破性的發展，生物科技也開始探索人類的內心世界：我們的情緒、思想和選擇。哈拉瑞提到，資訊和生物科技將聯手對人類社會造成前所未有的動盪、侵蝕人類組織，乃至顛覆人類慾望。在這種情況下，自由民主與自由市場經濟則顯得陳舊過時。

 

 

　　他指出，現代社會的「一般人」越來越害怕自己變得無關緊要，許多神秘術語——全球化、區塊鏈、基因工程、人工智慧、機器學習——在政府智庫、科技研討會、TED或其他會議演講上是熱門議題，但一般人（無論男女）意識到所有的術語都太過遙遠，好像與自己沒有任何關聯。由於懼怕自己變成「無關緊要者」，民眾便瘋狂利用所剩無幾的政治權力試圖挽救一切。

 

　　哈拉瑞以英國脫歐和川普崛起為例，提到兩者變革的軌跡與傳統社會主義式的革命完全相反。從前俄羅斯、中國和古巴革命皆由具經濟價值但缺乏政治權力的人所發起；川普與英國脫歐得到了多數支持，其支持者雖享有政治權力，但他們害怕失去自己的經濟價值。他寫道：「或許在21世紀，民眾反抗不再是針對剝削人民的經濟菁英，而是針對不再需要他們的經濟菁英。這可能是一場註定失敗的抗爭，畢竟與反抗剝削相比，反抗變成無關緊要者似乎難得多。」

 

　　哈拉瑞預測，世界可能會出現新的「無用階級」。因為無論自由民主的哲學訴求為何，很大程度是得益於現實優勢：在政治和經濟學中，自由主義的「分散決策」特色讓自由民主國家勝過其他政體，為人民帶來越來越多的財富。他說：「自由主義藉由對所有人承諾一塊大餅來消弭彼此矛盾：無產階級與資產階級、信徒與無神論者、移民與原住民、亞洲人與歐洲人。只要大餅不斷增長，和解便能延續下去。大餅也許會一直增長，但經濟繁榮並不能解決突破性創新造成的社會問題，而社會也越來越仰賴突破性科技。」

 

　　當然，人們對於被就業市場淘汰的恐懼並非新鮮事，過去已經證明這種擔憂毫無根據。但人工智慧與舊時代的機器不同，工業革命時期的機器主要是以勞力技能與人類競爭，但它們現在開始在認知方面與我們競爭。對人類而言，我們沒有第三種技能確保人類永遠保有優勢。

 

 

　　當人們失去經濟價值後，隨之而來的是失去政治權力。新科技令數十億人的經濟價值變得無足輕重，而使他們變得更容易被監控。哈拉瑞寫道：「人工智慧讓許多人害怕，因為他們不相信人工智慧會一直聽話服從。科幻小說經常描寫電腦或機器人產生意識，並在不久之後試圖殺死所有人類。但是，我們沒有理由相信人工智慧會隨著科技進步發展出意識。相反地，我們更應該害怕人工智慧會永遠服從人類，而且永遠不會反抗。人工智慧可能成為人類史上最強大的工具和武器，促使強大的國家更進一步鞏固權力。」

 

　　世界上許多國家（包括民主國家）已經著手建立前所未有的監控系統，以色列是監控科技領域的領導者，他們在佔領的約旦河西岸地區建立了一套全面監控體系。今天，每當巴勒斯坦人打電話、在Facebook發文或旅行移動，都受到以色列政府裝設的麥克風、相機、無人機或間諜軟體監控，以色列維安部隊透過演算法分析蒐集來的資訊情報，以找到並消滅他們認為的潛在威脅。今天巴勒斯坦人所面臨的處境，可能是全球數十億人往後將經歷的預演。

 

　　想像一下，如果北韓的金氏政權某天取得更高科技的監控技術，強迫國民配戴生物識別手環，監視其日常言行、血壓和大腦活動。藉由日漸熟悉人類大腦的運作模式，結合機器學習的強大力量，最終北韓可能發展出能衡量每個國民思想和情緒的技術。當民眾看著領袖的照片時，如果生物識別感應器偵測到憤怒的跡象（血壓升高與杏仁核活躍），他們很可能明天就會被抓進勞改營。

 

 

　　然而，很多時候根本不需要用到這種「強硬」的科技手段。哈拉瑞表明，儘管多數國家對公民的實際控制看似變少，並賦予他們自由意志選擇與投票權利，但操縱選民情感影響投票結果向來都不是難事。一旦未來某個統治者得到有效、廉價能大規模運用的情感操縱技術，民主政治將淪為一場木偶戲。

 

　　未來幾十年，我們或許不會遇到擁有情緒的機器人，但可能不得不面對那些比親人更擅於操控我們情緒的機器人，而且它們在這方面駕輕就熟。菁英忙著向群眾推銷東西，無論是汽車、政治明星還是整套意識形態；而機器人則負責識別人們內心深處的恐懼、仇恨與渴望，並利用它們來對付我們。即使某些社會維持著表面上的民主，效率越來越高的演算法仍會改變我們，促使個體將越來越多的權力交付給網路機器。人們依賴和信任演算法，便心甘情願地放棄生活中的更多權力，最終失去了為自己做決定的能力。

 

　　舉例來說，在短短二十年間，數十億人就將「尋找答案」這件事交由Google搜尋的演算法。我們越來越依賴Google找到答案，而獨立處理資訊的能力也變得越來越差。今天的「真相」是由Google搜尋得出的最佳結果所定義，這種過程同樣影響了人類的身體機能，例如導航系統和未來的自動駕駛汽車與AI醫生。

 

　　哈拉瑞寫道：「雖然這些創新會讓卡車司機和人類醫生失業，但更重要的是它加劇了人類把權力和責任轉移給機器的過程。當人類仰賴人工智慧為我們做決定時，我們的生活會變成什麼樣子？現在我們相信Netflix所推薦的電影，還有Spotify為我們選擇音樂，你怎麼會覺得AI幫我們做的選擇只有這些？」

 

 

　　有朝一日，人工智慧或許會像《黑鏡》的劇情般，為我們做出比職涯規劃更好的決定，甚至替你決定該跟誰當朋友。哈拉瑞說：「當我們開始依靠AI決定學什麼、做什麼工作、與誰約會甚至結婚時，人類的生活不再是一齣關於抉擇的連續劇，我們對生活的概念也會隨之改變。不但民主選舉和自由市場不再具有意義，多數的宗教和藝術也是如此。」

 

　　他指出，人們需要更加重視人類思想的運作方式，特別是如何培養自己的智慧與同情心。如果我們過度投入在人工智慧而疏於發展人類思維，那麼越來越複雜的人工智慧只會讓人類變得更加愚蠢，並培養出人類最糟糕的（也可能是最強大的）原始衝動，其中包含貪婪與仇恨。為了避免這樣的後果，人們應該在投入改善人工智慧的同時，以同等精力探索和發展人類意識。

 

　　此外，如果我們想防止所有財富和權力集中在一小群菁英手中，更現實而直接的方法是規範資料所有權。哈拉瑞說：「在古代，土地是最重要的資產，因此政治成為控制土地的鬥爭方式；在近代，機器和工廠變得比土地更重要，因此政治鬥爭焦點變成控制這些重要的生產模式；到了21世紀，資訊數據成為比土地和機器都更重要的資產，因此政治勢必淪為掌控資訊的鬥爭工具。我們能做的是找到防止數據集中在少數人手中的做法，並找出讓分散數據比集中數據能更有效率的方法。這都不是簡單的事，但追求並實現這些目標是民主的最佳保障。」

 

 

參考報導：Atlantic