前陣子掀起熱議的「圍棋人機大戰」，最終Google DeepMind研發的人工智慧系統「AlphaGo」擊敗韓國九段棋手李世乭，震驚全球專家。確實，各領域大多數的專家都衷心期盼奇點（singularity）能早日降臨，或許這種超越人類智慧的科技，能以更快的速度和運算能力解決現階段的困境：解析人類基因密碼、治療絕症、甚至讓人類長生不老。但這是以人工智慧博愛且無私為前提的想像，若它們並非我們所想的友好和仁慈呢？

　　首先「一部機器有可能思考嗎？」這則問題從最初就籠罩了電腦科學界。1950年艾倫‧圖靈（Alan Turing）提出判斷機器是否能夠思考的著名試驗「圖靈測試」，1955年約翰‧麥卡錫（John McCarthy）發明「LISP」程式語言，同年在達特矛斯會議上提出了「人工智慧」概念。接著1960至1970年代，人工智慧研究者開始用電腦來識別圖像、翻譯語言和理解自然語言指令，由此誕生了「電腦最終將發展成為能思考和說話，並會因此開始作惡」的看法，而這種恐怖的想像也開始出現在主流大眾文化裡。

　　1968年科幻電影《2001太空漫遊》（2001: A Space Odyssey）和1970年的《巨人：福賓計劃》（Colossus: The Forbin Project）裡，都出現了大型電腦將世界帶往核毀滅邊緣的劇情；類似的主題也出現在十三年後的《戰爭遊戲》（WarGames）中，該部電影的情節嚇壞了美國政壇，催生了三年後著名的《電腦詐欺及濫用防制法》（CFAA）法案。自此之後，關於擁有超級智能的機器意圖統治世界，甚至失去控制殺戮人類的恐懼，深植在所有人的心底。

　　但就在人工智慧研究還未實現其終極目標之時，研究資金逐漸枯竭，開始了一段漫長的「人工智慧寒冬」。即便如此，1980和1990年代有關智能機器的話題，由作家們承接了下來，像是科幻小說家弗諾‧文奇（Vernor Vinge）將奇點的概念普及化；同時期還有研究機器人的學者漢斯‧莫拉維克（Hans Moravec）和工程師企業家雷蒙德‧庫茲威爾（Raymond Kurzweil），他們三人思考著更遙遠的夢想：當電腦能夠獨立思考並制訂方法來達成目標時，它將有可能也具備反思的能力，並藉此修改軟體使自身變得更加智能化。甚至在不久之後，這類型電腦將能夠設計本身的硬體設備。

　　如果真如庫茲維爾描述的那樣，這將會開啟一個美好的新時代。但是，我們也能看到專家抱持與樂觀態度完全相反的論點。史蒂芬‧霍金（Stephen Hawking）就曾警告，正因為人類無法與先進的人工智慧競爭，奇點的降臨很可能意味著「人類末日」的到來。

　　Google和Facebook這些主要的科技公司，近年來不斷積極投入資源，希望讓自家電腦更為智能，為公司帶來突破性的優勢。但至今仍未出現相近於超級智能的機器，也沒有接近普通用途的技術，甚至一條明確實現的途徑都不存在。對人類而言，的確沒有什麼理由擔心和懼怕。但是，即便超級智能出現的機率和時間或許還需要很久，若不採取防範措施也是不負責任的想法。

　　就如加州大學柏克萊分校的電腦科學教授斯圖亞特‧羅素（Stuart J. Russell）所言：「我認為有件人類不應該做的事情是，在考慮清楚任何可能存在的風險以前，不應盡全力去打造一台超級智能機器。這麼做似乎不太明智。」假若人類期盼擁有無限的智能技術，那麼最好也是最應該的事情，是弄清楚該怎麼讓機器與人類的需求一致。

圖片出處：

Technology Review、Stanford