人類是否會毀於自己的創造物?
洪丕柱
一個多月以來我一直在思考這個問題。它原來是當今世界最偉大的物理學家司蒂芬⦁霍金(Stephen Hawkin)提出的。我有一次在開車時從車上的收音機裡聽到他發表談話講到這個憂慮，後來《時代周刊》也轉載了他的講話，不過同期還有另一位人工智能的專家說這是不可能發生，不必憂慮的。
霍金說他擔心人類最終可能會毀滅於自己的創造物：能夠學習並不斷自我改進的人工智能，即最後人工智能可能自我改進到這樣的地步，超過了創造它的人類的智能，反過來控制了人類。因為霍金說雖然人類智能的提高速度已從以千年為單位提高到以世紀為單位，在科技突飛猛的當代又進一步提高到以十年為單位，但人工智能一旦能自我學習和完善(自動改進程序)，其提高可能是隔夜甚至瞬間的事，就是說其學習和改進的速度之快是人類完全無法與之匹敵的。
此前《時代周刊》還曾登過SpaceX的總裁馬斯克(Elon Musk) 的一段類似的話，亦警告過人工智能的危險性，說我們是在召喚魔鬼，它們是我們生存的最大威脅。
我本人最早聽到“人工智能”(artificial intelligence)這個英文詞是 1977年。 我大概是大陸中國人中最早聽到這個詞的人之一，緣由是文革剛結束後上海出版了一本叫《摘譯》的雜誌，介紹國外科技最新動態。當時的主編黃紹元先生不知怎的知道了我這個讀理科出身卻能翻譯各種英法文作品的，又曾在文革中被工宣隊打成白天社會主義晚上資本主義(指躲在家裡偷偷翻譯了《西歐共同市場》)的白專份子，讓我翻譯出版了美國著名科普作家阿西莫夫的名著《數的趣談》，他對譯文非常滿意，於是就讓我挑各種重擔(全部是義務勞動，甚至連譯者姓名都是放在文章結尾處的) ，翻譯了從物理到生物到計算機又到有關人工智能研究的文章。
我記得所譯文章中講的當時裝有人工智能的“機器人”(不一定呈人形)在今天來看應是相當簡單的，但智力已超過猩猩，在同猩猩爭奪香蕉時能用技巧屢屢勝出。四十來年後的今天，機器人已能在工作條件惡劣的礦井或車間裡代替人執行各種困難的任務，它們能代替醫生做從心臟到大腦的各種精細複雜的手術，它們能被用在太空研究中完成各種細緻繁複的作業，能操縱火星車登上火星並發回各種資料，甚至能花十年時間飛越數萬億公里追上一個直徑才2.5公里的彗星並登上這顆彗星進行研究。
據說日本已發明會做家務的機器人。它會洗衣、打掃、照顧病人、甚至做飯。它有體態姣好的美麗女性的模樣，用帶有人體皮膚質感和彈性的塑料製成(摸上去有觸摸人皮膚的感覺)。她會眨眼、微笑、講話、聽得懂主人的指令，甚至會同主人互動(應答)。她也會學習， 會按主人要求改進烹調技術。對於没有妻室的王老五，她甚至能陪他上床滿足他的性飢渴！對王老五來說她絕對比娶個老婆省事省錢省煩惱。這就是說，這樣的人工智能不但有了各種感覺，能感知，有記憶，還能推理、判斷、抽象、思考並做出選擇和決定。又據說英國拍了一部科幻電影(即將上映) 來說明人工智能變得太聰明後會有怎樣的後果，電影中一位年輕程序設計員製成的人形機器人慢慢地開始對自己的身份(identity)都有了認同，即她知道自己是誰！
其實不光是人工智能，好多科幻電影已描繪過 一些科技太發達而造成的恐怖的圖景，比如電影中會有才華橫溢而邪惡的科學家在實驗室裡偷偷用基因改造製造出一些無所不能的超人，或者半人半獸的怪物。《蜘蛛俠》講的就是一位年輕人在不知覺被植入蜘蛛基因後變成有超級功能的人。該電影中還有一名邪惡的斷臂科學家一直在研究如何將蜥蜴的基因值入自己體內，因為蜥蜴能在危急時斷掉尾巴而脫險，然後再長出新尾巴，這位科學家希望他的斷臂可因此再生，結果成了會變成危害人類的巨蜥狀的怪獸，與蜘蛛俠發生殊死博鬥。還好蜘蛛俠是個好人，如果他是壞人，一定會變成一個令警察無可奈何的大盜。以上還只是科幻電影而已，但已顯示基因技術相當發展後一旦若被誤用的可怕性，而幹細胞研究，還有克隆技術，也有被誤用的很大的可能性，果真如此，後果不堪設想。
我平常不大看電影，只是有時在通夜坐飛機睡不著時會用看電影打發時間，因為迷迷糊糊，電影的細節不一定都能記得精確，但大意還是記得的。一次曾看到這樣一部電影，說是科學家研製的一些智能較高且有學習改進能力的猿猴從一個城市逃回一片森林並佔據了它，牠們推一隻老猿為王，開始發展了語言和自己的“社會體系”。該城市因電力不足需要要派工程小組去修復已被廢棄的水電站而它就在猿猴控制區內。工程小組試圖同猿猴們溝通協商。老猴王是主張同人類友好相處和比較講理的，但有些年輕猿猴仇恨人類，其中已產生有竊據領導崗位的野心者，牠們煽動對人類的不信任和仇恨 。牠們因為人類有槍，所以怕人類，但終於一些年輕猿猴因跟蹤人類而進入了他們的軍械庫，並通過模仿學會了打槍。老猿王傷病後有野心的年輕猿猴自立為王並假傳老猴王旨意同人類全面開戰，人類節節敗退，猿猴攻佔城市，聚集在城內最高的一座塔裡。畢竟人類智力略高一籌，設法炸毀了這座塔。電影中雙方都有心腸好的，他/牠們主張友好相處反對相互殺戳，同堅決主張消滅對方者爭論 …。以前也有看過類似的科幻電影，如講半人半狼的怪獸之類的故事的，看了讓人恐懼！
其實人類創造的可以毀滅自己的東西已經太多，不說核武器、化學武器、細菌武器之類的武器吧，還有每天需打交道的近在身邊的空氣和水質汙染、碳排放、化肥農藥汙染、轉基因食品和中國大量匪夷所思的毒食品(最近有從中國進口的莓類引起甲肝的報導 )，人工智能僅是其中之一。
霍金是目前世界上智商最高的人之一，決非你我等閒之輩，他也不會隨便心血來潮就說這樣的話的，因為他知道他的話的份量。所以我還是寧可相信他的話，如果科學家們不現在就處以謹慎，恐怕到那時會措手不及！我唯一希望的是科學家們也能將人類的罪性，如勾心鬥角、爾虞我詐、弄虛作假、貪污腐敗、陰險毒辣、造謠毀謗、忘恩負義、自相殘殺等也植入工智能的智能系統之中，就像上面講的猿猴社會在出現了人類的負面因素後終於導致了牠們的滅亡那樣，讓智能高級的機器人內部亦發生內訌，導致機器人社會的自我毀滅，這也許能拯救人類，因為他們的罪性無法得到赦免。