AI恐是大災難?我們不能坐以待斃

編按:AI的未來發展就是一場賽局,參與其中的角色有以中美為領頭羊的國家、以九巨頭為主的企業、培訓AI人才的頂尖教育機構,還有我們這群廣大的使用者。本文摘自新書《AI未來賽局:中美競合框架下,科技9巨頭建構的未來》。

工智慧已經在我們生活周遭隨處可見,但並不如我們的期望。它是金融系統、配電網和零售供應鏈裡不動聲色的基礎架構、無形的基礎設施,引導我們在車陣中通行,從我們打的錯字中找出正確的意思,並決定我們應該購買、觀看、收聽和閱讀哪些內容。我們的未來建立在這樣的科技之上,因為人工智慧與我們生活的各個層面息息相關:健康和醫療、居住、農業、交通、運動,甚至關乎愛情、性與死亡。

人工智慧不是一種科技潮流、流行語或短暫的娛樂,它代表著電腦運算時代的第三階段—認知運算時代(注:第一個階段為打孔卡片製表機時代,第二個階段為電子計算機系統時代)。我們正處於重大且徹底的轉變之中,與工業革命時代的劇變不相上下。工業革命時代剛開始時,眾人並沒有察覺到自己身處過渡期,因為與他們一生的歲月相較,那時的變化是逐漸發生的。不過到了最後,整個世界就不一樣了:英國和美國成為世界兩大強權,擁有足夠的工業、軍事和政治資本,並影響下個世紀的進程。

世人總對人工智慧爭論不休,人工智慧對我們的未來會有什麼影響,往往充斥著陳腔濫調;機器人將搶走我們的工作、機器人將顛覆經濟、機器人最終將殺死人類云云,早是你我熟悉的論點。要是我們把上述的「機器人」改成「機器」,等於又重現兩百年前眾人的爭論。人自然而然會去想新科技對我們的工作和賺錢能力所造成的衝擊,因為我們看過太多產業的崩壞,這不難理解。

一講到AI,我們會天馬行空地想到科幻電影《2001 太空漫遊》(2001: A Space Odyssey)中的人工智慧超級電腦哈兒(HAL)、電影《戰爭遊戲》(War Games)裡美國軍方的戰爭操作計畫響應系統(WOPR)、《魔鬼終結者》(TheTerminator) 裡的天網(Skynet)、卡通《傑森一家》(TheJetsons)中的機器人女傭蘿西(Rosie)、科幻電視劇《西方極樂園》(Westworld) 中出現自我覺醒的機器人迪樂芮(Delores),或流行文化中其他數百個擬人化的AI。如果你不曾在AI 生態系統中工作,你很容易對未來產生誤解,要麼光怪陸離引人入勝、要麼可怖至極令人吃驚,而造成這種錯誤的原因層出不窮。

如果不是埋頭日夜研發人工智慧的從業人員,你根本無法看清全貌;這也就是為什麼大眾對於AI 的辯論,如果不是悲觀地引用電影中出現的機器人稱霸世界,那就是如另一派人馬表現出極其狂熱的樂觀態度。大眾不了解研發與產業的細節,是對人工智慧有過多想像的原因之一:有些人太高估了人工智慧的應用性,而有些人則認為它將成為無法抵擋的武器。

我會知道這樣的情況,是因為在過去十年中,我大部分時間都在研究人工智慧,並與業界內外的人士及組織進行會談。我提供建議給多家人工智慧執牛耳的代表公司,包括微軟和IBM。我與業外的利益相關者會面、提供他們建言,當中有創業投資人和私募基金經理、國防部和國務院的高層,也有認為立法監管是AI 未來發展唯一方式的議員諸公;我還直接在AI 第一線,與辛苦工作的學術研究人員和科技人員進行了數百次會面。那些AI 前線人員在分享未來的事情時,很少會有像我們平常在新聞中聽到那種末日或烏托邦式的極端看法。

外部的力量正在壓迫九大科技巨頭

這是因為那些真正打造AI 未來的人,與其他科學領域的研究人員一樣,希望能減緩大眾的預期心態;因為世人會一而再、再而三地忘記,實現劃時代的轉捩點需要耐心、時間、金錢和調適。這些工作人員長期辛苦工作,一點一滴處理非常複雜的問題,有時如滾芥投針,成效甚微。這些人聰明機智、深諳人情世故,而且根據我的經驗,他們充滿熱情,思慮周全。

他們絕大多數都替九大科技巨頭效力—美國的谷歌、亞馬遜、蘋果、IBM、微軟和臉書,以及中國的百度、阿里巴巴和騰訊—這些公司正在打造人工智慧,為了讓所有人能迎接更美好、更光明的未來。我堅信,這九家公司的領導者都懷抱著強烈的利他主義和為更大利益著想的願望:他們清楚地看到人工智慧有機會改善醫療保健和延長壽命,解決我們即將面臨的氣候問題,並且讓數百萬人擺脫貧困。我們已在所有產業和日常生活中,看到了他們工作成果所帶來正面且明確的好處。

而問題在於,外部的力量正在壓迫這九大科技巨頭,合力破壞AI 業界對未來的最佳計劃,甚至波及到那些在這個生態系統內工作的人,這種情況歸咎起來,也有好幾個不同的層面。

在美國,無情的市場需求、對新產品和服務不切實際的期望,都使得長期的計劃無法進行。萬眾期盼谷歌、亞馬遜、蘋果、臉書、微軟和IBM 在年度會議上,發表炫目的AI 新產品,好像研發部門的突破是可以照著時間表來安排似的。要是這些公司沒有推出比去年更酷炫的產品,我們就會把這些產品說得像是失敗品;或者,我們會質疑AI 是否退流行了;或是,我們會懷疑這些公司的領導能力。我們從沒讓這些公司能有個幾年的時間,心無旁騖地研究,不需要定期發表讓我們為之驚豔的產品。但願這些公司不會做出幾個月內不發表產品的決定,這樣我們會以為他們在暗地從事秘密專案,不放一點風聲,讓我們很不是滋味。

美國政府對人工智慧和我們的長期未來,都沒有準備好宏觀的策略。政府非但沒有統籌的國家級戰略來建立內部的組織能力、打造並強化美國的國際聯盟,為未來的戰爭做好準備;反倒把人工智慧的掌控權,下放給靠著旋轉門反覆換位的政客。

聯邦政府非但沒有資助人工智慧的基礎研究,實際上反倒把研發外包給商界和反覆無常的華爾街。美國的議員非但沒有將AI視為創造新工作和產業成長的機會,還只看到科技業普遍的失業問題。因此,當他們可以邀請這些公司參與政府內部最高級別的戰略規劃時(假設有機會),他們會責怪美國的科技巨頭。

我們的AI 先鋒別無選擇,只能不斷彼此競爭,競相與一般人、學校、醫院、城市和企業,建立可靠、直接的連結。

在美國,缺乏遠見卓識是個相當普遍的問題;「當下主義」(Nowism)心態作祟,讓美國人只顧著規劃人生接下來的幾年時間,而不思考其他的時程。當下主義的心態支持短期的科技成就,至於科技將如何發展,以及下一道指令所牽連到的事物和我們行動的結果,當下主義就沒有顧及到所要承擔的責任。

我們太輕易忘記,我們現在所做的事可能會對未來產生嚴重的後果。將人工智慧的未來發展委外分派給這六家上市公司,即便這些公司的成就非凡,但是他們的經濟利益並不一定與我們的個人自由、社群和民主理念的最佳利益一致,而這並不令人意外。

在中國,人工智慧是國家法令和法律的一環

同時在中國,人工智慧的發展軌跡受到政府的雄心壯志所控制。中國正在迅速奠定基礎,成為全世界人工智慧領域無法動搖的霸主。二○一七年七月,中國政府公布下一代人工智慧發展計劃,預計到二○三○年成為人工智慧全球的領導者,中國國內產業至少價值一千五百億美元,1其中包括將部分的主權財富基金投入於新實驗室和新創公司,以及專門培訓中國下一代AI人才的新學校。2 同年十月,中國國家主席習近平向數千名黨內官員發表詳盡的演說,解釋了人工智慧和大數據的計劃。他說,人工智慧將幫助中國過渡到世界上最先進的經濟體之一,現在中國的經濟已經比三十年前增長了三十倍。百度、騰訊和阿里巴巴可能是股票上市的巨頭,但是他們必須聽命北京行事,所有大型中國公司都是如此。

中國擁有十四億的龐大人口,使得他們能夠控制AI 時代最大、也可能是最重要的自然資源:使用者資料。圖形辨識演算法需要大量的資料來優化,這就是為什麼對投資人來說,中國的臉部辨識系統會如此具有吸引力,例如曠視科技和商湯科技。中國人民在打電話、網購,以及把照片上傳至社交網路時所產生的所有資料,都在幫助百度、阿里巴巴和騰訊打造一流的人工智慧系統。中國的一大優勢在於他們沒有隱私和安全方面的限制,而這些限制可能阻礙了美國的進步。

中國對未來有宏偉的計劃,而美國必須在這種更大的框架下考慮人工智慧的發展軌道。二○一八年四月,習近平發表了一篇重要談話,勾勒出他對中國做為全球網路超級大國的看法。

中國國營的新華社發表了其中部分的演講,習近平描述了用多種手段結合的綜合治網格局,「要加強網上正面宣傳,旗幟鮮明堅持正確政治方向、輿論導向、價值取向」。在西方,我們珍視的是言論自由、市場導向經濟,以及政府權力分立;然而獨裁統治的中國要大家過的生活卻是背道而馳。

在中國,人工智慧是一系列國家法令和法律的一環,旨在控制中國境內產生的所有資料,並監控境內居民及各種戰略合作夥伴國的國民資料。其中一項法令要求所有外國公司要把中國人民的資料,儲存在中國境內的伺服器裡,好讓政府公安機構可以隨心所欲地讀取個人資料。

另一項中國的「公安雲端」(Police Cloud)措施,則在監控、跟蹤心理健康有問題的人、公開批評政府的人,以及維吾爾這支穆斯林少數民族。二○一八年八月,聯合國接獲可靠的舉報,顯示中國在西部偏遠地區的再教育營裡,扣留了數百萬名維吾爾人。

中國的一體化聯合作戰計劃使用AI 來偵測個人行為是否出現偏差,例如是否有人遲交帳單。根據官方規劃文件中的口號,開發由人工智慧推動的社會信用系統,用「讓失信者寸步難行,讓守信者一路暢通」的概念,設計出沒有問題的社會。

為了推廣「可信賴性」,中國政府根據許多不同的資料分數來對人民評分,例如英勇事蹟(加分)或收到交通罰單(扣分)。分數較低的人在申請工作、買房子或讓孩子入學時,將會面臨障礙。有些城市會公布出積分高的居民照片。

在其他城市,例如山東,若隨便穿越馬路,大頭照會被公布在數位告示牌上做為處罰,並自動發送到最熱門的社交網路微博上。

如果這些事情看起來都離譜到令人難以置信,別忘了,中國曾經成功制立了一胎化政策,強行限制人口數量。這些政策和措施是習近平主席核心團隊的點子,在過去的十年,他們一心想將中國重新包裝塑造為稱霸全球的超級大國。

今天的中國,比自毛澤東領導以來的任何時候都更加專制,而推動和利用人工智慧是他們達成目標的基礎。表面上,「一帶一路」倡議偽裝成基礎設施計劃,遵循著古代經由中東和非洲,連接中國與歐洲的舊絲路路線,實則為重大的地緣經濟戰略計劃。中國不僅在建設橋梁和高速公路,他們還在輸出監控科技,並在過程中蒐集資料,用來強化中共全球的影響力,以便對抗我們當前民主自由的社會秩序。

全球能源互聯網是習近平支持的另一項國家戰略,旨在設立世界上第一個全球電網,並由中國管理。中國已經想出大量串聯新型超高壓的電纜科技,從遙遠的西部地區向上海供電,而且他們正與鄰國達成協議,為鄰國供電。

這些措施以及許多其他手段,是中國長期獲得軟實力的高明方法,可謂習近平的高招。他的政黨在二○一八年三月投票取消任期限制,使得他實際上可以終身擔任國家主席。習近平的最終目的非常清楚:創造新的世界秩序,而中國是實質的領導者。然而,在中國外交擴張的這段時間裡,由於美國總統川普豎起新的「竹簾」(注:無形的牆委婉地說就是所謂的「竹簾」,但這種「竹簾」比鐵幕更嚴密),美國不可避免地背棄了長期的國際盟友和協議。

看法分歧的AI未來

人工智慧的未來目前正沿著兩條路徑發展,但是這兩條路徑往往與最適合人類發展的方式相左。在中國,推動人工智慧的部分力量是協力打造以習主席領導的新世界秩序;而在美國,市場力量和消費主義才是主要推手。這種二分法對所有人來說都是嚴重的盲點,解決這個盲點是AI 問題急迫的關鍵,也是本書的目的。

九大巨頭公司可能追求同樣的崇高目標:破解機器智慧的密碼,用來建造有如人類思維的系統;但這項工作的最終結果,可能會對人類造成不可逆的傷害。

從基本面來說,我認為人工智慧是正面的力量,將提升下一代人類,幫助我們實現對未來最理想化的夢想。

但我是個實用主義者。我們都知道,一個人即便立意再良善,也有可能在無意中造成巨大的傷害。在科技領域,特別是人工智慧,我們必須謹記,要在預期用途和意外誤用兩方面做好計劃。這一點在今天和可預見的未來尤為重要,因為AI 與任何想得到的事物都有關係:全球經濟、勞動市場、農業、交通、銀行、環境監測、教育、軍事和國家安全。這就是為什麼如果人工智慧維持目前在美國和中國的發展軌道前行,二○六九年可能會與二○一九年有非常巨大的差異。隨著管理社會的結構和系統漸漸依賴人工智慧,我們會發現,機器代理我們所做出的決策,對機器而言完全合理,但從人類的角度來看並非如此。

隨著機器開始覺醒,人類正在迅速失去自己的覺察能力。在AI 的科技和地緣政治發展上,我們已經開始達成一些重要的里程碑,但隨著每一次的新進展,人工智慧對我們來說,變得更加無法覺察。系統挖掘和精進我們資料的方式並不明顯,同時,自主系統如何做出決策,我們相對的理解能力變得愈來愈不透明。

因此,在理解人工智慧如何影響當前的日常生活,大家的看法分歧,而在未來幾年和數十年後,這種分歧的情況會更加嚴重。透過批判人工智慧目前發展的方向,盡可能縮小這個認知差距,是我對本書的使命。我的目標是讓與AI 有關的對話民主化,讓你更聰明地了解未來會發生的情況;在還來得及的情況下,讓在未來實體世界裡AI 所牽連到的事物具體化,並且與你個人相呼應。

人類正面臨著存在的危機,這麼說一點也沒錯;因為打從一開始,就沒有人能夠解決AI 最根本的簡單問題:當我們拱手讓出權力,讓系統為每個人做出決策,而這個系統又是由一小群人所設計的,這時候社會會發生什麼事?當這些決策被市場力量或雄心勃勃的政黨給左右時,會發生什麼事?決策的結果將反映在我們未來的機遇、資源被拒絕的方式、社會慣例、經濟運作的規則,甚至我們對他人的理解方式上。

本書不是關於人工智慧常見的辯論,而是警示,也為更美好的未來勾勒藍圖。本書質疑美國人普遍厭惡做長期規劃的習性,並強調美國的企業、學校和政府缺乏對人工智慧的準備;也對中國收編的地緣政治、經濟和外交戰略,描繪出鮮明的畫面,因為中國正朝著自己新世界秩序的宏偉願景邁進。因此,本書呼求在極具挑戰的情況下,必須有英勇的領袖站出來,正如你將發現,我們的未來需要英雄。

所以我分三個部分來講述我要呼籲的行動。在PART 1,你將了解AI 是什麼,以及九大巨頭開發AI 時所扮演的角色。我們還將深入探討美國的六大巨頭成員,以及中國的百度、阿里巴巴和騰訊所面臨的獨特情況。在PART 2,隨著人工智慧的進步,你會讀到在未來五十年內將看到詳細、可能會發生的未來。你將讀到三種未來的情境,從樂觀、務實,到災難的情境,當我們從限制領域人工智慧(artificial narrow intelligence)發展到通用人工智慧(artificial general intelligence),再進一步進展到超級人工智慧(artificial superintelligence)時,這三種情境代表著機會和風險。

這些情境非常激烈,它們是從資料導向模型產出的結果,對於AI 可能如何演變,以及我們的生活將如何變化,讓你有基本的認識。在PART 3,我會針對情境中辨識出的所有問題,提供戰術和策略解決方案,並提供重新啟動現狀的具體計畫。PART 3 旨在讓我們覺醒並開始採取行動,因此本書對我們的政府、九大巨頭的領袖,甚至是讀者都有具體的建議。

* * *

當今每個人都能在人工智慧的未來發揮關鍵作用,我們現在對人工智慧所做的決定,即使看似很小的決定,卻將永遠改變人類歷史的方向。等到機器覺醒後,我們可能會察覺到,儘管我們懷抱著希望和利他的野心,人工智慧系統對人類來說是場大災難。

但是事情不需要演變到這個地步。

九大巨頭不是這個故事中的惡棍;事實上,他們是我們未來最大的希望。 請翻開下一章。我們不能坐以待斃,人工智慧時代已經來臨。

AI未來賽局:中美競合框架下,科技9巨頭建構的未來

(本文摘自艾美.韋伯著《AI未來賽局:中美競合框架下,科技9巨頭建構的未來》,八旗文化提供)


延伸閱讀

Jenny Wang:AI 發展對投資人的啟示

比爾蓋茲:共同面對今日科技業最迫切的議題

董事會讓人抓狂 矽谷天使這麼說

你可能還喜歡