監控資本主義:21世紀的浮士德契約

文/周忠俠、袁愷勳

網路社交媒體的出現,不但導致「打電話」的衰落,甚至大幅影響了人們的作息。美國紐約大學學者奧特(Adam Alter)所著《欲罷不能:科技如何讓我們上癮?滑個不停的手指是否還有藥醫!》(Irresistible: The Rise of Addictive Technology and the Business of Keeping Us Hooked)中就提到,高達四成的美國人,存在各種形式的網路成癮,如電子郵件、電子遊戲或網路色情等。

人們日益重視網路成癮的嚴重性,其背後的機制卻不易理解。近日,網路影音平台網飛(Netflix)邀請各網路巨頭的前高層或設計師等,拍攝紀錄片《智能社會:進退兩難》(The Social Dilemma,2020),拆解社交媒體的成癮性操作以及背後龐大的「監控資本主義」(Surveillance Capitalism)運作模式。

成癮:社交網路的原罪

紀錄片中,Google前設計倫理專家哈里斯(Tristan Harris)指出,一般民眾往往會擔心自己的資料被網路科技公司作為商品出售獲取利益,但實際上這是一種誤解,網路公司的商業野心遠比單純出售這些資料還大:「他們利用這些資料,做出預判我們行為的模型,誰能擁有最佳的分析模型,就是贏家。」

哈里斯表示在人類利用工具的歷史中,網路技術將成為一個支配性的轉捩點。他以自行車為例:「當自行車被發明出來,沒有人認為它會對人有損害,沒人說『我們要遠離它』;但網路不同,人們對依賴和沉迷網路而擔憂。」

社交媒體讓人上癮的背後,有許多關於「獎勵」和「潛意識暗示」的心理機制在運作,以吸引客戶。例如一種普遍用在賭場內的心理機制:「可變比率增強」(variable ratio schedule),原意是在多次的訓練中隨機給予獎勵,這將促使對象在連續的訓練中,一直保持高強度的注意力,並更能適應這種訓練。

以吃角子老虎機為例,每次賭客拉動拉桿,可能會贏得一筆小額的獎金、一筆鉅額獎金或沒有獎金,這種不確定的獎勵機制,促使人們沉迷賭博。哈里斯指出,「拉霸」這個動作,和「滑動幕」如出一轍:每當使用者滑螢幕時,就會出現一個旋轉的圖示表明該應用程式正在載入更多的內容,雖然使用者不知道要滑多少次才會得到「獎勵」,以社交媒體來說,意謂著有趣的新資訊。且在通常情況下,使用者不會發現任何有趣或令人滿意的東西;而就像賭博一樣,正是這點,讓用戶樂此不疲地繼續滑。

史丹佛大學心理學者艾歐(Nir Eyal)則描述了人們如何依附於社交媒體:「習慣是從一個觸發物、一個動作、一個獎勵或者僅僅一次的投入開始,經過不斷連續的重複而形成。一旦習慣形成了,那些用來觸發習慣的東西,比如推送通知、電子郵件或提示音,就不必再有了。因為這些觸發習慣的外部要素已被替換成內部要素,也就是在『使用這個產品』和『尋求情感需求』之間,形成了一種心理連結。」

為網頁設計「無限滾動」功能的美國介面大師拉斯金(Aza Raskin)表示,科技公司一直在對人們進行測試,以找出令人上癮的最佳手段,比如修改臉書的點讚按鈕的顏色和形狀。他說:「在手機螢幕背後,有上千名工程師正試圖用更厲害的軟體讓你最大程度地上癮。」

你只是網路公司的「原料」

科技公司設計「成癮性」的目的便是延長用戶參與時間、擴大用戶成長並提升收益,從而建立並完善一套商業模式。所以,不會簡單地「出售用戶資料」,更可能組合分析出用來預判用戶行為的「模型」。

哈里斯指出,大型技術公司追蹤、監控、評估使用者在社交網站上的每一個操作,利用這些資料,判斷使用者的生物特徵、喜好、性格等的類型,從而在使用者所瀏覽的頁面上,以最有效的時間和位置投放預設的「推薦內容」進行商業操作,讓用戶在不知不覺間落入「監控資本主義」的運作模式中。

除了網路大咖們的反思與警示,片中也訪問了哈佛大學榮譽教授祖博夫(Shoshana Zuboff),她在所著《監控資本主義時代》(The Age of Surveillance Capitalism)書中,詳述了監控資本主義產生的社會條件與運作方式等,並強調,她寫此書的目的,並非只針對新興科技公司及其技術帶來的危機,而是在描繪一種新的邏輯及其運作方式。

根據祖博夫的研究,監控資本主義已經成為大多數網路公司的預設模型,並從線上機制擴展到線下,滲透到越來越多的領域。祖博夫指出,「如果有什麼東西免費,那真正的商品其實是你」這句俗語已經過時,監控資本主義已經進一步,用戶甚至不再是完整的「產品」,而只是「原料」、「屍塊」,是監控資本主義至關重要的利潤源泉,而真正的客戶則是那些在這個「人肉市場」中交易「人類期貨」的大企業主。

在社交媒體中的「點讚」、「推送」等客製化環節裏展開的,其實是將用戶的所有資訊視作原料,不斷提取並呈現其行為資料的過程,最終不再滿足於單純地提取,而會伸手干預這個過程,主動修改、塑造用戶的行為與經驗,讓用戶成為更有利於商業成果及利潤的模樣。

因此,祖博夫把監控資本主義視為「21世紀的浮士德契約」:人們已經習慣網路的便捷、快速和充滿商機,但這同時也讓其全面性入侵日常生活。「人類自以為在自由地做出選擇,實際上,在這知識與權利失衡的模式下,早已被強加了種種不合理的選擇。」

數據監控無所不在

該紀錄片以美國為例,指出在社交網站的影響下「個人和政治分化達到20年來最高」,並提醒觀眾:在監控資本主義的操縱下,民主可以用「完全合法化」的方式被操控。不過,值得一提的是,人類在技術發展的過程中,被其構建的技術在不知不覺中操縱,已不是什麼新鮮事,並非直到網路、人工智慧世代才有。

法國哲學家傅柯(Michel Foucault)在其鉅作《性史》(The History of Sexuality)提出「生命政治」的看法:以最少的生命成本獲得最大化的社會治理效果。遵循功利主義邏輯,生命政治在微觀層面保障個體生命安全以得到充足勞動力,並在宏觀層面形成「勞動力、生產性增加、更多勞動力」的循環,因此「人口不再僅僅是表明統治者力量的標誌,而且是國家和統治者力量的源泉」。

以台灣為例,政府近日陷入「網軍風波」,在野黨指控執政黨使用政府資源,在各種社群媒體上精準投放負面文宣來攻擊在野黨、分化支持者,並批評,台灣的大數據科技讓政府執行起來更加得心應手。

台灣於2020年以「大數據防疫」自豪,政府利用健保卡與手機,管控每個入境的國民與非國民。這不僅訴諸於文字時令人感覺極為不妥,連在法律的依據都相當勉強,只能以「緊急事態下的非常手段」來作為說辭。

但透過健保卡與手機監控,政府實質掌握全體國民的醫療與移動資訊,以防疫之名,和其他警政系統連結,足以利用大數據資料,判斷出每個國民的日常行為模式、喜好、工作、健康狀態等,並為其「量身定做」投放符合政府需要的文宣。「民主」體制的政府透過各種資料紀錄掌握或監控用戶的行動軌跡,值此防疫時期,一切以「保障人民健康」為由的資料搜集,卻被越來越多人默許。

有效治理與資本監控

英國倫敦政經學院社會學教授羅斯(Nicholas Rose)在其著作《生命本身的政治——21世紀的生物學、權力、主體性》(The Politics of Life Itself: Biomedicine, Power, and Subjectivity in the Twenty-First Century)指出,醫學管轄範圍的擴張,使個體日常生活的各個方面都被「權威意見」、治療技術和風險管控手段所介入,已成為新世紀生命政治的最重要層面。

如此看來,為了有效治理、鞏固國家綜合實力與地位,個體早已被「配置」在醫療技術所構建的「醫藥資本主義」網路之中,而收集人類行為資料(behavioral data)並修改人類行為的人工智慧技術,不過是從另一方面將人類同時嵌入「監控資本主義」當中,它亦是將治理規模與經濟、政治成本的降低都推到更加極致的地步。

值得玩味的是,拍攝並上映這部紀錄片的網飛,本身也是依賴網路公民、運用演算法推薦「可能感興趣」內容等功能的線上影視平台,它同樣扮演著利用人工智慧網路科技將使用者引入龐大監控資本主義的角色。

不管「監控資本主義」的概念是否成立,社交媒體、網路巨頭們的這種生產模式對人類社會的影響都值得進一步分析和解構。比如,所謂「演算法」會讓使用者看到重複和同質的資訊而變得更狹隘,世界各地的政治活動和群眾運動都在浮現「同溫層」與「極化」的效應,包括為人關注的香港反修例運動,直到今年的台灣和美國大選皆是如此。美國耶魯大學法學教授「虎媽」蔡美兒(Amy Chua)所指出的「政治部落主義」(political tribalism)現象,其實與「監控資本主義」之間也有著或多或少的關係。

本文來源:《多維TW》月刊062期