《派遣女醫X》大數據算不出人性

現代醫師或法官都面臨許多執業上的困境,更有人倡議新興科技可以取代其工作。例如,在《派遣女醫X》第五季第五集中,將棋(又稱日本象棋)的明日之星五反田五郎與AI機器人進行對弈,當他正瀕臨敗局時,卻發生手抖、病倒的情況,隨即被送往東帝大學醫院就診。

當時,日本醫界正在推廣一款AI人工智慧的機器,希望用以輔助醫生正確的診斷病情,遂以「西方醫學之父」希波克拉底來命名。當然其背後也涉及龐大的利益,將可讓醫界財源滾滾。外科部主任鳥井高醫生平時認真研究、撰寫論文,原本質疑希波克拉底AI的診斷能力;但因為醫生俱樂部會長內神田景信及東帝大院長蛭間重勝的極力推廣,加上他對自己的判斷能力沒有信心,只好依照該AI的科學數據分析,診斷出五反田罹患的是「腦膿瘍」。

然而,久思不得其解的大門未知子在打桌球時,靈機一動,從五反田身體裡的膿包、出國及飲食經驗,診斷出他是吃了未熟的豬肉,身體裡長了豬囊蟲。經由她手術取出後,五反田果然康復,並在下一回合的對弈時,於陷入壓倒性的落敗局面下,仍憑著經驗直覺打敗了AI機器人。

原先大肆宣揚將用希波克拉底AI醫治,以期推廣它並賺進大把鈔票的蛭間重勝,在手術後的記者會仍意圖欺騙社會大眾。當心有不甘的鳥井高質問大門未知子:「為何我跟AI都診斷不出來,妳卻可以正確診斷?」時,她回答得很乾脆:「因為AI不吃飯啊!你的研究沒做足!」

說的好!AI人工智慧不吃飯,不瞭解人的七情六慾,光靠大數據未必能做出正確的診斷,便只能是醫療輔助工具而已。而司法體系也面臨同樣的狀況,二○一九年九月間,國立清華大學開發出AI協助家事判決預測系統,宣稱只要使用者輸入夫妻雙方有利與不利的條件,就可針對打離婚官司父母爭取孩子撫養權做預測,準確率可達九成以上;甚至有人開始倡議要用AI來擔任法官,以便提供較可預測的一致性判決。

例如,近年美國法院已廣泛運用「COMPAS」系統,這是一套由商業公司開發的AI,幫助法官評估被告的再犯風險,作為量刑的準據。COMPAS 會進行大量問答調查,依據被告回答、年齡、過往犯罪紀錄與類型等各項資料,推估被告的再犯率,給出一至十的危險指數,最後由法官決定被告服刑的長短。

人類文明的進步,就是科技的不斷創新史,卻也不能忘記科技始終來自人性。我同意AI可協助處理大量資訊、節省時間、降低工作量與錯誤;建立AI判決預測系統,可以減低濫訴機會;建立量刑資訊系統,可以減少法官們在量刑上歧異的問題。但正如它運用在醫療上所生的問題一樣,演算法可能造成黑箱、偏見與誤解,因此AI僅能作為審判的輔助工具,並不能取代法官。

誠如中央研究院法律學研究所特聘研究員李建良所說:理性、客觀幾乎是AI的最大光環,以準確一致的邏輯做判斷,不受法官個人情緒與好惡影響。但AI法官究竟是鐵面無私的包青天,或者科技暴走的新危機?許多研究證實:AI默默戴上了「有色眼鏡」!前述COMPAS 系統即被抨擊帶有種族歧視,有色人種更容易被預測為高再犯率。因為AI系統在資料學習的過程,複製了人類長年累積的性別、種族、階級偏見。即便這些偏見已長久存在,但AI可能更強化不平等,因為人們會在毫無所覺下,信任科技工具的「客觀」訊息,對陌生人打分數。

尤其審判上的定罪、量刑具有價值判斷的本質,其中難免含有情感與主觀判斷;甚至被認為是中立、客觀的法律詮釋,都可能離不開個別法官的人生經驗與感情作用。是以,既然審判面對的是活生生的人,都是有血有肉,有人生的甘苦與悲歡離合,而且背後都存在著許多與被告、被害人命運相連的個體,則這種工作只有具備人類情感的「人」才能勝任,而非純粹理智的電腦所能擔當。

劇透人性:法官跳脫藍色高牆的正義追尋

(本文摘自林孟皇著《劇透人性:法官跳脫藍色高牆的正義追尋》,商周出版提供)


延伸閱讀

鄰居一直製造噪音 叫警察有沒有用?

婚後財產真的一人一半?一文搞懂台灣夫妻財產制

她是這麼說的!美國司法傳奇 RBG金斯伯格大法官