新工商時報即將上線了
  1. 行動版
  2. 生醫健康網
  3. 機械展
  4. 台灣權王

IBM推出能提升人工智慧信任和決策透明度的軟體服務

2018/09/20 | 科技走廊 | 黃志偉

 IBM公司日前推出了一種提高人工智慧透明度的技術,使企業能夠更全面地駕馭人工智慧的力量。

 這種在IBM雲端運算平台上執行的軟體服務,能夠在人工智慧進行決策時自動檢測偏差並解釋決策過程,進而幫助各行各業的組織管理人工智慧系統。IBM服務事業部也將與企業合作,幫助他們運用這種全新的軟體服務。

 此外,IBM研究院將會向開源社群發佈一套人工智慧偏差檢測和緩解工具包,用先進的工具和培訓促進全球協作,以解決人工智慧偏差問題。

 IBM認知解決方案高級副總裁David Kenny表示,「IBM曾經領導業界確立了開發新型人工智慧技術的信任和透明度原則。現在是將這些原則付諸實現的時候了。任何可能有缺陷的決策都會給使用人工智慧的企業帶來極大的潛在風險,而我們為企業提供了加強透明度和控制的方法。」

 這些技術的發展也同樣印證IBM商業價值研究院的最新研究結果,該研究顯示,雖然有82%的企業正在考慮運用人工智慧,但有60%的企業擔心責任問題,63%的企業缺乏能夠可靠地管理這種技術的內部人才。

提高人工智慧決策的可見度

 在IBM雲端運算平台上的全新信任和透明度功能,可與各種機器學習框架和人工智慧建構的環境模型配合使用,例如Watson,Tensorflow,SparkML,AWS SageMaker和AzureML。也就是說,企業可以將這些新的控制工具用於大部分常見的人工智慧框架。還可以對軟體服務進行編碼,以監控任何業務工作流程所需的獨特決策因素,使其能根據特定的組織用途進行客製化。

 這種完全自動化的軟體服務能夠解釋決策並在運行時(也就是進行決策時)檢測人工智慧模型中的偏差,每當潛在的不公結果出現時就會立即發現。重要的是,它還能自動建議應添加到模型的數據,幫助緩解它檢測到的任何偏差。

 它使用通俗易懂的術語提供解釋,說明是哪些因素的權重使決策朝某一方向傾斜,決策建議的可信度有多大,以及可信度背後的因素。此外,模型的準確性、性能和公正性以及人工智慧系統譜系的紀錄可以根據客戶服務、法規或合規用途,例如GDPR合規,輕鬆地追蹤和回顧。

 所有這些功能都是透過可視化操作面板來存取,讓企業客戶擁有前所未有的理解、解釋和管理人工智慧主導決策的能力,並降低對專業人工智慧技能的依賴。

 IBM還提供新的諮詢服務,來幫助公司設計業務流程和人類與人工智慧介面,進一步減緩策偏差的影響。

使開源社群能夠建構更公正的人工智慧

 此外,IBM研究院還將提供開源社群 AI Fairness 360工具包,這是一套包括新型演算法、程式碼和教程的資源庫,它將為學術單位、研究者和資料科學家提供在建構和部署機器學習模型時整合偏差檢測功能的工具和知識。開源社群中的其他資源僅僅著眼於檢查訓練數據中的偏差,而IBM研究院建立的IBM AI Fairness 360工具包將有助於檢查和緩解人工智慧模型中的偏差。IBM研究院藉由這一工具包,廣邀全球開源社群合作推動人工智慧的相關研究,降低解決人工智慧偏差的困難度。

研究揭示了人工智慧部署主流化的優先項目和障礙

 IBM最近發佈了IBM商業價值研究院2018人工智慧報告,這份對5,000名企業高管的調研結果顯示,對於人工智慧推動商業價值和收入成長的潛力,企業領導者的看法正在發生重大變化。

 報告中的重要發現:

 82%的企業和93%的高績效企業正在考慮推廣人工智慧應用,重點是增加收入。

 60%的企業擔心責任問題,63%的企業缺乏能夠可靠地管理人工智慧技術的人才。

 首席執行長認為在IT、資訊安全、創新、客戶服務和風險管理方面採用人工智慧可以獲得最大的價值。

 人工智慧的應用範圍正在擴大,在金融服務等數位轉型程度較高的行業很可能會加速推廣。