AI雙面刃 歹徒正在用AI犯罪

AI人工智慧除了為企業、生活帶來便利以外,卻也是一把兩面刃,成為歹徒用來犯罪的手段。趨勢科技與歐洲刑警組織(Europol)、聯合國區域犯罪與司法研究院(UNICRI)合作進行研究,報告揭露,歹徒正在利用人工智慧犯罪,包括躲避影像辨識以及語音生物辨識等,或是利用AI來篩選攻擊目標、躲避偵測等。

以目前來說,Deepfake是最為人熟知的AI人工智慧攻擊手法,AI已經被用於猜測密碼、破解CAPTCHA認證、複製人類語音,以及其他眾多開發當中的非法技術。趨勢科技指出,這表示,未來需要新的過濾技術,來防範假訊息攻擊與網路勒索的風險,並防範專門以AI資料為目標的攻擊。

先前趨勢科技也發布報告指出,某些商品的市場正在逐漸興起,包括Deepfake服務(被駭客用於性勒索,或用來通過某些網站要求的照片認證)、AI人工智慧遊戲機器人(用於預測骰子的點數,或用於破解Roblox的驗證碼)、存取服務(Access-as-a-Service,用於存取駭客已入侵的裝置和企業網路)等。趨勢科技表示,Fortune 500大企業的存取即服務價格可高達10,000美元之譜,某些服務還內含讀寫權限。穿戴式裝置帳號也是逐漸興起的市場,趨勢科技表示,網路犯罪集團可利用這些帳號來從事保固詐騙,要求廠商提供裝置更換。

趨勢科技認為,網路犯罪集團一直都是最新技術的率先採用者,人工智慧技術也不例外。目前AI人工智慧可能被歹徒利用的方式如,製造難辨真偽的大規模社交工程攻擊、開發文件內容辨識惡意程式,以提升攻擊效率。此外,歹徒也會利用AI技術,來躲避影像辨識以及語音生物辨識系統。

而在勒索病毒攻擊時,人工智慧也可以被用來篩選攻擊目標,並且躲避偵測。AI也能用於資料污染,以發覺偵測規則中的盲點。

趨勢科技跟歐洲刑警組織、聯合國區域犯罪與司法研究院在報告中也建議,企業應發揮AI的潛力,讓它成為打擊犯罪的工具,也讓網路資安產業與執法機關跟上時代洪流。此外,也應藉由持續不斷的研究來激發更多防禦技術的發展。另,提倡並發展安全的AI設計架構、減少政治口水,讓AI應用於網路資安用途。報告也建議,每個國家以應該透過公私部門合作,以建立跨領域專家群組。