AI 加速網路犯罪，詐騙手法更快速、成本更低且更難辨識

網路犯罪分子正在使用人工智慧來實施更精密的詐騙計畫。他們瞄準從退休儲蓄到企業機密的一切目標,使用的手法越來越難以察覺。

為線上購物者量身定制廣告的同一種技術,現在正被不法分子用來收集個人資料並快速發動客製化詐騙。真的非常快。

Anthropic、OpenAI 和 Google 等主要 AI 公司報告指出,犯罪分子正在利用他們的平台來策劃複雜的網路釣魚行動、開發有害軟體並執行各種數位攻擊。資安專家警告,犯罪分子還製作公司領導人的假音訊和影片片段,以欺騙員工洩露敏感資訊。

企業和政府機關可能很快就會面臨大量由 AI 驅動的系統,這些系統能夠發現電腦網路中的弱點,然後在幾乎不需要人力協助的情況下規劃並執行攻擊。

這項技術正在改變犯罪分子在線上的運作方式。Alice Marwick 是獨立技術研究機構 Data & Society 的研究主管。她告訴《華爾街日報》,最大的轉變涉及規模和範圍。「真正的改變在於範圍和規模。詐騙變得更大、更有針對性、更具說服力。」

Brian Singer 是卡內基美隆大學的博士生。他研究大型語言模型如何被用於網路攻擊和防禦。他的估計?全球垃圾郵件和網路釣魚訊息現在有一半到四分之三來自 AI 系統。

攻擊本身變得更加可信。在公司通訊上訓練的 AI 系統可以產生數千條聽起來自然且符合公司風格的訊息。它們模仿高階主管的寫作方式。它們提及在公開紀錄中發現的近期新聞。

這項技術還幫助海外詐騙者隱藏過去會讓他們的企圖顯而易見的語言錯誤。犯罪分子可以透過假影片和複製的聲音來冒充受害者。他們使用相同的假身份同時瞄準多個人。

John Hultquist 是 Google 威脅情報小組的首席分析師。他將主要轉變描述為「規模化的可信度」。

不法分子在挑選目標方面也越來越熟練。他們使用 AI 瀏覽社群媒體,尋找正在處理重大生活困難的人。離婚、家人過世、失業,以及可能使某人更容易受到浪漫詐騙、投資詐欺或虛假工作機會影響的情況。

暗網市場降低進入門檻

網路犯罪的進入門檻已經降低了。地下市場現在以每月低至 90 美元的價格出售或出租用於犯罪工作的 AI 工具。Nicolas Christin 領導卡內基美隆大學的軟體與社會系統部門。

他說,這些平台提供不同的定價級別和客戶支援。「開發者銷售攻擊平台的訂閱服務,並提供分級定價和客戶支援。」

這些服務的名稱包括 WormGPT、FraudGPT 和 DarkGPT。它們可以建立有害軟體和網路釣魚活動。有些甚至包含駭客技術的教學材料。

Margaret Cunningham 是資安公司 Darktrace 的安全和 AI 策略副總裁。她說這很簡單。「你不需要知道如何編寫程式碼,只需要知道在哪裡找到工具。」

最近出現了一種稱為氛圍編碼或氛圍駭客的發展。它可能讓有抱負的犯罪分子使用 AI 製作自己的惡意程式,而不是從地下來源購買。Anthropic 在今年稍早披露,它已經阻止了「技術能力不足的犯罪分子」多次嘗試使用其 Claude AI 來建立勒索軟體。

犯罪行動本身正在改變。根據專家的說法,網路犯罪多年來一直像商業市場一樣運作。典型的勒索軟體行動涉及不同的群體。入侵公司網路並出售存取權的存取仲介商。在系統中移動並竊取資料的入侵團隊。以及發布惡意軟體、處理談判並分配資金的勒索軟體即服務提供商。

速度和自動化重塑犯罪網路

AI 提高了這個系統的速度、規模和可用性。以前由具有技術知識的人完成的工作現在可以自動執行。這讓這些群體能夠以更少的人力、更低的風險和更高的利潤運作。「把它想成下一層工業化。AI 在不需要更多熟練勞動力的情況下提高了產量,」Christin 解釋道。

AI 能完全自主發動攻擊嗎?還不行。專家將這種情況與推動全自動駕駛車輛相比較。前 95% 已經實現了。但最後那部分讓汽車能夠在任何地方、任何時間獨自駕駛的部分仍然遙不可及。

研究人員正在實驗室環境中測試 AI 的駭客能力。今年稍早,在 Anthropic 的支援下,卡內基美隆大學的一個團隊使用 AI 重現了著名的 Equifax 資料外洩事件。Singer 在卡內基美隆大學 CyLab 安全與隱私研究所領導這項工作。他稱其為「一個巨大的飛躍」。

犯罪分子將 AI 用於有害目的。但 AI 公司表示,同樣的工具可以幫助組織強化其數位防禦。

Anthropic 和 OpenAI 正在建立能夠持續檢查軟體程式碼以找出犯罪分子可能利用的弱點的 AI 系統。不過,任何修復仍然必須由人員批准。史丹佛大學研究人員開發的最新 AI 程式在搜尋網路中的安全問題時,表現優於一些人類測試人員。

即使是 AI 也無法阻止所有外洩。這就是為什麼組織必須專注於建立在攻擊期間能持續運作的強韌網路,Hultquist 說。

如果你正在閱讀這篇文章,你已經領先了。透過我們的電子報保持領先。