兩年前生成式AI應用爆發,一年半後代理型AI(Agentic AI)發展備受關注,已成為2025年當紅科技焦點,然而,在企業導入AI相關工具以提升營運效率的同時,網路犯罪組織也正同樣這麼做。
2025臺灣資安大會的第一天,負責「前瞻威脅研究」(FTR) 與「敵情監控」(AIM) 團隊的趨勢科技專家,介紹了他們對網路犯罪的最新觀察,同時向所有國內與會者示警,呼籲大家在期待AI Agent應用到來之際,同時也要注意網路犯罪領域可能的重大變革,將出現以AI代理為基礎的新模式──Cybercrime as a Servant。
回顧網路犯罪發展,服務型態演進是關鍵
對於網路犯罪模式的演進,趨勢科技網路犯罪研究前瞻威脅研究總監Robert McArdle指出,自從2013年勒索軟體攻擊出現,這10多年的網路犯罪有多次重要進化。
例如,攻擊者先是從初期鎖定個人用戶敲詐,之後將目標轉向企業與大型組織,因為攻擊可獲得的效益更大,之後的網路犯罪模式發展,進一步加劇了這方面的危害,尤其是勒索軟體即服務(RaaS)讓黑色產業商業模式成形,還有雙重勒索的出現,不只惡意加密檔案,還會偷資料來威脅不付贖金將公開資料,讓企業即使有備份,也難以全身而退。
儘管現在企業面對勒索軟體攻擊,支付的贖金規模似乎降低,代表攻擊者賺得錢變少,但從資料外洩的數量來看,其實事故還是呈現增加。Robert McArdle引用了區塊鏈分析業者Chainalysis的最新統計數據,他表示,在支付贖金方面,2023年支付贖金達12.5億美元,2024年則降至813億美元。而從趨勢科技本身的統計數據來看,在資料外洩事故方面,2023年有1,329起,2024年增至1,697起。
跟隨不同階段AI發展,網路犯罪也看重其效率與成本效益
如今AI技術崛起,網路犯罪局勢更加複雜。Robert McArdle指出,在他們過去的研究中,可以發現攻擊者使用生成式AI有兩種運用方式,一是可以產生成多國語言且更逼真的網釣郵件內容,一是可以輔助攻擊者寫程式,幫助Debug既有惡意程式,並將程式寫得更好,但還不到真正取代惡意程式開發。
關於此方面的網路犯罪應用工具,Robert McArdle舉出兩個顯著的例子,分別是WormGPT與EscapeGPT,前者是駭客利用開源LLM來打造的工具,後者是駭客利用公用生成式AI服務,透過API串接,打造的GPT-3、GPT-4越獄服務。駭客打造這些工具的目的,就是提供不受限於安全防護的生成式AI,為攻擊者所用。
Deepfake帶來的威脅同樣嚴峻,攻擊者也濫用這樣的AI技術發動兩種網路犯罪行動,一是偽裝名人的網路詐騙,一是偽裝企業老闆與同事的BEC詐騙。以後者而言,英國工程公司Arup香港分公司在2024年遭遇的資安事故就是一例,其財務主管接到的視訊會議,螢幕上同事全是Deepfake影像,造成誤信對方指示匯出2,500萬美元,之後才發現上當。
更具挑戰的是,現在攻擊者製作Deepfake不一定需要專屬工具,因為市面上就有很多現成的影片編輯軟體,可以幫助他們做到這樣的效果,而且成本相當低廉。
Image may be NSFW.
Clik here to view.
如今,生成式AI的運用變得更加進步,邁向代理型AI的應用階段,Robert McArdle大膽預言,在2026年我們每個人身邊其實都會有很多的同事,其實都會是AI Agent。
但他更想強調的是,網路犯罪市場也會有所轉型,從現在的Cybercrime as a Service,也就是網路犯罪即服務,轉變為AI代理為基礎的Cybercrime as a Servant。(編按:趨勢科技譯為網路犯罪即代理,目的是突顯運用AI代理,若以Servant一詞意指僕人、傭人、傭兵而言,我們認為亦可翻譯為網路犯罪即雇員)
換言之,進入Agentic AI時代,讓自動化能力升級,網路犯罪市場也將進入Cybercrime as a Servant時代。Robert McArdle解釋,由於這類AI不再是單一模型,而是一系列小型、專精於單一任務的AI Agent,對於網路犯罪者而言,可以有某個Agent專門搜尋資料庫,另一個專門與受害者溝通,還有一個負責生成釣魚信內容。
這種AI分工合作的自動化模式,將提升網路犯罪集團的攻擊效率,也更容易擴大攻擊範圍。
了解駭客思維的同時,更應建立主動式資安風險管理
儘管在AI發展之下,網路犯罪威脅的危害恐隨之擴大,但Robert McArdle也強調一件事,他從過往經驗觀察到,無論網路犯罪的態勢如何演變,從攻擊者思維模式來分析,可以歸納出這些駭客普遍遵循三大原則:(一)想要追求輕鬆的生活,(二)偏好短期且高報酬的獲利途徑,(三)其攻擊手法是進化而非革命性的改變。
由於這些網路犯罪者是技術跟進者,因此Robert McArdle認為我們很有機會取得優勢,因為資安防禦也在AI的幫助下更進化,可以變得更效率,可以抵銷增加的威脅,但前提是我們必須做好準備,採取主動式防禦作為資安策略,應用各式AI技術來提前預測駭客的潛在攻擊路徑。