記者許若茵／台北報導
隨著生成式AI與代理式AI的快速發展，企業透過AI驅動創新的同時，駭客也正利用AI技術讓網路犯罪從過往仰賴人工作業的模式，進一步走向低成本、低門檻且可大規模複製的新模式。全球網路資安解決方案領導廠商趨勢科技旗下全球企業AI資安領導品牌TrendAI™指出，當今駭客結合內容生成、身分偽造與系統濫用的複合式AI威脅，讓企業既有的防護邏輯與管理模式面臨著前所未有的考驗。
企業追求導入AI的速度，卻容易忽略風險控管能力。根據TrendAI™調查，74%的台灣受訪企業決策者坦言過去曾在高層要求或市場競爭壓力下，被迫核准在企業導入可能帶來資安風險的AI方案，卻只有不到一半的企業認為內部團隊能辨識惡意或異常的AI行為，顯示台灣企業正面臨「盲目導入AI」的高度風險。
TrendAI™威脅研究總監Ryan Flores指出，AI提供駭客以極低成本及大規模製造威脅的能力，讓網路攻擊者不必再親手撰寫程式碼，透過大型語言模型、AI代理就能將詐騙攻擊鏈自動化。TrendAI™發現，網路攻擊者能以不到10美元的成本，自動生成大量看似可信的文字、影像與敘事內容，進一步用於釣魚詐騙、變臉詐騙(BEC)，甚至影響特定事件的輿論走向。
更多科技工作請上科技專區：https://techplus.1111.com.tw/
在AI的助長下，身分冒用變得防不勝防，TrendAI預測深偽技術將越趨成熟且成本下降，未來將形成更難辨識、更容易被大規模濫用的局面。Ryan Flores展示了一段深偽影片，看似就是一般工程師求職面試，但實際上卻是駭客透過深偽企圖打入企業內部。
Ryan Flores指出，儘管目前深偽技術上品質還很差、成本很高，但未來科技進步，成本就會降低，深偽影片品質也會變高。如今也已有北韓駭客組織利用竊取而來的LinkedIn、GitHub等公開資料，搭配大型語言模型與深偽技術，偽裝成遠距IT工作者應聘，成功受聘後再進一步進行橫向移動、竊取機敏資訊，甚至發動勒索攻擊。TrendAI™台灣暨香港區總經理洪偉淦也提醒，現在已有這樣的案例，對於網路上所見所聞，都應保持警覺，甚至要懷疑真假、採取零信任，想辦法驗證真實性。
Ryan提到，有些駭客甚至會設立「假公司」進行反向釣魚，藉由發布假職缺面試真實求職者，並誘騙其下載惡意軟體，藉此竊取個資，甚至劫持真實帳號，以作為下一波假求職真攻擊的完美掩護。
科技社群討論區：https://pei.com.tw/feed/c/tech-plus
隨著大型語言模型(LLM)運算能力躍進，TrendAI™觀察到，駭客攻擊手法已突破傳統技術限制。近期如LameHug等惡意工具，便刻意偽裝成AI圖像生成應用，實則內嵌大型語言模型運算能力，使攻擊者無須編寫複雜程式碼，僅需透過提示指令下達意圖，模型即可自動編譯並執行惡意指令。這樣的攻擊模式突破了傳統環境的限制，使單一惡意軟體能無縫跨越Windows、Mac與Linux多重作業系統的限制而發動攻擊，讓威脅迅速擴散。
此外，企業內部的AI系統，如智能客服、自助查詢或自動化流程平台，也可能成為提示詞注入(Prompt Injection)攻擊的最佳跳板。攻擊者無須費時尋找系統漏洞，僅需寄發一封暗藏提示詞注入指令的電子郵件，當AI系統讀取信件時，因無法精準分辨常規文字與惡意指令的邊界，便極易遭惡意指令誘導而偏離任務。若遭到滲透，企業系統將直接執行資料加密任務，進而攻擊企業資料庫。
Ryan Flores呼籲，儘管AI技術屢遭駭客濫用，但AI仍是驅動產業變革的時代創新。面對AI時代的威脅，建立完善的安全機制與治理框架將成為企業相當重要的議題。此外，企業應採用智慧的資安事件管理（SIEM）方案，得以將碎片化數據資料轉化為一致語言，並有效分析串聯跨系統資訊，加速判斷與決策效率。
洪偉淦表示，「我們觀察多數台灣企業的資安架構仍停留在過去以工具與規則為核心的模式。而在AI時代的競爭關鍵，不在於誰擁有最完整的資安工具，而在於誰能最快理解風險、做出決策。TrendAI的使命正是協助企業在這波轉型浪潮中，建立以AI為核心的風險治理能力，真正掌握 AI 世代的安全主導權。
—
本篇文章授權來源：科技島
