網路安全始終是一場非對稱競爭。防守方必須保護所有可能的入侵點；攻擊方只需找到一個即可。AI正在同時重塑這場方程式兩端，其淨效果並非直觀。在攻擊方面，AI降低了技術門檻——過去需要深入技術專業知識的攻擊，現在只要有LLM存取權的人就能部分自動化。在防守方面，AI提高了天花板——讓檢測與回應能力達到人類分析師獨自難以實現的水準。結果並非某一方「獲勝」，而是競賽節奏大幅加速，未能適應的組織將比以往更快被淘汰。
最立即可見的攻擊應用是AI增強的釣魚攻擊。傳統釣魚活動依賴群發通用範本，而大多數人已學會辨識生硬語法與可疑格式。LLM完全消除了這種跡象。攻擊者可以生成數百封個別客製化的釣魚郵件，提及目標實際的同事、近期專案與寫作風格——從LinkedIn、公司網站與公開通訊中抓取資料。每封郵件的成本降至幾乎為零，而轉化率卻大幅提升。除了釣魚，AI也加速了漏洞發現：像微軟的Security Copilot與開源替代工具，能比人工審查更快分析程式碼庫中的可利用模式。惡意軟體作者使用LLM生成多形碼，每次執行時改變簽章以逃避傳統防毒軟體檢測。而語音克隆技術則讓語音釣魚（vishing）攻擊成為可能，攻擊者聲音與你的主管或IT部門完全相同。
在防禦方面，AI的優勢在於處理規模與跨維度的模式識別，這些維度是人類無法即時監控的。現代安全運作中心（SOC）使用如CrowdStrike的Charlotte AI、微軟的Security Copilot或Darktrace的Antigena等AI工具，可同時關聯網路流量、端點監測、驗證日誌、郵件元資料與雲端活動的信號。異常檢測模型學習特定環境中「正常」的樣貌，並標記偏差——例如用戶從不尋常地點登入、伺服器向昨天註冊的域名發送DNS查詢、資料庫在凌晨3點以十倍於正常量輸出。這些檢測可在數秒內生成警報，而人類分析師審查日誌可能需要數小時或數天才發現相同模式。AI也加速了事件回應：一旦識別威脅，自動化流程可立即隔離受影響系統、撤銷遭入侵的憑證，並在人類回應者接收到警報前開始進行數位鑑證。
AI在網路安全中的現實情況比行銷所暗示的更複雜。一個持續存在的問題是警報疲勞：AI驅動的檢測系統極其敏感，導致產生大量警報，其中絕大多數為誤報。一個典型的企業SOC可能每天看到數千個警報，而安全分析師大部分時間都花在篩選而非深入調查上。LLM正越來越多地用來解決此問題——摘要警報、關聯相關信號，並提供自然語言解釋說明檢測觸發原因，但根本問題仍然存在。一個能標記所有可疑活動的系統很容易建立，但能準確區分真實入侵與開發人員在午夜測試部署腳本的系統，需要對特定組織有深入的上下文資訊，而這類資訊很難編碼。
AI在網路安全中的發展軌跡顯示，雙方的自主性將持續增加。能在無人指導下串聯偵測、漏洞掃描、利用與橫向移動的攻擊型AI代理，是近期可能實現的目標——DARPA的Cyber Grand Challenge早在2016年就展示了完全自動化的漏洞利用與修補，而此後技術已大幅提升。能自主搜尋威脅、修補漏洞並根據攻擊重新配置安全控制的防禦型AI代理，正被所有主要安全廠商開發。讓安全人員夜不能寐的場景是AI對AI的戰鬥以機器速度進行，攻擊與防禦在毫秒內執行，人類操作員僅剩設定政策與審閱戰後報告的責任。這個世界尚未到來，但各塊拼圖正在到位。目前最能應對此情勢的組織，是那些現在就投資於具備AI知識的安全團隊、自動化回應能力，以及AI防禦所需資料基礎建設的機構。