When AI Acts: Hacking the Age of Agentic Systems

近年來，AI 安全持續作為 HITCON 的核心議題，隨著 AI 從語言理解演進至 Agentic AI 時代，其安全挑戰也大幅加劇。

AI 系統本身即面臨系統越獄、提示詞注入、模型對齊等理論上難以根除的對抗性攻擊問題，且 Agentic AI 作為多元資訊系統間的橋樑，不僅會承襲底層基礎設施的漏洞，更會將其擴散至整個整合環境，形成複雜的供應鏈攻擊面。

此外，基礎模型、訓練程序、訓練資料集乃至 Tool Use 皆可能成為新型攻擊面，而安全的問題時常被推延至開發週期末段，在 IT 發展史上屢屢重蹈覆轍。

如何在這個新時代將 Security-by-Design 的理念納入 AI 系統開發，已成為資訊安全領域下一個關鍵課題。