自建 AI 的安全
議題 03・AI 安全
內部 LLM 應用被注入、越獄怎麼辦？
自建 LLM 應用的攻擊面由企業自己承擔：上線前缺乏系統化測試，上線後缺乏統一的檢查點與稽核紀錄。
您是否也遇到
- LLM 應用被越獄或誘導洩密
- 各專案的 LLM 金鑰與用量無人統一管理
- App 對 LLM 的流量沒有人檢查
業界調查
近 20%
越獄攻擊成功率（原廠引用）
資料來源
出處：Netskope Skylight AI Guardrails、AI Red Teaming、AI Gateway 官方頁與資料表（2026）；越獄成功率為原廠引用的研究數據
議題 3・互動模擬
App 呼叫自建 LLM 時，會在哪一關被處理
打開或關閉三個控制點，切換請求類型，看這次呼叫的路徑與結果。改任何設定都會自動重播。
預設情境（請求：提示注入）。
控制點全部關閉時：提示注入已送達模型，沒有被擋下。
控制點全部開啟時：Guardrails 擋下提示注入／越獄指令（在 02 Guardrails 被處理）。
- 01 AI Gateway 權杖驗證與限流 閘道權杖驗證、速率限制、API 記錄；支援 OpenAI、Gemini、Claude 所有呼叫先驗證權杖、集中記錄，金鑰不再散落各專案。
- 02 Guardrails 提示安全 支援 29 種語言；偵測對應 MITRE ATLAS 與 OWASP 一句「忽略先前指令」就可能讓 AI 洩密；Guardrails 在送達模型前攔下。
- 03 DLP 資料遮蔽 整合 AI Gateway 的 DLP 敏感資料不該送進模型；DLP 與 Guardrails 互補。
示意模擬，不代表實測數據；實際效果依授權、部署與政策設定而定。
NETSKOPE 怎麼控制
三個做法，從上線前測到上線後守住
-
上線前以 18,000+ 對抗情境自動化紅隊測試
並可接 CI/CD。
-
上線後所有呼叫經 AI Gateway
權杖驗證、速率限制、API 記錄。
-
Guardrails 擋提示注入與越獄
DLP 遮蔽或阻擋敏感資料。
可稽核佐證與成果指標
稽核問起來，拿得出什麼
-
紅隊測試報告
紅隊測試報告（對應 MITRE ATLAS 與 OWASP LLM Top 10）
-
閘道記錄
閘道 API 記錄與事件，以同一事件 ID 關聯
-
指標建議
建議追蹤的成果指標：上線前發現並修補的弱點數、被擋的注入與越獄次數、未授權呼叫次數