控管公開與自建 AI
防止敏感資料外洩
Netskope AI 安全
Netskope 協助企業盤點生成式 AI 的實際使用，區分公司租戶與個人商用帳號，並對送出的文字內容與上傳檔執行資料外洩檢查。公開應用經安全網頁閘道與雲端存取安全代理處理；自建模型與應用對模型的呼叫，可由 AI Gateway 另行控管。
- 盤點 影子 AI 與核准清單
- 區分 公司與個人實例
- 檢查 文字內容與上傳檔
- 處置 允許、輔導或阻擋
從使用狀況、帳號實例到內容檢查，形成可執行的政策。
控管方式
-
使用盤點
列出公開生成式 AI、SaaS 內嵌助手與相關外掛的實際使用。標示未核准項目與使用量，作為政策調整依據。風險評等可協助判斷應用是否使用客戶資料訓練或分享給第三方。
-
帳號實例控管
允許公司租戶的 Copilot、Gemini 或企業 ChatGPT。對個人付費帳號、私人工作區與未核准實例設定阻擋或隔離，避免公務資料進入私人對話紀錄。
-
內容與檔案檢查
對送出的文字內容、貼上內容與上傳檔執行資料外洩檢查。個資、卡號、原始碼與契約條款依識別子判斷。必要時可檢查模型回應，並以即時視窗向使用者說明風險。
Fence design
「不准上傳檔案」若分不出公司雲碟與私人對話，政策就很難被業務單位接受。
圍籬要寫得夠細才有人執行
- 應用層ChatGPT、Gemini、Copilot、Claude，以及其他被盤到的 GenAI
- 實例層企業租戶放行，私人商用帳號預設擋
- 內容層提示詞、剪貼簿貼上、上傳檔；可加即時輔導減少重犯
- 對象層一般員工、開發、承辦、高權限帳號分開
試寫一條規則
預設擋ChatGPT 的私人商用帳號預設擋，避免公務資料進私人對話史。
- 若實例層＝企業租戶：放行，放行，內容政策仍生效。〔應用層〕 的企業租戶放行；〔內容層〕仍受內容層檢查，可加即時輔導減少重犯。
- 其餘情況：阻擋，預設擋。〔應用層〕 的私人商用帳號預設擋，避免公務資料進私人對話史。
公開應用與自建模型
- 公開生成式 AI：經次世代安全網頁閘道解密流量，辨識應用與實例後套用政策
- 已核准 SaaS：雲端存取安全代理可搭配 API 掃描企業租戶內的互動紀錄
- 自建模型：AI Gateway 部署於客戶環境，檢查應用呼叫模型的請求與回應
- 內容防護：可偵測不當內容與提示注入等風險，並與資料外洩識別子一併判斷
常見情境
| 情境 | 風險 | 控制方式 |
|---|---|---|
| 員工以私人 ChatGPT Plus 處理客戶名單 | 對話紀錄留在個人帳號，公司無法掌握 | 辨識私人商用實例並阻擋或隔離 |
| 開發人員將原始碼貼入免費模型 | 貼上的文字內容即為資料外洩 | 內容檢查，必要時輔導後仍阻擋 |
| 承辦人員上傳合約檔請模型摘要 | 檔案較文字更容易整份外帶 | 上傳檔檢查，依識別子決定是否允許 |
| 從公司雲碟將名單貼入私人帳號 | 已允許應用之間的資料流動，傳統網址過濾無法辨識 | 實例感知搭配內容檢查 |
| 已核准的企業 Copilot | 全面封鎖可能使使用量轉向未核准工具 | 公司實例允許，內容政策仍生效 |
對照現有核准清單
若尚無清單，可從使用盤點開始。若已有清單，可檢視私人商用帳號與上傳檔的控制是否已實際執行。