Page 64 - 清流雙月刊 NO.50

MJIB

安全 AI 系統發展指引：

應該從每個發展階段管理風險

上述的各種 AI 威脅，都並非是在被攻

擊時可以輕鬆辨別、防範的風險，因此應

用 AI 的組織更需要做好安全防護。對於 AI
系統而言，整體的防護十分重要，否則將
導致整個系統受到威脅；然而，過往的威

脅研究，常僅針對單一威脅，容易使組織

掛一漏萬。

著眼於此，英、美兩國資訊安全主管
機關與其他 23 國共同發表《安全 AI 系統 由英美領銜、共 23 個國家協作發表的《安全 AI
系統發展指南》旨在提高 AI 的網路安全水平，確
發展指南》，以 AI 的生命週期為核心， 保公司在設計開發和部署 AI 時保護客戶和民眾
的安全。（Source: UK National Cyber Security Centre,
幫助 AI 系統供應者（System Providers； https://www.ncsc.gov.uk/collection/guidelines-secure-ai-

無論是自行開發或是應用既有的工具或服 system-development）
務）設計、開發、部署或維護能「按預期
運作、在需要時可用、不向未經授權的各 在設計階段，組織應該使員工認識相

方透露機敏資料」的安全 AI 系統，包括透 關的威脅與風險、模擬可能的意外事件與

過外部 API（應用程式介面）使用 AI 的供 潛在的影響，並制定應對流程，以及實踐
應者。該指南特別強調AI系統的安全結果、 安全設計（secure by design）。在開發
大幅增進的透明度和可歸責性，以及建立 階段，開發者應該首重供應鏈安全，選擇

安全的組織與管理架構。 經過驗證、維護與紀錄良好的第三方硬體
與軟體元件，並要求供應商遵守開發組織
該指南也強調，無論在哪個階段，供應 所定的安全標準。此外，開發者還應該識
商都應該在其模型、開發流程與系統內實踐 別、追蹤和保護潛在被威脅的資產，並了

安全控制與緩解風險，並盡可能預設最安全 解資產被攻擊者存取後所額外暴露的攻擊
的選項。如果風險無法減輕，供應商就應告 目標。最後，開發者應該在系統的整個生

知供應鏈下游的使用者與客戶所將面臨的風 命週期中識別、追蹤和管理「技術債」。 6
險與提供相關建議。該指南旨在緩解 AI 系 技術債與金融債務一樣，本質上並不糟

統各個階段所面臨的可能風險，且著重於組 糕，但應及早開始管理。
織文化的培養與標準化流程。
在部署系統時，管理者應該制定並遵

循「基礎設施安全原則」，包含適當隔離

6
該指南定義為「為了做出與實現短期結果而不採用最佳實踐，所犧牲的長期利益」。

62 清流雙月刊