Page 65 - 清流雙月刊 NO.50
P. 65
AI 世代
#02 安全開發 #04 安全維護
‧確保供應鏈安全 ‧監控系統的輸出
‧識別、追蹤和保 和效能
護資產 ‧參與資訊共享社
‧了解資產暴露的 群獲得安全回饋
攻擊目標 ‧釋出應對漏洞揭
#01 安全設計 #03 安全部屬
‧管理技術債 露的公告
‧提高員工對威脅 ‧制定並遵循基礎
與風險的認知 設施安全原則
‧模擬意外事件與 ‧注意金鑰管理
潛在的影響並制 ‧制定管理程序並
定應對流程 定期重新評估
‧實踐安全設計
圖 1 AI 開發生命週期內的四個關鍵領域
儲存機敏程式或資料的環境、計算和共享 資安人員研究和報告漏洞，以獲得系統的
模型檔案（例如模型權重）和資料集（包 安全回饋；必要時，也可以釋出應對漏洞
括檢查點）的加密雜湊（hash value）與數 揭露的公告。
位簽章；也要注意金鑰管理。管理者對於
事件的反應、升級和補救計畫，應該涵蓋 結語
不同場景，並隨著系統和更廣泛的研究發
LLM 的發展潛力不容小覷，但與之相
展，定期重新評估。
伴的還有許多風險。LLM 也會面臨傳統資
最後，在維護階段，維護者應該監控 訊系統的風險；而其低應用門檻也為它帶
系統模型和系統的輸出和效能，以便觀察 來新興的風險。因此，欲導入 LLM 的組織
影響安全性的行為變化或趨勢。管理者也 應該要參考國際上的風險管理文獻，依照
要參與資訊共享社群（例如與產、學、政 AI 不同的生命階段，仔細評估並減緩應用
界合作），斟酌可分享之合理範圍，允許 LLM 的風險。
No.50 MAR. 2024 63
