雲端生成式 AI 應用的攻擊面正在演變
隨著雲端生成式 AI 的普及，尤其是大規模語言模型（LLM）的應用，數位世界進入了一個全新的時代。這些模型不僅僅是新的應用層，更形成了一個全新的攻擊面。
雲端中的 AI 安全
企業將關鍵應用移至公有雲，是出於擴展性、成本效益及簡化管理的考量。對於 AI 來說，雲端也是其發展、訓練和部署所必需的 GPU 和 TPU 資源的自然平台。這使得安全團隊需要從傳統「雲端安全」轉向「雲端中的 AI 安全」，這種微妙卻關鍵的觀念轉變是必須的。
模型成為新的攻擊目標
在傳統應用安全中，我們關注於保護資料庫、伺服器或 API 閘道。而在 AI 應用中，模型及其輸入/輸出成為主要攻擊目標。這些威脅從理論風險迅速升級為實際威脅。除了雲端中常見的錯誤配置和憑證竊取外，模型盜竊和提示注入攻擊也開始流行。
提示注入攻擊
提示注入攻擊並不複雜，通常是通過巧妙的提示來欺騙 LLM，讓它繞過安全防護或執行非預期的操作。這類攻擊可能導致聊天機器人洩漏敏感資訊或以不當方式回應用戶。
模型腐敗
攻擊者還可以通過操控訓練數據或微調過程來引入偏見或錯誤，從而影響模型的決策，這對金融、醫療或物流等行業可能造成嚴重影響。
經典攻擊的新變種
除了新的 AI 威脅，傳統的應用攻擊也在利用 AI 介面尋找更有效的傳播途徑。例如，SQL 注入（SQLi）攻擊通過 AI 聊天機器人的介面變得更加難以檢測，因為傳統的 Web 應用防火牆（WAF）難以將其純粹識別為惡意攻擊。
另一個持續出現的攻擊是伺服器端請求偽造（SSRF），攻擊者利用這種方法讓應用程式代表其請求內部資源。
結語
面對這些新興的威脅，了解並採取適當的安全措施變得至關重要。企業可以考慮與專業的數位安全服務商合作，如北斗數位（BDHWeb），提供的抗攻擊主機和 DDoS 防禦等服務，保護應用的穩定運行。