View a markdown version of this page

提示工程最佳實務，以避免對現代 LLMs提示注入攻擊 - AWS 方案指引
目標業務成果

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

提示工程最佳實務，以避免對現代 LLMs提示注入攻擊

Ivan Cui、Andrei Ivanovic 和 Samantha Stuart，Amazon Web Services (AWS)

2024 年 3 月 (文件歷史記錄)

在企業 IT 環境中，大型語言模型 (LLMs) 的擴散在安全、負責任的人工智慧 (AI)、隱私權和及時工程方面帶來了新的挑戰和機會。必須降低與 LLM 使用相關的風險，例如偏差輸出、隱私權漏洞和安全漏洞。為了解決這些挑戰，組織必須主動確保使用 LLMs 符合責任 AI 的廣泛原則，並優先考慮安全和隱私權。

當組織使用 LLMs時，他們應該定義目標並實作措施來增強其 LLM 部署的安全性，就像使用適用的法規合規一樣。這涉及部署強大的身分驗證機制、加密通訊協定和最佳化的提示設計，以識別和抵銷提示注入嘗試，這有助於提高 AI 產生輸出與安全性相關的可靠性。

負責任 LLM 使用的核心是提示工程和緩解提示注入攻擊，這些攻擊在維護安全性、隱私權和道德 AI 實務方面扮演關鍵角色。提示注入攻擊涉及操縱提示來影響 LLM 輸出，目的是引入偏差或有害結果。除了保護 LLM 部署，組織還必須將提示工程原則整合到 AI 開發程序中，以減少提示注入漏洞。

本指南概述緩解提示工程和提示注入攻擊的安全防護機制。這些護欄與各種模型提供者和提示範本相容，但需要針對特定模型進行額外的自訂。

目標業務成果

  • 針對各種常見的攻擊模式，大幅改善 LLM 支援的擷取擴增產生 (RAG) 應用程式的提示層級安全性，同時維持非惡意查詢的高度準確性。

  • 在提示範本中採用少量簡短但有效的護欄，以降低推論成本。這些護欄與各種模型提供者和提示範本相容，但需要額外的模型特定量身打造。

  • 在使用生成式 AI 型解決方案時，灌輸更高的信任和可信度。

  • 協助維護不中斷的系統操作，並降低安全事件所造成的停機時間風險。

  • 協助啟用內部資料科學家並提示工程師維護負責任的 AI 實務。