將傳統雲端工作負載與 Amazon Bedrock 整合 - AWS 規範指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

將傳統雲端工作負載與 Amazon Bedrock 整合

此使用案例的範圍是示範與 Amazon Bedrock 整合的傳統雲端工作負載,以利用生成式 AI 功能。下圖說明 生成式 AI 帳戶與範例應用程式帳戶。 

將傳統雲端工作負載與 Amazon Bedrock 整合

生成式 AI 帳戶專用於使用 Amazon Bedrock 提供生成式 AI 功能。應用程式帳戶是範例工作負載。您在此帳戶中使用的 AWS 服務取決於您的需求。生成式 AI 帳戶與應用程式帳戶之間的互動會使用 Amazon Bedrock APIs。 

應用程式帳戶與生成式 AI 帳戶分開,以根據業務目的和所有權來協助分組工作負載。這有助於限制對生成性 AI 環境中敏感資料的存取,並支援依環境套用不同的安全控制。將傳統雲端工作負載保留在不同的帳戶中,也有助於限制不良事件的影響範圍。 

您可以根據 Amazon Bedrock 支援的各種使用案例建置和擴展企業生成 AI 應用程式。一些常見的使用案例包括文字產生、虛擬協助、文字和影像搜尋、文字摘要和影像產生。根據您的使用案例,您的應用程式元件會與一個或多個 Amazon Bedrock 功能互動,例如知識庫和代理程式。 

應用程式帳戶

應用程式帳戶託管主要基礎設施和服務,以執行和維護企業應用程式。在這種情況下,應用程式帳戶會充當傳統雲端工作負載,與生成 AI 帳戶中的 Amazon Bedrock 受管服務互動。如需保護此帳戶的一般安全最佳實務,請參閱工作負載 OU 應用程式帳戶一節。 

標準應用程式安全最佳實務適用於其他應用程式。如果您計劃使用擷取增強型產生 (RAG),其中應用程式會使用使用者的文字提示,從知識庫查詢向量資料庫等相關資訊,應用程式需要將使用者身分傳播到知識庫,而知識庫會強制執行您的角色型或屬性型存取控制。

生成式 AI 應用程式的另一個設計模式是使用代理程式來協調基礎模型 (FM)、資料來源、知識庫和軟體應用程式之間的互動。代理程式會呼叫 APIs 代表與模型互動的使用者採取動作。正確最重要的機制是確保每個客服人員將應用程式使用者的身分傳播到與其互動的系統。您也必須確保每個系統 (資料來源、應用程式等) 都了解使用者身分、將其回應限制為使用者獲授權執行的動作,並使用使用者獲授權存取的資料來回應。

此外,也請務必限制直接存取預先訓練模型用來產生推論的推論端點。您想要限制對推論端點的存取,以控制成本並監控活動。如果您的推論端點託管在 AWS 上,例如使用 Amazon Bedrock 基礎模型,您可以使用 IAM 控制叫用推論動作的許可。 

如果您的 AI 應用程式可作為 Web 應用程式提供給使用者,您應該使用 Web 應用程式防火牆等控制項來保護您的基礎設施。傳統網路威脅,例如 SQL 注入和請求洪水,可能會對您的應用程式造成影響。由於調用您的應用程式會導致叫用模型推論 APIs,且模型推論 API 呼叫通常需要收費,因此請務必減少溢出,以將來自 FM 供應商的意外費用降至最低。Web 應用程式防火牆無法防範即時注入威脅,因為這些威脅採用自然語言文字的形式。防火牆在非預期的位置 (文字、文件等) 比對程式碼 (例如 HTML、SQL 或規則運算式)。為了協助防止快速注入攻擊並確保模型安全,請使用防護機制。 

在生成式 AI 模型中記錄和監控推論對於維護安全性和防止誤用至關重要。它可以識別潛在的威脅發動者、惡意活動或未經授權的存取,並有助於及時介入和緩解與部署這些強大模型相關的風險。

生成式 AI 帳戶

根據使用案例,生成式 AI 帳戶會託管所有生成式 AI 活動。其中包括但不限於模型調用、RAG、代理程式和工具,以及模型自訂。請參閱前面討論特定使用案例的章節,了解工作負載所需的功能和實作。 

本指南中介紹的架構為使用 AWS 服務的組織提供全方位架構,以安全且有效率地利用生成式 AI 功能。這些架構將 Amazon Bedrock 的完全受管功能與安全最佳實務相結合,為將生成性 AI 整合到傳統雲端工作負載和組織程序中提供了堅實的基礎。涵蓋的特定使用案例,包括提供生成式 AI FMs、RAG、代理程式和模型自訂,可解決各種潛在的應用程式和案例。本指南可讓組織對 AWS Bedrock 服務及其固有和可設定的安全控制有必要的了解,使他們能夠根據其獨特的基礎設施、應用程式和安全需求做出明智的決策。