Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Istanze

Quando ospiti un agente sul tipo di elaborazione Instances, Amazon Bedrock AgentCore Runtime esegue l'agente su istanze gestite Amazon EC2 di cui esegue il provisioning e opera all'interno del tuo AWS account, in modo da ottenere la selezione dell'hardware e i vantaggi in termini di prezzo di Amazon EC2 senza dover gestire il ciclo di vita dell'istanza, il sistema operativo e l'applicazione di patch, scalabilità o smontaggio. Un fornitore di capacità definisce l'infrastruttura utilizzata da tali istanze e AgentCore gestisce il provisioning, l'applicazione di patch, la scalabilità e lo smontaggio per tuo conto. Poiché le istanze vengono eseguite nel tuo account, i tuoi dati rimangono nell'account, si applicano i controlli dell'account esistenti e puoi utilizzare i tuoi accordi tariffari EC2 come piani di risparmio, istanze riservate e prenotazioni di capacità (ODCR). On-Demand Con Instances, ottieni un calcolo persistente e puoi eseguire più agenti di collaborazione su una singola istanza, mantenendo al contempo visibilità e controllo sull'infrastruttura sottostante.

Quando usare le istanze

Scegli il tipo di elaborazione delle istanze quando il carico di lavoro richiede funzionalità oltre a quelle fornite dal modello MicroVM serverless:

Se il carico di lavoro è leggero e API-driven l'interazione viene completata rapidamente, il tipo di elaborazione MicroVMS predefinito è in genere la soluzione più adatta. Per ulteriori informazioni, consulta Confrontare i tipi di elaborazione. Confronta i tipi di elaborazione

Concetti principali

L'hosting di un agente su Instances introduce alcune risorse oltre ai concetti fondamentali di AgentCore Runtime descritti in MicroVMS. MicroVMS

Provider di capacità

Un fornitore di capacità definisce l'infrastruttura EC2 su cui vengono eseguiti gli agenti: il sistema operativo, i tipi di istanze consentiti, il networking (VPC e sottoreti), i volumi di storage e i ruoli IAM utilizzati per il provisioning e l'accesso alle istanze. Un fornitore di capacità è un modello riutilizzabile: è possibile associarlo a più runtime di agenti e AgentCore utilizzarlo per avviare istanze quando tali runtime vengono richiamati.

Caratteristiche principali:

Runtime dell'agente sulle istanze

Quando crei il runtime di un agente, ne scegli il tipo di elaborazione. La selezione delle istanze associa il runtime a un fornitore di capacità tramite il parametro. capacityProviderConfiguration Il runtime definisce comunque quale agente viene eseguito (il codice o l'elemento del contenitore) e come è configurato (protocollo, autenticazione, endpoint, versioni); il fornitore di capacità definisce l'elaborazione su cui viene eseguito.

Non è possibile modificare il tipo di calcolo dopo la creazione di un runtime.

Sessione

Una sessione è un'istanza EC2 isolata creata da un fornitore di capacità di runtime. Ogni sessione ha il suo ciclo di vita e il suo stato persistente e l'utente la identifica con uno runtimeSessionId che viene fornito al momento della chiamata. AgentCore crea una sessione alla prima chiamata con un nuovo ID di sessione e la sessione mantiene il suo stato per tutte le interruzioni.

Una sessione dura un massimo di 14 giorni. Quando una sessione raggiunge questa durata massima, la interrompe AgentCore automaticamente. Termina l'istanza EC2 ma mantiene i volumi persistenti della sessione. Per riprendere il lavoro dopo l'interruzione di una sessione, richiama nuovamente il runtime con lo stesso comando. runtimeSessionId AgentCore esegue il provisioning di una nuova istanza e ricollega i volumi persistenti, in modo che i dati rimangano intatti. Poiché la nuova istanza può essere avviata da un'immagine del computer aggiornata, una sessione riavviata potrebbe essere eseguita su un'istanza con le patch più recenti. Quando si elimina una sessione, viene annullato il provisioning AgentCore di tutto, inclusi i volumi persistenti.

Per l'isolamento delle sessioni e il modello di sicurezza multi-tenant, vedi Modello di sicurezza e autorizzazioni per le istanze di runtime.

Agente

Un agente è un carico di lavoro in esecuzione all'interno di una sessione. A differenza del modello MicroVM, in cui un runtime ospita un agente, una singola sessione Instances può ospitare più agenti. Quando i runtime di due agenti condividono lo stesso provider di capacità, puoi richiamarli con lo stesso runtimeSessionId per far atterrare entrambi gli agenti sulla stessa istanza EC2. Lì, condividono un file system e possono collaborare alla stessa attività.

Comprendere le istanze gestite

Le istanze EC2 che supportano le tue sessioni sono istanze gestite da Amazon EC2: le esegui il AgentCore provisioning e le gestiscono nel tuo account per tuo conto, quindi disponi di autorizzazioni limitate rispetto alle istanze EC2 standard. Puoi identificarle dal Operator campo nell'DescribeInstancesoutput di EC2 e dal tag capacity-provider sull'istanza. AgentCore

Non esegui direttamente le operazioni standard del ciclo di vita di EC2 su queste istanze, ad esempio non le avvii, le correggi o le interrompi tu stesso. AgentCore ne gestisce il ciclo di vita; per rimuoverle, elimina il fornitore di capacità associato, che ne interrompe ed elimina le sessioni e il relativo storage persistente. Per impostazione predefinita, le istanze gestite sono nascoste dalle visualizzazioni della console EC2 e dalle operazioni degli elenchi API; puoi modificarla con l'impostazione di visibilità delle risorse gestite. Rimangono completamente operative e fatturabili nel tuo account.

Confronta i tipi di elaborazione

La tabella seguente confronta i tipi di calcolo MicroVMS e Instances per aiutarti a scegliere quello giusto per il tuo carico di lavoro.

Usa i tipi di istanze GPU

Per carichi di lavoro ad alta intensità di calcolo come inferenza di modelli, rendering 3D ed elaborazione multimediale, includi un tipo di istanza GPU tra i tipi di istanza consentiti dal tuo fornitore di capacità. AgentCore esegue il provisioning dei driver GPU sull'istanza, in modo da non configurare i percorsi dei dispositivi, gli indici GPU o le versioni dei driver e le immagini dei contenitori standard (ad esempio, le immagini CUDA) funzionano senza raggruppare i driver. Sono supportati sia i carichi di lavoro di elaborazione (CUDA) che quelli grafici (come Vulkan, EGL e GLX). Quando più di un agente viene eseguito sulla stessa istanza, tutti gli agenti condividono l'accesso alle relative GPU.

Sono supportate le seguenti famiglie di istanze GPU e acceleratori:

Se includi un tipo di istanza dell'acceleratore di una famiglia che non è supportata, CreateCapacityProvider fallisce con un nome ValidationException che nomina il tipo di istanza ed elenca le famiglie supportate. Non-accelerator i tipi di istanza non sono interessati.

Flusso di chiamata

L'invocazione di un runtime dell'agente supportato da un fornitore di capacità segue lo stesso punto di InvokeAgentRuntime ingresso del modello MicroVM. AgentCore risolve il provider di capacità, assicura che un'istanza e un agente siano in esecuzione per la sessione e invia la richiesta all'agente tramite proxy:

Poiché l'agente viene eseguito su un'istanza del tuo account, l'istanza EC2, le relative interfacce di rete e tutti i volumi persistenti sono visibili nella console EC2 del tuo account e fatturati sul tuo account. Si tratta di istanze gestite da Amazon EC2, ovvero istanze che effettuano il provisioning e operano nel tuo AgentCore account per tuo conto. Puoi controllare se vengono visualizzate nelle visualizzazioni della console EC2 e nelle operazioni degli elenchi di API con le impostazioni di visibilità delle risorse gestite.

Archiviazione persistente tra le sessioni

Un fornitore di capacità può definire uno o più volumi Amazon EBS. Quando salvi il fornitore di capacità, AgentCore salva la configurazione del volume e crea il volume EBS al primo avvio della sessione. Quando il runtime di un agente monta un volume tramite la sua configurazione di archiviazione, i dati del volume sopravvivono alle interruzioni della sessione:

Ciò consente flussi di lavoro stateful agent in cui i file dello spazio di lavoro, le cache e i checkpoint persistono anche dopo il riavvio della sessione. L'eliminazione della sessione comporta il deprovisioning delle risorse EC2 (istanza, interfaccia di rete e volume EBS) in modo da non dover sostenere costi per l'infrastruttura non più necessaria.

Ruoli IAM

L'hosting degli agenti sulle istanze prevede i seguenti ruoli, oltre al ruolo di esecuzione del runtime dell'agente che concede al codice dell'agente le autorizzazioni di runtime:

Puoi lasciare che la console crei ruoli predefiniti per te o fornisca ruoli esistenti. Perché il ruolo di infrastruttura garantisce AgentCore la possibilità di gestire l'elaborazione nel tuo account, applicarne i privilegi minimi richiesti dai carichi di lavoro e utilizzare le condizioni IAM per limitarla a VPC, sottoreti o tipi di istanza specifici, se del caso.