Agente o strumenti di hosting con Amazon Bedrock Runtime AgentCore

AgentCore Runtime consente di trasformare qualsiasi codice agente locale in distribuzioni native del cloud con poche righe di codice, indipendentemente dal framework sottostante. Funziona perfettamente con i framework più diffusi come Strands e CrewAI. LangGraph Puoi anche sfruttarlo con agenti personalizzati che non utilizzano un framework specifico.

AgentCore Runtime funziona con qualsiasi modello di linguaggio di grandi dimensioni, come i modelli offerti da Amazon Bedrock, Anthropic Claude, Google Gemini e OpenAI.

AgentCore Runtime consente agli agenti di comunicare con altri agenti e strumenti tramite Model Context Protocol (MCP) o Agent to Agent (A2A).

In AgentCore Runtime, ogni sessione utente viene eseguita in una microVM dedicata con risorse isolate di CPU, memoria e file system. Ciò consente di creare una separazione completa tra le sessioni utente, salvaguardando i processi di ragionamento degli agenti sullo stato e aiuta a prevenire la contaminazione dei dati tra sessioni. Dopo il completamento della sessione, l'intera MicroVM viene interrotta e la memoria viene disinfettata, garantendo una sicurezza deterministica anche quando si lavora con processi di intelligenza artificiale non deterministici.

AgentCore Runtime supporta sia interazioni in tempo reale che carichi di lavoro di lunga durata fino a 8 ore, abilitando ragionamenti complessi tra agenti e carichi di lavoro asincroni che possono comportare la collaborazione tra più agenti o sessioni estese di risoluzione dei problemi.

Runtime supporta la persistenza dello stato del file system tra i cicli di sessione. stop/resume I file dell'agente, i pacchetti installati e gli elementi di compilazione possono sopravvivere alle interruzioni delle sessioni senza storage esterno.

Runtime implementa una tariffazione basata sul consumo che addebita solo le risorse effettivamente consumate. A differenza dei modelli basati sull'allocazione che richiedono una preselezione delle risorse, Runtime effettua il provisioning dinamico di ciò che è necessario senza richiedere il corretto dimensionamento. Il servizio allinea la fatturazione della CPU all'effettiva elaborazione attiva, in genere eliminando gli addebiti durante i periodi di attesa, quando gli agenti I/O attendono principalmente risposte LLM, mantenendo al contempo lo stato della sessione.

AgentCore Runtime, basato su AgentCore Identity, assegna identità distinte agli agenti di intelligenza artificiale e si integra perfettamente con il tuo provider di identità aziendale come Okta, Microsoft Entra ID o Amazon Cognito, consentendo agli utenti finali di autenticarsi solo negli agenti a cui hanno accesso. Inoltre, Runtime consente ai flussi di autenticazione in uscita di accedere in modo sicuro a servizi di terze parti come Slack, Zoom e GitHub , indipendentemente dal fatto che operino per conto degli utenti o in modo autonomo (utilizzando chiavi OAuth o API).

AgentCore Runtime fornisce un tracciamento integrato specializzato che registra le fasi di ragionamento degli agenti, le invocazioni degli strumenti e le interazioni dei modelli, fornendo una chiara visibilità sui processi decisionali degli agenti e una capacità fondamentale per il debug e il controllo dei comportamenti degli agenti AI.

AgentCore Runtime è in grado di elaborare payload da 100 MB, permettendo l'elaborazione senza interruzioni di più modalità (testo, immagini, audio, video), con contenuti multimediali complessi o set di dati di grandi dimensioni.

AgentCore Runtime supporta sia le chiamate API HTTP che le WebSocket connessioni persistenti per lo streaming bidirezionale in tempo reale, abilitando applicazioni interattive con feedback a risposta immediata e un contesto di conversazione mantenuto.

AgentCore Runtime viene fornito tramite un unico SDK completo che fornisce un accesso semplificato a AgentCore funzionalità complete tra cui memoria, strumenti e gateway. Questo approccio integrato elimina il lavoro di integrazione normalmente richiesto quando si crea un'infrastruttura di agenti equivalente a partire da componenti diversi.