Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Comportamento di scalabilità per Lambda Web Functions

Lambda ridimensiona automaticamente l'endpoint di Web Function man mano che arriva il traffico. È scalabile in due dimensioni:

Puoi anche impostare un endpoint rateLimit in modo da limitarne la frequenza di arrivo delle richieste. Questa è un'impostazione facoltativa e viene applicata prima che le richieste raggiungano gli ambienti.

Un endpoint scala da zero. Quando non c'è traffico, Lambda non funziona in nessun ambiente. Questa pagina spiega le impostazioni di scalabilità di un endpoint, le relative quote di account e come scegliere valori che ottimizzino i costi o le prestazioni.

Ambienti di esecuzione

Un ambiente di esecuzione è un'istanza di calcolo isolata che esegue il server HTTP. Ogni ambiente dispone di memoria, file system e spazio di processo propri. Per informazioni su come Lambda inizializza, riutilizza e chiude un ambiente di esecuzione, vedi. Ciclo di vita dell'ambiente di esecuzione

Lambda crea e rimuove automaticamente gli ambienti in base al traffico:

Non esiste un'impostazione di ambiente minimo o riservato. Un endpoint scala sempre da zero all'arrivo del traffico. Per evitare partenze a freddo dovute a piccoli aumenti di traffico, Lambda ridimensiona automaticamente gli ambienti di esecuzione prima della domanda per mantenere la capacità di riserva (headroom) per il traffico in entrata. Quando gli ambienti sono sottoutilizzati, Lambda li ridimensiona, fino a zero.

Limite di concorrenza dinamico per ambiente

Il limite di concorrenza dinamico per ambiente è un Lambda-managed limite al numero di richieste che un singolo ambiente di esecuzione gestisce contemporaneamente. In base all'utilizzo delle risorse della funzione, Lambda regola automaticamente questo limite per ottimizzare l'efficienza e le prestazioni. Lambda aumenta la scalabilità dei nuovi ambienti quando gli ambienti esistenti sono vicini al limite. Quando il limite impedisce a tutti gli ambienti esistenti di accettare più richieste, le richieste vengono messe in coda, in attesa del prossimo ambiente disponibile.

Non si configura direttamente il limite dinamico. Puoi invece applicargli un limite superiore maxConcurrencyPerEnvironment impostando la revisione. Il limite dinamico di Lambda può essere inferiore a questo valore, ma non superarlo mai. Ad esempio, se si imposta su maxConcurrencyPerEnvironment 32, Lambda indirizza al massimo 32 richieste simultanee verso qualsiasi ambiente, anche se l'ambiente ha una capacità maggiore.

La maggior parte delle applicazioni può fare affidamento sul limite dinamico senza modifiche. maxConcurrencyPerEnvironment Per indicazioni su quando modificarlo, consultaScelta delle impostazioni di ridimensionamento.

Impostazioni di ridimensionamento

Tre impostazioni controllano il modo in cui Lambda ridimensiona la tua funzione Web. È possibile configurare ogni impostazione sull'endpoint o sulla revisione.

maxEnvironmentse rateLimit sono proprietà opzionali dell'endpoint. È possibile aggiornarle senza creare una nuova revisione. Per impostazione predefinita, nessuna delle due impostazioni è impostata. Un valore large maxEnvironments non garantisce che l'endpoint possa scalare così tanto. La scalabilità dell'ambiente è sempre limitata dalla quota vCPU regionale dell'account. Un rateLimit di 0 blocca tutto il traffico. Per informazioni dettagliate, vedi Throttling. La frequenza di richiesta degli endpoint è sempre limitata dalla quota di frequenza delle richieste dell'account, anche se non rateLimit è impostata. Per le quote, consulta la sezione successiva.

Per modificare maxEnvironments orateLimit, esegui aws lambda-web update-web-function-endpoint con il --throttle-config parametro --scaling-config or, ad esempio --scaling-config '{"maxEnvironments": 50}' o--throttle-config '{"rateLimit": 8000}'. Omettete un parametro per mantenerne il valore corrente. Per cancellare un valore impostato, passate un oggetto vuoto, ad esempio--scaling-config '{}'. Per ulteriori informazioni, vedereAggiornamento di un endpoint. maxConcurrencyPerEnvironmentè un'impostazione di revisione. Per modificarla, crea una nuova revisione. Il fatto che la nuova revisione riceva traffico dipende dalla modalità di distribuzione automatica dell'endpoint. Per ulteriori informazioni, consulta Creare una revisione.

Quote degli account

Queste quote si applicano per. Regione AWS Si applicano sempre in aggiunta ai limiti degli endpoint configurati opzionalmente.

Per i valori di quota correnti e come richiedere un aumento, consulta. Funzioni Web Lambda

Come interagiscono le impostazioni di ridimensionamento

Queste tre impostazioni di ridimensionamento operano in modo indipendente per determinare la scala dell'endpoint. Ad eccezione delle quote degli account, ogni endpoint ridimensiona in modo indipendente, anche gli endpoint che appartengono alla stessa funzione Web.

Throttling

Quando la frequenza delle richieste in entrata supera l'rateLimitimpostazione, Lambda restituisce una risposta HTTP 429 (Too Many Requests) per le richieste in eccesso. Il limite di velocità si applica all'endpoint nel suo insieme in ciascuno di essi. Regione AWS

Lambda restituisce anche una risposta HTTP 429 quando tutti gli ambienti sono completamente utilizzati, perché l'endpoint ha raggiunto maxEnvironments o l'account ha raggiunto la quota vCPU. Per ulteriori informazioni, consulta Come interagiscono le impostazioni di ridimensionamento.

Lambda può anche restituire HTTP 429 con il tipo di Platform.EndpointConcurrentInitThrottle errore quando vengono inizializzati troppi ambienti di esecuzione contemporaneamente. Questo acceleratore non incrementa una metrica dell'acceleratore. Per le metriche incrementate dagli altri tipi di acceleratore, consulta. Utilizzo CloudWatch delle metriche con Lambda Web Functions

Quando quello di un endpoint rateLimit è 0, Lambda restituisce HTTP 503 (servizio non disponibile) anziché HTTP 429, con l'intestazione. lambda-web-error-type Platform.EndpointDisabled Lambda può anche restituire HTTP 503 quando scarica il carico per proteggere il servizio. Riprova un 503 senza lambda-web-error-type intestazione con backoff e jitter. Un 503 con Platform.EndpointDisabled continua finché non viene impostato su un valore diverso da zero. rateLimit

Lambda misura il limite di velocità su base al secondo. Potrebbero essere accettate brevi esplosioni al di sopra del limite. Il traffico prolungato al di sopra del limite comporta un rallentamento.

Quando l'applicazione riceve risposte HTTP 429, implementa il backoff esponenziale con jitter nel codice client per riprovare le richieste limitate.

Scalabilità verso l'alto e verso il basso

Dimensionamento

Quando il traffico aumenta e gli ambienti esistenti si avvicinano al limite di concorrenza dinamico per ambiente, Lambda crea ambienti di esecuzione aggiuntivi. Ogni nuovo ambiente viene inizializzato prima di soddisfare le richieste. Per i passaggi di inizializzazione e il limite di tempo di avvio, vedere. Inizializzazione (avvio a freddo)

Durante l'inizializzazione di un nuovo ambiente, Lambda indirizza le richieste agli ambienti esistenti che dispongono di capacità disponibile. Quando nessun ambiente dispone di capacità, la richiesta attende mentre Lambda ne inizializza una nuova (avvio a freddo). Lambda restituisce HTTP 429 solo quando si Throttling applica uno dei limiti indicati, ad esempio la quota maxEnvironments vCPU dell'account.

Ridimensiona

Quando il traffico diminuisce, Lambda identifica gli ambienti sottoutilizzati e li rimuove. Lambda drena un ambiente prima di rimuoverlo. Interrompe l'instradamento di nuove richieste verso l'ambiente, consente che le richieste in corso vengano completate nel miglior modo possibile e invia. SIGTERM Per informazioni dettagliate, vedi Ciclo di vita dell'ambiente di esecuzione.

Lambda si ridimensiona fino a zero ambienti in assenza di traffico. La richiesta successiva avvia un nuovo ambiente (avvio a freddo).

Scelta delle impostazioni di ridimensionamento

Considerate quanto segue quando scegliete i valori per endpointrateLimit, endpoint maxEnvironments e revisione. maxConcurrencyPerEnvironment

Monitora le seguenti CloudWatch metriche per determinare se le impostazioni di ridimensionamento sono appropriate. Per le definizioni delle metriche, consulta. Utilizzo CloudWatch delle metriche con Lambda Web Functions

Scalabilità MultiRegion per endpoint ed endpoint PerRegion

Per Web Functions con MultiRegiono PerRegionendpoint, le impostazioni di ridimensionamento si applicano indipendentemente in ciascuna area in Regione AWS cui opera l'endpoint.

Ogni regione crea e gestisce il proprio pool di ambienti di esecuzione. Il traffico in una regione non consuma la capacità di scalabilità di un'altra regione.

Esempi di scalabilità

Lambda ridimensiona l'endpoint per mantenere un margine di crescita superiore al carico corrente. L'headroom è la differenza tra il carico delle richieste in entrata e il carico totale delle richieste che possono soddisfare gli ambienti di esecuzione caldi. Assorbe i piccoli aumenti di traffico senza attendere l'avvio di nuovi ambienti. La capacità aumenta gradualmente, poiché ogni nuovo ambiente aggiunge capacità solo al termine dell'inizializzazione. Quando l'endpoint raggiunge un limite, la capacità smette di crescere e Lambda limita le richieste che superano quelle che l'endpoint può accettare.

Gli esempi seguenti mostrano come l'endpoint gestisce un'impennata di traffico e come si comporta quando il carico raggiunge ogni tipo di limite. I grafici illustrano il comportamento generale e non sono disegnati in scala.

Gestire un'esplosione di traffico

Quando il carico aumenta gradualmente, Headroom assorbe l'aumento mentre Lambda ridimensiona nuovi ambienti in background. Quando il carico aumenta più rapidamente di quanto Headroom possa assorbire, gli ambienti caldi non sono in grado di gestire tutte le richieste in arrivo. Lambda crea nuovi ambienti per gestire il carico al di sopra dello spazio di crescita e tali richieste attendono che i nuovi ambienti vengano avviati a freddo. Una volta che i nuovi ambienti sono pronti, Lambda ripristina lo spazio di crescita al di sopra del nuovo carico.

Raggiungimento del limite di frequenza delle richieste per endpoint

Il limite di frequenza delle richieste limita la quantità di carico che l'endpoint può accettare, in modo che la capacità non superi tale limite. Man mano che il carico si avvicina alla quota di velocità per endpoint o alle impostazioni impostate, il rateLimit margine di crescita si riduce. Quando il carico supera il limite, Lambda restituisce HTTP 429 per le richieste superiori a tale limite. Per accettare più richiesterateLimit, aumenta fino alla quota di tariffa per endpoint.

Raggiungere MaxEnvironments

In questo esempio, maxEnvironments è inferiore al limite di frequenza delle richieste. Quando l'endpoint lo raggiungemaxEnvironments, Lambda smette di aggiungere ambienti di esecuzione. Il carico può continuare a crescere, quindi il margine di manovra si riduce. Quando il carico supera quello che gli ambienti sono in grado di gestire, Lambda limita le nuove richieste con HTTP 429, anche se la frequenza delle richieste è ancora inferiore al limite di velocità. Per consentire una maggiore capacità, aumenta. maxEnvironments

Raggiungimento della quota vCPU dell'account

Tutti gli endpoint di un account condividono la quota di vCPU in ciascuno di essi. Regione AWS Gli ambienti utilizzati da altri endpoint riducono la scalabilità di questo endpoint. In questo esempio, la quota di vCPU disponibile per l'endpoint è inferiore sia all'maxEnvironmentsimpostazione che al limite di frequenza delle richieste. Quando l'account raggiunge la quota, Lambda smette di aggiungere ambienti e limita le richieste che superano la capacità disponibile, anche se l'endpoint non ha raggiunto i propri limiti. Per consentire una maggiore capacità, richiedi un aumento della quota di vCPU.