Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

GPU-acceleration per l'indicizzazione vettoriale

GPU-acceleration ti aiuta a creare database vettoriali su larga scala in modo più rapido ed efficiente. Puoi abilitare questa funzionalità su OpenSearch domini e raccolte OpenSearch Serverless nuovi o esistenti. Questa funzionalità consente GPU-acceleration di ridurre il tempo necessario per indicizzare i dati in indici vettoriali.

Con GPU-acceleration, è possibile aumentare la velocità di indicizzazione vettoriale fino a 10 volte a un quarto del costo di indicizzazione.

Prerequisiti

GPU-acceleration è supportato sui OpenSearch domini che eseguono una OpenSearch versione 3.1 o successiva e sulle raccolte Serverless. OpenSearch Per ulteriori informazioni, consulta Aggiornamento dei domini Amazon Service OpenSearch UpdateDomainConfig, e UpdateCollection API.

Come funziona

Gli indici vettoriali richiedono risorse di calcolo significative per creare strutture di dati come i grafici Hierarchical Navigable Small Worlds (HNSW). Se GPU-acceleration abiliti il dominio o la raccolta, rileva OpenSearch automaticamente le opportunità per accelerare la creazione dell'indice e trasferisce le build dell'indice alle istanze GPU. OpenSearch Il servizio gestisce le istanze GPU per tuo conto, assegnandole al tuo dominio o alla tua raccolta quando necessario. Ciò significa che non gestisci l'utilizzo né paghi i tempi di inattività.

Paghi solo per l'elaborazione utile tramite Compute Units (OCU) - Vector Acceleration. Ogni OCU Vector Acceleration è una combinazione di circa 8 GiB di memoria CPU, 2 vCPU e 6 GiB di memoria GPU. Per ulteriori informazioni, consulta Prezzi dell'accelerazione GPU.

Per abilitare l'accelerazione GPU per il tuo dominio o la tua raccolta, consulta. Abilitazione GPU-acceleration

Prezzi dell'accelerazione GPU

AWS ti addebita quando OpenSearch rileva opportunità per accelerare i carichi di lavoro di creazione degli indici del tuo dominio o della tua raccolta. Ogni Vector Acceleration OCU è una combinazione di circa 8 GiB di memoria CPU, 2 vCPU e 6 GiB di memoria GPU.

AWS fattura l'OCU con una granularità di secondo livello. Nel tuo estratto conto, vedrai una voce per il calcolo. OCU-hours

Ad esempio, se utilizzi GPU-acceleration per un'ora la creazione di un indice, utilizzando 2 vCPU e 1 GiB di memoria GPU, ti verrà addebitata 1 OCU. Se utilizzi 9 GiB di memoria CPU durante l'utilizzo GPU-acceleration, ti verranno fatturate 2 OCU.

OpenSearch Serverless aggiunge OCU aggiuntive con incrementi di 1 OCU in base alla potenza di calcolo e allo storage necessari per supportare le tue raccolte. Per tenere sotto controllo i costi, puoi configurare un numero massimo di OCU per il tuo account.

Per i dettagli completi sui prezzi, consulta Amazon OpenSearch Service Pricing.

GPU-acceleration e operazioni di scrittura

GPU-acceleration si attiva quando OpenSearch la velocità di ingestione vettoriale (MB/sec) rientra in un intervallo. OpenSearch Sui domini, hai la flessibilità di configurare questo intervallo tramite e. index.knn.remote_index_build.size.min index.knn.remote_index_build.size.max Ad esempio, con l'intervallo inferiore predefinito di 50 MB, per impostazione predefinita verrà attivata la scrittura di 15.000 vettori a piena precisione con una dimensione di 768 tra gli intervalli di aggiornamento. GPU-acceleration

I dati vengono scritti con le seguenti operazioni API:

GPU-acceleration viene attivato sia con l'unione automatica che manuale dei segmenti.

Configurazioni di indice supportate

Il motore Faiss supporta. GPU-acceleration

Le seguenti configurazioni non supportano: GPU-acceleration

Supportata Regioni AWS

GPU-acceleration è disponibile nelle seguenti Regioni AWS versioni:

Best practice

Segui queste best practice per massimizzare i vantaggi dei tuoi carichi di lavoro di GPU-acceleration ricerca vettoriale: