Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Con Amazon SageMaker Partner AI Apps, gli utenti hanno accesso ad applicazioni di sviluppo generative di intelligenza artificiale e machine learning (ML) create, pubblicate e distribuite da fornitori di applicazioni leader del settore. Le app Partner AI sono certificate per funzionare sull'intelligenza artificiale. SageMaker Con Partner AI Apps, gli utenti possono accelerare e migliorare il modo in cui creano soluzioni basate su modelli di base (FM) e modelli ML classici senza compromettere la sicurezza dei dati sensibili. I dati rimangono completamente all'interno della loro configurazione di sicurezza affidabile e non vengono mai condivisi con terze parti.
Come funziona
Le app Partner AI sono stack di applicazioni completi che includono un cluster Amazon Elastic Kubernetes Service e una serie di servizi di accompagnamento che possono includere Application Load Balancer, Amazon Relational Database Service, bucket Amazon Simple Storage Service, code Amazon Simple Queue Service e Redis cache.
Queste applicazioni di servizio possono essere condivise tra tutti gli utenti in un dominio SageMaker AI e vengono fornite da un amministratore. Dopo aver fornito l'applicazione acquistando un abbonamento tramite Marketplace AWS, l'amministratore può concedere agli utenti del dominio SageMaker AI le autorizzazioni per accedere all'app Partner AI direttamente da Amazon SageMaker Studio, Amazon SageMaker Unified Studio (anteprima) o utilizzando un URL prefirmato. Per informazioni sull'avvio di un'applicazione da Studio, consulta. Avvia Amazon SageMaker Studio
Partner AI Apps offre i seguenti vantaggi per amministratori e utenti.
-
Gli amministratori utilizzano la console SageMaker AI per sfogliare, scoprire, selezionare e fornire le app Partner AI per l'utilizzo da parte dei loro team di data science e ML. Dopo l'implementazione delle app Partner SageMaker AI, l'IA le esegue in modalità gestita dal servizio. Account AWS Ciò riduce in modo significativo il sovraccarico operativo associato alla creazione e al funzionamento di queste applicazioni e contribuisce alla sicurezza e alla privacy dei dati dei clienti.
-
I data scientist e gli sviluppatori di machine learning possono accedere alle app Partner AI dall'interno del loro ambiente di sviluppo ML in Amazon SageMaker Studio o Amazon SageMaker Unified Studio (anteprima). Possono utilizzare le app Partner AI per analizzare i dati, gli esperimenti e i modelli creati sull' SageMaker intelligenza artificiale. Ciò riduce al minimo il cambio di contesto e aiuta ad accelerare la creazione di modelli di base e l'introduzione sul mercato di nuove funzionalità di intelligenza artificiale generativa.
Integrazione con Servizi AWS
Partner AI Apps utilizza la configurazione esistente AWS Identity and Access Management (IAM) per l'autorizzazione e l'autenticazione. Di conseguenza, gli utenti non devono fornire credenziali separate per accedere a ciascuna app Partner AI di Amazon SageMaker Studio. Per ulteriori informazioni sull'autorizzazione e l'autenticazione con Partner AI Apps, consultaConfigura le app AI per i partner.
Partner AI Apps si integra anche con Amazon CloudWatch per fornire monitoraggio e gestione operativi. I clienti possono anche sfogliare le app Partner AI e ottenere dettagli su di esse, come funzionalità, esperienza del cliente e prezzi, dal AWS Management Console. Per informazioni su Amazon CloudWatch, consulta How Amazon CloudWatch works.
Tipi supportati
Le app Partner AI supportano i seguenti tipi:
-
Comet
-
Deepchecks
-
Fiddler
-
Lakera Guard
Quando l'amministratore lancia un'app Partner AI, deve selezionare la configurazione del cluster di istanze con cui viene lanciata l'app Partner AI. Questa configurazione è nota come livello dell'app Partner AI. Il livello di un'app Partner AI può corrispondere a uno dei seguenti valori:
-
small -
medium -
large
Le seguenti sezioni forniscono informazioni su ciascuno dei tipi di app Partner AI e dettagli sui valori dei livelli dell'app Partner AI.
Comet fornisce una piattaforma di valutazione dei end-to-end modelli per gli sviluppatori di intelligenza artificiale, con valutazioni LLM, tracciamento degli esperimenti e monitoraggio della produzione.
Consigliamo i seguenti livelli dell'app Partner AI in base al carico di lavoro:
-
small— Consigliato per un massimo di 5 utenti e 20 lavori in esecuzione. -
medium— Consigliato per un massimo di 50 utenti e 100 lavori in esecuzione. -
large— Consigliato per un massimo di 500 utenti e più di 100 lavori in esecuzione.
Nota
SageMaker L'intelligenza artificiale non supporta la visualizzazione di Comet Interfaccia utente come parte dell'output di un notebook Jupyter.
Gli sviluppatori di applicazioni di intelligenza artificiale e le parti interessate possono utilizzare Deepchecks per convalidare continuamente le applicazioni basate su LLM, incluse caratteristiche, metriche delle prestazioni e potenziali insidie durante l'intero ciclo di vita, dalla pre-implementazione alla sperimentazione interna fino alla produzione.
Consigliamo i seguenti livelli dell'app Partner AI in base alla velocità desiderata per il carico di lavoro:
-
small— Elabora 200 token al secondo. -
medium— Elabora 500 token al secondo. -
large— Elabora 1300 token al secondo.
Il Fiddler AI Observability Platform facilita la convalida, il monitoraggio e l'analisi dei modelli ML in produzione, inclusi modelli tabulari, di deep learning, di visione artificiale e di elaborazione del linguaggio naturale.
Consigliamo i seguenti livelli dell'app Partner AI in base alla velocità desiderata per il carico di lavoro:
-
small— L'elaborazione di eventi da 10 mm su 5 modelli, 100 funzionalità e 20 iterazioni richiede circa 53 minuti. -
medium— L'elaborazione di eventi da 10 mm su 5 modelli, 100 funzionalità e 20 iterazioni richiede circa 23 minuti. -
large— L'elaborazione di eventi da 10 mm su 5 modelli, 100 funzionalità e 100 iterazioni richiede circa 27 minuti.
Lakera Guard è un firewall per applicazioni AI a bassa latenza per proteggere le applicazioni AI generative dalle minacce specifiche dell'IA di generazione.
Consigliamo i seguenti livelli di app Partner AI in base al carico di lavoro:
-
small— Consigliato per un massimo di 20 automazioni robotiche dei processi (). RPAs -
medium— Consigliato per un massimo di 100 persone. RPAs -
large— Consigliato per un massimo di 200 persone RPAs.
