Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Dengan Amazon SageMaker Partner AI Apps, pengguna mendapatkan akses ke aplikasi pengembangan AI dan machine learning (ML) generatif yang dibuat, diterbitkan, dan didistribusikan oleh penyedia aplikasi terkemuka di industri. Aplikasi AI Mitra disertifikasi untuk berjalan di SageMaker AI. Dengan Partner AI Apps, pengguna dapat mempercepat dan meningkatkan cara mereka membangun solusi berdasarkan model pondasi (FM) dan model ML klasik tanpa mengorbankan keamanan data sensitif mereka. Data tetap sepenuhnya dalam konfigurasi keamanan tepercaya mereka dan tidak pernah dibagikan dengan pihak ketiga.
Cara kerjanya
Partner AI Apps adalah tumpukan aplikasi lengkap yang mencakup kluster Amazon Elastic Kubernetes Service dan serangkaian layanan yang menyertainya yang dapat mencakup Application Load Balancer, Amazon Relational Database Service, bucket Amazon Simple Storage Service, antrian Layanan Antrian Sederhana Amazon, dan Redis cache.
Aplikasi layanan ini dapat dibagikan di semua pengguna dalam domain SageMaker AI dan disediakan oleh admin. Setelah menyediakan aplikasi dengan membeli langganan melalui AWS Marketplace, admin dapat memberi pengguna izin domain SageMaker AI untuk mengakses Aplikasi AI Mitra langsung dari Amazon Studio SageMaker , Amazon SageMaker Unified Studio (pratinjau), atau menggunakan URL yang telah ditandatangani sebelumnya. Untuk informasi tentang meluncurkan aplikasi dari Studio, lihatLuncurkan Amazon SageMaker Studio.
Aplikasi AI Mitra menawarkan manfaat berikut untuk administrator dan pengguna.
-
Administrator menggunakan konsol SageMaker AI untuk menelusuri, menemukan, memilih, dan menyediakan Aplikasi AI Mitra untuk digunakan oleh ilmu data dan tim MLnya. Setelah Aplikasi AI Mitra diterapkan, SageMaker AI menjalankannya pada layanan Akun AWS yang dikelola. Ini secara signifikan mengurangi overhead operasional yang terkait dengan membangun dan mengoperasikan aplikasi ini, dan berkontribusi pada keamanan dan privasi data pelanggan.
-
Ilmuwan data dan pengembang ML dapat mengakses Aplikasi AI Mitra dari dalam lingkungan pengembangan ML mereka di Amazon SageMaker Studio atau Amazon SageMaker Unified Studio (pratinjau). Mereka dapat menggunakan Aplikasi AI Mitra untuk menganalisis data, eksperimen, dan model mereka yang dibuat pada SageMaker AI. Ini meminimalkan peralihan konteks dan membantu mempercepat membangun model fondasi dan menghadirkan kemampuan AI generatif baru ke pasar.
Integrasi dengan Layanan AWS
Aplikasi AI Mitra menggunakan konfigurasi AWS Identity and Access Management (IAM) yang ada untuk otorisasi dan otentikasi. Akibatnya, pengguna tidak perlu memberikan kredensil terpisah untuk mengakses setiap Aplikasi AI Mitra dari Amazon SageMaker Studio. Untuk informasi selengkapnya tentang otorisasi dan otentikasi dengan Aplikasi AI Mitra, lihat. Siapkan Aplikasi AI Mitra
Aplikasi AI Mitra juga terintegrasi Amazon CloudWatch untuk menyediakan pemantauan dan manajemen operasional. Pelanggan juga dapat menelusuri Aplikasi AI Mitra, dan mendapatkan detail tentang mereka, seperti fitur, pengalaman pelanggan, dan harga, dari aplikasi AWS Management Console. Untuk selengkapnya Amazon CloudWatch, lihat Cara Amazon CloudWatch kerja.
Jenis yang didukung
Aplikasi AI Mitra mendukung jenis berikut:
-
Comet
-
Deepchecks
-
Fiddler
-
Lakera Guard
Saat admin meluncurkan Aplikasi AI Mitra, mereka harus memilih konfigurasi cluster instans tempat Aplikasi AI Mitra diluncurkan. Konfigurasi ini dikenal sebagai tingkat Aplikasi AI Mitra. Tingkat Aplikasi AI Mitra dapat berupa salah satu dari nilai berikut:
-
small -
medium -
large
Bagian berikut memberikan informasi tentang masing-masing jenis Aplikasi AI Mitra, dan detail tentang nilai tingkat Aplikasi AI Mitra.
Comet menyediakan platform evaluasi end-to-end model untuk pengembang AI, dengan evaluasi LLM, pelacakan eksperimen, dan pemantauan produksi.
Kami merekomendasikan tingkatan Aplikasi AI Mitra berikut berdasarkan beban kerja:
-
small— Direkomendasikan untuk hingga 5 pengguna dan 20 pekerjaan yang sedang berjalan. -
medium— Direkomendasikan untuk hingga 50 pengguna dan 100 pekerjaan yang sedang berjalan. -
large— Direkomendasikan untuk hingga 500 pengguna dan lebih dari 100 pekerjaan yang sedang berjalan.
catatan
SageMaker AI tidak mendukung melihat Comet UI sebagai bagian dari output notebook Jupyter.
Pengembang aplikasi AI dan pemangku kepentingan dapat menggunakan Deepchecks untuk terus memvalidasi aplikasi berbasis LLM termasuk karakteristik, metrik kinerja, dan potensi jebakan di seluruh siklus hidup mulai dari pra-penerapan dan eksperimen internal hingga produksi.
Kami merekomendasikan tingkatan Aplikasi AI Mitra berikut berdasarkan kecepatan yang diinginkan untuk beban kerja:
-
small— Memproses 200 token per detik. -
medium— Memproses 500 token per detik. -
large— Memproses 1300 token per detik.
Bagian Fiddler AI Observability Platform memfasilitasi validasi, pemantauan, dan analisis model ML dalam produksi, termasuk tabel, pembelajaran mendalam, visi komputer, dan model pemrosesan bahasa alami.
Kami merekomendasikan tingkatan Aplikasi AI Mitra berikut berdasarkan kecepatan yang diinginkan untuk beban kerja:
-
small- Memproses peristiwa 10MM di 5 model, 100 fitur, dan 20 iterasi membutuhkan waktu sekitar 53 menit. -
medium- Memproses peristiwa 10MM di 5 model, 100 fitur, dan 20 iterasi membutuhkan waktu sekitar 23 menit. -
large- Memproses peristiwa 10MM di 5 model, 100 fitur, dan 100 iterasi membutuhkan waktu sekitar 27 menit.
Lakera Guard adalah firewall aplikasi AI latensi rendah untuk mengamankan aplikasi AI generatif dari ancaman spesifik AI gen.
Kami merekomendasikan tingkatan Aplikasi AI Mitra berikut berdasarkan beban kerja:
-
small— Direkomendasikan untuk hingga 20 Robotic Process Automations ()RPAs. -
medium— Direkomendasikan hingga 100 RPAs. -
large— Direkomendasikan hingga 200 RPAs.
