Inferensi lintas wilayah
AgentCore Evaluasi akan secara otomatis memilih wilayah optimal dalam geografi Anda untuk memproses permintaan inferensi Anda. Ini memaksimalkan sumber daya komputasi yang tersedia, ketersediaan model, dan memberikan pengalaman pelanggan terbaik. Data Anda akan tetap disimpan hanya di wilayah tempat permintaan berasal, namun, permintaan input dan hasil keluaran dapat diproses di luar wilayah tersebut. Semua data akan dikirimkan dienkripsi melalui jaringan AWS aman.
Untuk AgentCore Evaluasi, permintaan inferensi yang berasal dari Asia Pasifik (Seoul) (ap-northeast-2) menggunakan inferensi lintas wilayah global dan akan diarahkan secara aman ke semua sumber daya komputasi yang tersedia di semua Wilayah komersial global. AWS Untuk informasi selengkapnya, lihat Inferensi lintas wilayah global untuk AgentCore Evaluasi.
Jika kasus penggunaan Anda mengharuskan menghindari inferensi lintas wilayah, Anda dapat membuat evaluator Kustom yang beroperasi tanpa CRIS. Evaluator khusus memberikan fleksibilitas untuk:
-
Replikasi fungsionalitas evaluator bawaan tanpa menggunakan CRIS
-
Tentukan kriteria evaluasi dan skema penilaian yang identik sebagai evaluator bawaan
-
Pertahankan kontrol penuh atas konfigurasi inferensi
catatan
Meskipun evaluator kustom dapat dikonfigurasi agar sesuai dengan fungsionalitas evaluator bawaan, Anda bertanggung jawab untuk mengelola ketersediaan model dan sumber daya komputasi.
