BUAT MODEL EKSTERNAL - Amazon Redshift
PrasyaratHak istimewa yang diperlukanPengendalian biayaSintaksParameter dan pengaturanParameter fungsi inferensi

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

BUAT MODEL EKSTERNAL

Prasyarat untuk MEMBUAT MODEL EKSTERNAL

Sebelum Anda menggunakan pernyataan CREATE EXTERNAL MODEL, lengkapi prasyarat di. Penyiapan klaster untuk menggunakan Amazon Redshift ML Berikut ini adalah ringkasan prasyarat tingkat tinggi.

  • Buat klaster Amazon Redshift dengan AWS Management Console atau AWS Command Line Interface (CLI AWS ).

  • Lampirkan kebijakan AWS Identity and Access Management (IAM) saat membuat cluster.

  • Untuk memungkinkan Amazon Redshift dan Amazon Bedrock mengambil peran untuk berinteraksi dengan layanan lain, tambahkan kebijakan kepercayaan yang sesuai ke peran IAM.

  • Aktifkan akses ke spesifik LLMs yang ingin Anda gunakan dari konsol Amazon Bedrock.

  • (Opsional) Jika Anda menemukan pengecualian pembatasan yang berasal dari Amazon Bedrock sepertiToo many requests, please wait before trying again, bahkan dengan sejumlah kecil data, periksa kuota di bawah Service Quotas di akun Amazon Bedrock Anda. Periksa apakah kuota tingkat akun yang diterapkan setidaknya sama dengan nilai kuota AWS default untuk InvokeModelpermintaan model yang Anda gunakan.

Untuk detail tentang peran IAM, kebijakan kepercayaan, dan prasyarat lainnya, lihat. Penyiapan klaster untuk menggunakan Amazon Redshift ML

Hak istimewa yang diperlukan

Berikut ini adalah hak istimewa yang diperlukan untuk CREATE EXTERNAL MODEL:

  • Superuser

  • Pengguna dengan hak istimewa CREATE MODEL

  • Peran dengan hak istimewa GRANT CREATE MODEL

Pengendalian biaya

Amazon Redshift MLmenggunakan sumber daya kluster yang ada untuk membuat model prediksi, sehingga Anda tidak perlu membayar biaya tambahan. Namun, AWS biaya untuk menggunakan Amazon Bedrock berdasarkan model yang Anda pilih. Untuk informasi selengkapnya, lihat Biaya untuk menggunakan Amazon Redshift Ml.

BUAT SINTAKS MODEL EKSTERNAL

Berikut ini adalah sintaks lengkap dari pernyataan CREATE EXTERNAL MODEL.

CREATE EXTERNAL MODEL model_name 
FUNCTION function_name
IAM_ROLE {default/'arn:aws:iam::<account-id>:role/<role-name>'}
MODEL_TYPE BEDROCK
SETTINGS (
   MODEL_ID model_id
   [, PROMPT 'prompt prefix']
   [, SUFFIX 'prompt suffix']
   [, REQUEST_TYPE {RAW|UNIFIED}]
   [, RESPONSE_TYPE {VARCHAR|SUPER}]
);

CREATE EXTERNAL MODELPerintah membuat fungsi inferensi yang Anda gunakan untuk menghasilkan konten.

Berikut ini adalah sintaks dari fungsi inferensi yang CREATE EXTERNAL MODEL membuat menggunakan dariREQUEST_TYPE: RAW 

SELECT inference_function_name(request_super) 
[FROM table];

Berikut ini adalah sintaks dari fungsi inferensi yang CREATE EXTERNAL MODEL membuat menggunakan dariREQUEST_TYPE: UNIFIED 

SELECT inference_function_name(input_text, [, inference_config [, additional_model_request_fields]])
[FROM table];

Untuk informasi tentang cara menggunakan fungsi inferensi, lihatMenggunakan model eksternal untuk integrasi Amazon Redshift MLdengan Amazon Bedrock.

BUAT parameter dan pengaturan MODEL EKSTERNAL

Bagian ini menjelaskan parameter dan pengaturan untuk CREATE EXTERNAL MODEL perintah.

BUAT parameter MODEL EKSTERNAL

nama_model

Nama untuk model eksternal. Nama model dalam skema harus unik.

FUNGSI function_name (data_type [,...])

Nama untuk fungsi inferensi yang CREATE EXTERNAL MODEL menciptakan. Anda menggunakan fungsi inferensi untuk mengirim permintaan ke Amazon Bedrock dan mengambil teks yang dihasilkan MP.

<account-id><role-name>IAM_ROLE {default | 'arn:aws:iam: ::role/ '}

Peran IAM yang digunakan Amazon Redshift untuk mengakses Amazon Bedrock. Untuk informasi tentang peran IAM, lihat Membuat atau memperbarui peran IAM untuk integrasi Amazon Redshift MLdengan Amazon Bedrock.

BATUAN DASAR MODEL_TYPE

Menentukan jenis model. Satu-satunya nilai yang valid adalah BEDROCK.

PENGATURAN (MODEL_ID model_id [,...])

Menentukan pengaturan model eksternal. Lihat bagian berikut untuk detailnya.

BUAT pengaturan MODEL EKSTERNAL

MODEL_ID model_id

Pengidentifikasi untuk model eksternal, misalnya,anthropic.claude-v2. Untuk informasi tentang model Amazon Bedrock IDs, lihat Model Amazon Bedrock. IDs

PROMPT 'awalan cepat'

Menentukan prompt statis yang ditambahkan Amazon Redshift ke awal setiap permintaan inferensi. Hanya didukung dengan REQUEST_TYPE aUNIFIED.

AKHIRAN 'akhiran cepat'

Menentukan prompt statis yang ditambahkan Amazon Redshift ke akhir setiap permintaan inferensi. Hanya didukung dengan REQUEST_TYPE aUNIFIED.

REQUEST_TYPE {MENTAH | TERPADU}

Menentukan format permintaan yang dikirim ke Amazon Bedrock. Nilai-nilai yang valid meliputi:

  • RAW: Fungsi inferensi mengambil input sebagai nilai super tunggal, dan selalu mengembalikan nilai super. Format nilai super khusus untuk model Amazon Bedrock yang dipilih. Super adalah model prediksi yang menggabungkan beberapa algoritma untuk menghasilkan prediksi tunggal yang lebih baik.

  • UNIFIED: Fungsi inferensi menggunakan API terpadu. Semua model memiliki antarmuka yang terpadu dan konsisten dengan Amazon Bedrock. Ini berfungsi untuk semua model yang mendukung pesan. Nilai ini adalah default.

    Untuk informasi selengkapnya, lihat dokumentasi Converse API di dokumentasi Amazon Bedrock API.

RESPONSE_TYPE {VARCHAR | SUPER}

Menentukan format respon. Jika REQUEST_TYPE adaRAW, RESPONSE_TYPE yang diminta dan satu-satunya nilai yang valid adalahSUPER. Untuk semua REQUEST TYPE nilai lainnya, nilai defaultnya adalahVARCHAR, dan RESPONSE_TYPE bersifat opsional. Nilai-nilai yang valid meliputi:

  • VARCHAR: Amazon Redshift hanya mengembalikan respons teks yang dihasilkan oleh model.

  • SUPER: Amazon Redshift mengembalikan seluruh respons JSON yang dihasilkan oleh model sebagai super. Ini termasuk respons teks, dan informasi seperti alasan berhenti, dan penggunaan token input dan output model. Super adalah model prediksi yang menggabungkan beberapa algoritma untuk menghasilkan prediksi tunggal yang lebih baik.

BUAT parameter fungsi inferensi MODEL EKSTERNAL

Bagian ini menjelaskan parameter yang valid untuk fungsi inferensi yang dibuat oleh CREATE EXTERNAL MODEL perintah.

BUAT parameter fungsi inferensi MODEL EKSTERNAL untuk REQUEST_TYPERAW

Fungsi inferensi yang dibuat dengan a REQUEST_TYPE of RAW memiliki satu argumen input super dan selalu mengembalikan tipe data super. Sintaks input super mengikuti sintaks permintaan model tertentu yang dipilih dari Amazon Bedrock.

BUAT parameter fungsi inferensi MODEL EKSTERNAL untuk REQUEST_TYPEUNIFIED

input_text

Teks yang dikirim Amazon Redshift ke Amazon Bedrock.

inference_config

Nilai super yang berisi parameter opsional yang dikirimkan Amazon Redshift ke Amazon Bedrock. Ini dapat mencakup yang berikut:

  • MaxTokens

  • StopSequences

  • suhu

  • TopP

Parameter ini semuanya opsional dan semuanya peka huruf besar/kecil. Untuk informasi tentang parameter ini, lihat InferenceConfigurationdi Referensi Amazon Bedrock API.