Terminologi kunci

Foundation Model (FM) — Model AI dengan sejumlah besar parameter dan dilatih pada sejumlah besar data yang beragam. Model pondasi dapat menghasilkan berbagai tanggapan untuk berbagai kasus penggunaan. Model foundation dapat menghasilkan teks atau gambar, dan juga dapat mengubah input menjadi embeddings. Sebelum Anda dapat menggunakan model fondasi Amazon Bedrock, Anda harus meminta akses. Untuk informasi lebih lanjut tentang model pondasi, lihatModel pondasi yang didukung di Amazon Bedrock.

Model dasar — Model dasar yang dikemas oleh penyedia dan siap digunakan. Amazon Bedrock menawarkan berbagai model pondasi terkemuka di industri dari penyedia terkemuka. Untuk informasi selengkapnya, lihat Model pondasi yang didukung di Amazon Bedrock.

Model inferensi — Proses model pondasi menghasilkan output (respons) dari input yang diberikan (prompt). Untuk informasi selengkapnya, lihat Kirim petunjuk dan hasilkan tanggapan dengan inferensi model.

Prompt — Masukan yang diberikan kepada model untuk membimbingnya menghasilkan respons atau output yang sesuai untuk input. Misalnya, prompt teks dapat terdiri dari satu baris untuk model untuk merespons, atau dapat merinci instruksi atau tugas untuk model untuk melakukan. Prompt dapat berisi konteks tugas, contoh output, atau teks untuk model untuk digunakan dalam responsnya. Prompt dapat digunakan untuk melakukan tugas-tugas seperti klasifikasi, menjawab pertanyaan, pembuatan kode, penulisan kreatif, dan banyak lagi. Untuk informasi selengkapnya, lihat Konsep rekayasa yang cepat.

Token — Urutan karakter yang dapat ditafsirkan atau diprediksi oleh model sebagai satu unit makna. Misalnya, dengan model teks, token dapat berkorespondensi tidak hanya dengan kata, tetapi juga bagian dari kata dengan makna tata bahasa (seperti “-ed”), tanda baca (seperti “?”) , atau frasa umum (seperti “banyak”).

Parameter model — Nilai yang mendefinisikan model dan perilakunya dalam menafsirkan input dan menghasilkan respons. Parameter model dikendalikan dan diperbarui oleh penyedia. Anda juga dapat memperbarui parameter model untuk membuat model baru melalui proses penyesuaian model.

Parameter inferensi — Nilai yang dapat disesuaikan selama inferensi model untuk mempengaruhi respons. Parameter inferensi dapat mempengaruhi seberapa bervariasi respons dan juga dapat membatasi panjang respons atau terjadinya urutan yang ditentukan. Untuk informasi lebih lanjut dan definisi parameter inferensi tertentu, lihatMempengaruhi generasi respons dengan parameter inferensi.

Playground — Antarmuka grafis yang mudah digunakan AWS Management Console di mana Anda dapat bereksperimen dengan menjalankan inferensi model untuk membiasakan diri dengan Amazon Bedrock. Gunakan taman bermain untuk menguji efek berbagai model, konfigurasi, dan parameter inferensi pada respons yang dihasilkan untuk berbagai petunjuk yang Anda masukkan. Untuk informasi selengkapnya, lihat Hasilkan tanggapan di konsol menggunakan taman bermain.

Embedding — Proses kondensasi informasi dengan mengubah input menjadi vektor nilai numerik, yang dikenal sebagai embeddings, untuk membandingkan kesamaan antara objek yang berbeda dengan menggunakan representasi numerik bersama. Misalnya, kalimat dapat dibandingkan untuk menentukan kesamaan makna, gambar dapat dibandingkan untuk menentukan kesamaan visual, atau teks dan gambar dapat dibandingkan untuk melihat apakah mereka relevan satu sama lain. Anda juga dapat menggabungkan input teks dan gambar menjadi vektor embeddings rata-rata jika relevan dengan kasus penggunaan Anda. Untuk informasi selengkapnya, silakan lihat Kirim petunjuk dan hasilkan tanggapan dengan inferensi model dan Ambil data dan hasilkan respons AI dengan Pangkalan Pengetahuan Amazon Bedrock.

Orkestrasi — Proses koordinasi antara model pondasi dan data perusahaan dan aplikasi untuk melaksanakan tugas. Untuk informasi selengkapnya, lihat Otomatiskan tugas dalam aplikasi Anda menggunakan agen AI.

Agen — Aplikasi yang melakukan orkestrasi melalui interpretasi input secara siklis dan menghasilkan output dengan menggunakan model pondasi. Agen dapat digunakan untuk melakukan permintaan pelanggan. Untuk informasi selengkapnya, lihat Otomatiskan tugas dalam aplikasi Anda menggunakan agen AI.

Retrieval augmented generation (RAG) — Proses query dan pengambilan informasi dari sumber data untuk menambah respon yang dihasilkan terhadap prompt. Untuk informasi selengkapnya, lihat Ambil data dan hasilkan respons AI dengan Pangkalan Pengetahuan Amazon Bedrock.

Kustomisasi model — Proses menggunakan data pelatihan untuk menyesuaikan nilai parameter model dalam model dasar untuk membuat model kustom. Contoh kustomisasi model termasuk Fine-tuning, yang menggunakan data berlabel (input dan output yang sesuai), dan Pre-training Lanjutan, yang menggunakan data tidak berlabel (hanya input) untuk menyesuaikan parameter model. Untuk informasi selengkapnya tentang teknik penyesuaian model yang tersedia di Amazon Bedrock, lihatSesuaikan model Anda untuk meningkatkan kinerjanya untuk kasus penggunaan Anda.

Hyperparameters — Nilai yang dapat disesuaikan untuk kustomisasi model untuk mengontrol proses pelatihan dan, akibatnya, model kustom keluaran. Untuk informasi lebih lanjut dan definisi hiperparameter tertentu, lihatHiperparameter model kustom.

Evaluasi model — Proses mengevaluasi dan membandingkan output model untuk menentukan model yang paling cocok untuk kasus penggunaan. Untuk informasi selengkapnya, lihat Evaluasi kinerja sumber daya Amazon Bedrock.

Provisioned Throughput — Tingkat throughput yang Anda beli untuk model dasar atau kustom untuk meningkatkan jumlah dan/atau tingkat token yang diproses selama inferensi model. Saat Anda membeli Provisioned Throughput untuk model, model yang disediakan dibuat yang dapat digunakan untuk melakukan inferensi model. Untuk informasi selengkapnya, lihat Tingkatkan kapasitas pemanggilan model dengan Provisioned Throughput di Amazon Bedrock.