Gunakan Jupyter AI di JupyterLab atau Studio Classic - Amazon SageMaker
Menggunakan model bahasa dari UI obrolanGunakan model bahasa dari buku catatan

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Gunakan Jupyter AI di JupyterLab atau Studio Classic

Anda dapat menggunakan Jupyter AI di JupyterLab atau Studio Classic dengan memanggil model bahasa baik dari UI obrolan atau dari sel notebook. Bagian berikut memberikan informasi tentang langkah-langkah yang diperlukan untuk menyelesaikan ini.

Menggunakan model bahasa dari UI obrolan

Tulis pesan Anda di kotak teks UI obrolan untuk mulai berinteraksi dengan model Anda. Untuk menghapus riwayat pesan, gunakan /clear perintah.

catatan

Menghapus riwayat pesan tidak menghapus konteks obrolan dengan penyedia model.

Gunakan model bahasa dari sel notebook

Sebelum menggunakan %ai perintah %%ai dan untuk memanggil model bahasa, muat IPython ekstensi dengan menjalankan perintah berikut di sel notebook JupyterLab atau Studio Classic.

%load_ext jupyter_ai_magics

  • Untuk model yang diselenggarakan oleh AWS:

    • Untuk memanggil model yang digunakan SageMaker, teruskan string sagemaker-endpoint:endpoint-name ke perintah %%ai ajaib dengan parameter yang diperlukan di bawah ini, lalu tambahkan prompt Anda di baris berikut.

      Tabel berikut mencantumkan parameter wajib dan opsional saat menjalankan model yang dihosting oleh SageMaker atau Amazon Bedrock.

      Nama Parameter Parameter Versi Pendek Deskripsi
      Permintaan skema --request-schema -q Wajib: JSON Objek yang diharapkan titik akhir, dengan prompt diganti menjadi nilai apa pun yang cocok dengan string literal. <prompt>
      Nama wilayah --region-name -n Wajib: Wilayah AWS Tempat model dikerahkan.
      Jalur respons --response-path -p Wajib: JSONPath String yang digunakan untuk mengekstrak output model bahasa dari JSON respons titik akhir.
      Parameter model tambahan --model-parameters -m Opsional: JSON Nilai yang menentukan parameter tambahan yang akan diteruskan ke model. Nilai yang diterima diuraikan ke dalam kamus, dibongkar, dan langsung diteruskan ke kelas penyedia. Ini berguna ketika titik akhir atau model memerlukan parameter khusus. Misalnya, dalam model Llama 2 saat menerima Perjanjian Lisensi Pengguna Akhir (EULA) diperlukan, Anda dapat meneruskan EULA penerimaan ke titik akhir menggunakan. -m {"endpoint_kwargs":{"CustomAttributes":"accept_eula=true"}} Atau, Anda dapat menggunakan -m parameter untuk meneruskan parameter model tambahan, seperti menyetel jumlah token maksimum untuk respons yang dihasilkan model. Misalnya, saat bekerja dengan model AI21 Labs Jurassic:-m {"model_kwargs":{"maxTokens":256}}.
      Format keluaran --format -f Opsional: IPython Tampilan yang digunakan untuk merender output. Ini bisa berupa salah satu dari nilai berikut[code|html|image|json|markdown|math|md|text], asalkan model yang dipanggil mendukung format yang ditentukan.

      Perintah berikut memanggil model LLAMA2-7b yang dihosting oleh. SageMaker

      %%ai sagemaker-endpoint:jumpstart-dft-meta-textgeneration-llama-2-7b -q {"inputs":"<prompt>","parameters":{"max_new_tokens":64,"top_p":0.9,"temperature":0.6,"return_full_text":false}} -n us-east-2 -p [0].generation -m {"endpoint_kwargs":{"CustomAttributes":"accept_eula=true"}} -f text
Translate English to French:
sea otter => loutre de mer
peppermint => menthe poivrée
plush girafe => girafe peluche
cheese =>

      Contoh berikut memanggil model flan-T5-Small yang dihosting oleh. SageMaker

      %%ai sagemaker-endpoint:hf-text2text-flan-t5-small --request-schema={"inputs":"<prompt>","parameters":{"num_return_sequences":4}} --region-name=us-west-2 --response-path=[0]["generated_text"] -f text
What is the atomic number of Hydrogen?

    • Untuk memanggil model yang diterapkan di Amazon Bedrock, teruskan string bedrock:model-name ke perintah %%ai ajaib dengan parameter opsional apa pun yang ditentukan dalam daftar parameter untuk menjalankan model yang dihosting oleh atau JumpStart Amazon Bedrock, lalu tambahkan prompt Anda di baris berikut.

      Contoh berikut memanggil model AI21Labs Jurassic-2 yang diselenggarakan oleh Amazon Bedrock.

      %%ai bedrock:ai21.j2-mid-v1 -m {"model_kwargs":{"maxTokens":256}} -f code
Write a function in python implementing a bubbble sort.

  • Untuk model yang dihosting oleh penyedia pihak ketiga

    Untuk memanggil model yang dihosting oleh penyedia pihak ketiga, teruskan string provider-id:model-name ke perintah %%ai ajaib dengan opsional Output format, lalu tambahkan prompt Anda di baris berikut. Anda dapat menemukan detail masing-masing penyedia, termasuk ID mereka, di daftar penyedia model AI Jupyter.

    Perintah berikut meminta model Anthropic Claude untuk mengeluarkan HTML file yang berisi gambar kotak putih dengan batas hitam.

    %%ai anthropic:claude-v1.2 -f html
Create a square using SVG with a black border and white fill.