Amazon Penyematan Multimodal Titan G1 model

Model Amazon Titan Foundation dilatih sebelumnya pada kumpulan data besar, menjadikannya model tujuan umum yang kuat. Gunakan apa adanya, atau sesuaikan dengan menyempurnakan model dengan data Anda sendiri untuk tugas tertentu tanpa membuat anotasi data dalam volume besar.

Ada tiga jenis model Titan: penyematan, pembuatan teks, dan pembuatan gambar.

Ada dua Titan Multimodal Embeddings G1 model. Model Titan Multimodal Embeddings G1 menerjemahkan input teks (kata, frasa atau mungkin unit teks yang besar) ke dalam representasi numerik (dikenal sebagai penyematan) yang berisi makna semantik teks. Meskipun model ini tidak akan menghasilkan teks, ini berguna untuk aplikasi seperti personalisasi dan pencarian. Dengan membandingkan penyematan, model akan menghasilkan respons yang lebih relevan dan kontekstual daripada pencocokan kata. Model Multimodal Embeddings G1 digunakan untuk kasus penggunaan seperti mencari gambar dengan teks, dengan gambar untuk kesamaan, atau dengan kombinasi teks dan gambar. Ini menerjemahkan gambar input atau teks ke dalam penyematan yang berisi makna semantik dari gambar dan teks dalam ruang semantik yang sama.

Model Titan Text adalah LLM generatif untuk tugas-tugas seperti ringkasan, pembuatan teks, klasifikasi, QnA terbuka, dan ekstraksi informasi. Mereka juga dilatih pada banyak bahasa pemrograman yang berbeda, serta format teks kaya seperti tabel, JSON, dan file.CSV, di antara format lainnya.

Model Penyematan Multimodal Amazon Titan G1

Titan Text Embeddings V1 mengambil sebagai input string yang tidak kosong dengan hingga 8.192 token dan mengembalikan penyematan 1.024 dimensi. Rasio karakter terhadap token dalam bahasa Inggris rata-rata 4,7 char/token. Catatan tentang kasus penggunaan RAG: Meskipun Titan Text Embeddings V2 mampu menampung hingga 8.192 token, kami sarankan untuk mengelompokkan dokumen ke dalam segmen logis (seperti paragraf atau bagian).

Panjang penyematan

Menyetel panjang penyematan khusus adalah opsional. Panjang default embedding adalah 1024 karakter yang akan berfungsi untuk sebagian besar kasus penggunaan. Panjang embedding dapat diatur ke 256, 384, atau 1024 karakter. Ukuran penyematan yang lebih besar menciptakan respons yang lebih rinci, tetapi juga akan meningkatkan waktu komputasi. Panjang penyematan yang lebih pendek kurang detail tetapi akan meningkatkan waktu respons.

    # EmbeddingConfig Shape
    {
     'outputEmbeddingLength': int // Optional, One of: [256, 384, 1024], default: 1024
    }
    
    # Updated API Payload Example
    body = json.dumps({
     "inputText": "hi",
     "inputImage": image_string,
     "embeddingConfig": { 
     "outputEmbeddingLength": 256
     }
    })
  

Finetuning

Mempersiapkan kumpulan data

Untuk dataset pelatihan, buat .jsonl file dengan beberapa baris JSON. Setiap baris JSON berisi caption atribut image-ref dan yang mirip dengan format sagemaker/latest/dg/augmented-manifest.html Sagemaker Augmented Manifest. Dataset validasi diperlukan. Auto-captioning Saat ini tidak didukung.

   {"image-ref": "s3://bucket-1/folder1/0001.png", "caption": "some text"}
   {"image-ref": "s3://bucket-1/folder2/0002.png", "caption": "some text"}
   {"image-ref": "s3://bucket-1/folder1/0003.png", "caption": "some text"}
  

Untuk kumpulan data pelatihan dan validasi, Anda akan membuat .jsonl file dengan beberapa baris JSON.

Jalur Amazon S3 harus berada di folder yang sama tempat Anda telah memberikan izin kepada Amazon Bedrock untuk mengakses data dengan melampirkan kebijakan IAM ke peran layanan Amazon Bedrock Anda. Untuk informasi selengkapnya tentang pemberian kebijakan IAM untuk data pelatihan, lihat Mem berikan akses pekerjaan khusus ke data pelatihan Anda.

Hyperparameter

Nilai-nilai ini dapat disesuaikan untuk hyperparameter model Embeddings Multimodal. Nilai default akan bekerja dengan baik untuk sebagian besar kasus penggunaan.