Llama 4 Scout 17B-16E memberikan hasil canggih untuk kelas ukurannya yang mengungguli generasi Llama sebelumnya serta model open source dan eksklusif lainnya pada beberapa tolok ukur. Model ini menampilkan arsitektur MoE dengan 17 miliar parameter aktif dari total 109 miliar parameter dan 16 pakar.
Llama 4 Scout 17B-16E cocok untuk tugas pengambilan dalam konteks panjang dan tugas yang memerlukan penalaran atas sejumlah besar informasi, seperti meringkas beberapa dokumen besar, menganalisis log interaksi pengguna yang ekstensif untuk personalisasi, dan melakukan penalaran di seluruh codebase besar.
Spesifikasi Managed API (MaaS)
Coba di Agent Studio Lihat kartu model di Model Garden
| ID Model | llama-4-scout-17b-16e-instruct-maas |
|
|---|---|---|
| Tahap peluncuran | GA | |
| Input & output yang didukung |
|
|
| Kemampuan |
|
|
| Jenis penggunaan |
|
|
| Tanggal batas informasi | Agustus 2024 | |
| Versi |
|
|
| Region yang didukung | ||
|
Ketersediaan model |
|
|
|
Pemrosesan ML |
|
|
| Batas kuota |
us-east5:
|
|
| Harga | Lihat Harga. | |
Men-deploy sebagai model yang di-deploy sendiri
Untuk men-deploy model secara mandiri, buka kartu model Llama 4 Scout 17B-16E di konsol Model Garden, lalu klik Deploy model. Untuk mengetahui informasi selengkapnya tentang men-deploy dan menggunakan model partner, lihat Men-deploy model partner dan membuat permintaan prediksi.
Pertimbangan
- Anda dapat menyertakan maksimal tiga gambar per permintaan.
- Endpoint MaaS tidak menggunakan Llama Guard, tidak seperti versi sebelumnya. Untuk menggunakan Llama Guard, deploy Llama Guard dari Model Garden, lalu kirim perintah dan respons ke endpoint tersebut. Namun, dibandingkan dengan Llama 4, Llama Guard memiliki konteks yang lebih terbatas (128.000) dan hanya dapat memproses permintaan dengan satu gambar di awal perintah.
- Prediksi batch tidak didukung.