מודל Llama 4 Scout 17B-16E מספק תוצאות חדשניות ביחס לגודל שלו, והוא עולה בביצועים על דורות קודמים של Llama ועל מודלים אחרים קנייניים ופתוחים בכמה מדדים. הוא כולל ארכיטקטורת MoE עם 17 מיליארד פרמטרים פעילים מתוך 109 מיליארד פרמטרים בסך הכול ו-16 מומחים.
Llama 4 Scout 17B-16E מתאים למשימות אחזור בהקשרים ארוכים ולמשימות שדורשות חשיבה רציונלית על כמויות גדולות של מידע, כמו סיכום של כמה מסמכים גדולים, ניתוח של יומני אינטראקציה מקיפים של משתמשים לצורך התאמה אישית וניתוח של בסיסי קוד גדולים.
מפרטים של API מנוהל (MaaS)
לניסיון ב-Agent Studio לצפייה בכרטיס המודל ב-Model Garden
| מזהה המודל | llama-4-scout-17b-16e-instruct-maas |
|
|---|---|---|
| שלב ההשקה | GA | |
| קלט ופלט נתמכים |
|
|
| יכולות |
|
|
| סוגי שימושים | ||
| תאריך סף הידע | אוגוסט 2024 | |
| גרסאות |
|
|
| אזורים נתמכים | ||
|
זמינות המודל |
|
|
|
עיבוד נתוני למידת מכונה |
|
|
| מגבלות המכסה |
us-east5:
|
|
| תמחור | מידע על תמחור | |
פריסה כמודל בפריסה עצמית
כדי לפרוס את המודל באופן עצמאי, עוברים אל כרטיס המודל Llama 4 Scout 17B-16E במסוף Model Garden ולוחצים על Deploy model (פריסת המודל). מידע נוסף על פריסה ושימוש במודלים של שותפים זמין במאמר פריסת מודל של שותף ושליחת בקשות לחיזוי.
לתשומת ליבכם
- אפשר לכלול עד שלוש תמונות בכל בקשה.
- נקודת הקצה של MaaS לא משתמשת ב-Llama Guard, בניגוד לגרסאות קודמות. כדי להשתמש ב-Llama Guard, פורסים את Llama Guard מ-Model Garden ואז שולחים את ההנחיות והתשובות לנקודת הקצה הזו. עם זאת, בהשוואה ל-Llama 4, ההקשר של Llama Guard מוגבל יותר (128,000) והוא יכול לעבד רק בקשות עם תמונה אחת בתחילת ההנחיה.
- אין תמיכה בחיזויים באצווה.