Llama 4 Scout 17B-16E offre risultati all'avanguardia per la sua classe di dimensioni che superano le generazioni precedenti di Llama e altri modelli aperti e proprietari in diversi benchmark. È caratterizzato da un'architettura MoE con 17 miliardi di parametri attivi su un totale di 109 miliardi di parametri e 16 esperti.
Llama 4 Scout 17B-16E è adatto per le attività di recupero all'interno di contesti lunghi e per le attività che richiedono un ragionamento su grandi quantità di informazioni, come il riepilogo di più documenti di grandi dimensioni, l'analisi di log di interazione utente estesi per la personalizzazione e il ragionamento su codebase di grandi dimensioni.
Specifiche dell'API gestita (MaaS)
Prova in Agent Studio Visualizza la scheda del modello in Model Garden
| ID modello | llama-4-scout-17b-16e-instruct-maas |
|
|---|---|---|
| Fase di lancio | GA | |
| Input e output supportati |
|
|
| Funzionalità |
|
|
| Tipi di utilizzo |
|
|
| Data del knowledge cutoff | Agosto 2024 | |
| Versioni |
|
|
| Aree geografiche supportate | ||
|
Disponibilità del modello |
|
|
|
Elaborazione ML |
|
|
| Limiti di quota |
us-east5:
|
|
| Prezzi | Consulta la pagina Prezzi. | |
Esegui il deployment come modello con deployment autonomo
Per eseguire il deployment autonomo del modello, vai alla scheda del modello Llama 4 Scout 17B-16E nella console Model Garden e fai clic su Esegui il deployment del modello. Per saperne di più sul deployment e sull'utilizzo dei modelli partner, consulta Esegui il deployment di un modello partner ed effettua richieste di previsione.
Considerazioni
- Puoi includere un massimo di tre immagini per richiesta.
- L'endpoint MaaS non utilizza Llama Guard, a differenza delle versioni precedenti. Per utilizzare Llama Guard, esegui il deployment di Llama Guard da Model Garden e poi invia i prompt e le risposte a questo endpoint. Tuttavia, rispetto a Llama 4, Llama Guard ha un contesto più limitato (128.000) e può elaborare solo richieste con una singola immagine all'inizio del prompt.
- Le previsioni batch non sono supportate.