Llama 4 Scout 17B-16E offre des résultats de pointe pour sa catégorie de taille, surpassant les générations Llama précédentes ainsi que d'autres modèles ouverts et propriétaires sur plusieurs benchmarks. Il présente une architecture MoE avec 17 milliards de paramètres actifs sur un total de 109 milliards de paramètres et 16 experts.
Llama 4 Scout 17B-16E est adapté aux tâches de récupération dans des contextes longs et aux tâches qui nécessitent un raisonnement sur de grandes quantités d'informations, comme la synthèse de plusieurs grands documents, l'analyse de journaux d'interaction utilisateur volumineux pour la personnalisation et le raisonnement sur de grandes bases de code.
Spécifications des API gérées (MaaS)
Essayer dans Agent Studio Afficher la fiche de modèle dans Model Garden
| ID du modèle | llama-4-scout-17b-16e-instruct-maas |
|
|---|---|---|
| Étape de lancement | DG | |
| Entrées et sorties acceptées |
|
|
| Capacités |
|
|
| Types d'utilisation |
|
|
| Date limite des connaissances | Août 2024 | |
| Versions |
|
|
| Régions où le service est disponible | ||
|
Disponibilité du modèle |
|
|
|
Traitement ML |
|
|
| Limites de quota |
us-east5 :
|
|
| Tarifs | Voir les tarifs | |
Déployer en tant que modèle auto-déployé
Pour déployer vous-même le modèle, accédez à la fiche de modèle Llama 4 Scout 17B-16E dans la console Model Garden, puis cliquez sur Déployer le modèle. Pour en savoir plus sur le déploiement et l'utilisation de modèles partenaires, consultez Déployer un modèle partenaire et envoyer des requêtes de prédiction.
Remarques
- Vous pouvez inclure jusqu'à trois images par requête.
- Contrairement aux versions précédentes, le point de terminaison MaaS n'utilise pas Llama Guard. Pour utiliser Llama Guard, déployez-le depuis Model Garden, puis envoyez les requêtes et les réponses à ce point de terminaison. Toutefois, par rapport à Llama 4, LlamaGuard a un contexte plus limité (128 000) et ne peut traiter que les requêtes avec une seule image au début du prompt.
- Les prédictions par lots ne sont pas prises en charge.