O Llama 4 Scout 17B-16E oferece resultados de última geração para a classe de tamanho dele, superando gerações anteriores do Llama e outros modelos abertos e proprietários em vários comparativos. Ele apresenta arquitetura MoE com 17 bilhões de parâmetros ativos dos 109 bilhões de parâmetros totais e 16 especialistas.
O Llama 4 Scout 17B-16E é adequado para tarefas de recuperação em contextos longos e tarefas que exigem raciocínio sobre grandes quantidades de informações, como resumir vários documentos grandes, analisar registros extensos de interação do usuário para personalização e raciocinar em grandes bases de código.
Especificações de API gerenciada (MaaS)
Testar no Agent Studio Ver o card de modelo no Model Garden
| ID do modelo | llama-4-scout-17b-16e-instruct-maas |
|
|---|---|---|
| Etapa do lançamento | GA | |
| Entradas e saídas compatíveis |
|
|
| Recursos |
|
|
| Tipos de uso |
|
|
| Data limite de conhecimento | Agosto de 2024 | |
| Versões |
|
|
| Regiões compatíveis | ||
|
Disponibilidade do modelo |
|
|
|
Processamento de ML |
|
|
| Limites de cotas |
us-east5:
|
|
| Preços | Consulte Preços. | |
Implantar como um modelo autônomo
Para fazer a autolimitação do modelo, acesse o card do modelo Llama 4 Scout 17B-16E no console do Model Garden e clique em Implantar modelo. Para mais informações sobre como implantar e usar modelos de parceiros, consulte Implantar um modelo de parceiro e fazer solicitações de previsão.
Considerações
- É possível incluir no máximo três imagens por solicitação.
- O endpoint do MaaS não usa o Llama Guard, ao contrário das versões anteriores. Para usar o Llama Guard, implante-o no Model Garden e envie os comandos e respostas para esse endpoint. No entanto, em comparação com o Llama 4, o LlamaGuard tem um contexto mais limitado (128.000) e só pode processar solicitações com uma única imagem no início do comando.
- As previsões em lote não são compatíveis.