Modelos Llama totalmente gerenciados


Os modelos Llama estão disponíveis para uso como APIs gerenciadas e modelos autônomos na Gemini Enterprise Agent Platform. É possível transmitir as respostas para reduzir a percepção de latência do usuário final. Uma resposta transmitida usa eventos enviados pelo servidor (SSE) para transmitir a resposta de forma incremental.

Modelos Llama gerenciados

Os modelos Llama oferecem modelos totalmente gerenciados e sem servidor como APIs. Para usar um modelo Llama na Agent Platform, envie uma solicitação diretamente para o endpoint de API Agent Platform. Ao usar modelos Llama como uma API gerenciada, não é necessário provisionar nem gerenciar a infraestrutura.

Os modelos Llama a seguir estão disponíveis para uso na Gemini Enterprise Agent Platform. Para acessar um modelo Llama, acesse a Card de modelo do Model Garden.

Llama 4 Maverick 17B-128E O maior e mais eficiente modelo multimodal do Llama 4 (MoE 17B ativo / 400B total), otimizado para programação, raciocínio profundo, chat sofisticado e compreensão de imagens de alta precisão.
Llama 4 Scout 17B-16E Modelo MoE de alta eficiência (17B ativo / 109B total) que oferece resultados de última geração para recuperação de contexto longo, resumo de documentos e raciocínio em grandes bases de código.
Llama 3.3 70B Um modelo de 70B ajustado por instrução somente de texto que oferece desempenho aprimorado em relação ao Llama 3.1 70B e ao Llama 3.2 90B para aplicativos somente de texto.

Usar modelos de Llama

Para modelos gerenciados, use comandos curl para enviar solicitações ao endpoint da Gemini Enterprise Agent Platform usando os seguintes nomes de modelos. Para aprender a fazer chamadas de streaming e sem streaming para modelos Llama, consulte Chamar APIs de modelos abertos.

Para usar um modelo autônomo da Gemini Enterprise Agent Platform:

  1. Navegue até o console do Model Garden.
  2. Encontre o modelo relevante da Gemini Enterprise Agent Platform.
  3. Clique em Ativar e preencha o formulário fornecido para receber as licenças de uso comercial necessárias.

Para mais informações sobre como implantar e usar modelos de parceiros, consulte Implantar um modelo de parceiro e fazer solicitações de previsão.

A seguir

Saiba como usar os modelos Llama.