Modelos de Llama completamente administrados


Los modelos Llama están disponibles para su uso como APIs administradas y modelos autodeployados en Gemini Enterprise Agent Platform. Puedes transmitir tus respuestas para reducir la percepción de latencia del usuario final. Una respuesta transmitida usa eventos enviados por el servidor (SSE) para transmitir la respuesta de forma incremental.

Modelos de Llama administrados

Los modelos Llama ofrecen modelos completamente administrados y sin servidores como APIs. Para usar un modelo de Llama en Agent Platform, envía una solicitud directamente al extremo de API de Agent Platform. Cuando usas los modelos de Llama como una API administrada, no es necesario aprovisionar ni administrar la infraestructura.

Los siguientes modelos están disponibles en Llama para usarlos en Gemini Enterprise Agent Platform. Para acceder a un modelo de Llama, ve a su ficha del modelo de Model Garden.

Llama 4 Maverick 17B-128E El modelo multimodal de Llama 4 más grande y capaz (MoE 17B activo / 400B total), optimizado para la codificación, el razonamiento profundo, el chat sofisticado y la comprensión de imágenes de alta precisión.
Llama 4 Scout 17B-16E Modelo MoE de alta eficiencia (17B activo / 109B total) que ofrece resultados de vanguardia para la recuperación de contexto extenso, el resumen de documentos y el razonamiento en grandes bases de código.
Llama 3.3 70B Un modelo ajustado según instrucciones de 70B solo de texto que proporciona un rendimiento mejorado en relación con Llama 3.1 70B y Llama 3.2 90B para aplicaciones solo de texto.

Usa modelos de Llama

En el caso de los modelos administrados, puedes usar comandos curl para enviar solicitudes al extremo de Gemini Enterprise Agent Platform con los siguientes nombres de modelos. Para obtener información sobre cómo hacer llamadas de transmisión y no transmisión a los modelos de Llama, consulta Llama a las APIs de modelos abiertos.

Para usar un modelo de Gemini Enterprise Agent Platform implementado por tu cuenta, haz lo siguiente:

  1. Navega a la consola de Model Garden.
  2. Busca el modelo pertinente de Gemini Enterprise Agent Platform.
  3. Haz clic en Habilitar y completa el formulario proporcionado para obtener las licencias de uso comercial necesarias.

Si deseas obtener más información para implementar y usar modelos de socios, consulta Implementa un modelo de socio y realiza solicitudes de predicción.

¿Qué sigue?

Obtén más información para usar los modelos de Llama.