Elige una función de generación de texto

En este documento, se proporciona una comparación de las funciones de generación de texto de BigQuery ML AI.GENERATE_TEXT y AI.GENERATE. Puedes usar la información de este documento para decidir qué función usar en los casos en que las funciones tengan capacidades superpuestas.

Similitudes de las funciones

Las funciones AI.GENERATE_TEXT y AI.GENERATE son similares de las siguientes maneras:

  • Propósito: Generar texto pasando una instrucción a un modelo de lenguaje grande (LLM).
  • Facturación: Generar cargos de BigQuery ML por los datos procesados. Para obtener más información, consulta los precios de BigQuery ML. Generar cargos de Agent Platform de Gemini Enterprise por las llamadas al LLM. Si usas un modelo de Gemini 2.0 o una versión posterior, la llamada se factura según la tarifa de la API por lotes. Para obtener más información, consulta Costo de compilar e implementar modelos de IA en Agent Platform.
  • Escalabilidad: Procesar entre 1 millón y 10 millones de filas por cada trabajo de consulta de 6 horas. La capacidad de procesamiento real depende de factores como la longitud promedio de tokens en las filas de entrada. Para obtener más información, consulta Funciones de IA generativa.
  • Datos de entrada: Admitir texto y datos no estructurados de tablas estándar y tablas de objetos de BigQuery.

Diferencias de las funciones

Usa la siguiente tabla para evaluar las diferencias entre las AI.GENERATE_TEXT y AI.GENERATE funciones:

AI.GENERATE_TEXT AI.GENERATE
Firma de la función Una función con valor de tabla que toma una tabla como entrada y muestra una tabla como salida. Una función escalar que toma un solo valor como entrada y muestra un solo valor como salida.
LLM admitidos
  • Modelos de Gemini
  • Modelos de socios, como Anthropic Claude, Llama y Mistral AI
  • modelos abiertos
 Modelos de Gemini
Contenido de salida de la función

Contenido de salida de la función para los modelos de Gemini:

  • Texto generado
  • Resultados de IA responsable (RAI)
  • Resultados de la fundamentación de la Búsqueda de Google, si está habilitada
  • Estado de la llamada al LLM

Contenido de salida de la función para otros tipos de modelos:

  • Texto generado
  • Estado de la llamada al LLM
  • Texto generado
  • Respuesta completa del modelo en formato JSON
  • Estado de la llamada al LLM
Formato de salida de la función Los valores generados se muestran en una sola columna JSON o en columnas de tabla separadas, según el flatten_json_output valor del argumento. Los valores generados se muestran como campos en un objeto STRUCT.
Recorrido del usuario Debes crear un modelo remoto antes de usar la función. Puedes usar la función directamente, sin necesidad de crear un modelo remoto.
Configuración de permisos Debes crear manualmente una conexión de BigQuery y otorgar el permiso de rol de usuario de Agent Platform a la cuenta de servicio de la conexión. Puedes omitir este paso si usas la conexión predeterminada de BigQuery. Puedes llamar a esta función con tus credenciales de usuario final.
Ventajas Permite formatos de entrada y salida más flexibles. Es más fácil de integrar en las consultas de SQL.
Funciones extendidas Puedes usar la AI.GENERATE_TABLE función para generar resultados estructurados según un esquema de salida de SQL que especifiques. Puedes usar las funciones AI.GENERATE_BOOL, AI.GENERATE_INT, y AI.GENERATE_DOUBLE para generar diferentes tipos de valores escalares.