Escolher uma função de geração de texto

Este documento compara as funções de geração de texto AI.GENERATE_TEXT e AI.GENERATE do BigQuery ML. Use as informações deste documento para decidir qual função usar nos casos em que as funções têm recursos sobrepostos.

Semelhanças entre funções

As funções AI.GENERATE_TEXT e AI.GENERATE são semelhantes das seguintes maneiras:

  • Finalidade: gerar texto transmitindo um comando a um modelo de linguagem grande (LLM).
  • Faturamento: incorra em cobranças do BigQuery ML pelos dados processados. Para mais informações, consulte os preços do BigQuery ML. Incorra em cobranças da Gemini Enterprise Agent Platform pelas chamadas ao LLM. Se você estiver usando um modelo do Gemini 2.0 ou mais recente, a chamada será faturada na taxa da API em lote. Para mais informações, consulte Custo de criação e implantação de modelos de IA na Agent Platform.
  • Escalonabilidade: processe entre 1 milhão e 10 milhões de linhas para cada trabalho de consulta de 6 horas. A capacidade de processamento real depende de fatores como o comprimento médio do token nas linhas de entrada. Para mais informações, consulte Funções de IA generativa.
  • Dados de entrada: compatibilidade com texto e dados não estruturados de tabelas padrão e de objetos do BigQuery.

Diferenças de função

Use a tabela a seguir para avaliar as diferenças entre as funções AI.GENERATE_TEXT e AI.GENERATE:

AI.GENERATE_TEXT AI.GENERATE
Assinatura de função Uma função com valor de tabela que recebe uma tabela como entrada e retorna uma tabela como saída. Uma função escalar que usa um único valor como entrada e retorna um único valor como saída.
LLMs compatíveis
  • Modelos do Gemini
  • Modelos de parceiros, como Anthropic Claude, Llama e Mistral AI
  • modelos abertos
 Modelos do Gemini
Conteúdo de saída da função

Conteúdo de saída da função para modelos do Gemini:

  • Texto gerado
  • Resultados da IA responsável (RAI)
  • Resultados do embasamento da Pesquisa Google, se ativado
  • Status da chamada de LLM

Conteúdo de saída da função para outros tipos de modelos:

  • Texto gerado
  • Status da chamada de LLM
  • Texto gerado
  • Resposta completa do modelo em formato JSON
  • Status da chamada de LLM
Formato da saída da função Os valores gerados são retornados em uma única coluna JSON ou em colunas de tabela separadas, dependendo do valor do argumento flatten_json_output. Os valores gerados são retornados como campos em um objeto STRUCT.
Jornada do usuário É necessário criar um modelo remoto antes de usar a função. É possível usar a função diretamente, sem precisar criar um modelo remoto.
Configuração de permissões Crie manualmente uma conexão do BigQuery e conceda à conta de serviço da conexão a permissão de função de usuário da plataforma de agentes. Você pode pular esta etapa se estiver usando a conexão padrão do BigQuery. Você pode chamar essa função usando suas credenciais de usuário final.
Vantagens Permite formatos de entrada e saída mais flexíveis. Mais fácil de integrar às consultas SQL.
Funções estendidas Você pode usar a função AI.GENERATE_TABLE para gerar uma saída estruturada de acordo com um esquema de saída SQL especificado. Você pode usar as funções AI.GENERATE_BOOL, AI.GENERATE_INT e AI.GENERATE_DOUBLE para gerar diferentes tipos de valores escalares.