Escolha uma função de geração de texto

Este documento compara as funções de geração de texto do BigQuery ML ML.GENERATE_TEXT e AI.GENERATE. Pode usar as informações neste documento para ajudar a decidir que função usar nos casos em que as funções têm capacidades sobrepostas.

Semelhanças entre funções

As funções ML.GENERATE_TEXT e AI.GENERATE são semelhantes das seguintes formas:

  • Finalidade: gerar texto transmitindo um comando a um modelo de linguagem (conteúdo extenso) (MDI/CE).
  • Faturação: incorra em custos do BigQuery ML pelos dados processados. Para mais informações, consulte os preços do BigQuery ML. Incorrer em custos do Vertex AI para chamadas para o MDI/CE. Se estiver a usar um modelo do Gemini 2.0 ou superior, a chamada é faturada à taxa da API em lote. Para mais informações, consulte o artigo Custo da criação e implementação de modelos de IA na Vertex AI.
  • Escalabilidade: processe entre 1 milhão e 10 milhões de linhas para cada tarefa de consulta de 6 horas. O débito real depende de fatores como o comprimento médio dos tokens nas linhas de entrada. Para mais informações, consulte o artigo Funções de IA generativa.
  • Dados de entrada: suporte de texto e dados não estruturados de tabelas padrão e tabelas de objetos do BigQuery.

Diferenças de funções

Use a tabela seguinte para avaliar as diferenças entre as funções ML.GENERATE_TEXT e AI.GENERATE:

ML.GENERATE_TEXT AI.GENERATE
Assinatura de função Uma função de valor de tabela que recebe uma tabela como entrada e devolve uma tabela como saída. Uma função escalar que usa um único valor como entrada e devolve um único valor como saída.
GMLs suportados
  • Modelos do Gemini
  • Modelos de parceiros, como o Anthropic Claude, o Llama e a Mistral AI
  • modelos abertos
 Modelos do Gemini
Conteúdo de saída da função

Conteúdo de saída de funções para modelos do Gemini:

  • Texto gerado
  • Resultados da IA responsável (RAI)
  • Resultados da validação da Pesquisa Google, se ativada
  • Estado da chamada do MDG

Conteúdo de saída da função para outros tipos de modelos:

  • Texto gerado
  • Estado da chamada do MDG
  • Texto gerado
  • Resposta completa do modelo no formato JSON
  • Estado da chamada do MDG
Formato de saída da função Os valores gerados são devolvidos numa única coluna JSON ou em colunas de tabelas separadas, consoante o valor do argumento flatten_json_output. Os valores gerados são devolvidos como campos num objeto STRUCT.
Percurso do utilizador Tem de criar um modelo remoto antes de usar a função. Pode usar a função diretamente, sem ter de criar um modelo remoto.
Configuração de autorizações Tem de criar manualmente uma ligação do BigQuery e conceder a autorização da função de utilizador do Vertex AI à conta de serviço da ligação. Pode ignorar este passo se estiver a usar a ligação predefinida do BigQuery. Tem de criar manualmente uma ligação do BigQuery e conceder a autorização da função de utilizador do Vertex AI à conta de serviço da ligação.
Vantagens Permite formatos de entrada e saída mais flexíveis. Mais fácil de integrar em consultas SQL.
Funções expandidas Pode usar a função AI.GENERATE_TABLE para gerar resultados estruturados de acordo com um esquema de resultados SQL que especificar. Pode usar as funções AI.GENERATE_BOOL, AI.GENERATE_INT e AI.GENERATE_DOUBLE para gerar diferentes tipos de valores escalares.