Execute soluções de IA no Cloud Run

Este guia oferece uma vista geral da utilização do Cloud Run para alojar apps, executar inferências e criar fluxos de trabalho de IA.

Cloud Run para alojar aplicações de IA, agentes e pontos finais da API escaláveis

O Cloud Run oferece uma plataforma totalmente gerida que dimensiona as suas apps e cargas de trabalho de IA.

Quando aloja apps de IA no Cloud Run, normalmente tem os seguintes componentes de arquitetura:

  • Publicação e orquestração: implementa o código da aplicação ou o contentor no Cloud Run.
  • Modelos de IA: usa modelos de IA da Google, modelos de código aberto ou modelos personalizados com a sua app.
  • Integrações: pode estabelecer ligação a Cloud de Confiance serviços ou serviços de terceiros para memória, bases de dados, armazenamento, segurança e muito mais.
  • Ferramentas: pode ligar-se a ferramentas para outras tarefas e operações.

O diagrama seguinte mostra uma vista geral de nível elevado da utilização do Cloud Run como uma plataforma de alojamento para apps de IA:

Os quatro componentes de uma app de IA alojada no Cloud Run: 1. Publicação e orquestração, 2. Modelos de IA, 3. Integrações, 4. Ferramentas.
Figura 1. Componentes de uma app de IA alojada no Cloud Run.

Conforme mostrado no diagrama:

  1. Na camada de publicação e orquestração, um serviço do Cloud Run atua como um ponto final da API escalável para a lógica essencial da sua aplicação. Gere de forma eficiente vários utilizadores simultâneos através do dimensionamento automático, a pedido e rápido de instâncias.

    Para implementar no Cloud Run, traz o seu contentor ao criar um pacote da sua aplicação e respetivas dependências num contentor.

  2. A sua app de IA funciona como um ponto final da API escalável que processa pedidos recebidos e envia dados para um modelo de IA pré-preparado para processamento e, em seguida, devolve os resultados.

    Se tiver um modelo personalizado que preparou, também pode usar esse modelo com o seu recurso do Cloud Run.

  3. Cloud de Confiance by S3NS oferece uma grande variedade de soluções para suportar a infraestrutura da sua aplicação de IA.Também pode fazer a integração com soluções de terceiros.

  4. As ferramentas permitem que as suas apps e modelos de IA interajam com serviços, APIs ou Websites que são executados externamente ou no Cloud Run.

    Por exemplo, se a sua app de IA for um agente de IA, o agente pode enviar um pedido a um servidor MCP para executar uma ferramenta externa ou usar ferramentas executadas no seu contentor, como execução de código, utilização do computador, obtenção de informações, entre outros.

O que se segue?