O Model Garden é uma biblioteca de modelos de IA/ML que ajuda a descobrir, testar, personalizar e implantar modelos e recursos do Google e dos parceiros.
Vantagens do Model Garden
Ao trabalhar com modelos de IA, o Model Garden oferece as seguintes vantagens:
- Os modelos disponíveis são agrupados em um único local.
- O Model Garden oferece um padrão de implantação consistente para diferentes tipos de modelos.
- O Model Garden oferece integração integrada com outras partes da Gemini Enterprise Agent Platform, como ajuste, avaliação e disponibilização de modelos.
- A disponibilização de modelos de IA generativa pode ser difícil. A Gemini Enterprise Agent Platform processa a implantação e a disponibilização de modelos para você.
Explorar modelos
Para conferir a lista dos modelos (de fundação, ajustáveis e para tarefas específicas) da plataforma de agentes do Gemini Enterprise e de código aberto, acesse a página Model Garden no Cloud de Confiance console.
As categorias de modelo disponíveis no Model Garden são:
| Categoria | Descrição |
|---|---|
| Soluções específicas para tarefas | A maioria desses modelos prontos está pronta para uso. Muitos podem ser personalizados usando seus próprios dados. |
Para filtrar modelos no painel de filtros, especifique o seguinte:
- Tarefas: clique na tarefa que você quer que o modelo execute.
- Coleções de modelos: clique para escolher modelos gerenciados pelo Google, por parceiros ou por você.
- Provedores: clique no provedor do modelo.
- Recursos: clique nos recursos que você quer no modelo.
Para saber mais sobre cada modelo, clique no card de modelo correspondente.
Verificação de segurança do modelo
O Google realiza testes e benchmarks completos nos contêineres de disponibilização e ajuste que oferecemos. A verificação ativa de vulnerabilidades também é aplicada a artefatos de contêiner.
Os modelos de terceiros de parceiros em destaque passam por verificações de checkpoint para garantir a autenticidade. Os modelos de terceiros do HuggingFace Hub são verificados diretamente pelo HuggingFace e pelo scanner de terceiros em busca de malware, arquivos pickle, camadas Keras Lambda e secrets. Os modelos considerados inseguros nessas verificações são sinalizados pelo HuggingFace e bloqueados para implantação no Model Garden. Os modelos considerados suspeitos ou que têm a capacidade de executar código remoto são indicados no Model Garden, mas ainda podem ser implantados. Recomendamos que você faça uma análise completa de qualquer modelo suspeito antes de implantá-lo no Model Garden.
Controlar o acesso a modelos específicos
É possível definir uma política de organização do Model Garden no nível da organização, pasta ou projeto para controlar o acesso a modelos específicos no Model Garden. Por exemplo, você pode permitir o acesso a modelos específicos que foram verificados e negar o acesso a todos os outros.
Saiba mais sobre o Model Garden
Para mais informações sobre as opções de implantação e personalizações que podem ser feitas com modelos no Model Garden, consulte os recursos nas seções a seguir.
Implantar e disponibilizar
Saiba mais sobre como personalizar implantações e recursos avançados de disponibilização.
- Implantar e disponibilizar um modelo de código aberto usando o SDK do Python, a CLI, a API REST ou o console
- Como implantar o Gemma e fazer previsões
- Disponibilizar modelos abertos com um contêiner Hex-LLM em Cloud TPUs
- Tutorial no Medium sobre como disponibilizar o Gemma 2 com vários adaptadores LoRA e o DLC HuggingFace para inferência do PyTorch
- Usar identificadores personalizados e disponibilizar o PaliGemma para legendagem de imagens com o DLC HuggingFace para o tutorial de inferência do PyTorch no LinkedIn
- Implante e disponibilize um modelo do HuggingFace
- Usar o contêiner de disponibilização de GPU do xDiT para gerar imagens e vídeos
- Usar o vLLM para disponibilizar modelos de linguagem somente de texto e multimodais em Cloud GPUs