Model Garden è una libreria di modelli di AI/ML che ti aiuta a scoprire, testare, personalizzare ed eseguire il deployment di modelli e asset di Google e dei partner di Google.
Vantaggi di Model Garden
Quando lavori con i modelli di AI, Model Garden offre i seguenti vantaggi:
- I modelli disponibili sono tutti raggruppati in un'unica posizione.
- Model Garden fornisce un pattern di deployment coerente per diversi tipi di modelli.
- Model Garden fornisce un'integrazione integrata con altre parti di Gemini Enterprise Agent Platform, come l'ottimizzazione, la valutazione e l'erogazione dei modelli.
- L'erogazione dei modelli di AI generativa può essere difficile: Gemini Enterprise Agent Platform gestisce il deployment e l'erogazione dei modelli per te.
Esplora i modelli
Per visualizzare l'elenco dei modelli della piattaforma agentica Gemini Enterprise e open source (di base, ottimizzabili e specifici per le attività) disponibili, vai alla pagina Model Garden nella Cloud de Confiance console.
Le categorie dei modelli disponibili in Model Garden sono:
| Categoria | Descrizione |
|---|---|
| Soluzioni specifiche per le attività | La maggior parte di questi modelli predefiniti può essere usata subito. Molti possono essere personalizzati usando i tuoi dati. |
Per filtrare i modelli nel riquadro dei filtri, specifica quanto segue:
- Attività: fai clic sull'attività che vuoi che il modello esegua.
- Raccolte di modelli: fai clic per scegliere i modelli gestiti da Google, dai partner o da te.
- Provider: fai clic sul provider del modello.
- Funzionalità: fai clic sulle funzionalità che vuoi nel modello.
Per scoprire di più su ogni modello, fai clic sulla relativa scheda del modello.
Analisi della sicurezza dei modelli
Google esegue test e benchmark approfonditi sui container di erogazione e ottimizzazione che forniamo. Viene applicata anche l'analisi attiva delle vulnerabilità agli artefatti dei container.
I modelli di terze parti dei partner in primo piano vengono sottoposti a scansioni dei checkpoint dei modelli per garantirne l'autenticità. I modelli di terze parti di HuggingFace Hub vengono scansionati direttamente da HuggingFace e dal relativo scanner di terze parti per rilevare malware, file pickle, livelli Keras Lambda e secret. I modelli ritenuti non sicuri da queste scansioni vengono contrassegnati da HuggingFace e il deployment in Model Garden viene bloccato. I modelli ritenuti sospetti o che hanno la capacità di eseguire potenzialmente codice remoto sono indicati in Model Garden, ma possono comunque essere sottoposti a deployment. Ti consigliamo di esaminare attentamente qualsiasi modello sospetto prima di eseguirne il deployment in Model Garden.
Controllare l'accesso a modelli specifici
Puoi impostare una policy dell'organizzazione di Model Garden policy a livello di organizzazione, cartella o progetto per controllare l'accesso a modelli specifici in Model Garden. Ad esempio, puoi consentire l'accesso a modelli specifici che hai verificato e negare l'accesso a tutti gli altri.
Scopri di più su Model Garden
Per ulteriori informazioni sulle opzioni di deployment e sulle personalizzazioni che puoi eseguire con i modelli in Model Garden, consulta le risorse nelle sezioni seguenti.
Esegui il deployment ed eroga
Scopri di più sulla personalizzazione dei deployment e sulle funzionalità di erogazione avanzate.
- Esegui il deployment e l'erogazione di un modello open source utilizzando l'SDK Python, l'interfaccia a riga di comando, l'API REST o la console
- Deployment di Gemma e formulazione di previsioni
- Eroga modelli aperti con un container Hex-LLM su Cloud TPU
- Come erogare Gemma 2 con più adattatori LoRA e DLC HuggingFace per l'inferenza PyTorch (tutorial su Medium)
- Utilizza gli handle personalizzati per erogare PaliGemma per la descrizione di immagini con HuggingFace DLC per l'inferenza PyTorch (tutorial su LinkedIn)
- Esegui il deployment e l'erogazione di un modello Hugging Face
- Utilizza il container xDiT di erogazione delle GPU per la generazione di immagini e video
- Utilizza vLLM per erogare modelli linguistici solo testuali e multimodali nelle Cloud GPU