Model Garden adalah library model AI/ML yang membantu Anda menemukan, menguji, menyesuaikan, dan men-deploy model serta aset dari Google dan partner Google.
Keunggulan Model Garden
Saat Anda menggunakan model AI, Model Garden memberikan keunggulan berikut:
- Semua model yang tersedia dikelompokkan di satu lokasi
- Model Garden menyediakan pola deployment yang konsisten untuk berbagai jenis model
- Model Garden menyediakan integrasi bawaan dengan bagian lain dari Gemini Enterprise Agent Platform seperti penyesuaian, evaluasi, dan penayangan model
- Menayangkan model AI generatif bisa jadi sulit—Gemini Enterprise Agent Platform menangani deployment dan penayangan model untuk Anda
Mempelajari model
Untuk melihat daftar model dasar, model yang dapat disesuaikan, dan model khusus tugas open source dan Gemini Enterprise Agent Platform yang tersedia, buka halaman Model Garden di Cloud de Confiance konsol.
Kategori model yang tersedia di Model Garden adalah:
| Kategori | Deskripsi |
|---|---|
| Solusi khusus tugas | Sebagian besar model bawaan ini siap digunakan. Banyak di antaranya yang dapat disesuaikan menggunakan data Anda sendiri. |
Untuk memfilter model di panel filter, tentukan hal berikut:
- Tugas: Klik tugas yang Anda inginkan untuk dijalankan model.
- Koleksi model: Klik untuk memilih model yang dikelola oleh Google, partner, atau Anda.
- Providers: Klik penyedia model.
- Fitur: Klik fitur yang Anda inginkan dalam model.
Untuk mempelajari lebih lanjut setiap model, klik kartu modelnya.
Pemindaian keamanan model
Google melakukan pengujian dan benchmarking menyeluruh pada container penayangan dan penyesuaian yang kami sediakan. Pemindaian kerentanan aktif juga diterapkan pada artefak container.
Model pihak ketiga dari partner unggulan menjalani pemindaian checkpoint model untuk memastikan keasliannya. Model pihak ketiga dari HuggingFace Hub dipindai langsung oleh HuggingFace dan pemindai pihak ketiganya untuk mencari malware, file pickle, lapisan Keras Lambda, dan secret. Model yang dianggap tidak aman dari pemindaian ini ditandai oleh HuggingFace dan diblokir dari deployment di Model Garden. Model yang dianggap mencurigakan atau yang memiliki kemampuan untuk berpotensi menjalankan kode jarak jauh ditunjukkan di Model Garden, tetapi masih dapat di-deploy. Sebaiknya lakukan peninjauan menyeluruh terhadap model yang mencurigakan sebelum men-deploy-nya dalam Model Garden.
Mengontrol akses ke model tertentu
Anda dapat menetapkan kebijakan organisasi Model Garden di tingkat organisasi, folder, atau project untuk mengontrol akses ke model tertentu di Model Garden. Misalnya, Anda dapat mengizinkan akses ke model tertentu yang telah Anda periksa dan menolak akses ke semua model lainnya.
Mempelajari Model Garden lebih lanjut
Untuk mengetahui informasi selengkapnya tentang opsi deployment dan penyesuaian yang dapat Anda lakukan dengan model di Model Garden, lihat referensi di bagian berikut.
Men-deploy dan menayangkan
Pelajari lebih lanjut cara menyesuaikan deployment dan fitur penayangan lanjutan.
- Men-deploy dan menayangkan model open source menggunakan Python SDK, CLI, REST API, atau konsol
- Men-deploy Gemma dan membuat prediksi
- Menayangkan model terbuka dengan container Hex-LLM di Cloud TPU
- Menayangkan Gemma 2 dengan beberapa adaptor LoRA menggunakan tutorial inferensi HuggingFace DLC untuk PyTorch di Medium
- Menggunakan handle kustom untuk menyajikan PaliGemma untuk pemberian teks gambar dengan tutorial inferensi HuggingFace DLC untuk PyTorch di LinkedIn
- Men-deploy dan menayangkan model HuggingFace
- Menggunakan container penayangan GPU xDiT untuk pembuatan gambar dan video
- Menggunakan vLLM untuk menayangkan model bahasa multimodel dan khusus teks di GPU Cloud