Model Garden היא ספרייה של מודלים של AI/ML שעוזרת לכם לגלות, לבדוק, להתאים אישית ולפרוס מודלים ונכסים מ-Google ומשותפים של Google.
היתרונות של Model Garden
כשעובדים עם מודלים של AI, יש ל-Model Garden את היתרונות הבאים:
- כל המודלים הזמינים מקובצים במיקום אחד
- Model Garden מספק תבנית פריסה עקבית לסוגים שונים של מודלים
- Model Garden מספק שילוב מובנה עם חלקים אחרים של Gemini Enterprise Agent Platform, כמו כוונון מודלים, הערכה והצגה
- יכול להיות קשה להפעיל מודלים של AI גנרטיבי – Gemini Enterprise Agent Platform מטפלת בפריסה ובהפעלה של מודלים בשבילכם
עיון במודלים
כדי לראות את רשימת המודלים הזמינים של Gemini Enterprise Agent Platform ושל מודלים בסיסיים בקוד פתוח, מודלים שניתנים להתאמה ומודלים ספציפיים למשימות, עוברים לדף Model Garden במסוףCloud de Confiance .
קטגוריות המודלים שזמינות ב-Model Garden הן:
| קטגוריה | תיאור |
|---|---|
| פתרונות ספציפיים למשימות | רוב המודלים המוכנים מראש האלה מוכנים לשימוש. אפשר להתאים אישית הרבה מהם באמצעות נתונים משלכם. |
כדי לסנן מודלים בחלונית המסננים, מציינים את הפרטים הבאים:
- משימות: לוחצים על המשימה שרוצים שהמודל יבצע.
- אוספים של מודלים: לוחצים כדי לבחור מודלים שמנוהלים על ידי Google, שותפים או אתם.
- ספקים: לוחצים על הספק של המודל.
- תכונות: לוחצים על התכונות שרוצים להוסיף למודל.
כדי לקבל מידע נוסף על כל מודל, לוחצים על כרטיס המודל שלו.
סריקת אבטחה של מודלים
Google מבצעת בדיקות מקיפות ובדיקות השוואה (benchmarking) על הקונטיינרים של הצגת המודעות והתאמתן שאנחנו מספקים. בדיקת נקודות חולשה פעילה מוחלת גם על ארטיפקטים של קונטיינרים.
מודלים של צד שלישי משותפים נבחרים עוברים סריקות של נקודות ביקורת במודל כדי לוודא שהם אותנטיים. מודלים של צד שלישי מ-HuggingFace Hub נסרקים ישירות על ידי HuggingFace ועל ידי סורק של צד שלישי שלהם כדי לאתר תוכנות זדוניות, קובצי pickle, שכבות Keras Lambda וסודות. מודלים שסריקות כאלה מזהות כלא בטוחים מסומנים על ידי HuggingFace ונחסמים מפריסה ב-Model Garden. מודלים שנחשבים לחשודים או שיש להם יכולת להריץ קוד מרחוק מסומנים ב-Model Garden, אבל עדיין אפשר לפרוס אותם. מומלץ לבצע בדיקה יסודית של כל מודל חשוד לפני שמפעילים אותו ב-Model Garden.
שליטה בגישה למודלים ספציפיים
אתם יכולים להגדיר מדיניות ארגונית של Model Garden ברמת הארגון, התיקייה או הפרויקט כדי לשלוט בגישה למודלים ספציפיים ב-Model Garden. לדוגמה, אתם יכולים לאפשר גישה למודלים ספציפיים שבדקתם ולחסום את הגישה לכל שאר המודלים.
מידע נוסף על Model Garden
מידע נוסף על אפשרויות הפריסה וההתאמות האישיות שאפשר לבצע במודלים ב-Model Garden זמין במקורות המידע שבקטעים הבאים.
פריסה והצגה
מידע נוסף על התאמה אישית של פריסות ועל תכונות מתקדמות של הצגת מודעות
- פריסה של מודל קוד פתוח והצגה שלו באמצעות Python SDK, CLI, REST API או מסוף
- פריסת Gemma ויצירת תחזיות
- הצגת מודלים פתוחים באמצעות קונטיינר Hex-LLM ב-Cloud TPU
- הצגת Gemma 2 עם כמה מתאמי LoRA באמצעות HuggingFace DLC ללימוד הסקת מסקנות ב-PyTorch ב-Medium
- שימוש בכינויים מותאמים אישית כדי להכניס לשימוש בסביבת הייצור את PaliGemma ליצירת כיתוב לתמונות באמצעות HuggingFace DLC למדריך היקש של PyTorch ב-לינקדאין
- פריסה והכנסה לשימוש בסביבת הייצור של מודל HuggingFace
- שימוש בקונטיינר של xDiT GPU לצורך יצירת תמונות וסרטונים
- שימוש ב-vLLM כדי להכניס לשימוש בסביבת הייצור מודלים של שפה שמבוססים על טקסט בלבד ומודלים של שפה מרובת מודלים במעבדים גרפיים ל-Cloud