שמירת הקשר במטמון עוזרת להפחית את העלות ואת זמן האחזור של בקשות ל-Gemini שמכילות תוכן חוזר. Gemini Enterprise Agent Platform מציעה שני סוגים של שמירת נתונים במטמון:
- שמירה במטמון באופן משתמע: שמירה אוטומטית במטמון שמופעלת כברירת מחדל ומאפשרת לחסוך בעלויות כשמתרחשות מציאות במטמון. שמירה במטמון באופן מרומז כוללת שמירה במטמון בזיכרון ושמירה במטמון לטווח ארוך.
- שמירת נתונים במטמון באופן מפורש: שמירת נתונים במטמון באופן ידני באמצעות Gemini Enterprise API, שבו מציינים במפורש את התוכן שרוצים לשמור במטמון ואם ההנחיות צריכות להתייחס לתוכן שנשמר במטמון.
גם בשמירה מפורשת וגם בשמירה משתמעת במטמון, השדה cachedContentTokenCount במטא-נתונים של התשובה מציין את מספר הטוקנים בחלק של הקלט שנשמר במטמון.
עלויות האחסון במטמון
גם במקרים של שמירת מטמון מרומזת וגם במקרים של שמירת מטמון מפורשת, אתם מחויבים על אסימוני הקלט ששימשו ליצירת המטמון במחיר הרגיל של אסימוני קלט. במטמון מפורש, יש גם עלויות אחסון שמבוססות על משך הזמן שבו המטמון מאוחסן. אין עלויות אחסון לשמירה במטמון משתמע. מידע נוסף זמין במאמר התמחור של Agent Platform.
שמירה במטמון משתמעת
בכל הפרויקטים ב- Cloud de Confiance by S3NS , השמירה במטמון מופעלת באופן משתמע כברירת מחדל. שמירת נתונים במטמון באופן מרומז מאפשרת לכם לקבל הנחה של 90% על אסימונים שנשמרו במטמון בהשוואה לאסימוני קלט רגילים. אם האפשרות הזו מופעלת, החיסכון בעלויות של פגיעה במטמון משתמעת מועבר אליכם באופן אוטומטי.
במנגנון ה-caching המרומז, הקידומות מאוחסנות בשתי רמות אחסון:
- שמירה במטמון בזיכרון: התחיליות שנשמרו במטמון נשמרות בזיכרון. קיבולת הזיכרון מוגבלת, ולכן הקידומות מפונות מהזיכרון כשהקיבולת מתפנה.
- שמירה עמידה במטמון: כשקידומת נמחקת מהאחסון בזיכרון, היא עוברת לאחסון עמיד במקום להימחק. בקשה מאוחרת יותר שעושה שימוש חוזר בקידומת עדיין יכולה לקבל מציאה במטמון, מה שמעלה את שיעורי המציאה במטמון לעומסי עבודה שעושים שימוש חוזר באותו הקשר במרווחי זמן ארוכים יותר.
שתי הרמות מופעלות כברירת מחדל. התוקף של תחילית במטמון פג תוך 24 שעות לכל היותר מרגע היצירה שלה, ורוב הרשומות נמחקות מוקדם יותר. אפשר להשבית את השמירה במטמון לטווח ארוך ולהמשיך להשתמש בשמירה במטמון בזיכרון, או להשבית לגמרי את השמירה במטמון המרומז. אם יש לכם חששות לגבי שמירת נתונים, קראו את המאמר אפס שמירת נתונים, שבו מתואר איך המערכת מטפלת בנתונים שנשמרו במטמון ואיך להשבית כל שכבה.
כדי להגדיל את הסיכוי לפגיעה במטמון באופן מרומז:
- כדאי למקם תוכן גדול ונפוץ בתחילת ההנחיה.
- לשלוח בקשות עם קידומת דומה בפרק זמן קצר.
מודלים נתמכים
אפשר להשתמש בשמירה במטמון משתמע במודלים נתמכים של Gemini, ובשמירה במטמון עמיד בחלק מהמודלים האלה.
שמירה במטמון בזיכרון
אפשר להשתמש במטמון בזיכרון כשמשתמשים במודלים הבאים:
כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן
- Gemini Nano Banana 2.1
- Gemini 4 Argon Cyber Permissive
- Gemini 4 Argon
- Gemini 3.8 Flash Cyber
- Gemini 3.8 Flash
- Gemini 3.7 Flash
- Gemini 3.6 Flash
- Gemini 3.5 Flash-Lite
- Gemini 3.5 Flash
- Gemini 3.1 Pro
- Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite)
- Gemini 3.1 Flash-Lite
- Gemini 3.1 Flash Image
- Gemini 3 Pro Image
- Gemini 3 Flash
- Gemini 2.5 Pro
- Gemini 2.5 Flash-Lite
- Gemini 2.5 Flash
שמירה עמידה במטמון
אפשר להשתמש בשמירה במטמון לטווח ארוך במודלים הבאים:
- Gemini 4 Argon
- Gemini 4 Argon Cyber Permissive
- Gemini 3.8 Flash
- Gemini 3.8 Flash Cyber
שמירה במטמון באופן משתמע נתמכת גם במודלים פתוחים. מידע נוסף זמין במאמר מודלים פתוחים של Agent Platform ל-MaaS.
שמירה מפורשת במטמון
שמירת מטמון גלויה מאפשרת יותר שליטה ומבטיחה הנחה על טוקנים של קלט שמפנים למטמון הקשר קיים. במודלים של Gemini 2.5 ואילך, ההנחה היא 90%. במודלים של Gemini 2.0, ההנחה היא 75%.
באמצעות Gemini Enterprise API, אתם יכולים לבצע את המשימות הבאות:
- ליצור מטמונים של הקשרים ולשלוט בהם בצורה יעילה יותר.
- כדי להשתמש בשמירת הקשר במטמון, צריך להפנות לתוכן שלו בבקשת פרומפט באמצעות שם המשאב.
- לעדכן את זמן התפוגה (Time to Live או TTL) של שמירת ההקשר במטמון מעבר ל-60 דקות שמוגדרות כברירת מחדל.
- למחוק את המטמון של ההקשר כשכבר לא צריך אותו.
אפשר גם להשתמש ב-Gemini Enterprise API כדי לאחזר מידע על מטמון הקשר.
מטמונים מפורשים פועלים באינטראקציה עם מטמונים מרומזים, ולכן יכול להיות שכשיוצרים מטמון, המערכת תאחסן במטמון תוכן נוסף מעבר לתוכן שצוין. כדי למנוע שמירת נתונים במטמון, צריך להשבית את השמירה המשתמעת במטמון ולהימנע מיצירת מטמונים מפורשים. מידע נוסף זמין במאמר הפעלה והשבתה של שמירה במטמון.
מודלים נתמכים
אפשר להשתמש במודלים הבאים כדי להגדיר שמירה במטמון:
כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן
מתי כדאי להשתמש בשמירת הקשר במטמון
שמירת ההקשר במטמון מתאימה במיוחד לתרחישים שבהם בקשות עוקבות מפנות שוב ושוב להקשר ראשוני משמעותי.
אפשר להשתמש בפריטי הקשר שנשמרו במטמון, כמו כמות גדולה של טקסט, קובץ אודיו או קובץ וידאו, בבקשות לפרומפטים ל-Gemini API כדי ליצור פלט. בקשות שמשתמשות באותו מטמון בהנחיה כוללות גם טקסט ייחודי לכל הנחיה. לדוגמה, כל בקשה של הנחיה שמרכיבה שיחה יכולה לכלול את אותו מטמון הקשר שמפנה לסרטון, יחד עם טקסט ייחודי שמרכיב כל שלב בשיחה.
כדאי להשתמש בשמירת הקשר במטמון בתרחישים הבאים:
- צ'אט בוטים עם הוראות מערכת נרחבות
- ניתוח חוזר של קובצי וידאו ארוכים
- שאילתות חוזרות על מערכי מסמכים גדולים
- ניתוח תכוף של מאגר המקורות של הקוד או תיקון באגים
שמירה במטמון באופן משתמע ובאופן מפורש נתמכת בהקצאת משאבים לפי התפוקה שנקבעה בתצוגה מקדימה. פרטים נוספים זמינים במדריך בנושא הקצאת משאבים לפי התפוקה שנקבעה. מטמון פועל בכל סוגי התנועה. לדוגמה, מטמון שנוצר בזמן השימוש ב"הקצאת משאבים לפי התפוקה שנקבעה" פועל גם עם PayGo.
זמינות
אפשר להשתמש בשמירת הקשר במטמון באזורים שבהם יש גישה ל-AI גנרטיבי ב-Agent Platform. מידע נוסף זמין במאמר מיקומים של Agent Platform ל-AI גנרטיבי.
מגבלות
שמירת הקשר במטמון כפופה למגבלות המפורטות בטבלה הבאה:
| מגבלות על שמירת נתונים במטמון לפי הקשר | |
|---|---|
מספר מינימלי של טוקנים במטמון עבור שמירה במטמון באופן מרומז וגלוי |
|
הגודל המקסימלי של תוכן שאפשר לשמור במטמון באמצעות blob או טקסט |
10MB |
הזמן המינימלי לפני שתוקף המטמון פג אחרי שהוא נוצר |
דקה אחת |
משך הזמן המקסימלי עד שתוקף המטמון יפוג אחרי שהוא נוצר |
אין משך מטמון מקסימלי |
משך החיים המקסימלי של תחילית שנשמרת במטמון באופן מרומז |
עד 24 שעות |
בידוד ואבטחה של נתונים במטמון בעומסי עבודה של סוכנים
Cloud de Confiance משתמש במספר הפרויקט כדי לבודד את הנתונים שנשמרו במטמון, והתוכן שנשמר במטמון אף פעם לא משותף בין פרויקטים.
כדי למנוע דליפת נתונים בין משתמשים בעומסי עבודה של סוכנים, צריך להגדיר את היקף הנתונים והפלט של ההנחיות שנשמרו במטמון לכל סשן משתמש. כשמריצים סוכני רקע או שרתי proxy עם כמה דיירים, צריך להתאים את גבולות המטמון להרשאות של משתמשי הקצה, כדי שסוכן לא יוכל לעשות שימוש חוזר בפרטי כניסה או בנתונים שנשמרו במטמון של משתמשים שונים.
תמיכה ב-VPC Service Controls
שמירת ההקשר במטמון תומכת ב-VPC Service Controls, כך שאי אפשר להוציא את המטמון אל מחוץ לגבולות הגזרה לשירות. אם אתם משתמשים ב-Cloud Storage כדי ליצור את המטמון, כדאי לכלול את הקטגוריה בגבולות גזרה לשירות גם כדי להגן על תוכן המטמון.
מידע נוסף זמין במאמר VPC Service Controls עם Agent Platform במסמכי התיעוד של Agent Platform.