הדגמה אינטראקטיבית של שליפת מידע על ידי סוכן

בהדגמה האינטראקטיבית הזו תוכלו להתנסות בAgent Retrieval (בעבר חיפוש וקטורי 2.0), מסד נתונים וקטורי מנוהל במלואו ל- Cloud de Confiance by S3NS. אפשר להשתמש בהדגמה כדי לחפש במיליוני כרטיסי מוצר באמצעות חיפוש סמנטי (שמופעל באמצעות הטמעות אוטומטיות של Gemini), חיפוש טקסט של מילות מפתח או חיפוש היברידי שמשתמש ב-Reciprocal Rank Fusion (RRF) כדי לשלב בין חיפוש סמנטי לחיפוש טקסט של מילות מפתח. אפשר לדרג מחדש את התוצאות באמצעות Gemini Enterprise Agent Platform Ranking API.

היתרונות של Agent Retrieval

כדי להשתמש בחיפוש וקטורי, היה צריך ליצור הטמעה נפרדת, לפרוס אינדקס ולהשתמש ב-Vertex AI Feature Store למטא-נתונים. Agent Retrieval מספק אחסון מאוחד לנתונים ולהטמעות, יצירה אוטומטית של הטמעות וחיפוש טקסט מובנה, בלי שתצטרכו לנהל את התשתית.

רוצה לנסות?

כדי להפעיל:

  1. בשדה Query, מתארים את הפריטים שרוצים לשלוף (לדוגמה, vintage 1970s pinball machine). לחלופין, אפשר ללחוץ על Generate Query כדי ליצור תיאור באופן אוטומטי.

  2. לוחצים על שליחה או על Enter.

כדאי להתנסות באפשרויות השונות בהדגמה כדי להבין את Agent Retrieval ואת היסודות של טכנולוגיית החיפוש הווקטורי. מידע נוסף זמין במאמר בנושא ממשק משתמש.

ממשק משתמש

בקטע הזה מוסבר על ההגדרות בממשק המשתמש שבעזרתן אפשר לשלוט בתוצאות שמוחזרות על ידי Agent Retrieval (בעבר חיפוש וקטורי 2.0) ובדירוג שלהן.

קבוצת הנתונים

משתמשים בתפריט הנפתח Dataset כדי לבחור את מערך הנתונים שבו Agent Retrieval יריץ את השאילתה. מידע על כל מערך נתונים זמין במאמר מערכי נתונים.

שאילתה

כדי להריץ שאילתה:

  1. לוחצים על מערך נתונים ובוחרים את מערך הנתונים שעליו רוצים להריץ את השאילתה.

  2. בשדה Query, מוסיפים תיאור, שואלים שאלה או מזינים מילת מפתח אחת או יותר כדי לציין את הפריטים ש-Agent Retrieval צריך להחזיר לגביהם תוצאות. לחלופין, לוחצים על Generate Query כדי ליצור שאילתה באופן אוטומטי.

  3. מבצעים אחת מהפעולות הבאות:

    1. כדי לקבל תוצאות דומות מבחינה סמנטית, בוחרים באפשרות סמנטי.
    2. כדי לקבל תוצאות על סמך תחביר הטקסט של השאילתה, בוחרים באפשרות טקסט.
    3. כדי לבצע חיפוש היברידי, בוחרים באפשרות סמנטי וגם באפשרות טקסט.
  4. אם אתם מבצעים שאילתות סמנטיות במערך הנתונים Mercari 3M items (128-dim Gemini text embeddings) או Mercari 3M items (768-dim Gemini text embeddings), לוחצים על Query Task Type ובוחרים באפשרות QUESTION_ANSWERING או RETRIEVAL_QUERY.

  5. לוחצים על Submit (שליחה) או מקישים על Enter כדי להריץ את השאילתה.

שינוי

יש הרבה אפשרויות שבהן אפשר להשתמש כדי לשנות את התוצאות ש-Agent Retrieval (לשעבר חיפוש וקטורי 2.0) מחזיר משאילתה.

  • לוחצים על שורות ובוחרים את המספר המקסימלי של תוצאות החיפוש שרוצים שמנגנון אחזור המידע של הסוכן (לשעבר Vector Search 2.0) יחזיר.

  • בוחרים באפשרות סמנטי כדי לקבל תוצאות דומות מבחינה סמנטית.

  • בוחרים באפשרות טקסט כדי לקבל תוצאות על סמך תחביר הטקסט של השאילתה.

  • כדי להפעיל חיפוש היברידי, בוחרים באפשרויות סמנטי וטקסט.

  • בוחרים באפשרות דירוג מחדש כדי לדרג מחדש את תוצאות החיפוש על סמך הרלוונטיות שלהן לשאילתה. מידע נוסף מופיע במאמר שיפור האיכות של חיפוש ו-RAG באמצעות API לדירוג.

  • בוחרים באפשרות Use kNN כדי להשתמש באלגוריתם k-nearest neighbors לאחזור תוצאות חיפוש. מכיוון ש-kNN מספק שיעור היזכרות של 100%, הוא שימושי מאוד כשמבצעים ניפוי באגים או בדיקות.

  • לוחצים על Query Task Type (סוג משימת שאילתה) ובוחרים את סוג משימת השאילתה שרוצים להשתמש בה. האפשרות הזו זמינה רק כשמשתמשים במערכי הנתונים Mercari 3M items (128-dim Gemini text embeddings) ו-Mercari 3M items (768-dim Gemini text embeddings). מידע נוסף על סוגי משימות של שאילתות זמין במאמר בנושא בחירת סוג משימת הטמעה.

  • בשדה RRF Alpha, מזינים ערך בין 0.0 ל-1.0 כדי לציין את ההשפעה של דירוג ה-RRF. האפשרות הזו זמינה רק לחיפוש היברידי (כשמסומנות האפשרויות סמנטי וטקסט).
    ערכי אלפא של:

    • ‫1.0 – דירוג התוצאות לפי דמיון סמנטי (צפוף) בלבד.
    • 0.0 – דירוג התוצאות לפי רלוונטיות של מילת המפתח בלבד (דלילה).
    • ‫0.5 – דירוג התוצאות עם משקל שווה שניתן לדמיון סמנטי (צפוף) ולרלוונטיות של מילת המפתח (דלילה).

    מידע נוסף זמין במאמר בנושא מהו Reciprocal Rank Fusion (RRF)?

מדדים

אחרי הרצת שאילתה, מוצגים מדדי השהיה שמפרטים את הזמן שנדרש להשלמת שלבים שונים בחיפוש.

למשל:

  • החביון הכולל מכל המקורות.
  • משך הזמן שנדרש ליצירת הטמעות ולביצוע חיפוש וקטורי.
  • משך הזמן שלוקח לדירוג מחדש אם נבחרה האפשרות דירוג מחדש.
  • הסכום הכולל של זמן האחזור מהרשת וממקורות אחרים.

הטמעות

Agent Retrieval תומך בסוגי ההטמעה הבאים:

תהליך השאילתה

ב-Agent Retrieval, תהליך השאילתה תלוי בסוגי החיפושים שמתבצעים ובמודלים של הטמעת וקטורים.

הטמעה של יצירה וחיפוש מתבצעת בקריאה אחת של API. Agent Retrieval יוצר אוטומטית את הטמעת השאילתה בצד השרת באמצעות המודל שצוין ב-vertex_embedding_config עבור האוסף, מבצע את החיפוש ומחזיר תוצאות עם מטא-נתונים מלאים בלי צורך באחזור נפרד של Vertex AI Feature Store.

‫Word2Vec ומולטי-מודאליות

הלקוח יוצר את ההטמעה של השאילתה ושולח אותה ל-Agent Retrieval לחיפוש וקטורי. התוצאות עדיין כוללות מטא-נתונים מלאים מהאוסף, ולא נדרש אחזור של Feature Store של Vertex AI.

טקסט

התכונה Agent Retrieval מבצעת התאמה מובנית למילות מפתח באופן ישיר. לא נוצרו הטמעות.

מערכי נתונים

קבוצת הנתונים תיאור מודל הטמעה סוג המשימה להטמעה
‫Mercari 1M items
(768-dim Gemini text embeddings)
התכונה משתמשת במודל ההטמעה Gemini Embedding 2 עם הטמעות נפרדות של טקסט ותמונות. מערך הנתונים הזה תומך בחיפוש יצירת טקסט על סמך טקסט ויצירת תמונות לפי טקסט באמצעות שדות וקטוריים שונים. gemini-embedding-2-preview SEMANTIC_SIMILARITY
‫Mercari 3M items
(128-dim Gemini text embeddings)
יש לו מספר מופחת של ממדי הטמעה, שמספק גודל אינדקס קטן יותר ועלות אחסון נמוכה יותר. יכול להיות שרמת הדיוק של מערך הנתונים הזה נמוכה יותר מזו של 3 מיליון הפריטים של Mercari (הטמעות טקסט של Gemini ב-768 ממדים). gemini-embedding-001 RETRIEVAL_DOCUMENT
‫Mercari 3M items
(768-dim Gemini text embeddings)
יש לו הטמעות מלאות של מאפיינים עם הטמעות אוטומטיות ודיוק סמנטי גבוה של הטקסט. מערך הנתונים הזה משתמש ב-RETRIEVAL_DOCUMENT להתאמה אסימטרית בין שאילתות למסמכים. gemini-embedding-001 RETRIEVAL_DOCUMENT
‫Mercari 3M items
(768-dim Gemini text embeddings, semantic similarity)
משתמש בסוג המשימה SEMANTIC_SIMILARITY להתאמה של דמיון. מערך הנתונים הזה הוא הטוב ביותר לתרחישי שימוש שבהם נדרשת פונקציונליות של 'חיפוש פריטים דומים', כששאילתות ומסמכים הם בעלי סמנטיקה זהה. gemini-embedding-001 SEMANTIC_SIMILARITY
‫Mercari 3M items
(1408-dim Vertex AI multimodal embeddings)
יש לו הטמעות מולטי-מודאליות של Vertex AI שמקודדות תמונות של פריטים לחיפוש תמונות. multimodal-embedding-001 לא רלוונטי
‫3 מיליון פריטים ב-Mercari
(הטמעות טקסט של Word2Vec ב-100 מימדים)
משתמש במודל ההטמעה Gensim Word2Vec. מערך הנתונים הזה מאפשר את ההסקה המהירה ביותר. הוא מספק הבנה סמנטית ברמת המילה בלבד, אבל הוא מאוד קומפקטי. ‫Gensim Word2Vec לא רלוונטי

מידע נוסף