בחירת פונקציה ליצירת טקסט

במאמר הזה מוצגת השוואה בין פונקציות ליצירת טקסט ב-BigQuery ML‏ AI.GENERATE_TEXT וב-AI.GENERATE. המידע במסמך הזה יכול לעזור לכם להחליט באיזו פונקציה להשתמש במקרים שבהם הפונקציות חופפות ביכולות שלהן.

פונקציות דומות

הפונקציות AI.GENERATE_TEXT ו-AI.GENERATE דומות במובנים הבאים:

  • מטרה: יצירת טקסט על ידי העברת הנחיה למודל שפה גדול (LLM).
  • חיוב: תשלום על נתונים שעברו עיבוד ב-BigQuery ML. מידע נוסף על התמחור של BigQuery ML תחויבו על שיחות עם מודל שפה גדול (LLM) ב-Gemini Enterprise Agent Platform. אם אתם משתמשים במודל Gemini 2.0 או במודל מתקדם יותר, החיוב על הקריאה מתבצע לפי התעריף של Batch API. מידע נוסף מפורט במאמר בנושא עלות הפיתוח והפריסה של מודלים של AI ב-Agent Platform.
  • יכולת הרחבה: עיבוד של מיליון עד 10 מיליון שורות לכל משימת שאילתה של 6 שעות. התפוקה בפועל תלויה בגורמים כמו אורך הטוקן הממוצע בשורות הקלט. מידע נוסף זמין במאמר בנושא פונקציות של AI גנרטיבי
  • נתוני קלט: תמיכה בנתונים לא מובְנים ובטקסט מטבלאות רגילות ומטבלאות אובייקטים ב-BigQuery.

הבדלים בפונקציות

בטבלה הבאה מפורטים ההבדלים בין הפונקציות AI.GENERATE_TEXT ו-AI.GENERATE:

AI.GENERATE_TEXT AI.GENERATE
חתימת פונקציה פונקציה שמחזירה טבלה, מקבלת טבלה כקלט ומחזירה טבלה כפלט. פונקציה סקלרית שמקבלת ערך יחיד כקלט ומחזירה ערך יחיד כפלט.
מודלי שפה גדולים (LLM) נתמכים
  • המודלים של Gemini
  • מודלים של שותפים כמו Anthropic Claude,‏ Llama ו-Mistral AI
  • מודלים פתוחים
 המודלים של Gemini
תוכן פלט הפונקציה

תוכן פלט של פונקציות למודלים של Gemini:

  • הטקסט שנוצר
  • תוצאות של אתיקה של בינה מלאכותית (RAI)
  • תוצאות של חיפוש עם עיגון בנתונים בחיפוש Google, אם האפשרות הזו מופעלת
  • סטטוס הקריאה ל-LLM

תוכן פלט של פונקציות לסוגים אחרים של מודלים:

  • הטקסט שנוצר
  • סטטוס הקריאה ל-LLM
  • הטקסט שנוצר
  • תגובה מלאה של המודל בפורמט JSON
  • סטטוס הקריאה ל-LLM
פורמט הפלט של הפונקציה הערכים שנוצרו מוחזרים בעמודת JSON אחת או בעמודות נפרדות בטבלה, בהתאם לערך הארגומנט flatten_json_output. הערכים שנוצרו מוחזרים כשדות באובייקט STRUCT.
התהליך שעובר המשתמש לפני שמשתמשים בפונקציה, צריך ליצור מודל מרוחק. אפשר להשתמש בפונקציה ישירות, בלי ליצור מודל מרוחק.
הגדרת הרשאות צריך ליצור חיבור ל-BigQuery באופן ידני, ולהעניק לחשבון השירות של החיבור את הרשאת התפקיד 'משתמש ב-Agent Platform'. אפשר לדלג על השלב הזה אם משתמשים בחיבור ברירת המחדל של BigQuery. אפשר להתקשר לפונקציה הזו באמצעות פרטי הכניסה של משתמש הקצה.
יתרונות מאפשר פורמטים גמישים יותר של קלט ופלט. קל יותר לשלב בשאילתות SQL.
פונקציות מורחבות אפשר להשתמש בפונקציה AI.GENERATE_TABLE כדי ליצור פלט שמובנה לפי סכימת פלט של SQL שאתם מציינים. אפשר להשתמש בפונקציות AI.GENERATE_BOOL,‏ AI.GENERATE_INT ו-AI.GENERATE_DOUBLE כדי ליצור סוגים שונים של ערכים סקלריים.