本頁說明如何管理模型端點。模型端點管理功能可讓您實驗註冊 AI 模型端點,以及叫用預測功能。 如要在正式環境中使用 AI 模型,請參閱「從 Cloud SQL 執行個體叫用線上預測」。
在模型端點管理中新增及註冊模型端點後,您可以使用模型 ID 參照這些端點,叫用預測功能。
事前準備
請務必完成下列動作:
- 使用模型端點管理服務註冊模型端點。詳情請參閱「使用模型端點管理服務註冊及呼叫遠端 AI 模型」。
- 建立或更新 Cloud SQL 執行個體,以便與 Vertex AI 整合。詳情請參閱「啟用資料庫與 Vertex AI 的整合功能」。
叫用一般模型的預測功能
使用 mysql.ml_predict_row()
SQL 函式呼叫已註冊的通用模型端點,以叫用預測。mysql.ml_predict_row()
函式可與任何模型類型搭配使用。
SELECT
mysql.ml_predict_row(
'MODEL_ID',
'REQUEST_BODY');
更改下列內容:
MODEL_ID
:註冊模型端點時定義的模型 IDREQUEST_BODY
:預測函式的參數,採用 JSON 格式
範例
如要為已註冊的 gemini-flash
模型端點產生預測結果,請執行下列陳述式:
SELECT JSON_EXTRACT(
mysql.ml_predict_row(
'gemini-2.5-flash',
'{
"contents": [
{
"role": "user",
"parts": [
{
"text": "For TPCH database schema as mentioned here https://www.tpc.org/TPC_Documents_Current_Versions/pdf/TPC-H_v3.0.1.pdf , generate a SQL query to find allsupplier names which are located in the India nation."
} ]}]
}'
),
'$.candidates[0].content.parts[0].text'
);