Memanggil prediksi dengan pengelolaan endpoint model

Halaman ini menjelaskan pengelolaan endpoint model. Pengelolaan endpoint model memungkinkan Anda bereksperimen dengan mendaftarkan endpoint model AI dan memanggil prediksi. Untuk menggunakan model AI di lingkungan produksi, lihat Memanggil prediksi online dari instance Cloud SQL.

Setelah endpoint model ditambahkan dan didaftarkan di pengelolaan endpoint model, Anda dapat mereferensikannya menggunakan ID model untuk memanggil prediksi.

Sebelum memulai

Pastikan Anda menyelesaikan tindakan berikut:

• Daftarkan endpoint model Anda dengan pengelolaan endpoint model. Untuk mengetahui informasi selengkapnya, lihat Mendaftarkan dan memanggil model AI jarak jauh menggunakan pengelolaan endpoint model.
• Buat atau perbarui instance Cloud SQL Anda agar instance dapat terintegrasi dengan Vertex AI. Untuk mengetahui informasi selengkapnya, lihat Mengaktifkan integrasi database dengan Vertex AI.

Meminta prediksi untuk model generik

Gunakan fungsi SQL mysql.ml_predict_row() untuk memanggil endpoint model generik terdaftar guna memanggil prediksi. Anda dapat menggunakan fungsi mysql.ml_predict_row() dengan jenis model apa pun.

SELECT
  mysql.ml_predict_row(
    'MODEL_ID',
    'REQUEST_BODY');

Ganti kode berikut:

• MODEL_ID: ID model yang Anda tentukan saat mendaftarkan endpoint model
• REQUEST_BODY: parameter ke fungsi prediksi, dalam format JSON

Contoh

Untuk membuat prediksi untuk endpoint model gemini-flash yang terdaftar, jalankan pernyataan berikut:

  SELECT JSON_EXTRACT(
    mysql.ml_predict_row(
      'gemini-2.5-flash',
      '{
             "contents": [
             {
                "role": "user",
                "parts": [
                    {
                    "text": "For TPCH database schema as mentioned here https://www.tpc.org/TPC_Documents_Current_Versions/pdf/TPC-H_v3.0.1.pdf , generate a SQL query to find allsupplier names which are located in the India nation."
                    } ]}]
            }'
    ),
    '$.candidates[0].content.parts[0].text'
  );