Appeler des prédictions avec la gestion des points de terminaison de modèle

Cette page décrit la gestion des points de terminaison de modèle. La gestion des points de terminaison de modèle vous permet de tester l'enregistrement d'un point de terminaison de modèle d'IA et l'appel de prédictions. Pour utiliser des modèles d'IA dans des environnements de production, consultez Appeler des prédictions en ligne à partir d'instances Cloud SQL.

Une fois les points de terminaison de modèle ajoutés et enregistrés dans la gestion des points de terminaison de modèle, vous pouvez les référencer à l'aide de l'ID de modèle pour appeler des prédictions.

Avant de commencer

Assurez-vous d'effectuer les actions suivantes :

• Enregistrez le point de terminaison de votre modèle avec la gestion des points de terminaison de modèle. Pour en savoir plus, consultez Enregistrer et appeler des modèles d'IA à distance à l'aide de la gestion des points de terminaison de modèle.
• Créez ou mettez à jour votre instance Cloud SQL afin qu'elle puisse s'intégrer à Vertex AI. Pour en savoir plus, consultez Activer l'intégration de base de données avec Vertex AI.

Appeler des prédictions pour des modèles génériques

Utilisez la fonction SQL mysql.ml_predict_row() pour appeler un point de terminaison de modèle générique enregistré afin d'appeler des prédictions. Vous pouvez utiliser la fonction mysql.ml_predict_row() avec n'importe quel type de modèle.

SELECT
  mysql.ml_predict_row(
    'MODEL_ID',
    'REQUEST_BODY');

Remplacez les éléments suivants :

• MODEL_ID : ID du modèle que vous avez défini lors de l'enregistrement du point de terminaison du modèle
• REQUEST_BODY : paramètres de la fonction de prédiction, au format JSON.

Exemples

Pour générer des prédictions pour un point de terminaison de modèle gemini-flash enregistré, exécutez l'instruction suivante :

  SELECT JSON_EXTRACT(
    mysql.ml_predict_row(
      'gemini-2.5-flash',
      '{
             "contents": [
             {
                "role": "user",
                "parts": [
                    {
                    "text": "For TPCH database schema as mentioned here https://www.tpc.org/TPC_Documents_Current_Versions/pdf/TPC-H_v3.0.1.pdf , generate a SQL query to find allsupplier names which are located in the India nation."
                    } ]}]
            }'
    ),
    '$.candidates[0].content.parts[0].text'
  );