Présentation des vues matérialisées

Les vues matérialisées BigQuery sont des tables précalculées qui optimisent les performances des requêtes et réduisent les coûts d'exécution pour les requêtes prévisibles et fréquemment exécutées. En stockant périodiquement les résultats d'une requête, les vues matérialisées résolvent les problèmes de latence des requêtes et de coûts d'analyse élevés lorsque vous interrogez de manière répétée de grands ensembles de données avec des modèles d'agrégation prévisibles. En fusionnant automatiquement les données précalculées avec les modifications récentes apportées aux tables de base, les vues matérialisées garantissent des résultats de requête actualisés sans nécessiter de pipelines de données manuels.

Ce document s'adresse aux ingénieurs de données, aux administrateurs de bases de données et aux développeurs d'informatique décisionnelle qui conçoivent des pipelines d'analyse hautes performances. Pour implémenter correctement les vues matérialisées, vous devez connaître les structures des ensembles de données BigQuery, les fonctions d'agrégation GoogleSQL et les structures de coûts des requêtes.

Avantages des vues matérialisées

Les cas d'utilisation suivants mettent en évidence la valeur des vues matérialisées :

• Prétraiter les données Améliorez les performances des requêtes en préparant des agrégats, des filtres, des jointures et des clusters.
• Accélération des tableaux de bord : Donnez aux outils de BI, comme Looker, qui interrogent fréquemment les mêmes métriques agrégées (par exemple, les utilisateurs actifs quotidiens), les moyens de le faire.
• Analyses en temps réel sur les grands flux : Peut fournir des réponses plus rapides sur les tables qui reçoivent des données de streaming à grande vitesse.
• Gestion des coûts. Réduisez le coût des requêtes coûteuses et répétitives sur de grands ensembles de données.

Principales caractéristiques

Voici les principales caractéristiques des vues matérialisées :

• Aucune maintenance nécessaire BigQuery précalcule les vues matérialisées en arrière-plan lorsque les tables de base changent. BigQuery ajoute automatiquement les modifications incrémentielles apportées aux données depuis les tables de base aux vues matérialisées, sans aucune action de l'utilisateur.

• Données à jour. Les vues matérialisées renvoient des données actualisées. Si les modifications apportées aux tables de base peuvent invalider la vue matérialisée, BigQuery lit les données directement à partir des tables de base. Si les modifications apportées aux tables de base n'invalident pas la vue matérialisée, BigQuery lit le reste des données à partir de la vue matérialisée et ne lit que les modifications à partir des tables de base.

  Le schéma suivant illustre la logique utilisée pour fusionner les modifications des données en temps réel :

  

• Réglage intelligent. Si une partie d'une requête sur une table de base peut être résolue en interrogeant la vue matérialisée, BigQuery redirige la requête pour utiliser la vue matérialisée afin d'améliorer les performances et l'efficacité. Pour savoir comment et quand le réglage intelligent peut améliorer les requêtes, consultez Utiliser des vues matérialisées.

  Le schéma suivant illustre le workflow de réacheminement des requêtes de l'optimisation intelligente :

  

Types de vues matérialisées

Il existe deux types de base de vues matérialisées :

• Les vues matérialisées incrémentielles sont compatibles avec un ensemble limité de fonctionnalités. Pour en savoir plus sur la syntaxe SQL acceptée pour les vues matérialisées, consultez Créer des vues matérialisées. Seules les vues matérialisées incrémentielles peuvent bénéficier du réglage intelligent.
• Les vues matérialisées non incrémentielles sont compatibles avec la plupart des syntaxes que les vues matérialisées incrémentielles ne prennent pas en charge.

Lorsque vous créez des vues matérialisées, BigQuery ne vous permet par défaut de créer des vues que sur la base de requêtes incrémentielles. Pour créer une vue non incrémentielle, vous pouvez spécifier allow_non_incremental_definition = true dans la définition de la vue matérialisée.

Le type de vue matérialisée le plus adapté dépend de votre situation. Le tableau suivant compare les fonctionnalités des vues matérialisées incrémentielles et non incrémentielles :

Vues matérialisées autorisées

Vous pouvez créer une vue matérialisée autorisée pour partager un sous-ensemble de données d'un ensemble de données source avec une vue dans un ensemble de données secondaire. Vous pouvez ensuite partager cette vue avec des utilisateurs et des groupes (principaux) spécifiques. Les principaux peuvent interroger les données que vous fournissez dans une vue, mais ils ne peuvent pas accéder directement à l'ensemble de données source.

Les vues autorisées et les vues matérialisées autorisées sont autorisées de la même manière. Pour en savoir plus, consultez Vues autorisées.

Interaction avec d'autres fonctionnalités BigQuery

Les fonctionnalités BigQuery suivantes fonctionnent de manière transparente avec les vues matérialisées :

• Explication du plan de requête Le plan de requête indique les vues matérialisées analysées (le cas échéant) et le nombre d'octets lus à partir de la vue matérialisée et des tables de base.

• Mise en cache des requêtes Les résultats d'une requête que BigQuery réécrit à l'aide d'une vue matérialisée peuvent être mis en cache sous réserve des limites habituelles (utilisation de fonctions déterministes, aucun flux dans les tables de base, etc.).

• Restriction de coût Si vous spécifiez un nombre maximal d'octets facturés et qu'une requête lit des données au-delà de cette limite, elle échoue sans engendrer de frais, qu'elle utilise des vues matérialisées, les tables de base ou les deux.

• Estimation des coûts à l'aide d'un dry run : Un dry run répète la logique de réécriture des requêtes en utilisant les vues matérialisées disponibles et fournit une estimation des coûts. Vous pouvez vous en servir pour vérifier si une requête spécifique utilise des vues matérialisées.

• Réplication des données entre les régions Vous pouvez créer des vues matérialisées sur des tables BigQuery pour lesquelles la réplication multirégionale est activée, mais uniquement dans la région principale. Si vous utilisez la région secondaire, le message d'erreur suivant peut s'afficher : The dataset replica of the cross region dataset {PROJECT}:{DATASET} in region {REGION} is read-only because it's not the primary replica.

En plus de ces fonctionnalités, vous pouvez créer des vues matérialisées sur des tables avec des fonctionnalités spécifiques, comme décrit dans les sections suivantes.

Tables avec capture des données modifiées active

Vous pouvez créer des vues matérialisées sur des tables avec une capture des données modifiées (CDC) active, un modèle utilisé pour ingérer en continu les modifications apportées aux bases de données ou aux tables. Ces vues matérialisées fonctionnent comme les vues matérialisées sur des tables BigQuery, ce qui inclut les avantages de l'actualisation automatique. Les vues matérialisées ne peuvent pas exécuter de requêtes de fusion au moment de l'exécution. Vous devez donc configurer les vues matérialisées avec un max_staleness suffisant pour éviter les jobs de fusion au moment de l'exécution. Pour en savoir plus, consultez Limites des vues matérialisées sur les tables avec capture des données modifiées active.

Tarification des vues matérialisées

Les vues matérialisées entraînent des coûts de différentes manières :

• Interrogation des vues matérialisées
• Gestion des vues matérialisées, par exemple lorsqu'elles sont actualisées Le coût de l'actualisation automatique est facturé dans le projet où se trouve la vue. Le coût de l'actualisation manuelle est facturé dans le projet dans lequel la tâche d'actualisation manuelle est exécutée. Pour en savoir plus sur le contrôle des coûts de maintenance, consultez la section Maintenance des tâches d'actualisation.
• Stockage des tables de vues matérialisées

Le tableau suivant présente les composants de tarification des vues matérialisées :

¹ Dans la mesure du possible, BigQuery ne lit que les modifications depuis la dernière actualisation de la vue. Pour en savoir plus, consultez la section Mises à jour incrémentielles.

Détails des coûts de stockage

La façon dont BigQuery stocke certaines valeurs agrégées a une incidence sur le calcul de la taille de stockage. Pour les valeurs agrégées AVG, ARRAY_AGG et APPROX_COUNT_DISTINCT dans une vue matérialisée, la valeur finale n'est pas stockée directement. Au lieu de cela, BigQuery stocke une vue matérialisée en interne sous forme d'esquisse intermédiaire, qui est utilisée pour générer la valeur finale.

Prenons l'exemple d'une vue matérialisée créée à l'aide de la commande suivante :

CREATE MATERIALIZED VIEW project-id.my_dataset.my_mv_table AS
SELECT date, AVG(net_paid) AS avg_paid
FROM project-id.my_dataset.my_base_table
GROUP BY date

La colonne avg_paid s'affiche sous la forme NUMERIC ou FLOAT64, mais en interne, elle est stockée sous la forme BYTES, son contenu étant une esquisse intermédiaire au format propriétaire. Pour le calcul de la taille des données, la colonne est traitée comme des octets (BYTES).

Workflow de démarrage

La configuration des vues matérialisées implique le workflow suivant :

1. Concevez et vérifiez la requête. Rédigez votre requête d'agrégation en suivant les consignes GoogleSQL.
2. Créez une vue matérialisée. Exécutez l'instruction CREATE MATERIALIZED VIEW à l'aide de la console Cloud de Confiance , de l'outil de ligne de commande bq ou de l'API BigQuery.
3. Laissez le réglage intelligent s'exécuter. BigQuery redirige automatiquement les requêtes adressées à la table de base pour qu'elles utilisent la vue matérialisée. Aucune requête ni application n'a besoin de réécrire les cibles.

Pour commencer à créer des vues matérialisées, consultez Créer des vues matérialisées.

Étapes suivantes

• Présentation des vues logiques et matérialisées
• Créer des vues matérialisées
• Utiliser les vues matérialisées
• Gérer les vues matérialisées
• Résoudre les problèmes liés aux vues matérialisées