Einführung in materialisierte Ansichten
Materialisierte Ansichten sind vorab berechnete Ansichten, in denen die Ergebnisse einer SQL-Abfrage regelmäßig gespeichert werden. In einigen Anwendungsfällen können materialisierte Ansichten die gesamte Verarbeitungszeit und die damit verbundenen Kosten reduzieren, indem die Menge der Daten, die für jede Abfrage gescannt werden müssen, verringert wird. Sie können materialisierte Ansichten wie andere Datenressourcen abfragen.
Vorteile von materialisierten Ansichten
In den folgenden Anwendungsfällen wird der Wert von materialisierten Ansichten erläutert:
- Daten vorverarbeiten: Sie können die Abfrageleistung verbessern, indem Sie Aggregate, Filter, Joins und Cluster vorbereiten.
- Dashboard-Beschleunigung BI-Tools wie Looker, die häufig dieselben aggregierten Messwerte abfragen, z. B. täglich aktive Nutzer, werden unterstützt.
- Echtzeitanalysen für große Streams: Schnellere Antworten auf Tabellen mit Streamingdaten mit hoher Geschwindigkeit.
- Kostenverwaltung Kosten für wiederholte, teure Abfragen großer Datasets senken
Wichtige Merkmale
Materialisierte Ansichten haben folgende Hauptmerkmale:
- Keinerlei Wartung erforderlich: BigQuery berechnet materialisierte Ansichten im Hintergrund vor, wenn sich Basistabellen ändern. BigQuery fügt automatisch inkrementelle Datenänderungen aus Basistabellen zu materialisierten Ansichten hinzu, ohne dass der Nutzer eingreifen muss.
- Aktuelle Daten: Materialisierte Ansichten geben aktuelle Daten zurück. Wenn Änderungen an Basistabellen die materialisierte Ansicht ungültig machen, liest BigQuery die Daten direkt aus den Basistabellen. Wenn die Änderungen an den Basistabellen die materialisierte Ansicht nicht entwerten, liest BigQuery die restlichen Daten aus der materialisierten Ansicht und nur die Änderungen aus den Basistabellen.
- Intelligente Feinabstimmung. Wenn ein Teil einer Abfrage gegen eine Basistabelle durch die Abfrage der materialisierten Ansicht gelöst werden kann, leitet BigQuery die Abfrage um, um die materialisierte Ansicht für eine bessere Leistung und Effizienz zu verwenden. Informationen dazu, wie und wann die intelligente Feinabstimmung Abfragen verbessern kann, finden Sie unter Materialisierte Ansichten verwenden.
Typen von materialisierten Ansichten
Es gibt zwei grundlegende Arten von materialisierten Ansichten:
- Inkrementelle materialisierte Ansichten unterstützen nur eine begrenzte Anzahl von Funktionen. Weitere Informationen zur unterstützten SQL-Syntax für materialisierte Ansichten finden Sie unter Materialisierte Ansichten erstellen. Nur inkrementelle materialisierte Ansichten können von der intelligenten Abstimmung profitieren.
- Nicht inkrementelle materialisierte Ansichten unterstützen die meisten Syntaxen, die von inkrementellen materialisierten Ansichten nicht unterstützt werden.
Wenn Sie materialisierte Ansichten erstellen, können Sie in BigQuery standardmäßig nur Ansichten auf Grundlage von inkrementellen Abfragen erstellen. Wenn Sie eine nicht inkrementelle Ansicht erstellen möchten, können Sie allow_non_incremental_definition = true in der Definition der materialisierten Ansicht angeben.
Welche Art von materialisierter Ansicht am besten geeignet ist, hängt von Ihrer Situation ab. In der folgenden Tabelle werden die Funktionen von inkrementellen und nicht inkrementellen materialisierten Ansichten verglichen:
| Kategorie | Inkrementell | Nicht inkrementell |
|---|---|---|
| Abfrage wird unterstützt | Begrenzt | Die meisten Anfragen |
| Wartung | Kann die Kosten für häufig verwendete Abfragen senken. Informationen zum Aktualisieren materialisierter Ansichten finden Sie unter Inkrementelle Aktualisierungen. | Bei jeder Aktualisierung wird die vollständige Abfrage ausgeführt. |
| Unterstützung für die intelligente Feinabstimmung | Wird für die meisten Ansichtsabfragen unterstützt. | Nein |
| Immer aktuelle Ergebnisse | Unterstützt. Inkrementelle Ansichten geben aktuelle Abfrageergebnisse zurück, auch wenn sich die Basistabellen seit der letzten Aktualisierung geändert haben. | Nein |
Autorisierte materialisierte Ansichten
Sie können eine autorisierte materialisierte Ansicht erstellen, um eine Teilmenge von Daten aus einem Quelldataset für eine Ansicht in einem sekundären Dataset freizugeben. Sie können diese Ansicht dann für bestimmte Nutzer und Gruppen (Identitäten) freigeben. Nutzer können die Daten abfragen, die Sie in einer Ansicht bereitstellen, aber nicht direkt auf das Quelldataset zugreifen.
Autorisierte Ansichten und autorisierte materialisierte Ansichten werden auf dieselbe Weise autorisiert. Weitere Informationen finden Sie unter Autorisierte Ansichten.
Interaktion mit anderen BigQuery-Features
Die folgenden BigQuery-Features funktionieren transparent mit materialisierten Ansichten:
Erläuterung des Abfrageplans: Der Abfrageplan gibt an, welche materialisierten Ansichten gescannt wurden (sofern vorhanden) und wie viele Bytes aus der materialisierten Ansicht und den Basistabellen insgesamt gelesen werden.
Abfrage-Caching: Die Ergebnisse einer Abfrage, die von BigQuery mit einer materialisierten Ansicht neu geschrieben werden, können im Rahmen der üblichen Beschränkungen (Verwendung deterministischer Funktionen, kein Streaming in die Basistabellen usw.) im Cache gespeichert werden.
Kostenbeschränkung: Wenn Sie einen maximalen Wert für die in Rechnung gestellten Byte angeben und von einer Abfrage Daten über diesen Maximalwert hinaus gelesen werden, schlägt die Abfrage fehl. Es werden dann auch keine Gebühren berechnet. Dies ist unabhängig davon, ob für die Abfrage materialisierte Ansichten, die Basistabellen oder beides verwendet wurde.
Kostenschätzung mit Probelauf: Bei einem Probelauf wird die Logik für das Neuschreiben der Abfrage anhand der verfügbaren materialisierten Ansichten wiederholt und eine Kostenschätzung bereitgestellt. Mit dieser Funktion können Sie testen, ob eine bestimmte Abfrage materialisierte Ansichten verwendet.
Regionenübergreifende Datenreplikation: Materialisierte Ansichten können für BigQuery-Tabellen erstellt werden, für die die regionsübergreifende Replikation aktiviert ist, jedoch nur in der primären Region. Wenn Sie die sekundäre Region verwenden, kann die folgende Fehlermeldung angezeigt werden:
The dataset replica of the cross region dataset {PROJECT}:{DATASET} in region {REGION} is read-only because it's not the primary replica.
Zusätzlich zu diesen Funktionen können Sie materialisierte Ansichten für Tabellen mit bestimmten Funktionen erstellen, wie in den folgenden Abschnitten beschrieben.
Tabellen mit aktivem Change Data Capture
Sie können materialisierte Ansichten für Tabellen mit aktivem Change Data Capture (CDC) erstellen. Diese materialisierten Ansichten funktionieren wie materialisierte Ansichten über BigQuery-Tabellen, einschließlich der Vorteile einer automatischen Aktualisierung. Materialisierte Ansichten können keine Zusammenführungsabfragen zur Laufzeit ausführen. Sie müssen sie daher mit einem ausreichenden max_staleness konfigurieren, um Zusammenführungsjobs zur Laufzeit zu vermeiden. Weitere Informationen finden Sie unter Einschränkungen von materialisierten Ansichten über Tabellen mit aktiver Change Data Capture.
Preise für materialisierte Ansichten
Für materialisierte Ansichten fallen Kosten auf folgende Weise an:
- Abfragen von materialisierten Ansichten.
- Pflegen von materialisierten Ansichten, z. B. wann materialisierte Ansichten aktualisiert werden. Die Kosten für die automatische Aktualisierung werden dem Projekt in Rechnung gestellt, in dem sich die Ansicht befindet. Die Kosten für die manuelle Aktualisierung werden dem Projekt in Rechnung gestellt, in dem der manuelle Aktualisierungsjob ausgeführt wird. Weitere Informationen zur Kostenkontrolle für Wartungen finden Sie unter Jobwartung aktualisieren.
- Speichern von Tabellen materialisierter Ansichten.
In der folgenden Tabelle sind die Preiskomponenten für materialisierte Ansichten aufgeführt:
| Komponente | On-Demand-Preise | Kapazitätsbasierte Preise |
|---|---|---|
| Abfragen | Byte, die von materialisierten Ansichten verarbeitet werden, und alle erforderlichen Teile der Basistabellen.1 | Slots werden während der Abfrage verbraucht. |
| Wartung | Während der Aktualisierung verarbeitete Byte. | Slots werden während der Aktualisierung benötigt. |
| Speicher | In materialisierten Ansichten gespeicherte Byte. | In materialisierten Ansichten gespeicherte Byte. |
1 Nach Möglichkeit liest BigQuery nur die Änderungen seit der letzten Aktualisierung der Ansicht. Weitere Informationen finden Sie unter Inkrementelle Aktualisierungen.
Details zu den Speicherkosten
Die Art und Weise, wie BigQuery bestimmte aggregierte Werte speichert, wirkt sich auf die Berechnung der Speichergröße aus. Bei aggregierten Werten des Typs AVG, ARRAY_AGG und APPROX_COUNT_DISTINCT in einer materialisierten Ansicht wird der endgültige Wert nicht direkt gespeichert. BigQuery speichert stattdessen intern eine materialisierte Ansicht als Zwischenskizze. Diese wird verwendet, um den endgültigen Wert zu generieren.
Sehen Sie sich als Beispiel eine materialisierte Ansicht an, die mit dem folgenden Befehl erstellt wurde:
CREATE MATERIALIZED VIEW project-id.my_dataset.my_mv_table AS SELECT date, AVG(net_paid) AS avg_paid FROM project-id.my_dataset.my_base_table GROUP BY date
Während die Spalte avg_paid als NUMERIC oder FLOAT64 angezeigt wird, wird sie intern als BYTES gespeichert. Der Inhalt ist dabei eine Zwischenskizze in einem proprietären Format. Für die Berechnung der Datengröße wird die Spalte als BYTES behandelt.