BigQuery-Übersicht

BigQuery ist eine vollständig verwaltete, KI-fähige Datenplattform, mit der Sie Ihre Daten verwalten und analysieren können. Dank der serverlosen Architektur können Sie Sprachen wie SQL und Python verwenden, um die wichtigsten Fragen Ihrer Organisation ohne Infrastrukturverwaltung zu beantworten.

Als Data Analyst, Data Engineer, Data Warehouse Administrator oder Data Scientist können Sie BigQuery für die folgenden wichtigen Anwendungsfälle verwenden:

• KI-gestützte Workflows: Nutzen Sie generative KI, die Vektorsuche und die Assistenzfunktionen von Gemini, um Large Language Models (LLMs) zu erkunden, zu transformieren und in Ihre Datenworkflows zu integrieren.
• Maschinelles Lernen und prädiktive Analytik: Modelle mit SQL oder Python auf Basis Ihrer Daten erstellen, trainieren und bereitstellen.
• Business Intelligence und Ad-hoc-Analyse: Fragen Sie Terabyte in Sekunden und Petabyte in Minuten ab, um wichtige Geschäftsentscheidungen zu treffen.
• Räumlich-geografische Analyse: Standortbezogene Daten mithilfe von geografischen Informationssystemen (GIS) analysieren und visualisieren.
• Data Governance und semantische Suche: Daten- und KI-Assets mit integrierten Funktionen von Knowledge Catalog finden, kuratieren und validieren.
• Kontinuierliche Datenaufnahme: Streamen Sie sowohl strukturierte als auch unstrukturierte Daten in Echtzeit, mit Unterstützung für offene Tabellenformate wie Apache Iceberg, Delta und Apache Hudi.

BigQuery-Architektur

Die Architektur von BigQuery besteht aus zwei Teilen: einer Speicherebene, die Daten aufnimmt, speichert und optimiert, und einer Rechenebene, die Analysefunktionen bietet. Diese Rechen- und Speicherebenen funktionieren dank des Petabit-Netzwerks von Google, das die erforderliche Kommunikation zwischen ihnen ermöglicht, effizient unabhängig voneinander.

Legacy-Datenbanken müssen in der Regel Ressourcen für Lese-/Schreibvorgänge und analytische Vorgänge gemeinsam nutzen. Dies kann zu Ressourcenkonflikten führen und Abfragen verlangsamen, während Daten in den Speicher geschrieben oder aus diesem gelesen werden. Freigegebene Ressourcenpools können weiter überlastet werden, wenn Ressourcen für Datenbankverwaltungsaufgaben wie das Zuweisen oder Widerrufen von Berechtigungen erforderlich sind. Durch die Trennung von Computing- und Speicherebenen in BigQuery kann jede Ebene Ressourcen dynamisch zuweisen, ohne die Leistung oder Verfügbarkeit der anderen Ebene zu beeinträchtigen.

Dieses Prinzip der Trennung ermöglicht eine schnellere Innovation von BigQuery, da Speicher- und Computing-Verbesserungen unabhängig voneinander ohne Ausfallzeiten oder negative Auswirkungen auf die Systemleistung bereitgestellt werden können. Außerdem ist es wichtig, ein vollständig verwaltetes serverloses Data Warehouse anzubieten, in dem das BigQuery-Entwicklerteam Updates und Wartungen durchführt. Dadurch müssen Sie keine Ressourcen bereitstellen oder manuell skalieren, sodass Sie sich auf die Wertschöpfung statt auf herkömmliche Datenbankverwaltungsaufgaben konzentrieren können.

Zu den BigQuery-Schnittstellen gehören die Cloud de Confiance Console-Oberfläche und das BigQuery-Befehlszeilentool. Entwickler und Data Scientists können Clientbibliotheken mit vertrauter Programmierung wie Python, Java, JavaScript und Go sowie die REST API und RPC API von BigQuery zum Transformieren und Verwalten von Daten verwenden. ODBC- und JDBC-Treiber ermöglichen die Interaktion mit vorhandenen Anwendungen, einschließlich Tools und Dienstprogrammen von Drittanbietern.

Jetzt mit BigQuery starten

Sie können in wenigen Minuten anfangen, BigQuery kennenzulernen.

• Cloud de Confiance Kurzanleitung zur Console: Machen Sie sich mit der Leistungsfähigkeit von BigQuery Studio vertraut.

BigQuery kennenlernen

Mit der serverlosen Infrastruktur von BigQuery können Sie sich auf Ihre Daten statt auf die Ressourcenverwaltung konzentrieren. BigQuery kombiniert ein cloudbasiertes Data Warehouse mit leistungsstarken Analysetools.

BigQuery-Speicher

BigQuery speichert Daten in einem spaltenorientierten Format, das für analytische Abfragen optimiert ist. BigQuery stellt Daten in Tabellen, Zeilen und Spalten dar und bietet vollständige Unterstützung für die Semantik von Datenbanktransaktionen (ACID). Der BigQuery-Speicher wird automatisch über mehrere Standorte repliziert, um eine hohe Verfügbarkeit zu ermöglichen.

• Erfahren Sie mehr über gängige Muster zum Organisieren von BigQuery-Ressourcen im Data Warehouse und in Data-Marts.
• Erfahren Sie mehr über Datasets, den übergeordneten Container von BigQuery für Tabellen und Ansichten.
• Laden Sie Daten in BigQuery mit:
  • Stream-Daten mit der Storage Write API (gRPC).
  • Im Batch geladenen Daten aus lokalen Dateien oder Cloud Storage mit Formaten wie Avro, Parquet, ORC, CSV, JSON.

Weitere Informationen finden Sie unter BigQuery-Speicher.

BigQuery-Analysen

Deskriptive und präskriptive Analysen umfassen Business Intelligence, Ad-hoc-Analysen, Raumbezogene Analysen und maschinelles Lernen. Sie können in BigQuery gespeicherte Daten abfragen oder Abfragen für Daten an deren Speicherort ausführen, indem Sie externe Tabellen oder föderierte Abfragen verwenden, einschließlich Cloud Storage.

• ANSI-Standard-SQL-Abfragen (ISO/IEC 9075-Unterstützung), einschließlich Unterstützung für Joins, verschachtelte und wiederkehrende Felder, Analyse- und Aggregationsfunktionen, Abfragen mit mehreren Anweisungen und einer Vielzahl von räumlichen Funktionen mit raumbezogenen Analysen – geografische Informationssysteme.
• Pandas-kompatible Python API, bereitgestellt von BigQuery DataFrames.
• Ansichten erstellen, um Ihre Analyse freizugeben.
• Unterstützung von Business-Intelligence-Tools, einschließlich Drittanbietertools, die die Simba-ODBC- und -JDBC-Treiber für BigQuery verwenden
• BigQuery ML bietet maschinelles Lernen und prädiktive Analysen.
• Mit BigQuery Studio können Sie die Datenanalyse- und Machine Learning-(ML)-Workflows in BigQuery einfacher ausführen.
• Daten außerhalb von BigQuery mit externen Tabellen abfragen.

Weitere Informationen finden Sie unter BigQuery-Analysen.

BigQuery-Verwaltung

BigQuery bietet eine zentralisierte Verwaltung von Daten- und Rechenressourcen und Identity and Access Management (IAM) unterstützt Sie dabei, diese Ressourcen mithilfe des Zugriffsmodells zu schützen, das in Cloud de Confiance by S3NSverwendet wird.

• Die Einführung in die Datensicherheit und Governance hilft Ihnen, die Data Governance zu verstehen und zu steuern, welche Kontrollen Sie für die Sicherung von BigQuery-Ressourcen benötigen könnten.
• Jobs sind Aktionen, die BigQuery für Sie ausführt, um Daten zu laden, zu exportieren, abzufragen oder zu kopieren.
• Mit Reservierungen können Sie zwischen On-Demand-Preisen und kapazitätsbasierten Preisen wechseln.

Weitere Informationen finden Sie unter Einführung in BigQuery.

BigQuery-Ressourcen

Sehen Sie sich die BigQuery-Ressourcen an:

• Versionshinweise enthalten Änderungsprotokolle zu Features, Änderungen und Einstellungen.
• Stack Overflow hostet eine interessierte Community von Entwicklern und Analysten, die mit BigQuery arbeiten.
• Google BigQuery: The Definitive Guide: Data Warehousing, Analytics, and Machine Learning at Scale von Valliappa Lakshmanan und Jordan Tigani erklärt, wie BigQuery funktioniert, und bietet eine detaillierte Anleitung zur Verwendung des Dienstes.

APIs, Tools und Referenzen

Referenzmaterialien für BigQuery-Entwickler und -Analysten:

• Die BigQuery API und die Clientbibliotheken bieten einen Überblick über die Features von BigQuery und deren Verwendung.
• BigQuery DataFrames API-Referenz für Details zur Verwendung der pandas-kompatiblen Python API.
• Mit der Syntax für DMLkönnen Sie Ihre BigQuery-Daten verwalten und transformieren.
• In der bq-Befehlszeilentool-Referenz werden die Syntax, Befehle, Flags und Argumente für die bq-Befehlszeile dokumentiert.
• ODBC/JDBC-Integration verbindet BigQuery mit Ihren vorhandenen Tools und Infrastrukturen.

BigQuery-Rollen und -Ressourcen

BigQuery erfüllt die Anforderungen von Datenexperten in den folgenden Rollen und Verantwortlichkeiten.

Nächste Schritte

• Unterschiede bei BigQuery in Cloud de Confiance im Vergleich zu Google Cloud

• Eine Übersicht über BigQuery-Speicher finden Sie in der Übersicht über BigQuery-Speicher.
• Eine Übersicht über BigQuery-Abfragen finden Sie unter BigQuery-Analysen.
• Eine Übersicht über die BigQuery-Verwaltung finden Sie unter Einführung in die BigQuery-Verwaltung.
• Eine Übersicht über die BigQuery-Sicherheit finden Sie unter Datensicherheit und Data Governance.