Leggere un flusso di modifiche con Java

La libreria client Cloud Bigtable per Java fornisce metodi di basso livello per l'elaborazione dei record di modifica dei dati. Tuttavia, nella maggior parte dei casi, ti consigliamo di trasmettere in streaming le modifiche con Dataflow anziché utilizzare i metodi descritti in questa pagina, perché Dataflow gestisce le suddivisioni e le unioni delle partizioni per te.

Prima di iniziare

Prima di leggere uno stream di modifiche con Java, assicurati di conoscere la panoramica degli stream di modifiche. Poi completa i seguenti prerequisiti.

Configura l'autenticazione

Per utilizzare gli esempi Java in questa pagina in un ambiente di sviluppo locale, installa e inizializza gcloud CLI, quindi configura Credenziali predefinite dell'applicazione con le tue credenziali utente.

  1. Installa Google Cloud CLI.

  2. Configura gcloud CLI per utilizzare la tua identità federata.

    Per saperne di più, consulta Accedi a gcloud CLI con la tua identità federata.

  3. Crea le credenziali di autenticazione locali per il tuo account utente: 

    gcloud auth application-default login

    Se viene restituito un errore di autenticazione, verifica di aver eseguito l'accesso a gcloud CLI con la tua identità federata.

Per saperne di più, consulta Configura l'autenticazione per un ambiente di sviluppo locale.

Per informazioni sulla configurazione dell'autenticazione per un ambiente di produzione, consulta Configura le Credenziali predefinite dell'applicazione per il codice in esecuzione su Cloud de Confiance .

Abilitare un flusso di modifiche

Prima di poter leggere una tabella, devi attivare un flusso di modifiche. Puoi anche creare una nuova tabella con un flusso di modifiche abilitato.

Ruoli obbligatori

Per ottenere le autorizzazioni necessarie per leggere uno stream di modifiche di Bigtable, chiedi all'amministratore di concederti il seguente ruolo IAM.

  • Amministratore Bigtable (roles/bigtable.admin) nell'istanza Bigtable che contiene la tabella da cui prevedi di trasmettere in streaming le modifiche

Aggiungi la libreria client Java come dipendenza

Aggiungi al file pom.xml di Maven un codice simile al seguente. Sostituisci VERSION con la versione della libreria client che stai utilizzando. La versione deve essere 2.21.0 o successive.

<dependencies>
  <dependency>
    <groupId>com.google.cloud</groupId>
    <artifactId>google-cloud-bigtable</artifactId>
    <version>VERSION</version>
  </dependency>
</dependencies>

Determinare le partizioni della tabella

Per iniziare a effettuare richieste ReadChangeStream, devi conoscere le partizioni della tua tabella. Puoi determinarlo utilizzando il metodo GenerateInitialChangeStreamPartitions. L'esempio seguente mostra come utilizzare questo metodo per ottenere un flusso di ByteStringRanges che rappresentano ogni partizione della tabella. Ogni ByteStringRange contiene la chiave iniziale e finale di una partizione.

ServerStream<ByteStringRange> partitionStream =
    client.generateInitialChangeStreamPartitions("MyTable");

Elabora le modifiche per ogni partizione

Puoi quindi elaborare le modifiche per ogni partizione utilizzando il metodo ReadChangeStream. Questo è un esempio di come aprire uno stream per una partizione, a partire dall'ora corrente.

ReadChangeStreamQuery query =
    ReadChangeStreamQuery.create("MyTable")
        .streamPartition(partition)
        .startTime(Instant.now());
ServerStream<ChangeStreamRecord> changeStream = client.readChangeStream(query);

ReadChangeStreamQuery accetta i seguenti argomenti:

  • Partizione dello stream (obbligatorio): la partizione da cui trasmettere in streaming le modifiche
  • Uno dei seguenti:
    • Ora di inizio: timestamp del commit da cui iniziare a elaborare le modifiche
    • Token di continuazione: token che rappresentano una posizione da cui riprendere lo streaming
  • Ora di fine (facoltativo): timestamp di commit per interrompere l'elaborazione delle modifiche quando viene raggiunto. Se non fornisci un valore, lo stream continua a leggere.
  • Durata battito cardiaco (facoltativo): frequenza dei messaggi del battito cardiaco quando non ci sono nuove modifiche (il valore predefinito è cinque secondi)

Modificare il formato del record di modifiche in tempo reale

Un record di flusso delle modifiche restituito è uno dei tre tipi di risposta:

  • ChangeStreamMutation: un messaggio che rappresenta un record di modifica dei dati.

  • CloseStream: un messaggio che indica che il client deve interrompere la lettura dallo stream.

    • Stato: indica il motivo della chiusura dello stream. Uno dei seguenti:
      • OK - è stata raggiunta l'ora di fine per la partizione specificata
      • OUT_OF_RANGE: la partizione specificata non esiste più, il che significa che sono state eseguite divisioni o unioni in questa partizione. Per ogni nuova partizione dovrà essere creata una nuova richiesta ReadChangeStream.
    • NewPartitions: fornisce le informazioni di partizionamento aggiornate sulle risposte OUT_OF_RANGE.
    • ChangeStreamContinuationTokens: elenco dei token utilizzati per riprendere le nuove richieste ReadChangeStream dalla stessa posizione. Una per NewPartition.

  • Heartbeat: un messaggio periodico con informazioni che possono essere utilizzate per controllare lo stato dello stream.

    • EstimatedLowWatermark - Stima del minimo storico per la partizione specificata
    • ContinuationToken - Token per riprendere lo streaming della partizione specificata dalla posizione corrente.

Contenuti dei record di modifica dei dati

Per informazioni sui record dello stream di modifiche, vedi Che cosa contiene un record di modifica dei dati.

Gestire le modifiche alle partizioni

Quando le partizioni di una tabella cambiano, le richieste ReadChangeStream restituiscono un messaggio CloseStream con le informazioni necessarie per riprendere lo streaming dalle nuove partizioni.

Per una divisione, questo campo conterrà più nuove partizioni e un ContinuationToken corrispondente per ciascuna partizione. Per riprendere lo streaming delle nuove partizioni dalla stessa posizione, devi effettuare una nuova richiesta ReadChangeStream per ogni nuova partizione con il token corrispondente.

Ad esempio, se stai trasmettendo in streaming la partizione [A,C) e questa si divide in due partizioni, [A,B) e [B,C), puoi aspettarti la seguente sequenza di eventi:

ReadChangeStream(streamPartition = ByteStringRange(A, C)) receives:
CloseStream(
    Status = OUT_OF_RANGE,
    NewPartitions = List(ByteStringRange(A, B), ByteStringRange(B, C))
    ChangeStreamContinuationTokens = List(foo, bar)
)

Per riprendere lo streaming di ogni partizione dalla stessa posizione, invia le seguenti richieste ReadChangeStreamQuery:

ReadChangeStreamQuery queryAB =
    ReadChangeStreamQuery.create("myTable")
        .streamPartition(ByteStringRange(A, B))
        .continuationTokens(List.of(foo));

ReadChangeStreamQuery queryBC =
    ReadChangeStreamQuery.create("myTable")
        .streamPartition(ByteStringRange(B, C))
        .continuationTokens(List.of(bar));

Per un'unione, per riprendere dalla stessa partizione, devi inviare una nuova richiesta ReadChangeStream contenente ogni token delle partizioni unite.

Ad esempio, se stai trasmettendo in streaming due partizioni, [A,B) e [B,C), e queste vengono unite nella partizione [A,C), puoi aspettarti la seguente sequenza di eventi:

ReadChangeStream(streamPartition = ByteStringRange(A, B)) receives:
CloseStream(
    Status = OUT_OF_RANGE,
    NewPartitions = List(ByteStringRange(A, C)),
    ChangeStreamContinuationTokens = List(foo)
)

ReadChangeStream(streamPartition = ByteStringRange(B, C)) receives:
CloseStream(
    Status = OUT_OF_RANGE,
    NewPartitions = List(ByteStringRange(A, C)),
    ChangeStreamContinuationTokens = List(bar)
)

Per riprendere lo streaming della partizione [A, C) dalla stessa posizione, invia un ReadChangeStreamQuery come il seguente:

ReadChangeStreamQuery query =
    ReadChangeStreamQuery.create("myTable")
        .streamPartition(ByteStringRange(A, C))
        .continuationTokens(List.of(foo, bar));

Passaggi successivi