Cuando se transfieren datos de Amazon S3 a Cloud Storage, los datos suelen atravesar vínculos de interconexión de Internet pública, en los que AWS factura los cargos estándar de salida de datos de Internet. El Servicio de transferencia de almacenamiento ofrece una opción de red privada administrada por Google para las transferencias desde Amazon S3, lo que permite que tus datos fluyan a través de un enrutamiento privado seguro que Google aprovisiona automáticamente.
El uso de una red privada administrada por Google reduce los costos de salida de Internet de AWS y simplifica la seguridad de la red, ya que elimina la necesidad de configurar y mantener interconexiones físicas administradas por el cliente.
Ventajas clave
La opción de red privada administrada por Google proporciona los siguientes beneficios operativos y financieros para las transferencias de Amazon S3:
Reduce los costos de salida de Internet: La transferencia desde Amazon S3 a través de la red privada administrada por Google omite las tarifas estándar de salida de Internet de AWS. No pagas cargos de salida de Internet de AWS S3. En cambio, pagas una tarifa predecible de procesamiento de datos por GiB a Google Cloud. Consulta la sección Precios para obtener más detalles. Los cargos estándar por solicitudes a la API de AWS (como las operaciones
LIST,GETyHEADde Amazon S3) se siguen aplicando según el programa de precios de AWS.Elimina la exposición a Internet pública: Los datos viajan directamente a través de la conexión de interconexión privada administrada por Google entre AWS y Google Cloud. Dado que los paquetes nunca atraviesan las tablas de enrutamiento de Internet públicas, se elimina el riesgo de intercepción pública y se simplifica el cumplimiento de los requisitos de firewall y de confianza cero.
Cero mantenimiento de la infraestructura: A diferencia de una red privada administrada por el cliente, no necesitas aprovisionar, configurar ni pagar tarifas recurrentes de puertos para las interconexiones físicas (como Cloud Interconnect o AWS Direct Connect), las puertas de enlace de VPN ni el enrutamiento de DNS personalizado. Google administra por completo la pila de redes privadas de extremo a extremo.
Implementación instantánea sin plazo de entrega: La configuración de circuitos de interconexión dedicados puede tardar semanas. Con una red privada administrada por Google, puedes comenzar a transferir datos a través del enrutamiento privado de inmediato, sin instalar ni administrar ningún agente de transferencia.
Consideraciones sobre el ancho de banda y el rendimiento
Todos los trabajos del Servicio de transferencia de almacenamiento en todos los proyectos que utilizan la red privada administrada por Google comparten una capacidad de red agrupada común. Durante los períodos de uso global máximo, es posible que las velocidades de transferencia experimenten limitaciones o una mayor latencia.
Las cargas de trabajo que consisten principalmente en objetos grandes se ven más afectadas por la alta utilización del grupo que las cargas de trabajo que consisten principalmente en objetos más pequeños. Si tu carga de trabajo requiere ancho de banda exclusivo sin contención de un grupo compartido, considera configurar una red privada administrada por el cliente.
Regiones de AWS compatibles
La opción de red privada administrada por Google está disponible para las transferencias sin agente desde las siguientes regiones de Amazon S3:
ap-east-1ap-northeast-1ap-northeast-2ap-northeast-3ap-south-1ap-south-2ap-southeast-1ca-central-1ca-west-1eu-central-1eu-central-2 |
eu-north-1eu-south-1eu-south-2eu-west-1eu-west-2eu-west-3us-east-1us-east-2us-west-1us-west-2
|
Antes de comenzar
Antes de crear la transferencia, debes configurar los permisos de IAM y de la fuente.
Configurar los permisos de IAM
Sigue las instrucciones en Permisos de transferencia sin agente para otorgar los permisos de Google Cloud necesarios.
Configura el acceso a tu bucket de S3
Sigue las instrucciones en Configura el acceso a una fuente: Amazon S3 para configurar el acceso a tus datos en Amazon S3.
Crea una transferencia de red privada administrada por Google
Puedes habilitar la opción de red privada administrada por Google cuando crees un trabajo de transferencia nuevo o cuando actualices una especificación de transferencia de Amazon S3 existente con la Cloud de Confiance consola o la API de REST.
Console
La opción de red privada administrada por Google se habilita con una casilla de verificación en el paso Elige la configuración de la creación de un trabajo de transferencia.
Para crear un trabajo nuevo con la red privada administrada por Google, haz lo siguiente:
-
Ve a la página Servicio de transferencia de almacenamiento en la consola de Cloud de Confiance .
-
Haz clic en Crear trabajo de transferencia. Se muestra la página Crea un trabajo de transferencia.
-
En Tipo de fuente, selecciona Amazon S3.
-
Como Tipo de destino, selecciona Google Cloud Storage.
-
Selecciona tu Modo de programación. Las transferencias por lotes se ejecutan de forma única o programada. Las transferencias basadas en eventos supervisan continuamente la fuente y transfieren datos cuando se agregan o modifican.
Para configurar una transferencia basada en eventos, sigue las instrucciones que se indican en Transferencias basadas en eventos.
-
Haz clic en Próximo paso.
-
En el campo Nombre del bucket o la carpeta, ingresa el nombre del bucket de origen.
El nombre del bucket es el nombre que aparece en la consola de administración de AWS.
-
Selecciona el método de autenticación de Amazon Web Services (AWS). Consulta Configura el acceso a una fuente: Amazon S3 para obtener más información.
-
Recurso de Secret: Selecciona esta opción para usar una credencial de Amazon guardada en Secret Manager. Selecciona un secreto de la lista o ingresa uno de forma manual en el formato
projects/PROJECT_NUMBER/secrets/SECRET_NAME. -
Clave de acceso: Ingresa tu clave de acceso en el campo ID de clave de acceso y el secreto asociado con tu clave de acceso en el campo Clave de acceso secreta.
-
Rol de IAM de AWS para la federación de identidades: Ingresa tu ARN en el campo ARN del rol de IAM de AWS con la siguiente sintaxis:
-
Regiones de AWS estándar:
arn:aws:iam::AWS_ACCOUNT:role/AWS_ROLE_NAME
-
Regiones de AWS GovCloud:
arn:aws-us-gov:iam::AWS_ACCOUNT:role/AWS_ROLE_NAME
Reemplaza lo siguiente:
AWS_ACCOUNT: El ID de la cuenta de AWS sin guiones.AWS_ROLE_NAME: Es el nombre del rol de AWS. Si tu organización usa rutas de acceso para organizar los roles, incluye la ruta de acceso con el nombre del rol. Por ejemplo,developers/transfer_user.
Para obtener más información sobre los ARN, consulta ARN de IAM.
-
-
-
Si se trata de una transferencia basada en eventos, ingresa el ARN de la cola de Amazon SQS, que tiene el siguiente formato:
-
Regiones de AWS estándar:
arn:aws:sqs:us-east-1:1234567890:event-queue
-
Regiones de AWS GovCloud:
arn:aws-us-gov:sqs:us-gov-east-1:1234567890:event-queue
-
-
De manera opcional, elige filtrar objetos por prefijo, por fecha de última modificación o por clase de almacenamiento. Si especificaste una carpeta como ubicación de origen, los filtros de prefijo son relativos a esa carpeta. Por ejemplo, si tu fuente es
my-test-bucket/path/, un filtro de inclusión defileincluye todos los archivos que comienzan conmy-test-bucket/path/file. -
Haz clic en Próximo paso.
-
En el campo Bucket o carpeta, ingresa el bucket de destino y el nombre de la carpeta (opcional) o haz clic en Explorar para seleccionar un bucket de una lista de buckets existentes en tu proyecto actual. Para crear un bucket nuevo, haz clic en
Crear nuevo bucket. -
Haz clic en Próximo paso.
-
Elige tus opciones de programación:
Nota: El Servicio de transferencia de almacenamiento muestra programas de trabajos de transferencia en tu zona horaria local, pero esta almacena esas horas en horario universal coordinado (UTC). Si te ves afectado por el horario de verano, es posible que experimentes un cambio en el programa del trabajo de transferencia cuando comience o finalice el horario de verano.
-
En la lista desplegable Ejecutar una vez, selecciona una de las siguientes opciones:
- Ejecutar una vez: Ejecuta una sola transferencia, a la hora que selecciones.
-
Ejecutar todos los días: Ejecuta una transferencia a diario a partir de la hora que selecciones.
Puedes ingresar una Fecha de finalización opcional o dejar en blanco Fecha de finalización para ejecutar la transferencia de forma continua.
- Ejecutar cada semana: Ejecuta una transferencia semanal, a la hora que seleccionas.
-
Ejecutar con frecuencia personalizada: Ejecuta una transferencia con la frecuencia que seleccionas. Puedes elegir repetir la transferencia a un intervalo regular de horas, días o semanas.
Puedes ingresar una Fecha de finalización opcional o dejar en blanco Fecha de finalización para ejecutar la transferencia de forma continua.
- Ejecutar a pedido: No activará una ejecución cuando se cree este trabajo de transferencia. Deberás iniciar el trabajo de forma manual.
-
En la lista desplegable A partir de ahora, selecciona una de las siguientes opciones:
- Inicio ahora: Inicia la transferencia después de hacer clic en Crear.
- A partir del: Inicia la transferencia en la fecha y hora que seleccionaste. Haz clic en Calendario para mostrar un calendario y seleccionar la fecha de inicio.
-
-
Haz clic en Próximo paso.
-
Elige la configuración del trabajo de transferencia.
-
En el campo Descripción, ingresa una descripción de la transferencia. Como práctica recomendada, ingresa una descripción que sea significativa y única para que puedas distinguir los trabajos.
-
De forma opcional, proporciona un manifiesto para especificar los objetos exactos que se transferirán.
-
En Opciones de metadatos, selecciona la clase de almacenamiento y el comportamiento de la hora de creación que desees. Consulta Conservación de metadatos para obtener más información.
-
En Cuándo reemplazar, selecciona una de las siguientes opciones:
- Nunca: No reemplaza un archivo de destino si el archivo fuente tiene el mismo nombre. Se omite el archivo de origen.
- Si es diferente: Reemplaza los archivos de destino si el archivo de origen con el mismo nombre tiene diferentes ETags o valores de suma de verificación.
- Siempre: Siempre reemplaza los archivos de destino cuando el archivo de origen tiene el mismo nombre, incluso si son idénticos.
-
En Cuándo borrar, selecciona una de las siguientes opciones:
- Nunca: Nunca borres archivos de origen o de destino.
-
Borrar archivos de la fuente después de la transferencia: Borra los archivos de la fuente después de transferirlos al destino. Si no se transfiere un archivo fuente, por ejemplo, porque ya existe en el destino, no se borra.
Importante: Si no tienes una copia de seguridad local, esta opción es una acción no reversible.
-
Borra los archivos del destino si no están también en el origen: Si los archivos en el bucket de Cloud Storage de destino no están también en el origen, borra los archivos del bucket de Cloud Storage.
Esta opción garantiza que el bucket de destino de Cloud Storage coincida exactamente con tu fuente.
-
Elige opciones de enrutamiento de red:
- Selecciona Usar red privada administrada.
-
En Opciones de registro, selecciona Habilitar el registro en Cloud Logging si deseas generar un registro detallado de las acciones realizadas en cada archivo transferido. Se aplican los costos de Cloud Logging. Consulta Acciones de transferencia de registros para obtener más detalles.
-
De manera opcional, selecciona Obtén actualizaciones del estado de la operación de transferencia a través de notificaciones de Cloud Pub/Sub, elige tu tema de Pub/Sub y selecciona los eventos que activan las notificaciones. Consulta las notificaciones de Pub/Sub para obtener más detalles.
-
En Elige el tipo de cuenta de servicio, selecciona la identidad que se usará:
- Agente de servicio del Servicio de transferencia de almacenamiento: El agente de servicio predeterminado administrado por Google recibe automáticamente acceso a los buckets de origen y destino.
- Agente de servicio administrado por el usuario: Usa una cuenta de servicio personalizada que hayas creado. Antes de seleccionar esta opción, asegúrate de que a tu cuenta de servicio se le haya otorgado acceso al bucket de origen, al bucket de destino y a Pub/Sub. Consulta Cómo usar un agente de servicio administrado por el usuario.
-
-
Haz clic en Crear para crear el trabajo de transferencia.
gcloud CLI
Gcloud CLI no admite la configuración de transferencias a través de una red privada administrada por Google. Usa la consola de Cloud de Confiance o la API de REST para habilitar esta opción.
Bibliotecas cliente
Las bibliotecas cliente del Servicio de transferencia de almacenamiento no admiten la configuración de transferencias a través de una red privada administrada por Google. Usa la consola de Cloud de Confiance o la API de REST para habilitar esta opción.
API de REST
Para configurar una transferencia con la API de REST, establece el campo booleano transferSpec.awsS3DataSource.managedPrivateNetwork en true dentro de la carga útil de la solicitud JSON cuando llames a transferJobs.create o transferJobs.patch.
Solicitud HTTP
POST https://storagetransfer.googleapis.com/v1/transferJobs
Cuerpo de la solicitud
{
"description": "S3 to Cloud Storage over Google-managed private network",
"status": "ENABLED",
"projectId": "PROJECT_ID",
"transferSpec": {
"awsS3DataSource": {
"bucketName": "AWS_SOURCE_NAME",
"managedPrivateNetwork": true,
"awsAccessKey": {
"accessKeyId": "AWS_ACCESS_KEY_ID",
"secretAccessKey": "AWS_SECRET_ACCESS_KEY"
}
},
"gcsDataSink": {
"bucketName": "GCS_SINK_NAME"
},
"transferOptions": {
"overwriteWhen": "DIFFERENT",
"deleteObjectsFromSourceAfterTransfer": false
}
}
}
En este ejemplo, se usan credenciales de acceso de AWS para la autenticación. Consulta Configura el acceso a Amazon S3 para obtener detalles sobre el uso de la identidad federada o las credenciales en Secret Manager.
Supervisa y verifica el enrutamiento de la red privada
Después de iniciar el trabajo de transferencia, verifica que los datos salgan a través de la red privada administrada por Google:
Cloud Logging: Cuando se habilitan los
transfer-logs(--log-actions=COPY,DELETE,FAILED), inspecciona los registros estructurados de tu operación de transferencia. Los metadatos de conexión dentro del registro de accionesCOPYconfirman la replicación exitosa a través de la ruta de red privada.Verificación de facturación: Consulta los paneles de facturación de AWS y Google Cloud. En tu factura de AWS, verás que no se aplican cargos por transferencia de datos salientes (
DataTransfer-Out-Bytes) de Internet público para los objetos transferidos. En cambio, la tarifa por procesamiento de datos por GiB aparece en tu factura de Google Cloud en el Servicio de transferencia de almacenamiento.
Opciones alternativas de enrutamiento de red
Si la red privada administrada por Google no cumple con los requisitos de tu carga de trabajo, Servicio de transferencia de almacenamiento admite otras opciones de enrutamiento de red para Amazon S3:
Enrutamiento de Internet público: Transferencias de datos a través de vínculos de interconexión de Internet pública estándar entre Amazon S3 y Google Cloud. Todos los comandos de la API, los encabezados de autenticación y los flujos de datos de objetos se encriptan de extremo a extremo en tránsito con HTTPS y seguridad de la capa de transporte (TLS 1.3). Se aplican las tarifas estándar de salida de datos de Internet de AWS. Para obtener más información, consulta Transferencia desde Amazon S3.
Red privada administrada por el cliente: Los datos atraviesan tu propia infraestructura de conectividad híbrida preconfigurada (como Cloud Interconnect, Cloud VPN o AWS Direct Connect) a través de direcciones IP privadas. Esta opción te brinda control arquitectónico total y ancho de banda de red dedicado y predecible. Para obtener más información, consulta Transferencias a través de una red privada administrada por el cliente.
Enrutamiento de CDN de Amazon CloudFront: Los datos se recuperan a través de una distribución de Amazon CloudFront delante de tu bucket de S3. Según el nivel de precios y el volumen de datos de AWS CloudFront, esto puede reducir los cargos de salida de Internet en comparación con las descargas públicas directas de S3. Para obtener más información, consulta Transferencia desde S3 a través de CloudFront.