Google

Airflow 支援 Google 服務

所有 Hook 皆基於 airflow.providers.google.common.hooks.base_google.GoogleBaseHook。部分整合也使用 airflow.providers.google.common.hooks.discovery_api

請參閱 Google Cloud 連線類型 文件,以設定與 Google 服務的連線。

Google Cloud

Airflow 廣泛支援 Google Cloud

注意

您可以透過分析 Google Cloud 範例 DAG 的原始碼,學習如何使用 Google Cloud 整合

服務

這些整合讓您可以在 Google Cloud 內執行各種操作。

Google Vertex AI

運算子

airflow.providers.google.cloud.operators.vertex_ai.datasetairflow.providers.google.cloud.operators.vertex_ai.custom_jobairflow.providers.google.cloud.operators.vertex_ai.auto_mlairflow.providers.google.cloud.operators.vertex_ai.batch_prediction_jobairflow.providers.google.cloud.operators.vertex_ai.endpoint_serviceairflow.providers.google.cloud.operators.vertex_ai.hyperparameter_tuning_jobairflow.providers.google.cloud.operators.vertex_ai.model_serviceairflow.providers.google.cloud.operators.vertex_ai.pipeline_jobairflow.providers.google.cloud.operators.vertex_ai.generative_modelairflow.providers.google.cloud.operators.vertex_ai.feature_store

Hook

airflow.providers.google.cloud.hooks.vertex_ai.datasetairflow.providers.google.cloud.hooks.vertex_ai.custom_jobairflow.providers.google.cloud.hooks.vertex_ai.auto_mlairflow.providers.google.cloud.hooks.vertex_ai.batch_prediction_jobairflow.providers.google.cloud.hooks.vertex_ai.endpoint_serviceairflow.providers.google.cloud.hooks.vertex_ai.hyperparameter_tuning_jobairflow.providers.google.cloud.hooks.vertex_ai.model_serviceairflow.providers.google.cloud.hooks.vertex_ai.pipeline_jobairflow.providers.google.cloud.hooks.vertex_ai.generative_modelairflow.providers.google.cloud.hooks.vertex_ai.prediction_serviceairflow.providers.google.cloud.hooks.vertex_ai.feature_store

感測器

airflow.providers.google.cloud.sensors.vertex_ai.feature_store.

指南

Google Cloud VertexAI 運算子.

供應商

apache-airflow-providers-google

產品文件

Google Vertex AI

傳輸

這些整合讓您可以從 Google Cloud 複製資料到 Google Cloud 或從 Google Cloud 複製資料。

Google Cloud Storage (GCS) 至 Amazon Simple Storage Service (S3)

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Amazon Simple Storage Service (S3)

運算子指南

Google Cloud Storage 至 Amazon S3 傳輸運算子

Python API

airflow.providers.amazon.aws.transfers.gcs_to_s3

供應商

apache-airflow-providers-amazon

Amazon Glacier 至 Google Cloud Storage (GCS)

來源產品文件

Amazon Glacier

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Amazon S3 Glacier 至 GCS

Python API

airflow.providers.amazon.aws.transfers.glacier_to_gcs

供應商

apache-airflow-providers-amazon

Presto 至 Google Cloud Storage (GCS)

來源產品文件

Presto

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Presto 至 Google Cloud Storage 傳輸運算子

Python API

airflow.providers.google.cloud.transfers.presto_to_gcs

供應商

apache-airflow-providers-google

Trino 至 Google Cloud Storage (GCS)

來源產品文件

Trino

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Trino 至 Google Cloud Storage 傳輸運算子

Python API

airflow.providers.google.cloud.transfers.trino_to_gcs

供應商

apache-airflow-providers-google

通用 SQL 至 Google Cloud Storage (GCS)

來源產品文件

通用 SQL

目標產品文件

Google Cloud Storage (GCS)

Python API

airflow.providers.google.cloud.transfers.sql_to_gcs

供應商

apache-airflow-providers-google

Google Cloud Storage (GCS) 至 Google Drive

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Google Drive

運算子指南

Google Cloud Storage 至 Google Drive 傳輸運算子

Python API

airflow.providers.google.suite.transfers.gcs_to_gdrive

供應商

apache-airflow-providers-google

Google Drive 至 Google Cloud Storage (GCS)

來源產品文件

Google Drive

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Google Drive 至 Google Cloud Storage 傳輸運算子

Python API

airflow.providers.google.cloud.transfers.gdrive_to_gcs

供應商

apache-airflow-providers-google

Apache Cassandra 至 Google Cloud Storage (GCS)

來源產品文件

Apache Cassandra

目標產品文件

Google Cloud Storage (GCS)

Python API

airflow.providers.google.cloud.transfers.cassandra_to_gcs

供應商

apache-airflow-providers-google

Google Calendar 至 Google Cloud Storage (GCS)

來源產品文件

Google Calendar

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Google Calendar 至 Google Cloud Storage 傳輸運算子

Python API

airflow.providers.google.cloud.transfers.calendar_to_gcs

供應商

apache-airflow-providers-google

Google Spreadsheet 至 Google Cloud Storage (GCS)

來源產品文件

Google Spreadsheet

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Google Sheets 至 Google Cloud Storage 傳輸運算子

Python API

airflow.providers.google.cloud.transfers.sheets_to_gcs

供應商

apache-airflow-providers-google

Amazon Simple Storage Service (S3) 至 Google Cloud Storage (GCS)

來源產品文件

Amazon Simple Storage Service (S3)

目標產品文件

Google Cloud Storage (GCS)

運算子指南

將資料從 Amazon S3 傳輸至 Google Cloud Storage

Python API

airflow.providers.google.cloud.transfers.s3_to_gcs

供應商

apache-airflow-providers-google

Google Cloud Storage (GCS) 至 SSH File Transfer Protocol (SFTP)

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

SSH File Transfer Protocol (SFTP)

運算子指南

Google Cloud Storage 傳輸運算子至 SFTP

Python API

airflow.providers.google.cloud.transfers.gcs_to_sftp

供應商

apache-airflow-providers-google

PostgreSQL 至 Google Cloud Storage (GCS)

來源產品文件

PostgreSQL

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Postgres 至 Google Cloud Storage 運算子

Python API

airflow.providers.google.cloud.transfers.postgres_to_gcs

供應商

apache-airflow-providers-google

Google BigQuery 至通用 SQL

來源產品文件

Google BigQuery

目標產品文件

通用 SQL

Python API

airflow.providers.google.cloud.transfers.bigquery_to_sql

供應商

apache-airflow-providers-google

Google BigQuery 至 MySQL

來源產品文件

Google BigQuery

目標產品文件

MySQL

運算子指南

Google Cloud BigQuery 傳輸運算子至 MySQL

Python API

airflow.providers.google.cloud.transfers.bigquery_to_mysql

供應商

apache-airflow-providers-google

Google BigQuery 至 Microsoft SQL Server (MSSQL)

來源產品文件

Google BigQuery

目標產品文件

Microsoft SQL Server (MSSQL)

運算子指南

Google Cloud BigQuery 傳輸運算子至 Microsoft SQL Server

Python API

airflow.providers.google.cloud.transfers.bigquery_to_mssql

供應商

apache-airflow-providers-google

Google BigQuery 至 PostgreSQL

來源產品文件

Google BigQuery

目標產品文件

PostgreSQL

運算子指南

Google Cloud BigQuery 傳輸運算子至 Postgres

Python API

airflow.providers.google.cloud.transfers.bigquery_to_postgres

供應商

apache-airflow-providers-google

Google Cloud Storage (GCS) 至 Google BigQuery

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Google BigQuery

運算子指南

Google Cloud Storage 傳輸運算子至 BigQuery

Python API

airflow.providers.google.cloud.transfers.gcs_to_bigquery

供應商

apache-airflow-providers-google

Google Cloud Storage (GCS) 至 Google Cloud Storage (GCS)

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Google Cloud Storage (GCS)

運算子指南

在 Google Cloud Storage 中傳輸資料

Python API

airflow.providers.google.cloud.transfers.gcs_to_gcs

供應商

apache-airflow-providers-google

Facebook Ads 至 Google Cloud Storage (GCS)

來源產品文件

Facebook Ads

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Facebook Ads 至 GCS 運算子

Python API

airflow.providers.google.cloud.transfers.facebook_ads_to_gcs

供應商

apache-airflow-providers-google

SSH File Transfer Protocol (SFTP) 至 Google Cloud Storage (GCS)

來源產品文件

SSH File Transfer Protocol (SFTP)

目標產品文件

Google Cloud Storage (GCS)

運算子指南

SFTP 至 Google Cloud Storage 傳輸運算子

Python API

airflow.providers.google.cloud.transfers.sftp_to_gcs

供應商

apache-airflow-providers-google

Microsoft Azure Data Lake Storage 至 Google Cloud Storage (GCS)

來源產品文件

Microsoft Azure Data Lake Storage

目標產品文件

Google Cloud Storage (GCS)

Python API

airflow.providers.google.cloud.transfers.adls_to_gcs

供應商

apache-airflow-providers-google

Google BigQuery 至 Google BigQuery

來源產品文件

Google BigQuery

目標產品文件

Google BigQuery

運算子指南

Google Cloud BigQuery 傳輸運算子至 BigQuery

Python API

airflow.providers.google.cloud.transfers.bigquery_to_bigquery

供應商

apache-airflow-providers-google

MySQL 至 Google Cloud Storage (GCS)

來源產品文件

MySQL

目標產品文件

Google Cloud Storage (GCS)

運算子指南

MySQL 至 Google Cloud Storage 運算子

Python API

airflow.providers.google.cloud.transfers.mysql_to_gcs

供應商

apache-airflow-providers-google

Oracle 至 Google Cloud Storage (GCS)

來源產品文件

Oracle

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Oracle 至 Google Cloud Storage 運算子

Python API

airflow.providers.google.cloud.transfers.oracle_to_gcs

供應商

apache-airflow-providers-google

Google Cloud Storage (GCS) 至 Google Spreadsheet

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Google Spreadsheet

運算子指南

Google Cloud Storage 至 Google Sheets 傳輸運算子

Python API

airflow.providers.google.suite.transfers.gcs_to_sheets

供應商

apache-airflow-providers-google

Google BigQuery 至 Google Cloud Storage (GCS)

來源產品文件

Google BigQuery

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Google Cloud BigQuery 傳輸運算子至 Google Cloud Storage

Python API

airflow.providers.google.cloud.transfers.bigquery_to_gcs

供應商

apache-airflow-providers-google

Salesforce 至 Google Cloud Storage (GCS)

來源產品文件

Salesforce

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Salesforce 至 GCS 運算子

Python API

airflow.providers.google.cloud.transfers.salesforce_to_gcs

供應商

apache-airflow-providers-google

Microsoft SQL Server (MSSQL) 至 Google Cloud Storage (GCS)

來源產品文件

Microsoft SQL Server (MSSQL)

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Microsoft SQL Server 至 Google Cloud Storage 運算子

Python API

airflow.providers.google.cloud.transfers.mssql_to_gcs

供應商

apache-airflow-providers-google

Microsoft Azure Blob Storage 至 Google Cloud Storage (GCS)

來源產品文件

Microsoft Azure Blob Storage

目標產品文件

Google Cloud Storage (GCS)

運算子指南

Azure Blob Storage 至 Google Cloud Storage (GCS) 傳輸運算子

Python API

airflow.providers.google.cloud.transfers.azure_blob_to_gcs

供應商

apache-airflow-providers-google

Google Cloud Storage (GCS) 至 Presto

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Presto

運算子指南

Google Cloud Storage 至 Presto 傳輸運算子

Python API

airflow.providers.presto.transfers.gcs_to_presto

供應商

apache-airflow-providers-presto

Google Cloud Storage (GCS) 至 Samba

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Samba

運算子指南

Google Cloud Storage 傳輸運算子至 Samba

Python API

airflow.providers.samba.transfers.gcs_to_samba

供應商

apache-airflow-providers-samba

Google Cloud Storage (GCS) 至 Snowflake

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Snowflake

Python API

airflow.providers.snowflake.transfers.copy_into_snowflake

供應商

apache-airflow-providers-snowflake

Google Cloud Storage (GCS) 至 Trino

來源產品文件

Google Cloud Storage (GCS)

目標產品文件

Trino

運算子指南

Google Cloud Storage 至 Trino 傳輸運算子

Python API

airflow.providers.trino.transfers.gcs_to_trino

供應商

apache-airflow-providers-trino

其他 Google 運算子和 Hook

這個條目對您有幫助嗎?