airflow.providers.snowflake.transfers.copy_into_snowflake

子類別實作 COPY INTO <TABLE> SQL in Snowflake 的抽象運算子。

模組內容

類別

CopyFromExternalStageToSnowflakeOperator

執行 COPY INTO 命令以將檔案從雲端的外部暫存區載入到 Snowflake。

class airflow.providers.snowflake.transfers.copy_into_snowflake.CopyFromExternalStageToSnowflakeOperator(*, files=None, table, stage, prefix=None, file_format, schema=None, columns_array=None, pattern=None, warehouse=None, database=None, autocommit=True, snowflake_conn_id='snowflake_default', role=None, authenticator=None, session_parameters=None, copy_options=None, validation_mode=None, **kwargs)[來源]

基底類別: airflow.models.BaseOperator

執行 COPY INTO 命令以將檔案從雲端的外部暫存區載入到 Snowflake。

此運算子需要 snowflake_conn_id 連線。snowflake 主機、登入和密碼欄位必須在連線中設定。其他輸入可以在連線或 Hook 實例化中定義。

參數
  • namespace – snowflake 命名空間

  • table (str) – snowflake 資料表

  • file_format (str) – 檔案格式名稱,例如 CSV、AVRO 等

  • stage (str) – 參考特定的 snowflake 暫存區。如果暫存區的結構描述與資料表的結構描述不同,則必須指定

  • prefix (str | None) – 指定的雲端儲存位置,以限制要載入的檔案集

  • files (list | None) – 要載入到資料表的檔案

  • pattern (str | None) – 從外部位置載入檔案到資料表的模式

  • snowflake_conn_id (str) – 參考 Snowflake 連線 ID

  • account – snowflake 帳戶名稱

  • warehouse (str | None) – snowflake 倉儲名稱

  • database (str | None) – snowflake 資料庫名稱

  • region – snowflake 區域名稱

  • role (str | None) – snowflake 角色名稱

  • schema (str | None) – snowflake 結構描述名稱

  • authenticator (str | None) – Snowflake 的驗證器。「snowflake」(預設)使用內部的 Snowflake 驗證器,「externalbrowser」使用您的網頁瀏覽器和 Okta、ADFS 或任何其他已為您的帳戶定義的 SAML 2.0 相容身分提供者 (IdP) 進行驗證 https://<your_okta_account_name>.okta.com 以透過原生 Okta 進行驗證。

  • session_parameters (dict | None) – 您可以在連線到 Snowflake 時設定工作階段層級參數

  • copy_options (str | None) – snowflake COPY INTO 語法複製選項

  • validation_mode (str | None) – snowflake COPY INTO 語法驗證模式

template_fields: collections.abc.Sequence[str] = ('files',)[來源]
template_fields_renderers[來源]
execute(context)[來源]

在建立運算子時衍生。

Context 是與呈現 Jinja 模板時使用的字典相同。

請參閱 get_template_context 以取得更多上下文。

get_openlineage_facets_on_complete(task_instance)[來源]

實作 _on_complete,因為我們依賴查詢的傳回值。

此條目是否有幫助?