將資料從本機檔案系統上傳到 Google Cloud Storage¶
Google Cloud Storage (GCS) 用於儲存來自各種應用程式的大型資料。本頁說明如何將資料從本機檔案系統上傳到 GCS。
先決條件任務¶
要使用這些運算子,您必須完成以下幾件事
使用 Cloud Console 選擇或建立 Cloud Platform 專案。
為您的專案啟用計費功能,如 Google Cloud 文件中所述。
啟用 API,如 Cloud Console 文件中所述。
透過 pip 安裝 API 程式庫。
pip install 'apache-airflow[google]'詳細資訊請參閱 安裝。
LocalFilesystemToGCSOperator¶
LocalFilesystemToGCSOperator
允許您將資料從本機檔案系統上傳到 GCS。
當您使用此運算子時,您可以選擇性地壓縮正在上傳的資料。此運算子也支援選擇性地以多個區塊上傳資料。
以下是使用此運算子上傳檔案到 GCS 的範例。
upload_file = LocalFilesystemToGCSOperator(
task_id="upload_file",
src=UPLOAD_FILE_PATH,
dst=FILE_NAME,
bucket=BUCKET_NAME,
)