組態參考

此頁面包含 apache-airflow-providers-elasticsearch 提供者可用的所有 Airflow 組態列表,這些組態可以在 airflow.cfg 檔案中設定,或使用環境變數設定。

注意

嵌入在提供者套件中的組態從 Airflow 2.7.0 開始使用。 以前,組態是在 Airflow 核心套件中描述和設定的 - 因此,如果您使用的 Airflow 版本低於 2.7.0,請查看 Airflow 文件以獲取 Airflow 核心中可用的組態選項列表。

注意

有關更多資訊,請參閱 設定組態選項

[elasticsearch]

end_of_log_mark

版本 1.10.4 新增。

用於標記任務日誌流的結束

類型

字串

預設

end_of_log

環境變數

AIRFLOW__ELASTICSEARCH__END_OF_LOG_MARK

frontend

版本 1.10.4 新增。

Elasticsearch 前端的完整 URL (例如 Kibana),帶有 log_id 的範本參數。程式碼將使用上述參數中的 log_id 範本建構 log_id。注意:如果未提供 scheme,則預設為 https

類型

字串

預設

''

環境變數

AIRFLOW__ELASTICSEARCH__FRONTEND

範例

https://127.0.0.1:5601/app/kibana#/discover?_a=(columns:!(message),query:(language:kuery,query:'log_id: "{log_id}"'),sort:!(log.offset,asc))

host

版本 1.10.4 新增。

Elasticsearch 主機

類型

字串

預設

''

環境變數

AIRFLOW__ELASTICSEARCH__HOST

host_field

版本 2.1.1 新增。

儲存主機名稱的欄位 (通常是 hosthost.name)

類型

字串

預設

host

環境變數

AIRFLOW__ELASTICSEARCH__HOST_FIELD

index_patterns

版本 2.6.0 新增。

搜尋日誌時要使用的索引模式的逗號分隔列表 (預設值:_all)。 index_patterns_callable 優先於此設定。

類型

字串

預設

_all

環境變數

AIRFLOW__ELASTICSEARCH__INDEX_PATTERNS

範例

something-*

index_patterns_callable

版本 5.5.0 新增。

表示 Python 可呼叫路徑完整路徑的字串,該路徑接受 TI 物件並傳回索引模式的逗號分隔列表。 這將優先於 index_patterns。

類型

字串

預設

''

環境變數

AIRFLOW__ELASTICSEARCH__INDEX_PATTERNS_CALLABLE

範例

module.callable

json_fields

版本 1.10.4 新增。

如果要啟用 JSON 輸出,也要附加到 JSON 輸出的日誌欄位

類型

字串

預設

asctime, filename, lineno, levelname, message

環境變數

AIRFLOW__ELASTICSEARCH__JSON_FIELDS

json_format

版本 1.10.4 新增。

不使用預設的日誌格式器,而是將日誌行寫入為 JSON

類型

字串

預設

False

環境變數

AIRFLOW__ELASTICSEARCH__JSON_FORMAT

log_id_template

版本 1.10.4 新增。

log_id 的格式,用於查詢給定任務的日誌

類型

字串

預設

{dag_id}-{task_id}-{run_id}-{map_index}-{try_number}

環境變數

AIRFLOW__ELASTICSEARCH__LOG_ID_TEMPLATE

offset_field

版本 2.1.1 新增。

儲存偏移量的欄位 (通常是 offsetlog.offset)

類型

字串

預設

offset

環境變數

AIRFLOW__ELASTICSEARCH__OFFSET_FIELD

write_stdout

版本 1.10.4 新增。

將任務日誌寫入 worker 的 stdout,而不是預設檔案

類型

字串

預設

False

環境變數

AIRFLOW__ELASTICSEARCH__WRITE_STDOUT

[elasticsearch_configs]

http_compress

版本 1.10.5 新增。

類型

字串

預設

False

環境變數

AIRFLOW__ELASTICSEARCH_CONFIGS__HTTP_COMPRESS

verify_certs

版本 1.10.5 新增。

類型

字串

預設

True

環境變數

AIRFLOW__ELASTICSEARCH_CONFIGS__VERIFY_CERTS

此條目是否有幫助?