1
我在XCOM中有一个巨大的json文件,稍后我不需要一旦dag执行完成,但我仍然可以在UI中看到Xcom对象数据,一旦DAG运行完成后,是否有任何方式以编程方式删除XCOM?如何删除XCOM对象,一旦DAG在Airflow中完成其运行
谢谢
我在XCOM中有一个巨大的json文件,稍后我不需要一旦dag执行完成,但我仍然可以在UI中看到Xcom对象数据,一旦DAG运行完成后,是否有任何方式以编程方式删除XCOM?如何删除XCOM对象,一旦DAG在Airflow中完成其运行
谢谢
您必须添加一个任务,取决于你metadatadb(sqllite和PostgreSQL,MySQL的..)即删除XCOM一旦DAG运行结束。
delete_xcom_task = PostgresOperator(
task_id='delete-xcom-task',
postgres_conn_id='airflow_db',
sql="delete from xcom where dag_id=dag.dag_id and
task_id='your_task_id' and execution_date={{ ds }}",
dag=dag)
您可以在运行dag之前验证您的查询。
数据分析 - >条件查询 - > airflow_db - >查询 - >运行!