编排 TFX 管道

Apache Airflow

Apache Airflow 是一个平台,用于以编程方式编写、调度和监控工作流。TFX 使用 Airflow 将工作流编写为任务的有向无环图 (DAG)。Airflow 调度程序按照指定的依赖关系在工作程序数组上执行任务。丰富的命令行实用程序使对 DAG 执行复杂操作变得轻而易举。丰富的用户界面使您能够轻松地可视化生产中运行的管道,监控进度并在需要时排除故障。当工作流定义为代码时,它们变得更易于维护、版本控制、测试和协作。

有关安装和使用 Apache Airflow 的详细信息,请参阅 Apache Airflow