GoogleGoogle Professional Data Engineer (PDE) Certification
·CN
·更新于 21 Aug 2026
您需要一个高效、可维护的工作流来处理数百个表:文件不可预测地进入 Cloud Storage,Dataproc 进行转换并写入 BigQuery,然后运行特定于表的 BigQuery 转换(可能需要数小时)。哪种工作流设计最佳?
选择一个答案
点击一个选项来检查您的答案。
正确答案: 1. 在 Cloud Composer 中使用 Dataproc 和 BigQuery 运算符构建 Airflow DAG。2. 为每个表创建一个单独的 DAG。3. 使用 Cloud Storage 对象触发器启动一个 Cloud Function 来触发 DAG。.
为什么这是答案
正确答案提供了一个高效且可维护的解决方案。使用Cloud Composer(基于Airflow)可以编排复杂的、多步骤的工作流,利用Dataproc和BigQuery运算符处理数据转换。为每个表创建单独的DAG确保了模块化和可维护性,即使有数百个表也能有效管理。最关键的是,通过Cloud Storage对象触发器启动Cloud Function来触发DAG,实现了事件驱动的工作流,即文件一进入Cloud Storage就立即处理,而不是依赖固定的小时调度,这满足了“文件不可预测地进入”的需求。
其他选项的不足:
选项1和2:固定的小时调度无法满足文件不可预测进入的需求,可能导致数据处理延迟。
选项1和3:使用单个共享DAG来处理数百个表会使其变得臃肿、难以维护和调试,且难以并行处理不同表的任务。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 →
无需银行卡