01 / BACKGROUND
题目背景
离线数仓任务上千个,改一个字段前不知道会影响哪些下游任务和报表,只能逐个问负责人。
放在大数据专业的毕业设计里,这个题目属于“数据工程”方向。采集调度平台任务与脚本,用 AST 解析出源表、目标表与字段映射,构建表级与字段级血缘图,支持改字段前的影响分析和循环依赖、孤儿任务排查。
它的价值不在于功能数量,而在于能否把一个问题定义清楚:需要什么数据或条件、用什么方法处理、结果怎样验证。开题前先把这三件事写成一句话。
02 / DELIVERABLES
要做出的成果
最终应交付:解析程序、血缘图、影响分析接口、论文。其中可演示、可复核的部分建议按下面四项准备:
- 任务采集:说明其输入、处理与输出。
- SQL 切分:保留关键过程的数据或记录。
- AST 解析:覆盖正常情况与边界条件。
- 表级血缘:整理可复核的结果与说明。
- 字段级血缘:说明其输入、处理与输出。
- 图构建:保留关键过程的数据或记录。
- 环检测:覆盖正常情况与边界条件。
- 影响分析:整理可复核的结果与说明。
- 孤儿扫描:说明其输入、处理与输出。
- 血缘页面:保留关键过程的数据或记录。
答辩前至少准备一套离线可用的演示材料,避免现场网络、设备或账号问题影响展示。
03 / ROUTE
技术路线与模块
技术栈以 Python、sqlglot、Neo4j、MySQL、Airflow、ECharts 为主。建议按“条件确认 → 方案设计 → 模块实现 → 测试整理”四步推进:
-
STEP 01
条件与范围
核对数据、设备、软件与时间,确认“离线数仓任务上千个,改一个字段前不知道会影响哪些下游任务和报表,只能逐个问负责人”这一场景中哪些部分能在现有条件下完成。
-
STEP 02
方案与模块
按 任务采集、SQL 切分、AST 解析、表级血缘、字段级血缘、图构建、环检测、影响分析、孤儿扫描、血缘页面 划分模块,画一张输入、处理、输出的流程图,并标出模块之间的接口。
-
STEP 03
实现与联调
先做最小可运行版本,再逐模块补全。每完成一个模块,留一组可复现的测试数据或截图。
-
STEP 04
测试与整理
围绕准确率、响应时间、误差范围或案例结论设计测试,形成结果表,再写论文中的实验与分析章节。
04 / REVIEW
考核要点
- 模块完整:任务采集、SQL 切分、AST 解析、表级血缘、字段级血缘、图构建、环检测、影响分析、孤儿扫描、血缘页面 都有对应实现或分析,不能只做界面或只写文档。
- 指标可复核:数据来源、参数设置与测试环境记录完整,他人能按说明复现。
- 创新点可说明:把调度依赖与数据依赖分开建模,字段级映射按作用域展开别名,解析失败的语句单独落表而不是用表名包含关系猜边。 要能对应到具体设计或实验差异,而不是一句口号。
- 口径一致:论文、图表、演示与答辩陈述使用同一组数据和结论。
05 / FAQ
常见问题
Q.01做《基于SQL日志解析的离线数仓表级血缘构建》需要什么基础?
主要会用到 Python、sqlglot、Neo4j、MySQL、Airflow、ECharts。建议先完成相关课程实验,至少能独立搭起运行环境、读懂一个同类项目的代码或方案,再开始做自己的模块。
Q.02数据、设备或资料从哪里来?
题目场景是:离线数仓任务上千个,改一个字段前不知道会影响哪些下游任务和报表,只能逐个问负责人。开题前先确认数据、设备与文献能否拿到;如果条件不足,优先缩小范围或换用公开数据集、公开年报与可借用的实验室设备。
Q.03做到什么程度算完成?
至少交付解析程序、血缘图、影响分析接口、论文。任务采集、SQL 切分、AST 解析、表级血缘、字段级血缘、图构建、环检测、影响分析、孤儿扫描、血缘页面 四个部分都要有可演示或可复核的结果,并能说明“把调度依赖与数据依赖分开建模,字段级映射按作用域展开别名,解析失败的语句单独落表而不是用表名包含关系猜边。”带来的具体差异。