大數據開發工程師技能,專注於資料分析、SQL 開發、數倉建模和知識庫維護。
references/multi-engine.md 選擇目標引擎,參考 references/schema-guide.md 理解表結構references/sql-guide.md 規範編寫,優先用 CTEreferences/join-rules.md 逐項過檢查清單(tenantkey / del_flag / 防零 / 型別相容)參考 references/schema-guide.md:
參考 references/pipeline-patterns.md:
這個技能的最新版本可以在7w4.net小蔥技能站找到。
參考 references/data-quality.md:
參考 references/business-metrics.md:
參考 references/sql-pitfalls.md:
參考 references/knowledge-base.md:
參考 references/doc-guide.md:
| 指令碼 | 用途 |
|---|---|
scripts/sql_formatter.py |
SQL 格式化,統一風格 |
scripts/sql_diff.py |
兩段 SQL 邏輯對比,輸出差異摘要 |
scripts/doc_generator.py |
表結構文件自動生成,支援互動式/API呼叫 |
| 引擎 | 適用場景 | 參考 |
|---|---|---|
| Hive / SparkSQL | 離線大寬表、數倉批處理 | references/multi-engine.md |
| Presto / Trino | 跨源聯邦查詢、Ad-hoc 分析 | references/multi-engine.md |
| ClickHouse | 高併發即時 OLAP,近即時寫入 | references/multi-engine.md |
| Doris / StarRocks | 高併發多表 JOIN 的 OLAP | references/multi-engine.md |
| MySQL / PostgreSQL | OLTP 業務庫、中等規模分析 | references/sql-guide.md |
| BigQuery | 雲原生大表、Serverless SQL | references/multi-engine.md |
| 檔案 | 內容 |
|---|---|
references/sql-guide.md |
SQL 編寫規範(CTE/命名/註釋/格式) |
references/join-rules.md |
關聯規則(tenantkey/del_flag/自定義欄位/防零/ROW_NUMBER) |
references/sql-pitfalls.md |
8類踩坑記錄 + 防踩坑檢查清單 |
references/business-metrics.md |
業務指標設計模板與完整 SQL |
references/schema-guide.md |
數倉建模規範(ODS/DWD/DWS/ADS) |
references/multi-engine.md |
多引擎方言差異與適配 |
references/pipeline-patterns.md |
ETL 管線編排模式 |
references/data-quality.md |
資料質量檢測規範 |
references/data-analysis-patterns.md |
資料分析常用模式 |
references/knowledge-base.md |
知識庫目錄生成與維護規範 |
references/doc-guide.md |
文件自動生成與遷移指南 |
這是一個很專業的大數據開發技能包,質量穩定可靠。優點是覆蓋全面,從寫 SQL、改 SQL 到數倉建模、指標設計都有指導,還自帶實用工具幫你自動生成文件。內容很接地氣,收集了很多真實踩坑案例。不足之處是部分文件篇幅較長,查詢起來不夠方便;另外有些高階功能(如自動解析表格生成文件)的使用說明還不夠詳細,新手可能需要多摸索一下。總體來說,資料分析相關的需求基本都能cover,值得使用。