白杨商业智能工作室
#技术分享#Power BI#最佳实践

ETL将死?微软高管独家回应

· 白杨BI工作室

“ETL是不是要死了?” 这是很多数据工程师最近都在问的问题。尤其当你看到微软在 Fabric 上大力推 AI、推低代码,甚至把 Data Factory 和 Airflow 都整合进去的时候,难免会焦虑:我们熟悉的 SSIS、ADF 开发,还有几年活路?

ETL将死?微软高管独家回应

“ETL是不是要死了?”

这是很多数据工程师最近都在问的问题。尤其当你看到微软在 Fabric 上大力推 AI、推低代码,甚至把 Data Factory 和 Airflow 都整合进去的时候,难免会焦虑:我们熟悉的 SSIS、ADF 开发,还有几年活路?

带着这些疑问,Reza 在 Fabric Insider 第 9 期节目中,和微软数据集成产品管理总监 Wee Hyong Tok 聊了整整一期。没有官话,全是干货。

我帮你把重点划出来了。

微软眼中的数据集成:三大板块

Wee Hyong 首先澄清了一个关键认知:在 Fabric 里,数据集成不是单一产品,而是分三大板块:

  • 数据管道(Data Pipeline):就是你在 ADF 里熟悉的那套,现在叫 Data Factory,支持 150+ 连接器,还能跑 Airflow 工作流
  • 数据流(Data Flow):包括 Gen2 和 Gen3,主打低代码转换,适合业务分析师
  • 数据迁移(Migration):从 SSIS、ADF、Synapse 迁到 Fabric 的完整路径

这三块不是互相替代,而是互补。你完全可以根据场景混着用。

迁移路径:别慌,微软给了你“脚手架”

很多团队最头疼的就是:现有 SSIS 包怎么办?ADF 管道怎么办?

Wee Hyong 透露,微软正在做一套“迁移评估工具”,能自动扫描你现有的 ADF/Synapse 管道,然后给出迁移建议。虽然还没完全公开,但方向很明确:

  • SSIS → Fabric:用 Data Factory 的 SSIS 运行时,可以无缝提升
  • ADF → Fabric:管道定义基本兼容,复制活动直接用
  • Synapse → Fabric:Spark 作业和 SQL 脚本都能平移

关键是,微软不会强迫你“一把梭”。你可以先并行跑,验证后再切换。

Airflow 和 DBT:不是敌人,是队友

社区里有人担心:Fabric 支持 Airflow,是不是意味着微软要抛弃自己的调度器?

Wee Hyong 的回答很务实:“我们支持 Airflow,是因为客户需要。很多企业已经在用 Airflow 管理跨平台工作流,Fabric 要做的不是取代,而是融入。”

同样,DBT 在 Fabric 里也能跑——通过 Notebook 或 Spark 作业。微软的态度是:开放生态,不锁死。

SCD Type 2 自动化:终于不用手写了

做数仓的人都知道,SCD Type 2(缓慢渐变维)是最烦人的活儿之一。以前要么写一大段 SQL,要么用第三方工具。

现在 Fabric Data Factory 直接内置了 SCD Type 2 转换,你只需要配置几个参数,剩下的自动生成。这对国内大量用 SQL Server 做数仓的团队来说,绝对是福音。

AI 会干掉 ETL 开发吗?

这是整场访谈最刺激的部分。

Wee Hyong 的观点很直接:“AI 不会消灭 ETL 开发,但会消灭重复性的 ETL 开发。”

他提到,Fabric 的 Copilot 已经在做这些事情:

  • 自动生成管道代码
  • 智能推荐数据转换逻辑
  • 用自然语言描述需求,直接出数据流

未来,ETL 开发者的角色会从“写代码”变成“审代码”和“设计架构”。你的核心竞争力不再是语法,而是业务理解。

国内用户怎么看?

说实话,微软在 Fabric 上的这个布局,对国内用户还是挺友好的。

一方面,Fabric 的定价是统一的,不像以前 ADF 按操作次数计费,预算更容易控制。另一方面,Fabric 支持国内区域部署,数据合规问题也能解决。

但要注意:目前 Fabric 的很多新功能(比如 SCD Type 2、MCP Server)还是预览版,生产环境慎用。建议先在非核心项目上试点。

最后一句

ETL 没死,但“手写 ETL”确实在走向终结。与其焦虑,不如趁早拥抱变化——把时间花在理解业务和设计数据架构上,这才是未来十年最值钱的能力。

想看完整访谈?去 YouTube 搜“Fabric Insider Ep. 9”,或者去 RADACAD 博客看文字版。

相关文章

Power BI 和 Microsoft Fabric 的 Databricks ADBC 连接器正式发布

Power BI 和 Microsoft Fabric 的 Databricks ADBC 连接器正式发布

微软正在把 Power Query 连接器的底层驱动从 ODBC 迁到 ADBC,这次轮到 Databricks。适用于 Power BI 和 Microsoft Fabric 的 Databricks ADBC 连接器已正式 GA(Generally Available,正式发布)。

#技术分享#Power BI#Fabric#语义模型
Power BI 2026 年 10 月功能摘要

Power BI 2026 年 10 月功能摘要

距离上一次九月更新才过去没多久,而且当时还赶上了欧洲 Microsoft Fabric + SQL 社区大会,更新量已经不小。

#技术分享#Power BI#Fabric#Copilot
Microsoft Data Factory 的 Amazon Redshift V2 连接器

Microsoft Data Factory 的 Amazon Redshift V2 连接器

微软正在对 Amazon Redshift 连接器进行重要升级,底层驱动将从旧版切换至全新的 Amazon Redshift ODBC 2.x。

#技术分享#Power BI#Fabric
F2容量跑通完整报表方案

F2容量跑通完整报表方案

很多团队一提到 Microsoft Fabric,第一反应就是:F2 这种小容量能干嘛? 跑个 Demo 都嫌卡,更别说承载一套完整的报表解决方案了。

#技术分享#Power BI#最佳实践
近似去重反而更慢?

近似去重反而更慢?

做 DAX 性能优化的人,看到 `APPROXIMATEDISTINCTCOUNT` 这个新函数,第一反应多半是:终于有办法治 `DISTINCTCOUNT` 这个性能杀手了。 但最近一轮实测下来,结论有点打脸——在某些场景下,近似去重反而比精确去重更慢。

#Power BI#最佳实践
近似去重计数:快但准吗?

近似去重计数:快但准吗?

9 月 Power BI 更新后,Import 模式和 Direct Lake 模式的语义模型开始支持 `ApproximateDistinctCount()` 这个 DAX 函数。 我在一个 14 亿行的 Direct Lake 语义模型上做了测试,数据来自纽约出租车样本。

#Power BI#最佳实践
有问题?加企业微信 1 对 1 交流 👇
➕ 添加企业微信
备注「白杨」优先通过 · 数据洞察与智能决策
企业微信
企业微信
备注「白杨」优先通过