Flink China社区线下 Meetup·成都站-实时计算,大有可为视频回放

时间:09-01 14:00 - 17:00 主办方:
7811 人观看 收藏
分享
大会交流群
大会议程
嘉宾介绍
资料下载

做大数据绝对躲不过的一个热门话题就是实时流计算,而提到实时流计算,就是Spark 和 Flink两面大旗。

 

要知道,在此之前,很多机构开发自己的数据处理系统时,往往会面临一系列的问题:开发和运行效率低下、运维复杂、数据质量难以保证……

 

最重要的是!还有常陡峭的学习曲线和庞大体量的技术体系!

 

比如

2018 大数据和 AI 全景(来源:http://mattturck.com/bigdata2018/)

 

 

 学习Flink,解放技术人

 

这也不难理解为什么Spark 和 Flink一出来就能被快速接受与追捧。

 

事实上,之前为大家放送的2场Flink主题活动,就有技术人吐槽:怎么就没有我在的城市的!

 

那么,成都站,“高矮你要切那儿嘛”~

 

9月1日13:00-17:30,由Flink China主办,【实时计算,大有可为成都站线下主题活动将在高新区天府五街 200 号菁蓉国际广场4号楼B座10楼优贝空间举行!

在此之前,和大家简单地对比一下2位种子选手~

 

除了部分技术人对两者都爱,也有一些技术人属于“唯粉”。好比甜咸两党,Spark 和 Flink也各有自己的追捧者。

 

 

 1号选手Spark 

 

14年出道,如日中天

优势:高性能、支持各种常见性场景。除了批处理之外,Spark 还支持实时数据流处理、交互式查询和机器学习、图计算等。

劣势:数据流的实时处理是相对较弱的一环。

 

数据模型:数据模型是弹性分布式数据集 RDD,靠血缘(lineage) 等方式来保证可恢复性。很多时候 RDD 可以实现为分布式共享内存或者完全虚拟化(即有的中间结果 RDD 当下游处理完全在本地时可以直接优化省略掉),省掉很多不必要的 I/O。

 

总结:基于内存的更快的批处理,用足够快的批处理来实现各种场景。属于批处理为强项的综合型选手。

 

 

 

 2号选手Flink 

 

16年出道,厚积薄发

优势:亮点突出,更优的流处理引擎。底层 API 可以支持只用 Flink 集群实现一些数据驱动的分布式服务。在引擎中引入了托管状态并提供了 API 接口。比如对 watermark、window、trigger 的各种支持方面更领先一些。

 

数据模型:数据流及事件(Event)的序列。数据流作为数据的基本模型可能没有表或者数据块直观熟悉,但是可以证明是完全等效的。流可以是无边界的无限流,即一般意义上的流处理。也可以是有边界的有限流,这样就是批处理。

 

总结:通用的能够支持超大规模数据处理,支持各种处理类型的计算引擎,在复杂的流计算处理上更具优势,特色型选手。

 

 

 

相比而言,Spark和Flink都有自己的应用场景和技术定位,但是随着目前市场“越来越快”的趋势, Flink的实时流关联分析势必是大趋势。

 

 

Flink:更快,更强,更牛气!

 

成都站,你可要来的呀

 

成都站出品人: 阿里巴巴高级产品专家陈守元

演讲嘉宾: 阿里巴巴高级开发工程师伍翀,滴滴出行研发工程师王中强,北京汇通天下G7系统架构师张皓

 

 

陈守元(花名:巴真)

阿里巴巴高级产品专家

 

阿里巴巴实时计算团队产品负责人,2010年毕业即加入阿里集团参与淘宝数据平台建设,近10年的大数据从业经验,开源项目Alibaba DataX发起人,当前负责阿里实时计算产品Flink的规划与设计,致力于推动Flink成为下一代大数据处理标准。

 

 

伍翀(花名:云邪)

Apache Flink Committer 阿里巴巴高级开发工程师

 

北京理工大学硕士毕业,2015 年加入阿里巴巴,参与阿里巴巴实时计算引擎 JStorm 的开发与设计。2016 年开始从事阿里新一代实时计算引擎 Blink SQL 的开发与优化,并活跃于 Flink 社区,于2017年2月成为ApacheFlink Committer,是国内早期 Flink Committer 之一。目前主要专注于分布式处理和实时计算,热爱开源,热爱分享。

 

 

 

张皓

北京汇通天下G7系统架构师

 

现任北京汇通天下G7系统架构师,同时也是北京汇通天下DSP中心平台技术部负责人,负责公司Paas平台和BI平台。加入G7前,先后在新蛋中国,创业公司工作多年。关注领域:分布式,平台化,数据化驱动和运营。

 

 

邓小勇

阿里巴巴高级技术专家,流计算平台负责人

 

曾先后在阿里巴巴搜索、实时数据同步、离线数据同步等岗位工作,并从无到有搭建阿里流计算平台,服务阿里集团内部、公共云和专有云等各类客户。

 

 

 

活动流程

 

14:00-14:10 巴真 出品人开场发言

14:10-14:50 阿里 云邪《Flink技术介绍和新功能展望》

14:50-15:30 北京汇通天下 张皓 《Flink 在车联网领域的实践》

15:30-15:40 茶歇

15:40-16:20 阿里 巴真《Flink: 下一代大数据处理引擎》

16:20-17:00 阿里 邓小勇 《基于Flink的实时计算平台》

 

扛起Flink大旗,跑在流处理前列。哪怕不是做大数据的,了解一下,坚决不做技术圈的“落伍者”!

 

 

扫码即可加入Flink China社区钉钉群

 

 

 

注:部分内容整理于王海涛的《Spark比拼Flink:下一代大数据计算引擎之争,谁主沉浮?》

 

 

 系列活动 

 

本次活动场地:由“优贝空间”独家赞助

注:以上排名不分先后

 

  • Flink China

经过Apache Flink官方授权的中文社区旨在联合国内的Flink大 V,向国内宣传和普及Flink相关的技术,输出技术,博文、译作、资讯等内容,推动国内大数据技术发展的开源社区。

Flink China社区