电脑桌面
添加蜗牛文库到电脑桌面
安装后可以在桌面快捷访问

3 - Flink高级API开发.docxVIP免费

3 - Flink高级API开发.docx_第1页
3 - Flink高级API开发.docx_第2页
3 - Flink高级API开发.docx_第3页
第三章Flink高级API开发课程目标掌握Flink的Time分类及各自作用掌握Flink的Window操作及原理掌握Flink的State操作及原理掌握Flink的Checkpoint操作及原理了解Flink的任务链1.Flink的Window操作Flink认为Batch是Streaming的一个特例,所以Flink底层引擎是一个流式引擎,在上面实现了流处理和批处理。而窗口(window)就是从Streaming到Batch的一个桥梁。Flink提供了非常完善的窗口机制。1.1为什么需要Window在流处理应用中,数据是连续不断的,有时我们需要做一些聚合类的处理,例如:在过去的1分钟内有多少用户点击了我们的网页。在这种情况下,我们必须定义一个窗口(window),用来收集最近1分钟内的数据,并对这个窗口内的数据进行计算。Windows是处理无限流的核心。Windows将流拆分为有限大小的“桶”,我们可以对其进行计算。1.2Flink窗口应用代码结构Flink的窗口算子为我们提供了方便易用的API,我们可以将数据流切分成一个个窗口,对窗口内的数据进行处理。本文将介绍如何在Flink上进行窗口的计算。一个Flink窗口应用的大致骨架结构如下所示:KeyedWindow//KeyedWindowstream.keyBy(...)<-按照一个Key进行分组.window(...)<-将数据流中的元素分配到相应的窗口中[.trigger(...)]<-指定触发器Trigger(可选)[.evictor(...)]<-指定清除器Evictor(可选).reduce/aggregate/process()<-窗口处理函数WindowFunctionNon-KeyedWindow//Non-KeyedWindowstream.windowAll(...)<-不分组,将数据流中的所有元素分配到相应的窗口中[.trigger(...)]<-指定触发器Trigger(可选)[.evictor(...)]<-指定清除器Evictor(可选).reduce/aggregate/process()<-窗口处理函数WindowFunction在上面,方括号([…])中的命令是可选的。这表明Flink允许您以多种不同的方式自定义窗口逻辑,使其最适合您的需求。首先:我们要决定是否对一个DataStream按照Key进行分组,这一步必须在窗口计算之前进行。经过keyBy的数据流将形成多组数据,下游算子的多个实例可以并行计算。windowAll不对数据流进行分组,所有数据将发送到下游算子单个实例上。决定是否分组之后,窗口的后续操作基本相同,经过windowAll的算子是不分组的窗口(Non-KeyedWindow),它们的原理和操作与KeyedWindow类似,唯一的区别在于所有数据将发送给下游的单个实例,或者说下游算子的并行度为1。1.3Window类型和概念Window可以分成两类:CountWindow:按照指定的数据条数生成一个Window,与时...

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
3、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。

碎片内容

蜗牛文库的最新文档

二年级数学下册其中检测卷二年级数学下册其中检测卷附答案#期中测试卷.pdf
10.00金币
0下载
二年级数学下册期末质检卷(苏教版)二年级数学下册期末质检卷(苏教版)#期末复习 #期末测试卷 #二年级数学 #二年级数学下册#关注我持续更新小学知识.pdf
10.00金币
0下载
二年级数学下册期末混合运算专项练习二年级数学下册期末混合运算专项练习#二年级#二年级数学下册#关注我持续更新小学知识 #知识分享 #家长收藏孩子受益.pdf
10.00金币
1下载
二年级数学下册年月日三类周期问题解题方法二年级数学下册年月日三类周期问题解题方法#二年级#二年级数学下册#知识分享 #关注我持续更新小学知识 #家长收藏孩子受益.pdf
10.00金币
0下载
二年级数学下册解决问题专项训练二年级数学下册解决问题专项训练#专项训练#解决问题#二年级#二年级数学下册#知识分享.pdf
10.00金币
1下载
二年级数学下册还原问题二年级数学下册还原问题#二年级#二年级数学#关注我持续更新小学知识 #知识分享 #家长收藏孩子受益.pdf
10.00金币
1下载
二年级数学下册第六单元考试卷家长打印出来给孩子测试测试争取拿到高分!#小学二年级试卷分享 #二年级第六单考试数学 #第六单考试#二年级数学下册.pdf
10.00金币
0下载
二年级数学下册必背顺口溜口诀汇总二年级数学下册必背顺口溜口诀汇总#二年级#二年级数学下册 #知识分享 #家长收藏孩子受益 #关注我持续更新小学知识.pdf
10.00金币
0下载
二年级数学下册《重点难点思维题》两大问题解决技巧和方法巧算星期几解决周期问题还原问题强化思维训练老师精心整理家长可以打印出来给孩子练习#家长收藏孩子受益 #学霸秘籍 #思维训练 #二年级 #知识点总结.pdf
10.00金币
0下载
二年级数学下册 必背公式大全寒假提前背一背开学更轻松#二年级 #二年级数学 #二年级数学下册 #寒假充电计划 #公式.pdf
10.00金币
0下载
蜗牛文库+ 关注
实名认证
内容提供者

提供各种专业文档内容

确认删除?
QQ
  • QQ点击这里给我发消息
微信客服
  • 微信客服
回到顶部