Apache StreamPark 2.1.2 稳定版正式发布

近日 Apache StreamPark(Incubating)社区正式发布了 StreamPark 2.1.2 版本,在 2.1.2 版本中,支持了最新的 Flink 1.18,Flink Jar 类型的作业支持指定依赖,修复了诸多 Bug 和大量改进,稳定性和可用性进一步提升,建议所有用户升级到这个版本。

Github:https://github.com/apache/streampark

官 网:https://streampark.apache.org/download

欢迎使用、关注、star、fork

新特性解读

在StreamPark 中将 Flink 作业按照开发模式分为Custom Code和 Flink SQL两种类型,Custom Code 是需要用户编写代码编译成 JAR 类型的 Flink 作业,在以前的版本中该类型的作业不支持在 StreamPark 平台侧指定作业依赖,要求用户自己解决作业需要的依赖,通常做法是需要将这些依赖打包到项目里,生成一个 FatJar (uber-jar)。社区收到很多用户的反馈,大家普遍希望 StreamPark 平台侧针对 JAR 类型的作业能像 Flink SQL 作业一样,可以自由的指定作业的依赖。

同时,我们也看到 Apache Doris, Apache Paimon 等社区都开发了基于 Flink CDC 一键集成数据的组件(doris-flink-connector 和 paimon-action),该组件都提供了作业迁移的入口,但作业运行时依赖需要用户手动添加。

鉴于这些原因,在 StreamPark 2.1.2 里,特别针对 JAR 类型的作业支持了指定依赖的能力,使得用户部署这类作业更加简单。以下是两个示例,演示了如何利用该特性,来快速部署 Doris 和 Paimon 数据迁移类型的作业:

StreamPark让Doris数据集成更简单

StreamPark让Paimon数据集成更简单

作为流处理开发管理框架,StreamPark 在对 Apache Flink 的支持上,一如既往的走在前列。得益于 StreamPark 良好的架构设计,使得支持一个新版本的 Flink 非常容易,因此我们率先支持了Flink 1.18[1]。在使用上非常的简单,用户只需要添加一个 Flink 1.18 的环境即可,作业可以自由的选择 Flink 版本。

并且本次适配了更多发行版 Flink,如 CDH 版本的 Flink, 华为云,腾讯云 Flink 等。

支持 Flink 多版本

其他改进和更新

Release Note

本次 StreamPark 2.1.2 版本的 完整 Release Note 请访问: https://streampark.apache.org/download/release-note/2.1.2

感谢贡献者

StreamPark 开源社区的发展,离不开广大用户群体的积极反馈和宣传布道,更离不开贡献者们的无私贡献,感谢对此版本做出贡献的每一位贡献者。

特别感谢本次的 Release Manager@龚中强[2],中强在发版过程中积极的跟踪问题和推进进度,完美胜任了此次发版工作。感谢中强为社区做出的贡献,也欢迎其他PPMC member 和Committer 在后续的发版中担任 Release Manager,帮助社区更快捷、高质量地完成发版。

什么是 StreamPark

StreamPark 是一个流处理应用程序开发管理框架。初衷是让流处理更简单,旨在轻松构建和管理流处理应用程序,提供使用 Apache Flink 和 Apache Spark 编写流处理应用程序的开发框架。同时 StreamPark 提供了一个流处理应用管理平台,核心能力包括但不限于应用开发、调试、交互查询、部署、运维、实时数仓等,最初开源时项目名称叫 StreamX ,于 2022 年 8 月更名为 StreamPark,随后通过投票正式成为 Apache 开源软件基金会的孵化项目。目前已有腾讯、百度、联通、天翼云、自如、马蜂窝、长安汽车等数百家公司生产环境使用。

﫵加入我们

StreamPark 社区一直以来都以用心做好一个项目为原则,高度关注项目质量,努力建设发展社区。加入 Apache 孵化器以来,认真学习和遵循「The Apache Way」,我们将秉承更加兼容并包的心态,迎接更多的机遇与挑战。诚挚欢迎更多的贡献者参与到社区建设中来,和我们一道携手共建。

 项目地址:https://github.com/apache/streampark

類 提交问题和建议:https://github.com/apache/streampark/issues

論 贡献代码:https://github.com/apache/streampark/pulls

Proposal:https://cwiki.apache.org/confluence/display/INCUBATOR/StreamPark+Proposal

 订阅社区开发邮件列表:dev@streampark.apache.org[3]

‍♀️社区沟通:

参考资料

[1]https://nightlies.apache.org/flink/flink-docs-release-1.18/release-notes/flink-1.18

[2]https://github.com/GOODBOY008

[3]mailto:dev@streampark.apache.org

祝大家安装、升级顺利~~