PiFlow是一个基于分布式计算框架Spark开发的大数据流水线系统。该系统将数据的采集、清洗、计算、存储等各个环节封装成组件,以所见即所得方式进行流水线配置。简单易用,功能强大。本次版本更新如下特性:
- 增加可视化分析功能,包括线性图、柱状图、饼状图、散点图;
- 增加可编程特性,无缝衔接上下游组件,按需在线开发和调试;
- 增加多语言特性,支持Scala、Python、Shell等多种语言的编程;
- 增加Spark依赖jar包管理
Gitee地址: https://gitee.com/opensci/piflow
GitHub地址: https://github.com/cas-bigdatalab/piflow
1)可视化分析
2)可编程+多语言
3)Spark jar包管理