Apache Kyuubi ( Incubating ) 是一个 Thrift JDBC / ODBC 服务,目前对接 Apache Spark / Flink / Hive / Doris 计算引擎以及 Trino ( Presto ) 查询引擎,支持多租户和分布式等特性,可以满足企业内诸如 ETL、BI 报表等多种大数据场景的应用,为企业级数据湖探索提供标准化的接口,赋予用户调动整个数据湖生态的数据的能力,使得用户能够像处理普通数据一样处理大数据。Kyuubi 围绕各类主流计算引擎打造一款面向 Serverless SQL on Lakehouse 的服务,已在国内外百余家企业落地应用,2021年度入选中国科协“科创中国”开源创新榜单。
2022年10月22日,14:00 - 17:20,DataFun 联合 Apache Kyuubi 社区将举办:"DataFunTalk技术交流会:Apache Kyuubi专场分享",届时将邀请来自 bilibili、网易数帆、爱奇艺、广发证券、移动云等公司的6位技术专家,就 Kyuubi 的最新研究进展与实践探索进行深度分享,欢迎大家届时收看~
▌分享日程
▌分享嘉宾&议题介绍
出品人
蒋晓峰 bilibili 基础架构部 资深开发工程师
个人介绍:bilibili 资深开发工程师,主要负责 bilibili 实时平台数据湖流批一体方向,Apache Kyuubi (Incubating) Commiter & Apache RocketMQ Committer。
分享嘉宾
贾冬冬 bilibili 基础架构部 资深开发工程师
个人介绍:bilibili 资深开发工程师,主要担任 Spark Core、Spark SQL 、Remote Shuffle Service、Kyuubi 等相关研发工作。
演讲主题:Apache Kyuubi 1.6.0 新特性和在 bilibili 的最佳实践
演讲提纲:
1. Apache Kyuubi 1.6.0 新特性
2. Apache Kyuubi 在 bilibili 的最佳实践
听众收益:
1. 熟悉 Apache Kyuubi 1.6.0 新特性
2. 了解 Apache Kyuubi 在 bilibili 的生产实践
3. Apache Kyuubi 在 bilibili 稳定性建设
4. 如何发现、识别危险 Join、复杂的 SQL、查询量大的 SQL
5. Apache Kyuubi 的几种模式的运用场景
分享嘉宾
王震 爱奇艺 智能平台部 高级研发工程师
个人介绍:爱奇艺高级研发工程师,主要负责大数据计算平台的开发和维护工作,Apache Kyuubi (Incubating) Commiter & Apache Linkis (Incubating) PPMC。
演讲主题:Apache Kyuubi 在爱奇艺的实践
演讲提纲:
1. 爱奇艺 Spark Thrift Server 服务选型
2. Spark SQL 服务平台化适配
3. Spark SQL 引擎优化
听众收益:
1. 如何基于 Apache Kyuubi (Incubating) 打造统一 OLAP 和离线处理引擎?
2. 分享爱奇艺 Spark SQL 平台化适配相关工作。
3. 如何彻底解决 Spark SQL 小文件问题?
分享嘉宾
梁博文 广发证券 信息技术部 大数据平台架构工程师
个人介绍:广发证券大数据平台架构工程师,目前负责参与设计和构建新一代大数据平台和实时流式作业平台等数据中台架构建设,参与 Apache Kyuubi 代码贡献。
演讲主题:广发证券:Apache Kyuubi 构建“提效可控”金融级大数据赋能层
演讲提纲:
广发证券:Apache Kyuubi “提效可控”金融级大数据赋能层实践之大数据服务演进与权限管控探索
1. 大数据赋能层与 Kyuubi 的目标、架构及效益
2. Kyuubi 大数据赋能层的落地策略与场景构建
3. 一体化数据权限管控总体思路
4. Kyuubi Authz 鉴权 Spark 插件介绍 及 对接 Ranger 2.3 新特性
听众收益:
1. 对已有的 Hive 数仓如何通过 Kyuubi 对数据服务系赋能?
2. Kyuubi 如何在构建分阶段的落地策略?
3. 一体化大数据赋能层如何实现细粒度数据权控?
分享嘉宾
洪冬冬 中国移动云能力中心 PaaS产品部 软件开发工程师
个人介绍:中国移动云能力中心软件工程师,Apache kyuubi PPMC, Committer. 2018年加入移动云,负责移动云Lakehouse的开发工作。
演讲主题:移动云 Lakehouse 基于Apache Kyuubi 的计算架构演进
演讲提纲:
1. Kyuubi多引擎使用
2. Kyuubi On kubernetes 实践
3. Kyuubi 在移动云 Lakehouse 中的架构演进
听众收益:
1. beeline + kyuubi 实现多引擎的灵活切换
2. 如何在容器化场景下构建 Serverless SQL 引擎
分享嘉宾
赵敏 网易数帆 服务端开发工程师
个人介绍:赵敏,网易数帆服务端开发工程师,Apache Kyuubi (incubator) Committer。2019年硕士毕业于四川大学,目前负责数据集成产品的研发,业余 Kyuubi 贡献者。
演讲主题:Apache Kyuubi 新引擎接入实践 - 支持Apache Doris
演讲提纲:
1. Kyuubi 基本介绍
2. Kyuubi 的引擎层设计
3. Kyuubi 接入一个新引擎需要做的工作
4. Kyuubi 如何集成 Doris
听众收益:
1. 了解 Kyuubi 的引擎层设计;
2. 了解 Kyuubi 如何接入一个新的引擎;
3. 了解 Kyuubi 与 Doris 的集成方式;