数仓分层
ODS:Operation Data Store
原始数据
DWD(数据清洗/DWI ) data warehouse detail
数据明细详情,去除空值,脏数据,超过极限范围的明细解析
具体表
DWS(宽表-用户行为,轻度聚合) data warehouse service ----->有多少个宽表?多少个字段
服务层--留存-转化-GMV-复购率-日活 、点赞、评论、收藏;
轻度聚合对DWD
ADS(APP/DAL/DF)-出报表结果 Application Data Store
做分析处理同步到RDS数据库里边
数据集市:狭义ADS层; 广义上指DWD DWS ADS 从hadoop同步到RDS的数据
1. ODS层
原始数据层,存放原始数据,直接加载原始日志、数据,数据保持原貌不做处理。
eg:创建启动日志表ods_start_log
2. DWD层数据解析
对ODS层数据进行清洗(去除空值,脏数据,超过极限范围的数据,行式存储改为列存储,改压缩格式)
DWD解析过程,临时过程
eg:
- 两个临时表: dwd_base_event_log、dwd_base_start_log
- 建多张表外部表: 以日期分区,dwd_base_event_log在这张表中根据event_name将event_json中的字段通过get_json_object函数一个个解析开来;
DWD层创建基础明细表
明细表用于存储ODS层原始表转换过来的明细数据。
3.DWS层--(用户行为宽表层)
目标:统计当日、当周、当月活动的每个设备明细
eg:建表dws_uv_detail_day
4.ADS层
目标:当日、当周、当月活跃设备数 使用 day_count表 join wk_count join mn_count , 把3张表连接一起
eg:建表ads_uv_count表