gtxyzz

深入讲解拉链表，还怕面试官问？

gtxyzz 运维技术 2022-11-08 424浏览 0

一、拉链表介绍(百度百科)

拉链表：维护历史状态，以及最新状态数据的一种表，拉链表根据拉链粒度的不同，实际上相当于快照，只不过做了优化，去除了一部分不变的记录，通过拉链表可以很方便的还原出拉链时点的客户记录

二、拉链表场景

数据仓库的数据模型设计过程中，经常会遇到这样的需求：

表中的部分字段会被update，例如：用户的地址，产品的描述信息，品牌信息等等;

需要查看某一个时间点或者时间段的历史快照信息，例如：查看某一个产品在历史某一时间点的状态 查看某一个用户在过去某一段时间内，更新过几次等等

变化的比例和频率不是很大，例如：总共有1000万的会员，每天新增和发生变化的有10万左右

三、商品数据案例

需求：商品表：

列名 类型 说明
goods_id varchar(50) 商品编号
goods_status varchar(50) 商品状态（待审核、待售、在售、已删除）
createtime varchar(50) 商品创建日期
modifytime varchar(50) 商品修改日期

2019年12月20日的数据如下所示：

goods_id goods_status createtime modifytime
001 待审核 2019-12-20 2019-12-20
002 待售 2019-12-20 2019-12-20
003 在售 2019-12-20 2019-12-20
004 已删除 2019-12-20 2019-12-20

商品的状态，会随着时间推移而变化，我们需要将商品的所有变化的历史信息都保存下来。如何实现呢?

方案一: 快照每一天的数据到数仓(图解)

该方案为：

  • 每一天都保存一份全量，将所有数据同步到数仓中(我这里就使用MySQL操作的)
  • 很多记录都是重复保存，没有任何变化

12月20日(4条数据)

goods_id goods_status createtime modifytime
001 待审核 2019-12-18 2019-12-20
002 待售 2019-12-19 2019-12-20
003 在售 2019-12-20 2019-12-20
004 已删除 2019-12-15 2019-12-20

12月21日(10条数据)

goods_id goods_status createtime modifytime
以下为12月20日快照数据
001 待审核 2019-12-18 2019-12-20
002 待售 2019-12-19 2019-12-20
003 在售 2019-12-20 2019-12-20
004 已删除 2019-12-15 2019-12-20
以下为12月21日快照数据
001 待售（从待审核到待售） 2019-12-18 2019-12-21
002 待售 2019-12-19 2019-12-20
003 在售 2019-12-20 2019-12-20
004 已删除 2019-12-15 2019-12-20
005（新商品） 待审核 2019-12-21 2019-12-21
006（新商品） 待审核 2019-12-21 2019-12-21

12月22日(18条数据)

goods_id goods_status createtime modifytime
以下为12月20日快照数据
001 待审核 2019-12-18 2019-12-20
002 待售 2019-12-19 2019-12-20
003 在售 2019-12-20 2019-12-20
004 已删除 2019-12-15 2019-12-20
以下为12月21日快照数据
001 待售（从待审核到待售） 2019-12-18 2019-12-21
002 待售 2019-12-19 2019-12-20
003 在售 2019-12-20 2019-12-20
004 已删除 2019-12-15 2019-12-20
005 待审核 2019-12-21 2019-12-21
006 待审核 2019-12-21 2019-12-21
以下为12月22日快照数据
001 待售 2019-12-18 2019-12-21
002 待售 2019-12-19 2019-12-20
003 已删除（从在售到已删除） 2019-12-20 2019-12-22
004 待审核 2019-12-21 2019-12-21
005 待审核 2019-12-21 2019-12-21
006 已删除（从待审核到已删除） 2019-12-21 2019-12-22
007 待审核 2019-12-22 2019-12-22
008 待审核 2019-12-22 2019-12-22

方案一: MySQL到，MySQL数仓代码实现

MySQL初始化

1.在MySQL中zw库和商品表用于到原始数据层

--创建数据库
createdatabaseifnotexistszw;
--创建商品表
createtableifnotexists`zw`.`t_product`(
goods_idvarchar(50),--商品编号
goods_statusvarchar(50),--商品状态
createtimevarchar(50),--商品创建时间
modifytimevarchar(50)--商品修改时间
);

2.在MySQL中创建ods和dw层 模拟数仓

--ods创建商品表
createtableifnotexists`zw`.`ods_t_product`(
goods_idvarchar(50),--商品编号
goods_statusvarchar(50),--商品状态
createtimevarchar(50),--商品创建时间
modifytimevarchar(50),--商品修改时间
cdatvarchar(10)--模拟hive分区
)defaultcharacterset='utf8';;
--dw创建商品表
createtableifnotexists`zw`.`dw_t_product`(
goods_idvarchar(50),--商品编号
goods_statusvarchar(50),--商品状态
createtimevarchar(50),--商品创建时间
modifytimevarchar(50),--商品修改时间
cdatvarchar(10)--模拟hive分区
)defaultcharacterset='utf8';;

增量导入12月20号数据

1.原始数据导入12月20号数据(4条)

insertinto`zw`.`t_product`(goods_id,goods_status,createtime,modifytime)values
('001','待审核','2019-12-18','2019-12-20'),
('002','待售','2019-12-19','2019-12-20'),
('003','在售','2019-12-20','2019-12-20'),
('004','已删除','2019-12-15','2019-12-20');

注意：由于我这里使用的MySQL来模拟的数仓在这里偷个懒直接使用insert into的方式导入数据，在企业中可能会使用hive来做数仓使用kettle 或者sqoop或datax等来同步数据

#从原始数据层导入到ods层
insertintozw.ods_t_product
select*,'20191220'fromzw.t_product;
#从ods同步到dw层
insertintozw.dw_t_product
select*fromzw.ods_t_productwherecdat='20191220';

增量导入12月21数据

1.原始数据层导入12月21日数据(6条数据)

UPDATE`zw`.`t_product`SETgoods_status='待售',modifytime='2019-12-21'WHEREgoods_id='001';
INSERTINTO`zw`.`t_product`(goods_id,goods_status,createtime,modifytime)VALUES
('005','待审核','2019-12-21','2019-12-21'),
('006','待审核','2019-12-21','2019-12-21');

2.将数据导入到ods层与dw层

#从原始数据层导入到ods层
insertintozw.ods_t_product
select*,'20191221'fromzw.t_product;
#从ods同步到dw层
insertintozw.dw_t_product
select*fromzw.ods_t_productwherecdat='20191221';

3.查看dw层的运行结果

select*fromzw.dw_t_productwherecdat='20191221';

增量导入12月22日数据

1.原始数据层导入12月22日数据（6条数据）

UPDATE`zw`.`t_product`SETgoods_status='已删除',modifytime='2019-12-22'WHEREgoods_id='003';
UPDATE`zw`.`t_product`SETgoods_status='已删除',modifytime='2019-12-22'WHEREgoods_id='006';
INSERTINTO`zw`.`t_product`(goods_id,goods_status,createtime,modifytime)VALUES
('007','待审核','2019-12-22','2019-12-22'),
('008','待审核','2019-12-22','2019-12-22');

2.将数据导入到ods层与dw层

#从原始数据层导入到ods层
insertintozw.ods_t_product
select*,'20191222'fromzw.t_product;
#从ods同步到dw层
insertintozw.dw_t_productpeizhiwenjian
select*fromzw.ods_t_productwherecdat='20191222';

3.查看dw层的运行结果

select*fromzw.dw_t_productwherecdat='20191222';

从上述案例，可以看到：

表每天保留一份全量，每次全量中会保存很多不变的信息，如果数据量很大的话，对存储是极大的浪费

可以讲表设计为拉链表，既能满足反应数据的历史状态，又可以最大限度地节省存储空间。

方案二: 使用拉链表保存历史快照(思路/图解)

  • 拉链表不存储冗余的数据，只有某行的数据发生变化，才需要保存下来，相比每次全量同步会节省存储空间
  • 能够查询到历史快照
  • 额外的增加了两列(dw_start_date、dw_end_date)，为数据行的生命周期

12月20日商品拉链表的数据：

goods_id goods_status createtime modifytime dw_start_date dw_end_date
001 待审核 2019-12-18 2019-12-20 2019-12-20 9999-12-31
002 待售 2019-12-19 2019-12-20 2019-12-20 9999-12-31
003 在售 2019-12-20 2019-12-20 2019-12-20 9999-12-31
004 已删除 2019-12-15 2019-12-20 2019-12-20 9999-12-31

12月20日的数据是全新的数据导入到dw表

  • dw_start_date表示某一条数据的生命周期起始时间，即数据从该时间开始有效(即生效日期)
  • dw_end_date表示某一条数据的生命周期结束时间，即数据到这一天(不包含)(即失效日期)
  • dw_end_date为9999-12-31，表示当前这条数据是最新的数据，数据到9999-12-31才过期

12月21日商品拉链表的数据

goods_id goods_status createtime modifytime dw_start_date dw_end_date
001 待审核 2019-12-18 2019-12-20 2019-12-20 2019-12-21
002 待售 2019-12-19 2019-12-20 2019-12-20 9999-12-31
003 在售 2019-12-20 2019-12-20 2019-12-20 9999-12-31
004 已删除 2019-12-15 2019-12-20 2019-12-20 9999-12-31
001（变） 待售 2019-12-18 2019-12-21 2019-12-21 9999-12-31
005（新） 待审核 2019-12-21 2019-12-21 2019-12-21 9999-12-31

12月21日商品拉链表的数据

  • 拉链表中没有存储冗余的数据，(只要数据没有变化，无需同步)
  • 001编号的商品数据的状态发生了变化(从待审核 → 待售)，需要将原有的dw_end_date从9999-12-31变为2019-12-21，表示待审核状态，在2019/12/20(包含) – 2019/12/21(不包含)有效
  • 001编号新的状态重新保存了一条记录，dw_start_date为2019/12/21，dw_end_date为9999/12/31
  • 新数据005、006、dw_start_date为2019/12/21，dw_end_date为9999/12/31

12月22日商品拉链表的数据

goods_id goods_status createtime modifytime dw_start_date dw_end_date
001 待审核 2019-12-18 2019-12-20 2019-12-20 2019-12-21
002 待售 2019-12-19 2019-12-20 2019-12-20 9999-12-31
003 在售 2019-12-20 2019-12-20 2019-12-20 2019-12-22
004 已删除 2019-12-15 2019-12-20 2019-12-20 9999-12-31
001 待售 2019-12-18 2019-12-21 2019-12-21 9999-12-31
005 待审核 2019-12-21 2019-12-21 2019-12-21 9999-12-31
006 待审核 2019-12-21 2019-12-21 2019-12-21 9999-12-31
003（变） 已删除 2019-12-20 2019-12-22 2019-12-22 9999-12-31
007（新） 待审核 2019-12-22 2019-12-22 2019-12-22 9999-12-31
008（新） 待审核 2019-12-22 2019-12-22 2019-12-22 9999-12-31

12月22日商品拉链表的数据

  • 003编号的商品数据的状态发生了变化(从在售→已删除)，需要将原有的 dw_end_date从9999-12-31变为2019-12-22，表示在售状态，在2019/12/20(包含) – 2019/12/22(不包含) 有效
  • 003编号新的状态重新保存了一条记录，dw_start_date为2019/12/22，dw_end_date为9999/12/31
  • 新数据007、008、dw_start_date为2019/12/22，dw_end_date为9999/12/31

方案二: 拉链表快照代码实现

操作流程：

  1. 在原有dw层表上，添加额外的两列
  2. 只同步当天修改的数据到ods层
  3. 拉链表算法实现
  4. 拉链表的数据为：当天最新的数据 UNION ALL 历史数据

    代码实现：

    1.在MySQL中zw库和商品表用于到原始数据层

    --创建数据库
createdatabaseifnotexistszw;

--创建商品表
createtableifnotexists`zw`.`t_product_2`(
goods_idvarchar(50),--商品编号
goods_statusvarchar(50),--商品状态
createtimevarchar(50),--商品创建时间
modifytimevarchar(50)--商品修改时间
)defaultcharacterset='utf8';

    2.在MySQL中创建ods和dw层 模拟数仓

    --ods创建商品表
createtableifnotexists`zw`.`ods_t_product2`(
goods_idvarchar(50),--商品编号
goods_statusvarchar(50),--商品状态
createtimevarchar(50),--商品创建时间
modifytimevarchar(50),--商品修改时间
cdatvarchar(10)--模拟hive分区
)defaultcharacterset='utf8';
--dw创建商品表
createtableifnotexists`zw`.`dw_t_product2`(
goods_idvarchar(50),--商品编号
goods_statusvarchar(50),--商品状态
createtimevarchar(50),--商品创建时间
modifytimevarchar(50),--商品修改时间
dw_start_datevarchar(12),--生效日期
dw_end_datevarchar(12),--失效时间
cdatvarchar(10)--模拟hive分区
)defaultcharacterset='utf8';

    全量导入2019年12月20日数据

    1.原始数据层导入12月20日数据(4条数据)

    insertinto`zw`.`t_product_2`(goods_id,goods_status,createtime,modifytime)values
('001','待审核','2019-12-18','2019-12-20'),
('002','待售','2019-12-19','2019-12-20'),
('003','在售','2019-12-20','2019-12-20'),
('004','已删除','2019-12-15','2019-12-20');

    2.将数据导入到数仓中的ods层

    insertintozw.ods_t_product2
select*,'20191220'fromzw.t_product_2wheremodifytime>='2019-12-20'

    3.将数据从ods层导入到dw层

    insertintozw.dw_t_product2
selectgoods_id,goods_status,createtime,modifytime,modifytime,'9999-12-31',cdatfromzw.ods_t_product2wherecdat='20191220'

    增量导入2019年12月21日数据

    1.原始数据层导入12月21日数据(6条数据)

    UPDATE`zw`.`t_product_2`SETgoods_status='待售',modifytime='2019-12-21'WHEREgoods_id='001';
INSERTINTO`zw`.`t_product_2`(goods_id,goods_status,createtime,modifytime)VALUES
('005','待审核','2019-12-21','2019-12-21'),
('006','待审核','2019-12-21','2019-12-21');

    2.原始数据层同步到ods层

    insertintozw.ods_t_product2
select*,'20191221'fromzw.t_product_2wheremodifytime>='2019-12-21';

    3.编写ods层到dw层重新计算 dw_end_date

    注意：我这里直接将结果的SQL语句放在这里语句 因为需要将覆盖写入到数据库中我这里就没有写了，但是不影响我们结果。12月22 号的操作流程跟21 一样我就里就不写了

    selectt1.goods_id,t1.goods_status,t1.createtime,t1.modifytime,
t1.dw_start_date,
casewhen(t2.goods_idisnotnullandt1.dw_end_date>'2019-12-21')then'2019-12-21'elset1.dw__dateendasend,
t1.cdat
fromzw.dw_t_product2t1
leftjoin(select*fromzw.ods_t_product2wherecdat='20191221')t2ont1.goods_id=t2.goods_id
union
selectgoods_id,goods_status,createtime,modifytime,modifytime,'9999-12-31',cdatfromzw.ods_t_product2wherecdat='20191221'

    查询结果

    深入讲解拉链表，还怕面试官问？

    总结

    到这里我们终于将拉链表实现完了，虽然实现拉链表这个功能有点复杂有点绕，但是它真的帮助我们节省很多的资源，以公司层面难道不选它吗，也就为什么面试数仓的时候基本上都会问拉链表的原因。很多小伙伴对dw_start_date与ds_end_date有疑惑我们可以在评论区一起讨论。信自己，努力和汗水总会能得到回报的。我是大数据老哥，我们下期见~~~

转载请注明：IT运维空间 » 运维技术 » 深入讲解拉链表，还怕面试官问？

你可能喜欢:
继续浏览有关 数据库运维 的文章
发表评论
最新文章
热门文章
热评文章
Powered By Z-BlogPHP Theme By B5编程