alt

BOSS:哎,白茶,我们最近新上了一个系统,后续有一些数据要进行源切换,这个能整么?

白茶:没问题,可以整!

BOSS:哦,对了,差点忘记告诉你了,新系统没有进行过数据校验,所以切换之前,需要你处理一下,这个能整不?

白茶:(¥#!&*%!)能!

数仓在运维过程中,难免会遇到数据源切换,或者是方案调整的情况。

要知道,对于数仓来说,数据的准确性是非常重要的,也是衡量数仓是否可用的标准之一。

那么当某些表数据源发生变动时,我们该如何快速进行数据差异比较呢?

面对这种情况,我们可以使用EXCEPT和INTERSECT来解决这一问题。

概念介绍

EXCEPT是用来比较两个表之间的数据差,返回的结果集为在第一个表中存在且在第二个表中不存在的数据; INTERSECT是用来获取两个表之间的数据交集,返回的结果集为两个表中相同的部分。

使用条件
1.被比较的两个表列数和列名顺序需要一致;

2.被比较的两个表数据类型可以不一致,但是需要兼容;

3.被比较的两个表中不能存在不可被比较的数据类型。

使用实例

案例数据: 利用如下SQL语句,在数仓中构建案例数据。

CREATE TABLE [dbo].[BaiCha1](
    [LB_Name] [nvarchar](20) NULL,
    [LB_Value] [nvarchar](255) NULL
)
GO
;


INSERT INTO
    [dbo].[BaiCha1]
VALUES
('A', '1')
GO
;


CREATE TABLE [dbo].[BaiCha2](
    [LB_Name] [nvarchar](20) NULL,
    [LB_Value] [nvarchar](255) NULL
)
GO
;


INSERT INTO
    [dbo].[BaiCha2]
VALUES
('A', '1'),
    ('B', '2')
GO
;


CREATE TABLE [dbo].[BaiCha3](
    [LB_Name] [nvarchar](20) NULL,
    [LB_Value] [nvarchar](255) NULL
)
GO
;


INSERT INTO
    [dbo].[BaiCha3]
VALUES
('A', '1'),
    ('B', '2')
GO
;

结果如下: alt

例子1: 利用EXCEPT比较3张表之间的差异。

SELECT
    *
FROM
    BaiCha2EXCEPT
SELECT
    *
FROM
    BaiCha1
GO
;


SELECT
    *
FROM
    BaiCha2EXCEPT
SELECT
    *
FROM
    BaiCha3
GO
;

结果如下: alt

例子2: 利用INTERSECT比较3张表之间的差异。

SELECT
    *
FROM
    BaiCha2
INTERSECT
SELECT
    *
FROM
    BaiCha1
GO
;


SELECT
    *
FROM
    BaiCha2
INTERSECT
SELECT
    *
FROM
    BaiCha3
GO
;

结果如下: alt

例子3: 在实际应用中,我们也可以换一种写法,直接输出结果计数,这种方法叫做减法归零。这里我们使用BaiCha1和BaiCha2进行举例。

SELECT  COUNT(*) AS T1_NOT_T2_Count
FROM    ( SELECT    *
          FROM      [dbo].[BaiCha1]
          EXCEPT
          SELECT    *
          FROM      [dbo].[BaiCha2]
        ) AS T;
 
SELECT  COUNT(*) AS T2_NOT_T1_Count
FROM    ( SELECT    *
          FROM      [dbo].[BaiCha2]
          EXCEPT
          SELECT    *
          FROM      [dbo].[BaiCha1]
        ) AS T;

结果如下: alt

alt

alt