正则表达式[匹配]检查

使用方法

• 点击创建规则作业，选择数据质量作业
• 进入作业页面选择 正则表达式[匹配]检查 规则
• 选择要检查的数据源信息

参数介绍

Options

name	type	required	default value
database	string	yes	-
table	string	yes	-
column	string	yes	-
regexp	string	yes	-

database [string]

源表数据库名

table [string]

源表数据库中的表名

column [string]

要检查的列

regexp [string]

正则表达式

配置文件例子

{
    "metricType": "column_in_enums",
    "metricParameter": {
        "database": "datavines",
        "table": "dv_catalog_entity_instance",
        "column": "type"
        "regexp":"\d"
    }
}

检查过程中自动生成的 SQL 语句

检查过程会用到的一些自动生成的参数，用于区分各个检查规则。

• uniqueKey
  • 会根据每个规则的配置信息生成一个唯一键值
• invalidate_items_table
  • 会创建一个视图用于存储中间表数据，中间表数据一般为命中规则的数据，即为错误数据，该视图的名字生成规则为 invalidate_items_uniqueKey

中间表 invalidate_items_uniqueKey

select * from ${table} where (${column} regexp '${regexp}') and ${filter}

计算实际值的 SQL，输出的实际值是列的值匹配上正则表达式的列的行数

select count(1) as actual_value_"+ uniqueKey +" from ${invalidate_items_table}

使用案例

场景

...

思路

...

步骤

...