基于ETL的公安情报数据质量分析与优化

来源 :中国科学院大学(工程管理与信息技术学院) | 被引量 : 6次 | 上传用户:chenjiechn
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着公安业务的不断发展,数字城市工程、金盾工程、以及平安城市等工程的建设,公安系统掌握的各类数据资源越来越丰富,系统越来越繁杂。然而目前公安情报信息研判中存在的突出问题是资源整合不够、信息共享不足、研判水平不高,不能形成一套有效的机制来整合各类数据资源,综合分析。基于ETL的系统逻辑模型开发研究,一直是国内外数据仓库建设的重点和热点。本论文将ETL技术应用到公安业务的情报分析系统中,将结构化的数据进行抽取、清洗、转换,并整合多种数据类型,形成统一的数据标准,为情报的综合分析所用。然而数据质量的好坏直接影响到了最终的数据研判的可信度,影响到了决策层的决策方向,所以数据的质量可信度至关重要。本文结合着公安业务对数据质量的特殊要求,设计了一套数据质量检测与优化的流程,本文的主要的工作如下:(1)利用ETL工具进行数据清洗、转换,将不同种类的数据从源头数据系统同步到本系统的数据仓库中。(2)从数据的完整性、及时性、业务规范性几方面来统筹定义数据质量检测规则,利用这些检测规则对流入数据仓库的数据进行质量的检测与评估。(3)设计了数据质量优化体系,对于质量不合格的数据分析问题数据产生的原因,并对已经进入数据仓库的数据进行完善、修改。根据问题产生原因对数据源的系统申请完善数据,同时对ETL转换过程进行完善。使得数据质量呈循序渐进提升的态势。(4)设计了质量检测任务的分级策略,不同重要程度的检测任务执行周期不同,根据任务的重要等级来区分数据质量检测的执行周期。并将数据检测任务设计成JOB,可以根据业务来按需执行。(5)对平台的数据转换效果进行了功能上及性能上的测试,测试了数据转换后数据的正确性及数据转换功能的正确性。本论文将理论与实际相结合,研究了数据整合共享、质量管控,提出来面向数据存储区层、数据集层、指标层、规则层的数据质量评估体系,并对评估的问题数据进行改进,力求数据准确、研判结果精确。
其他文献
“昏”原是一个会意字,甲骨文中上部是一个人的形态,其下为日,太阳降落到人手之下,表示黄昏已来临。这个造字跟“夜”的原理一样,“夜”表示月亮到了人的腋下。后来小篆上部的人变成了“氏”字,于是看不出跟人的关系了。  “昏”的本义指天刚黑的时候,即傍晚时分。后引申指昏黑,又指模糊、看不清;进一步指胡涂、昏庸,甚至指神志不清,如发昏、昏厥、混乱等。  有趣的是这个“昏”在《诗经》时代还表示结婚的意思。上古
张家港市妙桥幼儿园创建于1974年,2003年易地新建,是一所省级优质园。幼儿园现有教职员3-_90名,目前有23个教学班,本着“让每个孩子快乐成长”的办园理念,围绕“智·爱”核心
教师评价用语的恰当使用在教育教学评价过程中可以起到较好的激励、引导、鉴别以及调节等作用。基于当前教学评价用语"格式化"的现象及弊端,以寻求改进一成不变的评价用语之
随着科技创新和经济的持续发展,小学教育是我国十分重视的对象之一。本文将阐述小学数学学科中进行核心素养建构的重要意义,探讨国际小学数学课程设置的基本特点,分析目前课
<正> 20多年来,由于日本以其良好的经济业绩持续出现于世界经济舞台,日本经济也成为常盛不衰的研究领域。发达国家将日本看成经济的一个“怪异”,发展中国家把日本视作发展模
Swallows may have gone, but there is a time of return; willow trees may have died back, but there is a time of regreening; peach blossoms may have fallen, but they will bloom again. Now, you the wise,
校外教育与学校教育一道,共同担负着育人的使命.本文试从发展学生整体素质的角度,分析了当前初中校外教育的现状,然后阐述了新时代背景下初级中学有效展开校外教育的重要性,
培育社会主义市场经济是当前我国经济体制改革的根本任务,也是理论研究的一项重大课题。社会主义市场经济与资本主义市场经济有根本区别,但是市场经济的某些共性决定了在培育
瘦瘦的,中等个子,背有些驼,高的鼻梁上架着一副眼镜,这是我对历史老师的第一印象。最使我记忆深刻的就是他的背了,他总佝偻着,有时候将两只手紧贴在身子外,有些颤微地行走着,远远望去
为解决水面无人艇全局路径规划问题,提出一种基于电子海图的距离寻优Dijkstra算法。该算法使用动态网格模型,克服了传统Dijkstra算法占用内存大的问题,可以减少规划时间,提高