数据流选择查询索引技术研究

来源 :中国科学院计算技术研究所 | 被引量 : 0次 | 上传用户:fctznh
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的发展和广泛应用,流动数据管理在各种应用系统中变得越来越重要.和传统的数据库管理系统不同,数据流管理系统以查询为中心,系统中预先注册有成千上万个持续查询;流动的数据源源不断的到达,一旦流过就不能再被访问.为了实时处理日益增长的注册查询和到达速度越来越快的流动数据,必须在注册的查询上建立索引,当一个数据流元组到达时,利用查询索引快速返回哪些查询得到了匹配. 本文提出了一种基于决策树的查询索引结构,我们称之为查询决策树.查询决策树不仅利用了查询内各个谓词间的合取关系,还充分利用了单个属性上的谓词索引,各种单属性上的谓词索引能够很容易集成到这种索引结构中.使用查询决策树索引,一个数据元组的最坏匹配时间为O(Mf(N)),其中M为属性个数,N为查询个数,f(N)为单属性谓词索引的搜索时间复杂度上界,对于常用的单属性谓词,一般有f(N)=o(log(N)). 在构造查询决策树时,如何选择划分属性,决定了查询决策树的平均匹配效率.本文将经典的ID3决策树构造算法引入到查询决策树的构造算法中,得到了基于信息增益的划分属性选择算法.由于没有考虑到达的数据流的属性值分布,信息增益法不能构造平均匹配效率最高的查询决策树.本文提出了一个递归的最优查询决策树构造算法,它使用一个刻画了数据流分布的数据元组集合做为训练样本集合.但这个算法本身复杂度太高,并不实用.本文提出了另外一个基于估计时间代价的划分属性选择算法,它用查询集合的大小来估计子树的匹配代价,而不是递归地构造最优查询子树,从而降低了查询决策树构造的时间复杂度.估计时间代价法不一定构造出最优查询决策树,本文的实验证明估计时间代价法构造的查询决策树平均匹配效率优于信息增益法构造的查询决策树,当查询集合较小时其平均匹配效率接近最优查询决策树. 数值区间谓词是最常用的单属性上的谓词,本文提出了一种组合区间索引结构.组合区间索引在属性值域区间端点密集的区域建立基于CEI的间接索引,然后在上层建立基于IBS-tree的间接区间索引.IBS-tree具有O(log(N))的搜索时间,消耗O(Nlog(N))的存储;CEI区间索引具有O(1)的搜索时间,但消耗大得多的存储.当区间端点较集中分布于某些子区间时,组合区间索引使用较少的存储,而搜索性能接近CEI.
其他文献
新闻广播语料自动标注技术的研究对于建立大规模语音语料库、语音识别技术、音频检索技术的发展都有重要意义.新闻广播语料的自动标注包括音频属性标注和文本标注两个方面.
本文在研究城市空间信息共享平台的建设现状与总结一些城市的建设经验的基础上,提出了一个城市空间信息共享平台的建设框架。针对目前我国城市普遍存在的共享环境不够理想的问
流程企业存在大量的物料移动,从原材料购进入库起,直到成品库的成品发送为止。在这些物料移动的过程中,由于废气废水和废渣的排放,或者数据仪表测量的不准确,原材料计量值和产品计
学位
数字房产是数字城市的基础工程之一,是数字城市的重要内容。城市的房产管理部门掌握着城市房产的重要基础信息资源,如大比例尺城市房产地形图和房产办证资料,这些资源是城市有关
X86指令集是当前最广泛使用的指令集.虽然它的很多特性会大大增加设计x86兼容处理器的复杂度,但由于其应用广泛,我们必须掌握实现x86指令集的有效方法. X86和RISC处理器一
随着社会信息化的发展,可供人们掌控的信息量激增,信息资源地位凸显;信息资源共享基础架构研究成为业界研究的热点之一。 信息资源共享离不开数据传输,由于C/S模式本身的局限
数据缓存是提高系统性能的一种有效方法,协同缓存通过一组节点相互共享缓存内容,可以极大提高分布式系统中信息访问的效率。 本文关注如何设计高效的协同缓存管理策略,研究的
访问控制是保护数据机密性和数据完整性的一种机制,随着信息技术的发展,越来越多的企业把保护信息资产的机密性和完整性作为一项重要的工作来抓。访问控制技术的研究由来已久,人
学位
经过三十多年的快速发展和广泛应用,Internet已从传统的简单信息交换网络成长为一种新型的复杂资源共享集成平台。而服务计算以软件服务的形式封装资源,以服务协同来实现资源集
中间件是一种独立的系统软件或服务程序,分布式应用软件借助这种软件在不同的技术之间共享资源。中间件位于客户机服务器的操作系统之上,管理计算资源和网络通信。中间件作为一