论文部分内容阅读
摘 要:本文剖析了大数据的内涵,阐述了大数据所面临的机遇和挑战。同时,根据大数据的特点,明确了经济统计需要与计算机科学、信息科学等关联学科整合发展的基本思路。
关键词:大数据 经济统计 整合发展
一、大数据的概念
麦肯锡的定义是,大数据是指无法在一定时间内用传统数据库软件工具对其内容进行采集、存储、管理和分析的数据集合。维基百科的定义是,大数据指的是所涉及的資料量规模巨大到无法通过目前主流软件工具,在合理时间内达到撷取、管理处理并整理成为帮助企业经营决策目的的资讯。从这两个定义可以看出,大数据并非一种新事物,它只是在互联网时代下产生的一种数据量剧增的现象。
对大数据而言,“数据”是中心词,“大”则可以理解为一种限定和修饰。这里的“大”,除了表现为数据量在纵向的延伸,更重要的是表现为横向的数据结构的复杂化。数据结构的复杂化正是“大数据”区分于“海量数据”、“特大规模数据”等概念的实质。
二、大数据的挑战与机遇
1.大数据时代计算科学面临新挑战。第一,大数据背景下的数据量之大给数据存储技术带来了很大的挑战,瓦解了传统信息体系架构,将数据仓库转化为具有流动性、连续和信息共享的数据池,这也促进了数据存储技术的发展。第二,由于大数据必须以互联网为基础,数据具有分布式存储的特点,也即全部数据分散式地存在于很多台服务器上,这会对数据的安全性提出更高要求。第三,数据量之大将推进数据挖据技术有长足的进步。
2.数据量与存储技术发展。大数据体量大和多样性特点,给现行的数据存储技术带来很多的挑战。大数据的出现必将颠覆传统的数据管理方式,无论是在数据来源数据处理方式和数据思维等方面都会对其带来革命性的变化。对数据显示、数据处理和分析而言,数据存储作为起着关键性作用。传统的数据存储技术以文件系统为基础把数据保存在本地或者某一台服务器上。然而,大数据时代下数据量之巨大使得这种思维方式失效,单一台服务器无法满足巨量数据的存储请求,取而代之的是分布式存储。大数据的存储方式不仅影响其后的数据分析处理效率也影响数据存储成本,因此,研发高效率低成本的数据存储技术迫在眉睫。或许只有云存储技术得到发展,才能满足指数式增长的数据存诸问题。
三、大数据与信息安全
数据的分布式存储使得数据管理成为一个难题,同时也不可避免地产生很多的安全漏洞:个人的隐私更容易通过网络泄露,随着电子商务、社交网络的兴起,人们通过网络联系日益繁密,将个人的相关数据足迹聚集起来分析,可以很容易获取个人信息,而数据在网络上的发布机制使得这种暴露防不胜防;在国家层面,大数据可能给国家安全带来隐患,如果在大数据处理方面技术落后,就很大可能导致数据单向透明的情况,斯诺登事件就是一个活生生的例子。因此,在当今社会,各国综合国力的较量集中在科学技术上,而科学技术的较量集中在大数据背景下的信息安全问题上。
四、经济统计与关联学科的整合与发展
1.大数据的发展需要统计学思想。大数据的出现,并没有对统计学的核心思想产生冲击,相反,大数据时代更加依赖统计学的基本理论。由于总体的不可得、数据质量无法保证、相关分析的偏差和混杂性等现象存在,传统的统计学思想依然需要引起大家的重视,大数据提供了新的数据背景,但掌握好“度”非常关键,要辩证地看待统计学和大数据的关系。
2.大数据时代需要统计学与计算科学紧密融合。从数据的收集,到数据的可视化,再到数据分析和数据挖掘,最后到预测,在这个过程中,无一例外地需要计算机技术的支持。现在需要的是大数据思维、统计学理论和计算科学技术三者紧密结合。大数据促进计算机技术的发展,统计学为大数据提供核心思想,计算科学为大数据提供技术支持。
3.大数据需要信息编码技术做支撑。信息编码技术属于信息科学的范畴。在大数据技术的支持下,物联网可以得到进一步发展,即不局限于现有的信息长度。以一台笔记本电脑为例,在目前的信息编码技术下,笔记本电脑的信息主要包括处理器、主板硬盘内存、显示器等主要零部件的产地、性能序列号等基本信息。大数据背景下,除了基本信息,甚至可以记录处理器的材质该材质的生产商、产地,以及其原材料的产地等等。通过这样一种理论上完备的编码技术,世界万物将连成一个庞大的信息物联网。
五、结论
社交网络、物联网、云计算的飞速发展,大量半结构化和非结构化数据呈指数级快速发展,数据样式高度复杂,为人类认识世界、改造世界提供了重要的资源。大数据时代的到来,给许多学科、行业注人了新的思想。大数据作为一种新生事物,具有极其强大的生命力和优势,大数据未来的发展,需要完善或重新建构数据处理的基本理论和方法,需婴促进相关学科整合、融合,尤其是基于统计的数据处理方法的改造与再造。
参考文献:
[1]李国杰,程学旗.大数据研究:未来可以及经济社会发展的重大战略领城[J].中国科学院院刊,2012
[2]李金昌.大数据与统计新思维[J].统计研究,2014
关键词:大数据 经济统计 整合发展
一、大数据的概念
麦肯锡的定义是,大数据是指无法在一定时间内用传统数据库软件工具对其内容进行采集、存储、管理和分析的数据集合。维基百科的定义是,大数据指的是所涉及的資料量规模巨大到无法通过目前主流软件工具,在合理时间内达到撷取、管理处理并整理成为帮助企业经营决策目的的资讯。从这两个定义可以看出,大数据并非一种新事物,它只是在互联网时代下产生的一种数据量剧增的现象。
对大数据而言,“数据”是中心词,“大”则可以理解为一种限定和修饰。这里的“大”,除了表现为数据量在纵向的延伸,更重要的是表现为横向的数据结构的复杂化。数据结构的复杂化正是“大数据”区分于“海量数据”、“特大规模数据”等概念的实质。
二、大数据的挑战与机遇
1.大数据时代计算科学面临新挑战。第一,大数据背景下的数据量之大给数据存储技术带来了很大的挑战,瓦解了传统信息体系架构,将数据仓库转化为具有流动性、连续和信息共享的数据池,这也促进了数据存储技术的发展。第二,由于大数据必须以互联网为基础,数据具有分布式存储的特点,也即全部数据分散式地存在于很多台服务器上,这会对数据的安全性提出更高要求。第三,数据量之大将推进数据挖据技术有长足的进步。
2.数据量与存储技术发展。大数据体量大和多样性特点,给现行的数据存储技术带来很多的挑战。大数据的出现必将颠覆传统的数据管理方式,无论是在数据来源数据处理方式和数据思维等方面都会对其带来革命性的变化。对数据显示、数据处理和分析而言,数据存储作为起着关键性作用。传统的数据存储技术以文件系统为基础把数据保存在本地或者某一台服务器上。然而,大数据时代下数据量之巨大使得这种思维方式失效,单一台服务器无法满足巨量数据的存储请求,取而代之的是分布式存储。大数据的存储方式不仅影响其后的数据分析处理效率也影响数据存储成本,因此,研发高效率低成本的数据存储技术迫在眉睫。或许只有云存储技术得到发展,才能满足指数式增长的数据存诸问题。
三、大数据与信息安全
数据的分布式存储使得数据管理成为一个难题,同时也不可避免地产生很多的安全漏洞:个人的隐私更容易通过网络泄露,随着电子商务、社交网络的兴起,人们通过网络联系日益繁密,将个人的相关数据足迹聚集起来分析,可以很容易获取个人信息,而数据在网络上的发布机制使得这种暴露防不胜防;在国家层面,大数据可能给国家安全带来隐患,如果在大数据处理方面技术落后,就很大可能导致数据单向透明的情况,斯诺登事件就是一个活生生的例子。因此,在当今社会,各国综合国力的较量集中在科学技术上,而科学技术的较量集中在大数据背景下的信息安全问题上。
四、经济统计与关联学科的整合与发展
1.大数据的发展需要统计学思想。大数据的出现,并没有对统计学的核心思想产生冲击,相反,大数据时代更加依赖统计学的基本理论。由于总体的不可得、数据质量无法保证、相关分析的偏差和混杂性等现象存在,传统的统计学思想依然需要引起大家的重视,大数据提供了新的数据背景,但掌握好“度”非常关键,要辩证地看待统计学和大数据的关系。
2.大数据时代需要统计学与计算科学紧密融合。从数据的收集,到数据的可视化,再到数据分析和数据挖掘,最后到预测,在这个过程中,无一例外地需要计算机技术的支持。现在需要的是大数据思维、统计学理论和计算科学技术三者紧密结合。大数据促进计算机技术的发展,统计学为大数据提供核心思想,计算科学为大数据提供技术支持。
3.大数据需要信息编码技术做支撑。信息编码技术属于信息科学的范畴。在大数据技术的支持下,物联网可以得到进一步发展,即不局限于现有的信息长度。以一台笔记本电脑为例,在目前的信息编码技术下,笔记本电脑的信息主要包括处理器、主板硬盘内存、显示器等主要零部件的产地、性能序列号等基本信息。大数据背景下,除了基本信息,甚至可以记录处理器的材质该材质的生产商、产地,以及其原材料的产地等等。通过这样一种理论上完备的编码技术,世界万物将连成一个庞大的信息物联网。
五、结论
社交网络、物联网、云计算的飞速发展,大量半结构化和非结构化数据呈指数级快速发展,数据样式高度复杂,为人类认识世界、改造世界提供了重要的资源。大数据时代的到来,给许多学科、行业注人了新的思想。大数据作为一种新生事物,具有极其强大的生命力和优势,大数据未来的发展,需要完善或重新建构数据处理的基本理论和方法,需婴促进相关学科整合、融合,尤其是基于统计的数据处理方法的改造与再造。
参考文献:
[1]李国杰,程学旗.大数据研究:未来可以及经济社会发展的重大战略领城[J].中国科学院院刊,2012
[2]李金昌.大数据与统计新思维[J].统计研究,2014