电算尾数误差的处理

来源 :财务与会计 | 被引量 : 0次 | 上传用户:zprtsge
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在会计、统计核算中,输出数据精度一般取小数点后两位,在其他数据处理中,也经常限定几位小数的精度。但计算机进行定点数运算时,只有整数、单精度(8位数)和双精度(16位数)三种精度类型。由于计算和输出(如打印)精度不同,往往造成计算值与输出(打印)值不一致的现象。例如10/3,在单精度类型时,计算值为3.333333,输出采用2位小数时,其舍入值为3.33。如将这两个值分别乘以4,前者为13.33332,舍入后为 In accounting, statistical calculation, the accuracy of the output data generally take two decimal places, in other data processing, often several decimal precision. However, when performing fixed-point arithmetic on a computer, there are only three types of precision: integer, single precision (8-bit), and double precision (16-bit). Due to the different precision of calculation and output (such as printing), the calculation value and output (printing) values ​​are often inconsistent. For example, 10/3, with a single precision type, the calculated value is 3.333333, and when the output takes 2 decimal places, the rounded value is 3.33. If these two values ​​were multiplied by 4, the former is 13.33332, rounded after
其他文献
在毛主席“独立自主、自力更生”方针指引下,我国工人阶级和科技人员在赶超世界先进技术水平的斗争中,破除迷信,解放思想,敢想敢干,勇于实践,取得了优异成绩。其中,在电子技
击剑运动源远流长,其神秘典雅,惊险刺激,且具健身价值的项目特征,使其成为最受欢迎的奥运会运动项目之一。本文通过查阅大量文献资料,对击剑运动的特征加以研究,并分析了击剑
请下载后查看,本文暂不支持在线获取查看简介。 Please download to view, this article does not support online access to view profile.
期刊
《中南药学》杂志是由湖南省药学会主办,国内外公开发行的药学综合性学术期刊。国际刊号:ISSN1672-2981;国内刊号:CN43-1408/R。《中南药学》是中国科技论文统计源期刊、中国
SolidWorks用户现在只需将扫描器和个人电脑连接,即可以进行扫描和向量化的设计和标识,这种图形解决方案称为Type3Works。由Vision numeric与Gold Partner合作为SolidWorks而开
潺潺的溪流,清脆的鸟鸣,悠扬的洞箫,委婉的二胡……一首宁静美妙的晨曲回荡在教室上空,这舒缓而又让人迷醉的音乐,犹如天籁,钻进了每一个孩子的心里.一张张可爱的面庞带着浅
摘要 作文教学是语文教学的重点,更是难点。有效地突破这一重点难点,对于提高学生的语文综合素养是十分关键的。作文教学走进网络天地是一种可优选的教学模式。  关键词 新课程理念 作文指导 网络环境 教学模式  当作文教学走进网络天地,我们仿佛发现了新大陆,这里不仅天地广阔,而且繁花似锦,是一个理想的自由作文的王国。网络教学是作为一种教学形式存在的,它是在条件允许的情况下,可优选的一种教学模式。我们既承
摘要 语文教学不但要教给学生语文知识,而且要注意培养学生的自学能力,让学生在今后的人生道路上能做到自主学习、自主探索。教师要能根据教学实际,有计划、有目的地做好学生自学能力的培养。  关键词 自学 人才 培养  开发和培养学生的自学能力、创新能力是当代家长、老师非常关注的。它是思维力、观察力、想象力、注意力、记忆力等诸多能力的综合体现,所以自学能力是一种综合能力,它与儿童的非智力因素有关,也与儿童
随着近年来工模制造业的不断进步和发展,冲压工艺和冲模技术也在不断地革新和发展。多工位级进模是在普通级进模的基础上发展起来的一种高精度、高效率、长寿命的模具,是技术
营销组合是行销理论的核心概念。50年代后期,鲍敦把企业可以利用的各种营销手段加以整理和分类,共分了12类因素,并将这些因素的综合运用正式用“营销组合(m arketingm ix)”