收藏 分享(赏)

数值修约及运算规则.ppt

上传人:精品资料 文档编号:9610637 上传时间:2019-08-18 格式:PPT 页数:21 大小:365KB
下载 相关 举报
数值修约及运算规则.ppt_第1页
第1页 / 共21页
数值修约及运算规则.ppt_第2页
第2页 / 共21页
数值修约及运算规则.ppt_第3页
第3页 / 共21页
数值修约及运算规则.ppt_第4页
第4页 / 共21页
数值修约及运算规则.ppt_第5页
第5页 / 共21页
点击查看更多>>
资源描述

1、数值修约及运算规则,主要内容,一、数值修约概念(1)概念;(2)修约规则;(3)其他规定;(4)其他修约的间隔; (5)有效数字概念 二、极限数值的表示和判定,(一)概念,1.数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,最后所得到的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值的)修约值。,2.有效数值:一个数从左边第一个不是零的数字数起一直到最后一位数字(包括零、科学计数法不计10的N次方)称为有效数字。 0.0109 3.109105 0.0230,是三位,是三位,是四位,(一)概念,3.修约间隔:修约的最小数值单位。注:修约间隔的数值一经确定,修 约值即为

2、该数值的整数倍。如:指定的修约间隔为0.1。修约值 应在0.1的整数倍中选取,相当于将数值修约到一位小数。,(一)概念,(二)修约规则,1、确定修约间隔(确定有效位数), 0.0356修约到0.01得 保留一位有效数字,2、进舍规则:1)拟舍弃数字的最后一位数字小于5,则舍去。保留其余各位数字不变。12.1498修约到“1”, ;修约到 0.1,得,0.04,0.04,12,12.1,2)拟舍弃数字的最后一位数字大于5.则 进一,保留数字的末位数加1。1268修约到“ 100 ”位. 13102也意味着有效数字为 位。1300意味着有效数字为 位。,2,4,(二)修约规则,3)拟舍弃数字的最左

3、一位数字是5,且 其后有非零数字也进一,保留数字的末位数字加1.10.5002.修约到“1”. 得,11,(二)修约规则,4)拟舍弃数字的最后一位数字是5,且其后无数字或为0时,若所保留的数字为 奇数(1、3、5、7、9),则进一。即保留数字的末位数字加1.若保留的末位 数字为偶数(0、2、4、6、8)则舍去。1.050 修约间隔为“0.1”。1010-1(或1.0)有效数字为2位。 0.35 修约间隔为“0.1”。 410-1(或0.4)有效数字为1位。 2500 修约间隔“1000”。 2103(2000)有效数字1、4位。 3500 修约间隔“1000”。 4103(4000)有效数字1

4、、4位。,(二)修约规则,5)口诀四舍五入,逢五看前数,奇入偶不入。6)负数修约,先以负值绝对值按上述修约后,加上负号。-15.456 绝对值15.456.修约间隔“0.1”、 15.5.加上负号;-15.5。,(二)修约规则,(三)其他规定,1.不允许连续修约:拟修的数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得连续按上述要求修约。正确:97.46 修约间隔“1” 不允许:97.46 97.5 98,97,(三)其他规定,2.特殊情况:具体实施中,有时测试与计算部先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为免产生修约的错误,应按下述步骤进行: 1)报出数值

5、最右的非零数字为5时,应在数值右上角“+”或“-”,或不加符号,分别表明已进行过舍,进或未进。16.50+表示实际值在修约前大于16.50,经修约舍弃后为16.50;原数值可为:16.501 “-”则是小于16.50 比如16.499。,(三)其他规定,2)如果修约后的数字为5“+”者进一“-”者舍去,(四)其他修约间隔,还有以0.5和0.2单位修约的,方法如下: 0.5单位修约: 被修约的数乘以2,进行间隔修约后再除以2,得到修约值。 0.2单位修约: 被修约的数乘以5,进行间隔修约后再除以5,得到修约值。,(四)其他修约间隔,下列数值修约得到“个位”的0.5单位修约,(四)其他修约间隔,下

6、列数值修约得到“百位”的0.2单位修约,(五)有效数字的运算,1. 加减法运算以参与运算的各数中末位的修约间隔最大的数为准。其余的数均比它保留多一位,多余的应按规定修约。计算结果的末位的修约间隔,应与参与运算的数中末位的修约间隔最大的那个数相同。如果是过程计算,则可多保留一位:,(五)有效数字的运算,18.3+1.4546+0.87618.3为末位最大数量级的数,为“0.1”。 则以“0.1”增加一位进行修约。18.3+1.45+0.88=20.63 修约:如果还要参加下一步运算则取,20.6,20.63,(五)有效数字的运算,2. 乘、除(或乘方、开方)运算:以参与运算的各数中有效数字位数最少的那个数为准。其余多保留一位。运算结果的有效数字位数应与参与运算的数中有效数字位数最少的那个数相同。若是过程计算,则可多保留一位。,(五)有效数字的运算,1.1x0.3268x0.10300 1.1有效位数最小,进行修约 1.1x0.323x0.103=0.0370 修约 如需参加下一步运算则取:,0.037,0.0370,二、极限数值的表示和判定,GB/T 8170-2008 中的第4款规定。,

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 企业管理 > 管理学资料

本站链接:文库   一言   我酷   合作


客服QQ:2549714901微博号:道客多多官方知乎号:道客多多

经营许可证编号: 粤ICP备2021046453号世界地图

道客多多©版权所有2020-2025营业执照举报