收藏 分享(赏)

计算机原理实验.ppt

上传人:天天快乐 文档编号:1141110 上传时间:2018-06-14 格式:PPT 页数:42 大小:248KB
下载 相关 举报
计算机原理实验.ppt_第1页
第1页 / 共42页
计算机原理实验.ppt_第2页
第2页 / 共42页
计算机原理实验.ppt_第3页
第3页 / 共42页
计算机原理实验.ppt_第4页
第4页 / 共42页
计算机原理实验.ppt_第5页
第5页 / 共42页
点击查看更多>>
资源描述

1、计算机科学引论,浮点数表示与运算,2,为什么讲浮点数,浮点数是程序中常用的数浮点数是计算机技术中设计非常精巧的一个例子浮点数的一些设计思想被应用到计算机科学的其它领域,3,数的表示,计算机是处理“数”的数必须表示成计算机认识的格式N位整数的表示无符号:原码0(2N1)有符号:补码(2N1)( 2N11),4,数的表示,其它的数怎么办?特别大的数:一个世纪的秒数3,155,760,00010 (3.1557610 x 109)非常小的数:原子的直径0.0000000110 (1.010 x 10-8) 分数2/3 (0.666666666. . .)无理数21/2(1.414213562373.

2、 . .),e(2.718.),(3.141.)都是科学技术上常用的数,5,数的表示,科学技术上数的表示科学记数法,+/- 6.020000 x 1023,位数:运算可用精度,符号,6,数的表示,科学记数法有一个定长尾数小数有一个固定的基10:尾数的进制有一个阶有符号整数有一个符号,7,数的表示,科学记数法规一化要求:1尾数10规一化的:1.0 x 10-9未规一化的:0.1 x 10-8,10.0 x 10-10 规一化,0 . 1 x 10-8 1 0 . 0 x 10-10,-1,+1,进制,8,数的表示,科学记数法归一化科学记数法特点尾数长度决定了数的运算可用精度简称精度阶增减1相当于

3、尾数小数点右移/左移一位归一化算法简单比较大小的算法先比较符号符号相同的再比较阶符号和阶都相同,再比较尾数,9,数的表示,二进制科学记数法计算机只能使用二进制所以计算机用二进制科学记数法浮点数,+/- 1.02 x 2-1,符号,2,10,数的表示,二进制科学记数法表示符号+/-:一位二进制数表示表示阶有符号整数表示基?固定为2:不需要表示表示尾数二进制小数:如何表示?,11,二进制小数的表示,二进制小数带小数点的二进制数:101.012二进制小数的值,=5.25,12,二进制小数的表示,十进制小数转换成二进制小数,5.3,0.3,2=0.6,有限十进制小数不一定能转换成有限二进制小数!,13

4、,二进制小数的表示,表示精度问题计算机不可能表示真正的实数无理数21/2(1.414213562373. . .),e(2.718.),(3.141.)分数2/3, 5/7, 某些有限十进制数小数无法转换成有限二进制小数0.3实际的科学计算也不需要真正的实数解决办法:量化,14,量化,量化把需要表示的区间划分成整数个格子,要表示的实数向最近的格子边界靠,-2 -1 0 1 2,15,量化,量化N位二进制数:有2N个码点均匀量化:任意二个相邻码点之间的距离相等可以表示的范围: D2NL,例:如需要的精度L10-30,N32 则D4.310-21 可以表示-210-21 210-21 连一个原子的

5、半径都不能表示,16,量化,实际使用情况例(单位:米)有关原子半径的运算需要精确到约10-20需要表示的范围约10-5有关丈量土地的运算需要精确到约10-1需要表示的范围约103有关地理运算需要精确到约102需要表示的范围约108,如何在一个格式的数中满足所有这些要求,17,量化,实际使用情况总结需要的精度越高时,需要表示的范围也越小越接近0,需要表示的精度越高解决方案非均匀量化越接近0,量化越密;越远离0,量化越粗,18,量化,数的表示精度与运算可用精度表示精度:量化误差变化的(非均匀量化)在确定了阶的值后,由尾数位数确定运算可用精度固定的:由尾数位数确定,19,量化,如何实现非均匀量化科学

6、记数法无论阶的值是多少,尾数的位数是固定的尾数的位数确定了在相邻两个阶之间有几个码点例:二位十进制科学记数法,100 101 102 103,1.09.9x100100个,1.09.9x102100个,1.09.9x101100个,20,浮点数,浮点数:二进制科学记数法规一化要求:1尾数21038)(上)溢出如果结果太小?(0v, 5.0/0可以给出正确的答案,而不一定产生溢出sqrt(-5.0)? 0.0/0.0?既然5.0/0可以有正确的结果,这里也应该有NaN:Not a Number阶全1,尾数0,37,浮点数:IEEE754,32位浮点数小结阶尾数值00+/-00非0?1-254任意

7、+/-浮点数2550+/- 255非0NaN,38,浮点数:IEEE754,现有格式存在的问题可表示的最小正数a = 1.0 2 * 2-126 = 2-126可表示的第二小正数b = 1.0001 2 * 2-126 = 2-126 + 2-149a - 0 = 2-126 b - a = 2-149,39,浮点数:IEEE754,解决办法阶0,尾数0还未使用定义此时的有效值为:+/-0.xxxxxxxx22-126此时最小正数:0.0.0122-126= 2-149第二小正数: 0.0.1022-126= 2-148,40,浮点数:IEEE754,舍入为何需要舍入实数的运算结果:无限精度不

8、可能被计算机表示计算机的浮点数是运算结果的近似值必须把运算结果映射到浮点数可以表示的某个码点上此操作称为“舍入”实数到整数的变换(取整运算)要映射到整数可以表示的某个码点上舍入,41,舍入( round )方法,恒舍(round down,round towards -inf)1.999 - 1, -1.999 - -2恒入(round up,round towards +inf)1.999 - 2, -1.999 - -1截断(truncate,round towards 0)1.999 -1-1.999 -1,42,舍入方法,四舍五入(就近舍入,round to nearest)1.999 - 2-1.400 - -1,舍入到最近偶数2.500000 - 23.500000 - 4,一般的缺省舍入方式,

展开阅读全文
相关资源
猜你喜欢
相关搜索
资源标签

当前位置:首页 > 企业管理 > 经营企划

本站链接:文库   一言   我酷   合作


客服QQ:2549714901微博号:道客多多官方知乎号:道客多多

经营许可证编号: 粤ICP备2021046453号世界地图

道客多多©版权所有2020-2025营业执照举报