收藏 分享(赏)

数制转换中的精度问题.ppt

上传人:dcs1276 文档编号:12420594 上传时间:2021-12-12 格式:PPT 页数:6 大小:112KB
下载 相关 举报
数制转换中的精度问题.ppt_第1页
第1页 / 共6页
数制转换中的精度问题.ppt_第2页
第2页 / 共6页
数制转换中的精度问题.ppt_第3页
第3页 / 共6页
数制转换中的精度问题.ppt_第4页
第4页 / 共6页
数制转换中的精度问题.ppt_第5页
第5页 / 共6页
点击查看更多>>
资源描述

1、十进制换成其他进制,十进制数转换为其他进制数时,可将十进制数分为整数和小数两部分进行。,(2)小数的转换基数乘法 规则:乘基取整,满足精度要求为止,顺序排列。,1.500 1,整数 0.750 0,例 将十进制数 (26.375)10 转换成二进制数,26,6 1,3 0,1 1,0 1,2,(26 )10 = (11010 ) 2,×2,×2,1.000 1,.375,2,2,2,2,0.375,×2,一直除到商为 0 为止,余数 13 0,读数顺序,读数顺序,.011,小数的精度,若求出的是有限位小数,标明已求出准确的转换小数; 若求出的是无限位小数,标明转换

2、出的小数存在误差。,等精度转换;按题意要求,小数精度转换要求,设进制有 i位小数,转换后进制有 j位小数。,等精度转换,转换后应使: 1×-j 1×-i 即 i j,故,取满足不等式的最小整数,例: (0.3021)10( )16 ,已知精度为±(0.1) 410,解: 10,16,i4,取 j=4,0.3021 × 16,(4).8336× 16,(13).3776× 16,(6).0416× 16,(0).6656,读 数 顺 序,(0.3021)10=(0.4D60)16,按题意要求,例: (0.3021)10( )2 ,要求精度 0.1% 解:,例: (0.3021)10( )8 ,要求精度 0.01%解:,取 j=10,取 j=5,

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 生活休闲 > 科普知识

本站链接:文库   一言   我酷   合作


客服QQ:2549714901微博号:道客多多官方知乎号:道客多多

经营许可证编号: 粤ICP备2021046453号世界地图

道客多多©版权所有2020-2025营业执照举报