找回密码
 注册

手机号码,快捷登录

手机号码,快捷登录

查看: 2677|回复: 1

[资料] MSP430中的浮点除法的问题

[复制链接]
发表于 2012-11-15 22:13:55 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?注册

×
我在用MSP430F5172过程中,发现一个问题,X=118.0 /201=5.8706(实际值应该是0.58706467),这是为什么呢?
发表于 2013-6-17 17:21:57 | 显示全部楼层
难道发现一个bug   但是这样的bug应该不会有吧,只有边界处理容易,你把它转换成浮点格式,想想可能出现问题的地方
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

QQ|手机版|小黑屋|关于我们|联系我们|隐私声明|EETOP 创芯网 ( 京ICP备:10050787号 京公网安备:11010502037710 )

GMT+8, 2026-1-16 06:23 , Processed in 0.025117 second(s), 3 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表