zxcv1973
发表于 2024-2-29 11:40:18
应该是少判断了一个条件
LAOXU
发表于 2024-3-1 17:53:01
zxcv1973 发表于 2024-2-29 11:39
浮点除法测试了一下,极端数值下处理结果与KEIL的不一致,比如0.07/9.99999e36,KEIL的结果是为0,而这个 ...
测试了,标准值是 7.0e-39,MDU32浮点除法, 值是 2.2e-39,c251库 浮点除法, 值是 0,相比之下, 还是 MDU32浮点除法精度高点(实际上这么小的值 e-39已无意义)
LAOXU
发表于 2024-3-1 17:55:47
zxcv1973 发表于 2024-2-29 11:40
应该是少判断了一个条件
是的, 如要和 c251一样, 当计算值小于某个数时, 强制清0即可(实际无多大意义)
xiangzichen
发表于 2024-3-5 18:25:03
太猛了,下载回来试试看
qqzgq
发表于 2024-5-21 11:29:44
请问楼主,浮点数运算中,参与的变量必须都是浮点数吗? 将整数型数值除以180 赋值给浮点数时,计算结果是错误的
LAOXU
发表于 2024-5-21 15:45:08
qqzgq 发表于 2024-5-21 11:29
请问楼主,浮点数运算中,参与的变量必须都是浮点数吗? 将整数型数值除以180 赋值给浮点数时,计算结果是 ...
浮点数运算,参与的变量必须都是浮点数, 不是浮点数 C也会按照其标准,自动转换成其认可的浮点数格式。
如结果不对,怀疑是其书写格式有误(你想像中所写的格式 和 C语言理解的格式 不一致),
所造成的。
建议楼上仔细核对其书写格式, 或将 相关 C语言程序上传,让大家帮你找出点问题。
LAOXU
发表于 2024-5-21 15:52:24
qqzgq 发表于 2024-5-21 11:29
请问楼主,浮点数运算中,参与的变量必须都是浮点数吗? 将整数型数值除以180 赋值给浮点数时,计算结果是 ...
还有一点,C语言 浮点数的 角度值, 默认是弧度单位(PI),而不是角度 (180度)。
这个要注意。
bwang
发表于 2024-6-21 13:48:00
楼主牛×{:5_332:}
13416353297
发表于 2024-8-28 19:48:52
LAOXU 发表于 2023-2-10 19:45
我随便设置了 2组数据, 计算均正确,
注意!!! 由于你设置的变量是 int , 数据一大, 计算就可能溢出, 请 ...
这个LIB只是适应STC32,还是STC32和STC8H都适用?
LAOXU
发表于 2024-8-30 18:12:33
13416353297 发表于 2024-8-28 19:48
这个LIB只是适应STC32,还是STC32和STC8H都适用?
STC8H 没有 MDU32 功能 .
只适用于含 MDU32 的 CPU.