zxcv1973 发表于 2024-2-29 11:40:18

应该是少判断了一个条件

LAOXU 发表于 2024-3-1 17:53:01

zxcv1973 发表于 2024-2-29 11:39
浮点除法测试了一下,极端数值下处理结果与KEIL的不一致,比如0.07/9.99999e36,KEIL的结果是为0,而这个 ...



测试了,标准值是 7.0e-39,MDU32浮点除法, 值是 2.2e-39,c251库 浮点除法, 值是 0,相比之下, 还是 MDU32浮点除法精度高点(实际上这么小的值 e-39已无意义)




LAOXU 发表于 2024-3-1 17:55:47

zxcv1973 发表于 2024-2-29 11:40
应该是少判断了一个条件

是的, 如要和 c251一样, 当计算值小于某个数时, 强制清0即可(实际无多大意义)

xiangzichen 发表于 2024-3-5 18:25:03

太猛了,下载回来试试看

qqzgq 发表于 2024-5-21 11:29:44

请问楼主,浮点数运算中,参与的变量必须都是浮点数吗? 将整数型数值除以180 赋值给浮点数时,计算结果是错误的

LAOXU 发表于 2024-5-21 15:45:08

qqzgq 发表于 2024-5-21 11:29
请问楼主,浮点数运算中,参与的变量必须都是浮点数吗? 将整数型数值除以180 赋值给浮点数时,计算结果是 ...

浮点数运算,参与的变量必须都是浮点数, 不是浮点数 C也会按照其标准,自动转换成其认可的浮点数格式。

如结果不对,怀疑是其书写格式有误(你想像中所写的格式 和 C语言理解的格式 不一致),
所造成的。

建议楼上仔细核对其书写格式, 或将 相关 C语言程序上传,让大家帮你找出点问题。

LAOXU 发表于 2024-5-21 15:52:24

qqzgq 发表于 2024-5-21 11:29
请问楼主,浮点数运算中,参与的变量必须都是浮点数吗? 将整数型数值除以180 赋值给浮点数时,计算结果是 ...

还有一点,C语言 浮点数的 角度值, 默认是弧度单位(PI),而不是角度 (180度)。

这个要注意。

bwang 发表于 2024-6-21 13:48:00

楼主牛×{:5_332:}

13416353297 发表于 2024-8-28 19:48:52

LAOXU 发表于 2023-2-10 19:45
我随便设置了 2组数据, 计算均正确,

注意!!! 由于你设置的变量是 int , 数据一大, 计算就可能溢出, 请 ...

这个LIB只是适应STC32,还是STC32和STC8H都适用?

LAOXU 发表于 2024-8-30 18:12:33

13416353297 发表于 2024-8-28 19:48
这个LIB只是适应STC32,还是STC32和STC8H都适用?

STC8H 没有 MDU32 功能 .

只适用于含 MDU32 的 CPU.
页: 1 2 3 4 [5] 6 7
查看完整版本: 世上(也是史上)功能最全的 32G12K128 MDU32应用 LIB