找回密码
 立即注册
楼主: LA***

世上(也是史上)功能最全的STC32 MDU32应用 LIB

[复制链接]

该用户从未签到

1

主题

110

回帖

619

积分

高级会员

积分
619
发表于 2024-2-29 11:40:18 | 显示全部楼层
应该是少判断了一个条件

点评

是的, 如要和 c251一样, 当计算值小于某个数时, 强制清0即可(实际无多大意义)  详情 回复 发表于 2024-3-1 17:55
回复 支持 反对 送花

使用道具 举报

  • TA的每日心情
    开心
    14 分钟前
  • 签到天数: 134 天

    [LV.7]常住居民III

    37

    主题

    869

    回帖

    3950

    积分

    荣誉版主

    积分
    3950
     楼主| 发表于 2024-3-1 17:53:01 | 显示全部楼层
    zxcv1973 发表于 2024-2-29 11:39
    浮点除法测试了一下,极端数值下处理结果与KEIL的不一致,比如0.07/9.99999e36,KEIL的结果是为0,而这个 ...



    测试了,  标准值是 7.0e-39,  MDU32浮点除法, 值是 2.2e-39,  c251库 浮点除法, 值是 0,  相比之下, 还是 MDU32浮点除法精度高点(实际上这么小的值 e-39已无意义)


    1.JPG

    回复 支持 反对 送花

    使用道具 举报

  • TA的每日心情
    开心
    14 分钟前
  • 签到天数: 134 天

    [LV.7]常住居民III

    37

    主题

    869

    回帖

    3950

    积分

    荣誉版主

    积分
    3950
     楼主| 发表于 2024-3-1 17:55:47 | 显示全部楼层
    zxcv1973 发表于 2024-2-29 11:40
    应该是少判断了一个条件

    是的, 如要和 c251一样, 当计算值小于某个数时, 强制清0即可(实际无多大意义)
    回复 支持 反对 送花

    使用道具 举报

  • TA的每日心情
    奋斗
    2 小时前
  • 签到天数: 65 天

    [LV.6]常住居民II

    11

    主题

    368

    回帖

    1077

    积分

    金牌会员

    积分
    1077
    发表于 2024-3-5 18:25:03 | 显示全部楼层
    太猛了,下载回来试试看
    回复 支持 反对 送花

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|深圳国芯人工智能有限公司 ( 粤ICP备2022108929号-2 )

    GMT+8, 2024-4-30 03:47 , Processed in 0.056193 second(s), 42 queries .

    Powered by Discuz! X3.5

    © 2001-2024 Discuz! Team.

    快速回复 返回顶部 返回列表