算法定点化
来源:互联网 发布:sqlserver 表别名 编辑:程序博客网 时间:2024/06/10 14:51
1.提出问题:精度和动态范围之间的矛盾
转化结果为:a = (1 << 14) - (b << 6) / (c >> 8);
先确定数值的界,也就是定点的字长,然后把浮点转化为定点格式
精度=>小数的位数n=>浮点数乘2^n并取整=>加法直接运算,乘法后除以2^n,除法后乘以2^n
2.解决方法:范围
1).除法转换为乘法或者移位运算
2).查表计算
3).级数展开,2和3一般针对复杂的数学公式
4).分子分母同时变化
3. 解决精度不足的方法:更长字长,加半位,整数模拟,查表
4. 具体步骤:推断算法每一步结果的动态范围。对复杂算法不可行,此时需要做动态的normalization或者通过尝试得到大致动态范围(常有例外)。
比如:a = 1 - (b/c);其中b < pow(2, 23), c = pow(2, 26);转化结果为:a = (1 << 14) - (b << 6) / (c >> 8);
先确定数值的界,也就是定点的字长,然后把浮点转化为定点格式
精度=>小数的位数n=>浮点数乘2^n并取整=>加法直接运算,乘法后除以2^n,除法后乘以2^n
溢出问题怎么处理?
5. 其他
定点数和浮点数的差别:
1.表示的精度和范围不同
2.运算复杂度不同
3.硬件依赖性
- 算法定点化
- 算法定点化
- 算法定点化
- 定点化
- 定点化
- 定点化
- 定点化资料
- OSTU定点化
- 定点化的基本原理
- 定点化问题
- FFT 定点化的文章
- 浮点数的定点化
- tensorflow模型的定点化
- 浮点数的定点化
- libdca解码器32位定点化
- 提高专业技能之 “Codec定点化”
- DSP上浮点数据定点化处理 Q格式(Q15)
- 嵌入式编程中,你应该知道的定点化知识
- java相关总结3--浅克隆和深克隆
- 按层遍历二叉树(队列实现)
- delphi DBGrideh部分常用功能使用说明
- 如何将所有的进程运行在一个指定的CPU上
- 第94天的交易(2013-9-13)(-50)(-164.08)(数据单总盈利:737.35)(贵金属总盈利:-500.42)
- 算法定点化
- 字节问题
- C语言输入函数作为循环条件的几种用法
- MCI编程之 mciSendCommand
- nyoj-144-小珂的苦恼
- CButtonST的用法详解!
- 从HelloApp看一个cocos2d-x程序是怎么启动的
- Android加载图片出现SKImagedecoder::Factory returned null 该怎么解决
- Java内部类的使用