当前位置:主页   - 电脑 - 程序设计 - C/C++
Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG
来源:网络   作者:快乐虾   更新时间:2011-07-19
收藏此页】    【字号    】    【打印】    【关闭

  在写完fract除法之后,偶然发现在vdsp的一个头文件中提供了fract16除法运算的函数,这个文件就是VisualDSP 5.0Blackfinincludefract_math.h:

/* Produces a result which is the fractional division of f1 by f2. Not a builtin
 * as written in C code. */
#pragma inline
#pragma always_inline
static fract16 div_s(fract16 _a, fract16 _b) {
  int x = (int)_a;
  int y = (int)_b;
  fract16 rtn;
  int i;
  int aq;
  if (x==0) {
    rtn = 0;
  }
  else if (x>=y) {
    rtn = 0x7fff;
  }
  else {
    x <<= 16;
    x = divs(x, y, &aq);
    for (i=0; i<15; i++) {
      x = divq(x, y, &aq);
    }
    rtn = (fract16) x;
  }
  return rtn;
}

  这个内联函数和vdsp文档中提供的示例函数完全一样,也就是说,它存在一个《Vdsp(bf561)中的浮点运算(14):fract16除法》中提到的缺陷,如果你用它计算一个正的小数和一个负的小数的除法,它将毫不客气地返回1。

  比如用它计算 0.2 / -0.4,这个是不应该出现饱和的!

  出现这个问题的原因在于

  int x = (int)_a;
  int y = (int)_b;

  然后就进行了x和y的比较,由于进行的是整数的比较,正数显然永远大于负数,所以就造成了这样的问题。

  以0.2 / -0.4为例:

  0.2转换为以十六进制表示的数为0x1999,而-0.4则为0xCCCC,当这两个值赋给x和y后分别变成了0x00001999和0xffffcccc,也就是6553和-13108,哈哈,正数大于负数,小学生都知道!

  期待下一个update可以修正。

编缉推荐阅读以下文章

  • Vdsp(bf561)中的浮点运算(16):fract2x16类型
  • Vdsp(bf561)中的浮点运算(14):fract16除法
  • Vdsp(bf561)中的浮点运算(13):fract16乘法运算
  • Vdsp(bf561)中的浮点运算(12):fract16加减运算
  • Vdsp(bf561)中的浮点运算(11):fract16与float的转换
  • Vdsp(bf561)中的浮点运算(10):fract16类型表示
  • Vdsp(bf561)中的浮点运算(9):long double和float的比较
  • Vdsp(bf561)中的浮点运算(8):float除法运算
  • Vdsp(bf561)中的浮点运算(7):float乘法运算
  • Vdsp(bf561)中的浮点运算(6):float加减运算
其它资源
来源声明

版权与免责声明
1、本站所发布的文章仅供技术交流参考,本站不主张将其做为决策的依据,浏览者可自愿选择采信与否,本站不对因采信这些信息所产生的任何问题负责。
2、本站部分文章来源于网络,其版权为原权利人所有。由于来源之故,有的文章未能获得作者姓名,署“未知”或“佚名”。对于这些文章,有知悉作者姓名的请告知本站,以便及时署名。如果作者要求删除,我们将予以删除。除此之外本站不再承担其它责任。
3、本站部分文章来源于本站原创,本站拥有所有权利。
4、如对本站发布的信息有异议,请联系我们,经本站确认后,将在三个工作日内做出修改或删除处理。
请参阅权责声明