<tfoot id="2scsk"></tfoot><rt id="2scsk"></rt>

一個讓人困惑的公式bug

作者：金字塔來源：cxh99.com 發布時間：2015年06月16日

咨詢內容： a:IFN(open-low<=1*MINDIFF,0,1);
把如上公式使用在600004白云機場日線圖，觀看14年8月4日這一天日線下該指標的顯示。
原本這一天的開盤減去收盤是，7.44-7.43=0.01,0.01確實小于等于該股的最小波動單位的，即0.01<=0.01的，所以a這個指標線應該是1（對應8月4日這一天）但是奇怪的是在金字塔上實際那個位置是0.

這是為什么呢？請大家看看為什么
金字塔客服： 這個可能是數型的問題，我不知道現在的編程語言是怎么樣的，我記得以前用“Fortran”寫程序時，只有“整型”數才可以用“=”進行判斷，而實型數是不可以的。而實型數的相等判斷一般是用abs(a-b)<....來判斷。
用戶回復： ROUNDS(dd,2);對open-l進行小數點為精確,實際返回值的時候涉及浮點誤差,有小數點位影響
網友回復：
哦，感謝回復。

繼續請教，是不是a股的數據，其實并不是2位小數，而實際是小數點后三位？
網友回復：
計算機對浮點數的計算可能會存在小數點上的誤差，你要精確判斷的話用3樓的那個函數自己限制掉位數。

大伊人青草狠狠久久-大伊香蕉精品视频在线-大伊香蕉精品一区视频在线-大伊香蕉在线精品不卡视频-大伊香蕉在线精品视频75-大伊香蕉在线精品视频人碰人