整數(shù)運(yùn)算，雙精度運(yùn)算
作者：通達(dá)信 來(lái)源：cxh99.com 發(fā)布時(shí)間：2020年07月25日
-
咨詢內(nèi)容：
經(jīng)過(guò)連日對(duì)TDX的FLOAT運(yùn)算研究，最終發(fā)現(xiàn)其只能提供7位有效十進(jìn)制數(shù)字，無(wú)論如何都不能傳遞4個(gè)字節(jié)應(yīng)該能傳遞的10位有效數(shù)字。
TDX中甚至不能進(jìn)行整數(shù)運(yùn)算，只能進(jìn)行FLOAT運(yùn)算，非常差勁！
在C++中，找到了利用FLOAT傳送10位有效數(shù)字的方法，就是DWORD與FLOAT相互內(nèi)存數(shù)據(jù)拷貝，但是由于TDX不能進(jìn)行精確運(yùn)算，所以無(wú)法使用該方法。
DWORD dw = 0;
float f1 = 0.25;
cout<<"f1 = "<<f1<<endl;
?來(lái)源:C X H 9 9 .C O M ）
-
通達(dá)信技術(shù)部：
打印本文
關(guān)閉窗口