string转double后,因为精度问题的解决方法

获取中...

常见问题:string转double后,因为精度问题,导致对double进行四舍五入的时候不精确的问题,找到一个比较好的方法。方法见FormatDecimal。调用示例见最底部。

错误方法:string (“442477.876106195”)=> double(442477.87610619498)=> 保留8位小数结果为 (442477.87610619),实际结果应该为(442477.87610620)
正确方法:string (“442477.876106195”)=> double(442477.87610619498)=> FormatDecimal方法处理后结果为(442477.87610619998)=> 保留8位小数结果为(442477.87610620)

/*
* 函数名称: FormatDecimal
* 函数功能: 提高double四舍五入前数据的精度
* 参    数:
* dblValue   原始double数据
* nDecimal  四舍五入的位数
* 返 回 值: 四舍五入前的double数据
* 示    例: FormatDecimal(442477.87610619498, 8)=442477.87610619998
*/
double FormatDecimal(double dblValue, int nDecimal)
{
double dRetval;
double dMod = 0.0000001;
if (dblValue < 0.0) dMod = -0.0000001;
dRetval = dblValue;
dRetval += (5.0 / pow(10.0, nDecimal + 1.0));
dRetval *= pow(10.0, nDecimal);
dRetval = floor(dRetval + dMod);
dRetval /= pow(10.0, nDecimal);
return(dRetval);
}

 
 
调用示例:
fReturn = _tstof(strReturn.c_str());
fReturn = FormatDecimal(fReturn, iDotnum);
std::stringstream buffer;
buffer << std::fixed << std::setprecision(iDotnum) << fReturn;
strReturn.assign(buffer.str());
C++
打赏
评论区
头像