ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

解决js计算精度丢失问题

2022-01-04 10:04:28  阅读:182  来源: 互联网

标签:计算精度 r1 r2 arg1 arg2 param js toString 丢失


/**
 * 计算操作类
 * @param {*} arg1 
 * @param {*} arg2 
 */




/**
 * @param {除法函数
//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 
//调用:div(arg1,arg2) 
//返回值:arg1除以arg2的精确结果 } arg1 
 * @param {*} arg2 
 */
const div = function (arg1,arg2){ 
  var t1=0,t2=0,r1,r2; 
  try{t1=arg1.toString().split(".")[1].length}catch(e){}   //--小数点后的长度
  try{t2=arg2.toString().split(".")[1].length}catch(e){}  //--小数点后的长度
  //with(Math){ 
    r1=Number(arg1.toString().replace(".",""))  //--去除小数点变整数
    r2=Number(arg2.toString().replace(".",""))  //--去除小数点变整数
    return (r1/r2)*pow(10,t2-t1);   //---整数相除 在乘上10的平方  小数点的长度
  //} 
} 


/**
 * @param {乘法函数
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 
//mul(arg1,arg2) 
//返回值:arg1乘以arg2的精确结果 
 * @param {*} arg2 
 */
const mul = function(arg1,arg2){ 
  var m=0,s1=arg1.toString(),s2=arg2.toString(); 
  try{m+=s1.split(".")[1].length}catch(e){} 
  try{m+=s2.split(".")[1].length}catch(e){} 
  return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
} 

/**
 * @param {加法函数
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 
//add(arg1,arg2) 
//返回值:arg1加上arg2的精确结果 
 * @param {*} arg2 
 */
const add = function (arg1,arg2){ 
  var r1,r2,m; 
  try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
  try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
  m=Math.pow(10,Math.max(r1,r2)) 
  return (arg1*m+arg2*m)/m 
} 


/**
 * @param {减法函数
 * @param {*} arg2 
 */
const sub = function(arg1,arg2){ 
  var r1,r2,m,n; 
  try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
  try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
  m=Math.pow(10,Math.max(r1,r2)); 
  //last modify by deeka 
  //动态控制精度长度 
  n=(r1>=r2)?r1:r2; 
  return ((arg1*m-arg2*m)/m).toFixed(n); 
}

 

标签:计算精度,r1,r2,arg1,arg2,param,js,toString,丢失
来源: https://www.cnblogs.com/object360/p/15761379.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有