您现在的位置是:课程教程文章
js浮点数精度丢失的问题及解决
2023-12-13 23:59课程教程文章 人已围观
-
GNSS高精度数据处理——GAMIT/GLOBK入门
GNSS高精度数据处理——GAMIT/GLOBK入门本课程为《GNSS高精度数据处理——GAMIT/GLOBK入门》一书的对应视频学习,旨在降... -
不良贷款出表及违规要点注意的风险问题
不良贷款出表及违规要点注意的风险问题面对不良资产处置实务,唐琪老师凝聚自身多年的经验,一直坚持激活资产实现... -
户型风水教学之缺角的问题及化解
户型风水教学之缺角的问题及化解... -
山本教育服装设计打版服装制版高级班
山本教育服装设计打版服装制版高级班投资理财基金股票免费课程 https://ke.qq.com/course/package/35529?flowToken=1036179 点击链...
说明
1、在数学计算中,小数会有一定的误差,这是计算机本身的bug,不仅是js语言,其他语言也有这个问题。
2、解决方案,不要让两个小数比较大小,一般不会影响正常开发。
实例
<script> /*NaN:notanumber不是一个数字 *1.NaN是number数据类型中一个特殊的数值,是数学计算错误得到的一个结果 *2.NaN与任何数字都不相等,包括它的本身 *3.NaN与任何数字计算得到的都是NaN isNaN(数据):判断一个数据是不是NaN,结果为布尔类型true:是false:不是 */ //1.NaN:notanumber不是一个数字 //NaN是number数据类型中一个特殊的数值,是数学计算错误得到的一个结果 letnum='张三'-100;//当某个表达式无法计算(计算错误时),会得到NaN console.log(num);//NaN console.log(typeofNaN);//number //2.NaN与任何数字都不等,包含它本身 console.log(NaN==0);//false console.log(NaN==NaN);//false //3.NaN与任何数字计算得到的都是NaN console.log(NaN+100);//NaN //4.isNaN(数据):检测一个数据是不是NaN得到的结果是布尔类型 console.log(isNaN(NaN));//true console.log(isNaN(123));//false //如果检测的数据不是number类型,js编译器会尝试着将这个数据转化为number类型,然后再判断 //这种数据类型转换称为隐式转换:下一小节讲解 console.log(isNaN("abc"));//true //5.(课后了解即可)number浮点数(小数)精度丢失 //小数在进行数学计算时,会有一定的误差,这是计算机本身的bug,不仅是js语言,其他语言也有这个问题 //解决方案:不要让两个小数比较大小,这种情况一般不会影响正常开发 console.log(0.1+0.2);//0.300000000000004 console.log(0.1+0.2==0.3);//false console.log(0.4+0.5);//0.9 console.log(1.1-0.2);//0.9000000000000001 </script>
以上就是js浮点数精度丢失的问题及解决,希望对大家有所帮助。更多js学习指路:js教程
推荐操作环境:windows7系统、jquery3.2.1版本,DELL G3电脑。
课程教程:js浮点数精度丢失的问题及解决上一篇:js函数声明的2种方式
下一篇:没有了