VB大数计算出现误差该怎么解决

iritwq |浏览1098次
收藏|2019/04/11 11:12

满意回答

2019/04/11 11:42

VB的int只能表示为-2147483648~2147483647而它的double用的是IEEE754格式,最多14个有效位所以,你要进行高精度大度运算,就不是VB本身的功能了而VB作为上世纪就已淘汰的语言,做这种处理有点难度(要自己写大数运算函数)若用JAVA、python,c++相对容易解决的

whoami1978

其他回答(0)
0人关注该问题
+1

 加载中...