为什么浮点上的简单数学运算会在 VB.Net 和 Python 中返回意外(不准确)的结果?
- 作者: 段子能取二十字这么长的名字啊真的好长
- 来源: 51数据库
- 2022-10-21
问题描述
x = 4.2 - 0.1
vb.net 给出 4.1000000000000005
python给出4.1000000000000005
Excel给出4.1
Google calc 给出 4.1
Excel gives 4.1
Google calc gives 4.1
发生这种情况的原因是什么?
What is the reason this happens?
推荐答案
浮点/双精度.
您必须记住，在二进制中，4.1 = 4 + 1/10.1/10 是二进制的无限重复和，就像 1/9 是十进制的无限和.
You must remember that in binary, 4.1 = 4 + 1/10. 1/10 is an infinitely repeating sum in binary, much like 1/9 is an infinite sum in decimal.
推荐阅读
热点文章
Discord.py(重写)on_member_update 无法正常工作
0
Discord.py 在 vc 中获取用户分钟数
0
discord.py 重写 |为我的命令出错
0
Discord.py rewrite 如何 DM 命令?
0
播放音频时，最后一部分被切断.如何解决这个问题?(discord.py)
0
在消息删除消息 Discord.py
0
如何使 discord.py 机器人私人/直接消息不是作者的人?
0
(Discord.py) 如何获取整个嵌入内容?
0
Discord bot 尽管获得了许可，但不能提及所有人
0
Discord.py discord.NotFound 异常
0
