The right way to compare a System.Double to #39;0#39; (a number, int?)(将 System.Double 与“0(数字,整数?)进行比较的正确方法)
问题描述
抱歉,这可能是一个简单的愚蠢问题,但我需要知道才能确定.
Sorry, this might be a easy stupid question, but I need to know to be sure.
我有这个 if 表达式,
void Foo()
{
System.Double something = GetSomething();
if (something == 0) //Comparison of floating point numbers with equality
// operator. Possible loss of precision while rounding value
{}
}
这个表达式是否等于
void Foo()
{
System.Double something = GetSomething();
if (something < 1)
{}
}
?因为那时我可能会遇到问题,例如输入 if值为 0.9.
? Because then I might have a problem, entering the if with e.g. a value of 0.9.
推荐答案
那么,你需要将值接近 0 吗?如果您执行大量无限精度"的浮点运算可能会导致 0,您最终可能会得到非常接近"0 的结果.
Well, how close do you need the value to be to 0? If you go through a lot of floating point operations which in "infinite precision" might result in 0, you could end up with a result "very close" to 0.
通常在这种情况下,您希望提供某种 epsilon,并检查结果是否在该 epsilon 内:
Typically in this situation you want to provide some sort of epsilon, and check that the result is just within that epsilon:
if (Math.Abs(something) < 0.001)
您应该使用的 epsilon 是特定于应用程序的 - 这取决于您在做什么.
The epsilon you should use is application-specific - it depends on what you're doing.
当然,如果结果应该完全为零,那么简单的相等检查就可以了.
Of course, if the result should be exactly zero, then a simple equality check is fine.
这篇关于将 System.Double 与“0"(数字,整数?)进行比较的正确方法的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!
本文标题为:将 System.Double 与“0"(数字,整数?)进行比较的正确方法
基础教程推荐
- 在 VS2010 中的 Post Build 事件中将 bin 文件复制到物 2022-01-01
- 将事件 TextChanged 分配给表单中的所有文本框 2022-01-01
- 错误“此流不支持搜索操作"在 C# 中 2022-01-01
- 经典 Asp 中的 ResolveUrl/Url.Content 等效项 2022-01-01
- 从 VS 2017 .NET Core 项目的发布目录中排除文件 2022-01-01
- 如何动态获取文本框中datagridview列的总和 2022-01-01
- JSON.NET 中基于属性的类型解析 2022-01-01
- 全局 ASAX - 获取服务器名称 2022-01-01
- 首先创建代码,多对多,关联表中的附加字段 2022-01-01
- 是否可以在 asp classic 和 asp.net 之间共享会话状态 2022-01-01
