小编典典

C#Float表达式:将结果float转换为int时的奇怪行为

c#

我有以下简单代码:

int speed1 = (int)(6.2f * 10);
float tmp = 6.2f * 10;
int speed2 = (int)tmp;

speed1并且speed2应该具有相同的值,但实际上,我有:

speed1 = 61
speed2 = 62

我知道我可能应该使用Math.Round而不是强制转换,但是我想了解为什么值不同。

我查看了生成的字节码,但是除了存储和加载之外,操作码是相同的。

我也在Java中尝试了相同的代码,并且正确获得了62和62。

有人可以解释吗?

编辑: 在实际代码中,它不是直接6.2f * 10,而是函数调用*常量。我有以下字节码:

speed1

IL_01b3:  ldloc.s    V_8
IL_01b5:  callvirt   instance float32 myPackage.MyClass::getSpeed()
IL_01ba:  ldc.r4     10.
IL_01bf:  mul
IL_01c0:  conv.i4
IL_01c1:  stloc.s    V_9

speed2

IL_01c3:  ldloc.s    V_8
IL_01c5:  callvirt   instance float32 myPackage.MyClass::getSpeed()
IL_01ca:  ldc.r4     10.
IL_01cf:  mul
IL_01d0:  stloc.s    V_10
IL_01d2:  ldloc.s    V_10
IL_01d4:  conv.i4
IL_01d5:  stloc.s    V_11

我们可以看到操作数是浮点数,唯一的区别是stloc/ldloc

至于虚拟机,我尝试使用Mono / Win7,Mono / MacOS和.NET / Windows,结果相同。


阅读 457

收藏
2020-05-19

共1个答案

小编典典

首先,我假设您知道6.2f * 10由于浮点舍入而不是62(实际上是61.99999809265137的值,用a表示double),并且您的问题只是关于为什么两个看似相同的计算导致错误的值。

答案是,对于(int)(6.2f * 10),您将double取值61.99999809265137并将其截断为整数,得到61。

对于float f = 6.2f * 10,您将采用双精度值61.99999809265137并 四舍五入
到最接近的float值62,然后将其截断float为整数,结果为62。

练习:解释以下操作序列的结果。

double d = 6.2f * 10;
int tmp2 = (int)d;
// evaluate tmp2

更新:由于在评论所指出的,表达6.2f * 10是一个正式的float,因为第二参数具有一个隐式转换到float更好比隐式转换double

实际的问题是允许(但不是必需)编译器使用比正式类型(第11.2.2节)更高精度的中间件。这就是为什么您在不同的系统上看到不同的行为的原因:在表达式中(int)(6.2f * 10),编译器可以选择6.2f * 10在转换为之前将值保持为高精度中间形式int。如果是,则结果为61。如果不是,则结果为62。

在第二个示例中,显式赋值float强制四舍五入发生在转换为整数之前。

2020-05-19