Functions.SetFloatDelta 方法 (Double) | |
返回并可选地更改决定两个浮点数被认为相等的设置,即使它们是不同的。
命名空间:
XSharp.RT
程序集:
XSharp.RT (在 XSharp.RT.dll 中) 版本:2.22 GA
语法 FUNCTION SetFloatDelta(
nNewSetting AS REAL8
) AS REAL8
public static double SetFloatDelta(
double nNewSetting
)
查看代码参数
- nNewSetting
- 类型:Double
两个数字之间可接受的差异。
返回值
类型:
Double
如果未指定
nNewSetting,则 SetFloatDelta() 返回当前设置。
如果指定了
nNewSetting,则返回先前的设置。
备注
SetFloatDelta() 决定两个浮点数可以不同的最大值,而仍然被视为相等。如果两个数字之间的差异小于 SetFloatDelta() 的设置,则该差异将被忽略。
示例
此示例使用 SetFloatDelta() 来改变数值比较的结果:
1? 1.231 = 1.23
2? 1.33 = 1.23
3SetFloatDelta(0.01)
4? 1.231 = 1.23
5? 1.33 = 1.23
6? 1.4 < 1.40123456
7? 1.4 < 1.42
参见