сравнение числовых значений

  • Автор темы _OLSA_
  • Дата начала
Статус
Закрыто для дальнейших ответов.
O

_OLSA_

Гость
#1
Кто нибудь сталкивался:

есть некоторый контейнер, точность массы до тысячных.
Из него постепенно идет отгрузка.
Почему то иногда, чаще когда было несколько мелких отгрузок, например:
0.001
0.011 и тп.
При последней отгрузке (вроде отгружают количество, которое содержится в контейнере) при сравнении двух чисел (в дебагере отображаются как одинаковые), выдает, что одно число больше другого.
Если ставлю Round(pole,3) - тогда остаток отображается как "-0.000".

На что следует обратить внимание?
 

Medevic

Что это ? :)
Lotus team
10.12.2004
3 346
2
36
Россия, Калуга
#2
Для: _OLSA_
Это связано с невозможностью точно представить некоторые десятичные числа в двоичной форме. :D
Все дробные числа сравнивать надо с заданной точностью.
Т.е. вместо
if f1 = f2 then ...
писать.
if abs(f2 - f1) < eps then ..., где eps - нужная точность.
 
Статус
Закрыто для дальнейших ответов.