сравнение числовых значений

Тема в разделе "Lotus - Программирование", создана пользователем _OLSA_, 2 дек 2005.

Статус темы:
Закрыта.
  1. _OLSA_

    _OLSA_ Гость

    Кто нибудь сталкивался:

    есть некоторый контейнер, точность массы до тысячных.
    Из него постепенно идет отгрузка.
    Почему то иногда, чаще когда было несколько мелких отгрузок, например:
    0.001
    0.011 и тп.
    При последней отгрузке (вроде отгружают количество, которое содержится в контейнере) при сравнении двух чисел (в дебагере отображаются как одинаковые), выдает, что одно число больше другого.
    Если ставлю Round(pole,3) - тогда остаток отображается как "-0.000".

    На что следует обратить внимание?
     
  2. Medevic

    Medevic Что это ? :)
    Lotus team

    Регистрация:
    10 дек 2004
    Сообщения:
    3.346
    Симпатии:
    2
    Для: _OLSA_
    Это связано с невозможностью точно представить некоторые десятичные числа в двоичной форме. :D
    Все дробные числа сравнивать надо с заданной точностью.
    Т.е. вместо
    if f1 = f2 then ...
    писать.
    if abs(f2 - f1) < eps then ..., где eps - нужная точность.
     
  3. _OLSA_

    _OLSA_ Гость

    Т.е. eps - любое число?
     
  4. Medevic

    Medevic Что это ? :)
    Lotus team

    Регистрация:
    10 дек 2004
    Сообщения:
    3.346
    Симпатии:
    2
    Для: _OLSA_
    Да. Точность. Например, 0.00001.
     
Загрузка...
Похожие Темы - сравнение числовых значений
  1. Erlan
    Ответов:
    8
    Просмотров:
    1.638
  2. k85
    Ответов:
    2
    Просмотров:
    1.149
  3. clas
    Ответов:
    3
    Просмотров:
    1.602
  4. juk-777
    Ответов:
    29
    Просмотров:
    4.705
  5. aank10
    Ответов:
    3
    Просмотров:
    1.967
Статус темы:
Закрыта.

Поделиться этой страницей