ОБСУЖДЕНИЕ

сравнение числовых значений

3 ответов 4,5 тыс.
AI-выжимка обсуждения скоро
Статус
Закрыто для дальнейших ответов.
Кто нибудь сталкивался:

есть некоторый контейнер, точность массы до тысячных.
Из него постепенно идет отгрузка.
Почему то иногда, чаще когда было несколько мелких отгрузок, например:
0.001
0.011 и тп.
При последней отгрузке (вроде отгружают количество, которое содержится в контейнере) при сравнении двух чисел (в дебагере отображаются как одинаковые), выдает, что одно число больше другого.
Если ставлю Round(pole,3) - тогда остаток отображается как "-0.000".

На что следует обратить внимание?
 
Для: _OLSA_
Это связано с невозможностью точно представить некоторые десятичные числа в двоичной форме. :D
Все дробные числа сравнивать надо с заданной точностью.
Т.е. вместо
if f1 = f2 then ...
писать.
if abs(f2 - f1) < eps then ..., где eps - нужная точность.
 
Статус
Закрыто для дальнейших ответов.

Статистика тем

Создано
_OLSA_,
Последний ответ от
Medevic,
Ответы
3
Просмотры
4 528