Re[3]: Проблема с вычислениями
От: Igore Россия  
Дата: 26.12.06 08:40
Оценка:
Здравствуйте, fightcat, Вы писали:

___>>Проблема в том, что круглые числа в двоичной системе исчисления и в десятичной — разные. Это касается как мантиссы, так и экспоненты. Вот и приходится округлять компилятору до наиболее ближайшего подходящего числа твое 1*10^-1.


F>Спасибо. Просто никогда с подобным не сталкивался

F>А можно ли это как-то побороть? Очень хочется, чтобы 5,1 + 0,1 = 5,2

1. Использовать тип decimal
2. Самому округлять, сравнить с учетом погрешности
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.