Re[2]: Приведение типа потом вычитание
От: Igore Россия  
Дата: 03.05.05 15:50
Оценка:
Здравствуйте, Peter Fleischer, Вы писали:

PF>Из-за ограниченной разрядной сетки процессора могут быть такие "неточности" при преобразовании из двоичного в десятичное представление (и наоборот). Нади либо брать целочисленные числа, либо округлять.


PF>Peter



Как выеснилось ошибка еще проще, мне просто интересно, это у меня одного такое или нет.
   Dim q3 As Double
   q3 = 1.1212 - 1.1211
   MsgBox q3 'q3<>0.0001
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.