десятитысячной а дальше уплывает, это и в с++ так float себя ведет?
Ну а как вообще можно представить дробью со степенью двойки в знаменателе, десятичную дробь? Только с дикой потерей точности...
мож это пригодится?
О спасибо! Интересно, там правда через fpu переводится вроде, но всеравно интересно поизучать!
я что то пытаюсь со сдвигами придумать чтобы каждую итерацию на 10 не умножать а то быстро регистры переполняются, если получится можно будет еще точность увеличить по идее
Код кстати у него хорошо читается, без наворотов всяких непонятных этих макросов :)
я к тому, что точность после запятой, будет хреновая поскольку дробная часть хранится в двоичном формате, потому многие десятичные дроби будут иметь периодическое представление в виде "двоичных" дробей
А оказывается у мення точность не хуже чем в c++ а я переживал! :)
Тогда намного по другому! А что это, это уже double или что? Up ой чтой то я, сам дабл написал :))
Вот так норм. всеравно не точно просто неточность длиннее, значит float не тянет только double но это уже гораздо больше разрешение мантиссы и поряда
Обсуждают сегодня