понял, пошёл изучать. спасибо за ответ
вот 5.0F будет `float`ом. с соответствующей потерей точности (шесть знаков после запятой).
это я уже понял. т.е. дабл максимально точный, а флот всегда с потерями (как и в других яп)
Дабл тоже с потерями.
но из всех максимально точный
с округлением то бишь
Можно точнее сделать, если хочется.
мне такое пока ещё рано
не понимаю что ты имеешь в виду все равно
округление не принадлежит двойной или одинарнойтточнокти , это явление призванное апроксимировать максимально правдоподобно реальную арифметику
на си я такое не умею, но вот на питоне >>> "%.40f" % 0.1 '0.1000000000000000055511151231257827021182' 0.1 с точностью в 40 знаков после запятой. там под конец всякие глюки начинаются, потому что компудахтор не умеет дроби нормально хранить. так что вся эта дрянь в дефолтном виде округляется до 0.1
все упирается в конечное представление в стандарте ieee 754
да и в целом в конечное представление
Обсуждают сегодня