я буду использовать число float вместо числа double, как быстро я обнаружу что нехватает точности.
Там ошибка накапливается с каждым умножением или как?
Вот формула вычисления позиции точки в пиксельном пространстве
round((doubleValue*scaleX) - offsetX)
если я буду вместо doubleValue использовать floatValue я замечу разницу? Ошибка будет накапливаться от количества операций над числом?
Просто мне придётся умножать довольно таки большие числа, например ((25000000*0.015) - 15). Чем больше число будет тем больше ошибка будет, если я буду использовать float вместо double?
Просто вместо числа 25000000 там может оказаться и 10^9. Замечу ли я разницу между double и float при умножении таких больших чисел
Оберните код в теги: 3 символа ` до и после кода (в случае одиночной конструкции достаточно 1 ` с обеих сторон). Спасибо!
Проще всего проверить на примере, тем более у вас есть все данные. Ошибка накапливается при любых математических операциях, не только при умножении.
если нужна фиксированная ошибка - лучше использовать фиксированную точку
Обсуждают сегодня