собрались синус считать?
https://www.nullhardware.com/blog/fixed-point-sine-and-cosine-for-embedded-systems/
фиксед-поинт, не инты в фиксет-поинт 1 это не интовый 1, это 1 + сколько-то нулей для дробной части
И требуемая точность до последнего бита пошла лесом.
требуется не точность до последнего бита, требуется одинаковый результат на разных платформах
А почему нельзя немножко округлить?
в какую сторону?)
В ту, к которой округлится при увеличении разряда округления. Например 50.05 округлится до 50, потому что 0.05 ближе к 0, чем к 0.1
тоесть 50.5000000000000001 округлится вверх, а 50.4999999999999999 округлится вниз
А, вопрос "с какого разряда начинать округлять?"... Да, вопрос хороший. Надо учитывать и значение, и реализацию флоата
50.5000000000000001 тоже вниз, мы округляем к четному🥸
51 вверх или вниз?
Обсуждают сегодня