надо?
^^^ что почитать, чтобы понять, что это верное поведение на Double
https://www.softelectro.ru/ieee754.html ?
ну там epsilon = 2.2204460492503131e-16
А где-нить есть подборка основных костылей, где всякие расходимости и т.п. по которым хорошо бы проверять реализации? (CC @PineappleZombie )
А реализацию чего? Т.к. в IEEE754 все советы страшно контекстно зависимы: здесь пишем, здесь не пишем, тут селёдку заворачивали
У меня пока тупо сравнение величин от пользователя
ну, есть такая гадость как последовательность Мюллера (но она, как я понял, втаптывает в грязь любое число с плавающей запятой) Как правило, в лекциях все ссылаются на -) добавим к сумме 10^3 раз значение 10^-3 и удивимся, что там >1 получится -) добавим к сумме 10^4 раза значение 10^-4 и удивимся, что там <1 получится если я правильно вопрос понял
Стандартный подход: x ≈ y = abs (x-y) / abx (max x y) < ε Он ломается, если появляется 0
Обсуждают сегодня