170 похожих чатов

Как мне из double вычесть double, но только что бы

получилось ожидаемое число. Я хочу вычесть из 0.813 - 0.001 = 0.812, но получается 0.81211111111. Что делать?

12 ответов

29 просмотров

Почитать, как работает double, и почему он не имеет абсолютную точность

fp конечно забавно устроена, но то, что вы тут рассказываете невозможно.

Не использовать double - он не для того, что ты хочешь.

варианты: - округлять до заданной точности + регулировать вывод путем указания кол-во значащих цифр после запятой - перейти на fix point представление (integer + scale)

Дмитрий-Воронин Автор вопроса
Boris Usievich
fp конечно забавно устроена, но то, что вы тут рас...

Ну да невозможно, я перепутал слегла, на деле там так 0.813 - 0.001 = 0.811999999999999999999999

Дмитрий-Воронин Автор вопроса
Anatoly Shirokov
варианты: - округлять до заданной точности + регу...

Округление помогло. Вот такая функция: double roundPrecision(double& inputPosition, int precision) { int valuePrecision = pow(10, abs(precision)); return round(inputPosition*valuePrecision)/valuePrecision; }

Boris Usievich
fp конечно забавно устроена, но то, что вы тут рас...

человек видит две переменные. Печатает одну - получает 0.813 (но значение переменной реально другое) Печатает другую переменную, получает 0.001 (но значение переменной реально тоже другое) Потом вычисляет результат вычитания одного из другого (точнее наоборот) и печатает результат - получает НЕ 0.812 (но в реальности значение переменной также другое) Так что то, что он пишет, возможно

Дмитрий Воронин
Округление помогло. Вот такая функция: double ro...

вообще-то в C++ есть возможность выводить с заданным числом знаков, не надо велосипеды городить

Дмитрий-Воронин Автор вопроса
Boris Usievich
вообще-то в C++ есть возможность выводить с заданн...

А мне не выводить, мне округлить до заданного знака надо

Дмитрий Воронин
Округление помогло. Вот такая функция: double ro...

Не забывай, что при операциях ошибка накапливает при sum считается как max(dx_1, dx_2), при mul как sum(dx_1, dx_2). Ну и важный момент при операциях с очень большими и очень малыми числами.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
длина пакета фиксированная, или меняется?
Okhsunrog
7
Карта сайта