170 похожих чатов

Скажите, пожалуйста, я уже несколько дней отлаживаю код для множества

сложных математических преобразований, включая аггрегацию и математическое округление.
На выходе получаю результат, который немного отличается от целевого. Причём видно что ранние переменные отклоняются буквально на десятые доли. А более поздние производные переменные отклоняются всё сильнее и сильнее.

Сначала я писал код экономя оперативу и используя всякие std::uint8 ит.п. Потом при попытке вывода числа получил какой то символ и решил не шутить с тем что не очень понимаю как работает - заменил всё на int, long long int и float.

Мне показалось что int на int делится не очень хорошо, поэтому решил вообще не рисковать и заменил всё что можно, кроме совсем мелких, гарантированно целых чисел не участвующих в преобразованиях, на double.

И вот я делаю cout ряда чисел в цикле, и вижу что, 111.25 выводится нормально, а вот, 131853.5 выводится как 131854.

Причём если сделать cout << std::fixed <<
То выводится ок.

Я предполагаю что, наверное, это просто сокращённая форма вывода. Хотя мне кажется странным идея по умолчанию сокращать и округлять double при выводе.

Я прав или из-за этого могут возникнуть проблемы с точностью вычислений?

6 ответов

20 просмотров

Оберните код в теги: 3 символа ` до и после кода (в случае одиночной конструкции достаточно 1 ` с обеих сторон). Спасибо!

Сокращенная форма вывода, не более. Само число от этого не округляется

Виктор-Nekrasov Автор вопроса
다니엘(줄리아)
Сокращенная форма вывода, не более. Само число от ...

понял, спасибо. А то с этими длительными отладками уже на воду дуть начинаю)

лишнее небольшое подмножество вещественных чисел представляется фиксированным числом разрядом точно, учитывай это и округляй при выводе

А setprecision ставили на выводе?

Виктор-Nekrasov Автор вопроса

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
длина пакета фиксированная, или меняется?
Okhsunrog
7
Карта сайта