169 похожих чатов

Чисто математический вопрос: на какое число надо умножить dword, (сразу

говорю, точность числа на которое умножать можеть быть больше 2 dword`ов, а вот результат округляется до 2х старших dword) чтобы при последовательном умножении полученного qword на 10 извлечь все десятичные цифры исходного числа? Такое число есть и при том только одно. ответ можно представить в виде $XXXXXXXXXXXXXXXX.XXXXXX.... (это что то вроде дичайшего хака для конверсии двоичных чисел в десятичные)

3 ответов

17 просмотров

Но ведь очевидно, что будут ошибки округления. Какой смысл?

ProMiNick- Автор вопроса
s54820
Но ведь очевидно, что будут ошибки округления. Как...

какие ошибки округления? если вы берете двойной запас точности т.е. анализируя dword вытаскиваете цифры из qword

ProMiNick
какие ошибки округления? если вы берете двойной за...

Ошибки округления при перемасшабировании (вот это первоначальное умножение), ошибки при последовательном умножении на 10.

Похожие вопросы

Обсуждают сегодня

А случайно нет ли в паскале штатной возможности передать указатель и количество туда где array of в качестве аргумента?
zamtmn
25
Почему Telegram пишет, что объект media не найден, хотя на самом деле я его передаю? Делаю на urllib, без зависимостей, так надо. Вызываю метод sendMediaGroup с таким JSON: ...
Alexey S
1
Anyone here suffers from unexplained aural migraines, who would be up for talking for a bit? Doesn't *have* to be aural, but I am not asking about headaches, I mean actual mi...
Martin Rys
58
Ну раз я пока тут, задам пару глупых вопросов. Зачем писать на ассемблере если компилятор довольно умный, а ассемблер много времени занимает? В каких прикладных задачах сейчас...
Максим Рябцев
20
Я тут за тем, чтобы задать вопрос, так как не знаю ассемблер, учу с/с++. Короче, насколько дорога операция перехода в функцию при ее вызове? Дело в том, что в с++ есть макросы...
Максим Рябцев
12
Привет, нужен совет старших товарищей. Есть глобальная переменная var DefaultDataFolder:string; инициализируем DefaultDataFolder:='a:\_OUT\'; есть примитивная процедур...
Max Otto
14
А какие чаты вообще в ходу? Auto aim? И что еше
do you think you're better off alone? А
13
hello friends. Do you know how can I learn getx? I have a software project that I should deliver it up to 5 weeks later and I need to learn firebase too. I will be thankfull
AmirHossein Razavi
15
Доброе время суток! у меня тут иноды закончились. и понял почему по сути кстит, я периодически очищаю постгрес и сентри контайнер: postgres=# DELETE FROM nodestore_node WHER...
Юсиф Насиров
9
Вопрос. Теоретический. Есть список команд. Команды отправляю в обработку некой функции, по очереди. Разные команды могут давать разные результаты после обработки. В зависимос...
Serjone
7
Карта сайта