Люди, как справляться с числами с плавающей точкой? Нужна прям

Question

Люди, как справляться с числами с плавающей точкой? Нужна прям

точность до 9 символов после запятой 😅
Меня интересует именно какие библиотеки для этого использовать. К примеру тонрокет, валлет, у них все идеально считается. У меня проблемы при использовании Decimal. В базе (mysql, тип Decimal(20,9)) сохраняется
0.000018000
При локальных подсчётах (проверяю историю транзакций пользователя и т.п.) вылезает к примеру 0.000018023, и уже несостыковка

#backend #programming #python #russian

0

05.10.2023

3 ответов

11 просмотров

Tishka17

Стандартный флоат даёт точность около 14 знаков

0

11 месяцев назад

Niko Buretti

В целом если знать как внутри в mysql, то можно точно в питоне считать. А вообще не парься и найди как представляются в питоне децимал struct Decimal { // the max number of digits which can be stored static constexpr size_t max_digits = 65; uint8_t storage[30]; // each 4 byte are used to store 9 digits and each 1 byte for 2 digits uint8_t intg; // count of digits before point uint8_t frac : 7; // count of digits after point uint8_t sign : 1; // 0 - positive, 1 - negative

0

11 месяцев назад

Ke1io · Accepted Answer

Ke1io

потому что у тебя указано 9 цифр, а ты получаешь 6 цифр после запятой, в твоей базе автоматически прибавляются те лишние 3 нуля с твоего примера

0

11 месяцев назад

170 похожих чатов

Люди, как справляться с числами с плавающей точкой? Нужна прям

3 ответов

Похожие вопросы