Подскажите, как работает getcontext().prec в decimal? Делаю getcontext().prec = 2: Decimal('1')

Question

Подскажите, как работает getcontext().prec в decimal? Делаю getcontext().prec = 2: Decimal('1')

/ Decimal('3')=Decimal('0.33')
Decimal('0.001') + Decimal('0.009')=Decimal('0.010')
Decimal('0.1') * Decimal('0.01')=Decimal('0.001')
Ничего не понятно

#backend #programming #python #russian

0

19.11.2023

8 ответов

40 просмотров

Kelevra Автор вопроса

Так все 3 примера с вычислениями, разве нет?

0

19.11.2023

Tishka17

Kelevra
Так все 3 примера с вычислениями, разве нет?

Ладно, третий пример вызывает вопросы

0

19.11.2023

Kelevra Автор вопроса

Tishka17
Ладно, третий пример вызывает вопросы

Мне хотелось бы, что бы я один раз установил точность знаков после запятой, и забыл об этом. Ещё хотелось бы, что бы при преобразовании в строку, везде был результат f'{decimal:.2f}', раз я указал точность 2

0

19.11.2023

Tishka17

Kelevra
Мне хотелось бы, что бы я один раз установил точно...

Так, не путай точно при вычислениях и точность при выводе. Цели этих действий совершенно разные

0

19.11.2023

Kelevra Автор вопроса

Tishka17
Так, не путай точно при вычислениях и точность при...

Так я хочу вычислить с опеределённой точностью(2) и с ней же выводить

0

19.11.2023