Сегодня весь день мучились с ldecNumber. Тщетно искали ошибки в

Question

Сегодня весь день мучились с ldecNumber. Тщетно искали ошибки в

коде, приводящие к кривым результатам простых вычислений (сложение, вычитание). В итоге помониторили статус контекста... Overflow, Inexact и даже invalid context (?!). При этом иногда сбрасывается точность. Всё это добро ведёт себя непонятным образом (иногда сбрасывается само, иногда нет) и может влиять на результат или не влиять на него. Складывается впечатление, что нужно почти после каждой операции сбрасывать статус и переустанавливать точность на всякий случай. Нельзя ли сделать небольшой ман по вот этой всей кухне? Раз уж это пока что единственный инструмент для decimals

#database #programming #russian #software #tarantool

0

17.05.2019