Коллеги, почему такой расчет:select cast(11.464 as float) - cast(11.539000000 as

Question

Коллеги, почему такой расчет:select cast(11.464 as float) - cast(11.539000000 as

float)
дает результат:-0,0749999999999993
?
а с decimal ИМХО правильно считаетselect cast(11.464 as decimal(19,4)) - cast(11.539000000 as decimal(19,4))
-0.0750
ключевое здесь - ИМХО :)

#programming #russian #sql

0

14.09.2023

1 ответов

5 просмотров

Andrey S · Accepted Answer

Andrey S

"By design" Approximate-number data types for use with floating point numeric data. Floating point data is approximate; therefore, not all values in the data type range can be represented exactly. https://learn.microsoft.com/en-us/sql/t-sql/data-types/float-and-real-transact-sql

0

14.09.2023

169 похожих чатов

Коллеги, почему такой расчет:select cast(11.464 as float) - cast(11.539000000 as

1 ответов

Похожие вопросы