Коллеги, доброе утро. Подскажите почему при делении decimal(19,4) на decimal(19,4)

Question

Коллеги, доброе утро. Подскажите почему при делении decimal(19,4) на decimal(19,4)

получается тип float?
проверил чз SQL_VARIANT_PROPERTY(res, 'BaseType')
В документации нашел что тип с меньшей точностью приводится типу с большей точностью. Но тут типы одинаковые.
Вообще у меня задача перенести такой расчет: decimal(19,4)/decimal(19,4) - decimal(19,4)на c#
если на шарпах произвести расчет без приведения decimal к double, то результат будет в decimal, и не будет совпадать с скл серверным значением.

Я так понимаю сделать нужно так:decimal.ToDouble(a) / decimal.ToDouble(b) - decimal.ToDouble(c)?
Но изначально интересно все же почему сиквел сервер меняет тип, тот же c# тип не меняет.

#programming #russian #sql

0

14.09.2023

4 ответов

10 просмотров

Ilya Zviagin

Я думаю, это твоя ошибка, всё не так, приведи транскрипт сессии где это проверяешь.

0

14.09.2023

blondy snail

Ilya Zviagin
Перепроверь, должно быть по идее dec 19.8

Странно,- тогда в верхний поедел не влезет если будет что-то длиииинное делиться, например, на 1.01

0

14.09.2023

Ilya Zviagin

```````` ```````` В общем, ты где-то ошибаешься. Это не так. create table zivtest ( a decimal (19,4) not null, b decimal (19,4) not null ) go insert into zivtest (a, b) values( 123456789.1234, 2.0), ( 42.4242 * 5, 42.4242) go select a, b, a / b as a_div_b into zivtest2 from zivtest go sp_help zivtest2 go Получается таблица -- DROP TABLE EACCLI.dbo.zivtest2 GO CREATE TABLE EACCLI.dbo.zivtest2 ( a decimal(19,4) NOT NULL, b decimal(19,4) NOT NULL, a_div_b decimal(38,19) NULL ) GO

0

14.09.2023

Ilya Zviagin · Accepted Answer

Ilya Zviagin

Перепроверь, должно быть по идее dec 19.8

0

14.09.2023

169 похожих чатов

Коллеги, доброе утро. Подскажите почему при делении decimal(19,4) на decimal(19,4)

4 ответов

Похожие вопросы