214 похожих чатов

А, мб ты решил просто указать число в виде 172578458263587758237587735

вместо "172578458263587758237587735"?

34 ответов

12 просмотров

это то, что рассчитывалось

Alex Berezhnykh
В общем, кидай код.

Да даж не в этом дело. да я ошибся, там вылезала ошибка не в BigInteger, но мне то точность anyway нужна, а когда он начинает работать с маленькими числами уже BigInteger не подходит уже Есть тип, а ля BigDecima или что-то подобное, а то найти не могу

satma- Автор вопроса
Влад
Да даж не в этом дело. да я ошибся, там вылезала о...

Опиши требования к числам: 1. Диапазон (минимальное, максимальное) 2. Точность (количество знаков после .)

Влад
Да даж не в этом дело. да я ошибся, там вылезала о...

Ну, если тебе double и decimal не хватает, то пиши свою арифметику

Влад
(((

Ну и вопрос, где ты с такими числами работаешь?

satma- Автор вопроса
Alex Berezhnykh
Ну, если тебе double и decimal не хватает, то пиши...

Ну просто реально странно, что их не хватает. Децимал не такой уж и маленький в диапазон, да и дабл более-менее точность хоть какую-то держит

Alex Berezhnykh
Ну и вопрос, где ты с такими числами работаешь?

да просто функция большая, я там в неё подставляю (10,9) и она сразу вылетает в бесконечность (ну условно кншн)

satma- Автор вопроса

Да, но не то что бы очень + его дабл не устроил. Т.е. он либо юзает неебически огромные числа (от кторых дабл умирает, так что и децимал тоже не подойдёт), либо ему нужна точность на кучу знаков где-то в районе +- миллиард

400 * x.Item1 * x.Item1 * x.Item1 + 400 * x.Item1 * x.Item2 * x.Item2 - 398 * x.Item1 item1 - x1, item2 - x2

satma- Автор вопроса
Влад
а что это даст?

Примерно будут понятны критерии подбора типов

satma- Автор вопроса
Влад
400 * x.Item1 * x.Item1 * x.Item1 + 400 * x.Item1 ...

Ебать ты, конечно, придумал

satma- Автор вопроса
Влад
400 * x.Item1 * x.Item1 * x.Item1 + 400 * x.Item1 ...

Так ведь 10, 9 должна нормально считать, разве нет?

градиент

Влад
screenshot

(4,-25)

Это вместо Item1/Item2?

Влад
(4,-25)

туда кст даж не эти цифры подставляются, а куда большие , там вроде перебор всякий идет

Alex Berezhnykh
Это вместо Item1/Item2?

ну там всякие рассчеты идут и входит такое значение

Влад
screenshot

В double поместится

satma- Автор вопроса
Alex Berezhnykh
В double поместится

Но точности не будет

satma
Но точности не будет

до 10 знаков, пойдет

satma- Автор вопроса
Влад
до 10 знаков, пойдет

У тебя тут степени неебические

satma- Автор вопроса
Влад
квадраты)

Нихуя не квадраты

Влад
да? ну сча чекну

от ±5,0 × 10−324 до ±1,7 × 10308

Похожие вопросы

Обсуждают сегодня

30500 за редактор? )
Владимир
47
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
вы делали что-то подобное и как? может есть либы готовые? увидел картинку нокода, где всё линиями соединено и стало интересно попробовать то же в ddl на lua сделать. решил с ч...
Victor
8
Подскажите пожалуйста, как в CustomDrawCell(Sender: TcxCustomGridTableView; ACanvas: TcxCanvas; AViewInfo: TcxGridTableDataCellViewInfo; var ADone: Boolean); получить наз...
A Z
7
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Раз начали говорить про embassy, то присоединюсь со своими парой вопросов. 1) Есть ли сопоставимые аналоги для асинхронного кода в emdebbed? 2) Можно ли внутри задач embassy ...
NI_isx
6
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
1
Он в одиночку это дело запилил или была какая-то команда?
Aquinary
12
~ 2m21s  nix shell github:nixos/nixpkgs#stack ~  stack ghc -- --version error: … while calling the 'derivationStrict' builtin at /builtin/derivation.nix:...
Rebuild your mind.
6
Карта сайта