Добрый вечер. помогите разобраться, почему результат умножения дробных чисел с

Question

Добрый вечер. помогите разобраться, почему результат умножения дробных чисел с

погрешностью получается:

генерирую числа с помощью
(rand() / (float)RAND_MAX) * (10 + 10) - 10;

вывожу значения матрицы вот так:
printf ("%.2f")

3.27 -5.47 -7.44 -7.43 -8.38

2.87 -3.14 2.90 -2.94 -1.05

6.67 -6.20 0.18 -8.14 -8.08

-6.41 -8.49 -6.39 -4.06 4.42

-1.63 -9.08 2.38 -6.20 -7.22

умножаю вот так

prod *= truncf(100.0f * b[a][a])/100.0f;
prod = -50.72
калькулятор показывает -54.17

b[a][a] это по диагонали считаю.

Может, я неправильно использую truncf?

#c #embedded #programming #russian

0

19.11.2023

1 ответов

23 просмотра

Aniki Hi$ok@ 🌈 Z 🐀 · Accepted Answer

Aniki Hi$ok@ 🌈 Z 🐀

ну, а почему должен быть точным? Попробуй дробное число написать в двоичной форме. Потом попробуй умножить 2 таких числа

0

19.11.2023

170 похожих чатов

Добрый вечер. помогите разобраться, почему результат умножения дробных чисел с

1 ответов

Похожие вопросы