т.е. вот такой тест был чтоли?
auto const result = float(color[c] )/ divider_ + adder_;
auto const reference = -54.71368408203125f;
ASSERT_EQ(result, reference);
в тестах с флоатами всегда надо с эпсилоном сравнивать числа, чтобы не было таких результатов
и проверь флаги компиляции, мб там где-то fast_math включен был?
вообще 8-9 знаков после запятой — это оптимистично как-то, я бы проверил сколько на самом деле
поводу количества чисел это мой касяк std::cout.precision(10); а вот fast_math не используется
Обсуждают сегодня