LINUX.ORG.RU

История изменений

Исправление dva20, (текущая версия) :

Кстати, я устранил ошибку https://godbolt.org/z/soEGa8Maz

Но stdout показывает 56.00000000000000000000000000000000000000000000000000 при умножении 0.56 * 100.0

В Java такой же результат https://godbolt.org/z/sYqh1TPzx

Но уже стало понятно, что в двоичном представлении 100 и 10 это не простой сдвиг «запятой» и это ответ на мой вопрос - https://www.h-schmidt.net/FloatConverter/IEEE754.html

Вообщем, вычисления на компе весьма приблизительные и не соответствуют реальной математике из-за двоичной системы и преобразований «туда-сюда».

Исходная версия dva20, :

Кстати, я устранил ошибку https://godbolt.org/z/soEGa8Maz

Но stdout показывает 56.00000000000000000000000000000000000000000000000000 при умножении 0.56 * 100.0

В Java такой же результат https://godbolt.org/z/sYqh1TPzx

Но уже стало понятно, что в двоичном представлении 100 и 10 это не простой сдвиг «запятой» и это ответ на мой вопрос - https://www.h-schmidt.net/FloatConverter/IEEE754.html