LINUX.ORG.RU

История изменений

Исправление dva20, (текущая версия) :

в двоичной системе, в формате представления с плавающей точкой просто-напросто нет

Да, это было понятно мне и до этого вопроса, только я не думал, что эта проблема будет уменьшать более большую часть дроби, т.е. ну пусть оно там в миллиардных долях плавает и 0,56 будет в реальности 0,5600000000000123. На это плевать. Но оно то оказалось (для меня), что в реальности плавает и в меньшую сторону, хотя это как бы тип данных подсказывает, что он плавающий (float), но я не мог предположить, что умножение на введённое «целое» в дробях 10.0 убавит значение из исходного дробного числа, т.е шестёрка в дроби уменьшится и станет пятёркой - 5,59999999999985 (примерно)!

При делениях, как казалось, такое вполне допустимо, но чтобы при умножении на «круглую» цифру (я же ввел с клавиатуры 10.0, а не 9,99999999998), я конечно такого не знал.

Исходная версия dva20, :

в двоичной системе, в формате представления с плавающей точкой просто-напросто нет

Да, это было понятно мне и до этого вопроса, только я не думал, что эта проблема будет уменьшать более большую часть дроби, т.е. ну пусть оно там в миллиардных долях плавает и 0,56 будет в реальности 0,5600000000000123. На это плевать. Но оно то оказалось (для меня), что в реальности плавает и в меньшую сторону, хотя это как бы тип данных подсказывает, что он плавающий (float), но я не мог предположить, что умножение на введённое «целое» дробях 10.0 убавит значение из исходного дробного числа, т.е шестёрка в дроби уменьшится и станет пятёркой - 5,59999999999985 (примерно)!

При делениях, как казалось, такое вполне допустимо, но чтобы при умножении на «круглую» цифру (я же ввел с клавиатуры 10.0, а не 9,99999999998), я конечно такого не знал.