LINUX.ORG.RU

0.1 + 0.2 на x86

 , , ,


0

1

В конторе горе, у бухов не идут копейки. Хотя у нас всё работает нормально. Грешу на ошибки при работе с флоатами. Да да, дельфи, олап. Что вам скажет ваш x86 на 0.1 + 0.2? У меня - 0.30000000000000004
Немного оффтоп, но я не знаю куда пойти.

upd. код не мой, не надо писать, что я говнокодер и про bigdecimal/аналоги.

★★★★★

Последнее исправление: crutch_master (всего исправлений: 1)
Ответ на: комментарий от crutch_master

ну тут 0.30000000000000004 погрешность не две копейки, а гораздо меньше

Там их очень много, хотя я не знаю, как она вообще может теоретически вырасти до сотой, вот и интересуюсь про точность.

Плавающая точка почему так называется знаишь?

anonymous
()
Ответ на: комментарий от anonymous

Плавающая точка почему так называется знаишь?

Понятно, что там могут быть неточности, что, реально настолько, чтобы 10к раз сложить и получить разницу в сотые? Как это можно воспроизвести?

crutch_master ★★★★★
() автор топика
Ответ на: комментарий от anonymous

0.30000000000000004
Плавающая точка почему так называется знаишь?

потому что «оно не тонет»? )))

Egor_
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.