y
Не в этом дело. Там есть магтисса и экспонента. У мантиссы не очень много бит
Size: a a a
2020 August 05
AA
И принять за единицу самую маленькую единицу валюты
y
За счёт этого есть диапазоны значений которые невозможно энкодить во float
y
Как следствие теряется точность, причём довольно непредсказуемо
AA
Новые слова, гуглил
AA
Но само понятие видел
y
Смысл флоата что мантисса это какое-то число, а экспонента говорит где в этом числе находится точка
AA
Не знал, что это так назыаается
y
Условно мантисса 12345676, экспонента 4, будет 1234.5676
AA
Так а в чем разница с decimal?
AA
Помимо кол-ва символов до и после запятой
y
Так а в чем разница с decimal?
y
Там очень подробно описано почему
AA
Жесть
AA
Это определенно стоит прочесть с утра еще раз
AA
Мерси
SS
ну на самом деле проблема в бинарном представлении десятичных цифр, когда округление младшего разряда вносит погрешность
0.1+0.2
=> 0.30000000000000004
соответсвенно,
0.1+0.2 == 0.3
=> false
Так происходит в любом языке, который для флоат использует классическое представление данных по IEEE754
https://0.30000000000000004.com/ коллекция
0.1+0.2
=> 0.30000000000000004
соответсвенно,
0.1+0.2 == 0.3
=> false
Так происходит в любом языке, который для флоат использует классическое представление данных по IEEE754
https://0.30000000000000004.com/ коллекция
AA
2.4.9 :009 > 0.1 + 0.2
=> 0.30000000000000004
2.4.9 :010 > BigDecimal('0.1') + BigDecimal('0.2')
=> 0.3e0
=> 0.30000000000000004
2.4.9 :010 > BigDecimal('0.1') + BigDecimal('0.2')
=> 0.3e0
AA
my life is a lie
NB
вот это к вопросу об уровне кстати, я эти вещи знал еще до руби