t
Size: a a a
2020 May 07
VB
две цифры после запятой норм, а потом хуй!
Ты снаружи преобразуешь или как?
t
Ты снаружи преобразуешь или как?
я беру дробную часть и домножаю каждое число разряда на 0.0... в соответствии с номером этого разряда. чем дальше от точки тем больше нолей.
на третьем ноле Serial отказывается выводить число и показывает 0.00
на третьем ноле Serial отказывается выводить число и показывает 0.00
VB
Побитовый сдвиг?
t
я хз как это правильно называется
VB
А ты в курсе, что немножко не так плавающая точка кодируется?
t
расскажи как
D
я беру дробную часть и домножаю каждое число разряда на 0.0... в соответствии с номером этого разряда. чем дальше от точки тем больше нолей.
на третьем ноле Serial отказывается выводить число и показывает 0.00
на третьем ноле Serial отказывается выводить число и показывает 0.00
лол
VB
расскажи как
t
VB
Знак, порядок, мантисса.
t
хуйня какая-то😂
t
мне нужно число 0.1, 0.125 и т. д. какие мантиссы
RL
мне нужно число 0.1, 0.125 и т. д. какие мантиссы
Ну 0.1 это 1 и степень -1, 0.125 - это 1.25 и степень -1
t
Roman Lapschow
Ну 0.1 это 1 и степень -1, 0.125 - это 1.25 и степень -1
я ебал возводить в степень, pow крашится на -5й
RL
я ебал возводить в степень, pow крашится на -5й
Ну это структура float
t
ладно, все забыли, это все хуйня
t
String(val) в сочетании с Serial округляет в большую сторону, если не хватает точности, и в меньшую если не хватает разрядов, как то так я понимаю.
Ибо 9*0.001*100 = 0.9,
но 9*0.001 = 0.00
математика верно считает, значит проблемы отображения, хотя...
Ибо 9*0.001*100 = 0.9,
но 9*0.001 = 0.00
математика верно считает, значит проблемы отображения, хотя...
VB
String(val) в сочетании с Serial округляет в большую сторону, если не хватает точности, и в меньшую если не хватает разрядов, как то так я понимаю.
Ибо 9*0.001*100 = 0.9,
но 9*0.001 = 0.00
математика верно считает, значит проблемы отображения, хотя...
Ибо 9*0.001*100 = 0.9,
но 9*0.001 = 0.00
математика верно считает, значит проблемы отображения, хотя...
Так, тебе нужна не плавающая точка, а фиксированная
VB
Там как раз твоя модель представления