Size: a a a

Programming Offtop

2021 May 03

DP

Defragmented Panda in Programming Offtop
если захардкодить именно
0.5+0.5-1.0 то все ок. оптимизация компилятора убирает ошибку

ошибка возникает только если 0.5 проходит сквозь текстуру. т.е. пишется туда и потом читается оттуда
источник

АВ

А зачем Вам in Programming Offtop
Явно там где то "оптимизируют" точность
источник

AM

Andrew Mikhaylov in Programming Offtop
Первый попавшийся калькулятор на двух последовательных операциях не подавился.
http://weitz.de/ieee/
источник

AM

Andrew Mikhaylov in Programming Offtop
источник

AM

Andrew Mikhaylov in Programming Offtop
А, ну вот и ответ. Возможно, там какое-то внутреннее представление используется?
источник

DP

Defragmented Panda in Programming Offtop
т.е. так:

ошибка возникает в девятом бите

0.5 норм. 8 бит, девятый бит отрезаем округлением при записи в текстуру

0.5*2 или 0.5+0.5 дает ошибку. девятый бит переходит на место восьмого
источник

DP

Defragmented Panda in Programming Offtop
как я понял проблема в конвертации

возможно 8 бит при записи в 10 бит ячейку памяти не очищает место или записывает "1" на места отсутствующих бит
источник

AM

Andrew Mikhaylov in Programming Offtop
https://www.khronos.org/opengl/wiki/Image_Format
Я вот не вижу в списке форматов изображений, которые сэмплерами используются, float восьмибитного, к примеру.
источник

W

Wild_Wind in Programming Offtop
Ну т.е. тогда всё правильно работает.
По стандарту. А то что компилятор что-то оптимизирует - его право.
источник

W

Wild_Wind in Programming Offtop
Хотя какой нафиг по стандарту?
Емнип в ieee754 про 8 и 10 битную плавучку вообще ничего не было.
источник

DP

Defragmented Panda in Programming Offtop
GL_UNSIGNED_BYTE

https://www.khronos.org/opengl/wiki/OpenGL_Type

технически единица текстуры такой формат имеет как я понял
источник

VB

V B in Programming Offtop
+snapshots в облаке! ✊
источник

DP

Defragmented Panda in Programming Offtop
https://www.khronos.org/opengl/wiki/Normalized_Integer#Unsigned

причина тут, если кому интересно

Implementations are allowed to round the converted integer any way it likes.
источник

Э

Эд in Programming Offtop
Подскажите плиз этого достаточно, чтоб задеплоить маленький Spring Boot проект?
источник

Э

Эд in Programming Offtop
ни разу не деплоил и не знаю, какие подводные камни могут быть. https://netx.com.ua/
источник

W

Wild_Wind in Programming Offtop
Не знаю сколько оперативы джава жрет, но вроде должно хватить.
источник

Э

Эд in Programming Offtop
а, ещё там будет node.js
источник

W

Wild_Wind in Programming Offtop
Прогони нагрузку локально, посмотри на потребление памяти, если влазишь в 1гб, то хватит.
Но своп тоже небольшой создай. На всякий случай.
источник

VB

V B in Programming Offtop
+
источник

I

Igor in Programming Offtop
Как думаете что тут выведется? (scala-js)
источник