KN
В чем сложность?
в том, что при усилении на выходе уже пик, а не прямоугольник
Size: a a a
2019 October 02
KN
вот что приходит
KN
а вот после усиления хотябы в 100 раз
I
А, уже обсуждали эту тему, я вспомнил
KN
да
KN
но все стало гораздо хуже
KN
я думал там мВ
I
Надо детектировать или измерять параметры?
IF
господа, вопрос по цифровым фильтрам
я тут в питоне рассчитал коэффиценты для бесселя 3 порядка
причем коэффициенты СИЛЬНО отличаются в размерностях
коэффиценты b -9 порядка, а a 0 порядка
и в контроллере с софтверными даблами собственно суммы коэффициентов никак не сходится - фильтр не стабилен.
чаво тут можно придумать? переходить в uint64 и не юзать даблы?
или как то поиграться с настройками gcc чтоб увеличить точность ?
я тут в питоне рассчитал коэффиценты для бесселя 3 порядка
причем коэффициенты СИЛЬНО отличаются в размерностях
коэффиценты b -9 порядка, а a 0 порядка
и в контроллере с софтверными даблами собственно суммы коэффициентов никак не сходится - фильтр не стабилен.
чаво тут можно придумать? переходить в uint64 и не юзать даблы?
или как то поиграться с настройками gcc чтоб увеличить точность ?
VK
господа, вопрос по цифровым фильтрам
я тут в питоне рассчитал коэффиценты для бесселя 3 порядка
причем коэффициенты СИЛЬНО отличаются в размерностях
коэффиценты b -9 порядка, а a 0 порядка
и в контроллере с софтверными даблами собственно суммы коэффициентов никак не сходится - фильтр не стабилен.
чаво тут можно придумать? переходить в uint64 и не юзать даблы?
или как то поиграться с настройками gcc чтоб увеличить точность ?
я тут в питоне рассчитал коэффиценты для бесселя 3 порядка
причем коэффициенты СИЛЬНО отличаются в размерностях
коэффиценты b -9 порядка, а a 0 порядка
и в контроллере с софтверными даблами собственно суммы коэффициентов никак не сходится - фильтр не стабилен.
чаво тут можно придумать? переходить в uint64 и не юзать даблы?
или как то поиграться с настройками gcc чтоб увеличить точность ?
Компилируется с включенным FPU?
Пробовали переход на целочисленные вычисления?
Пробовали переход на целочисленные вычисления?
A
decimal библиотеку можно еще использовать, там точность дробных вычислений сильно больше
A
сори, не дочитал что питон был актуален только в начале
IF
Компилируется с включенным FPU?
Пробовали переход на целочисленные вычисления?
Пробовали переход на целочисленные вычисления?
дак у меня нет fpu на контроллерах
пока надеялся решить проблему волшебными флагами в makefile)
пока надеялся решить проблему волшебными флагами в makefile)
IF
питон только для нахождения коэффициентов
VK
дак у меня нет fpu на контроллерах
пока надеялся решить проблему волшебными флагами в makefile)
пока надеялся решить проблему волшебными флагами в makefile)
Оптимизации пробовали отключать?
Агрессивные могут резать точность
Агрессивные могут резать точность
KN
Надо детектировать или измерять параметры?
надо оцифровать, это линейный фотосенсор, я оцифровываю спектр
IF
в питоне с этими коэффициентами когда считаешь - все ок, фильтр сходится
IF
Оптимизации пробовали отключать?
Агрессивные могут резать точность
Агрессивные могут резать точность
попробовал, разницы нет
I
надо оцифровать, это линейный фотосенсор, я оцифровываю спектр
Причина изменения формы импульсов известна?
KN
мб потому что оу не успевает превратить 1 микровольт в 1 вольт за 10 наносекунд?