IF
надо как вам выше советовали снижать интенсивность восстановления
ниче ты не понял. Есть два этапа при восстановлениях.
Size: a a a
2021 March 03
IF
фриз возникает при пирингах(во время запуска osd), а просадка при восстановление - крутится параметрами.
D
Да, но пиринг с 30 секундами фриза :)
ПС
Как я понял фриз это из-за offline->peering (лечится задержкой запуска osd) .
А а как начинается рековери идет просадка по iops - это тюнить приоритетами.
А а как начинается рековери идет просадка по iops - это тюнить приоритетами.
IF
можно еще попробовать снизить эффект через primary affinity....надо будет попробовать))
D
Особенно в тестовом кластере, в котором нет большого количества данных, скорее всего
IF
Да, но пиринг с 30 секундами фриза :)
ты наверное в проц упираешься в такие моменты?
D
Вчера делался рестарт 80 осд, в группах по 5
ПС
Проц проседает в этот момент, context switching сильно вырастает.
D
2.5ТБ на каждом диске примерно. Все без фризов и под постоянной нагрузкой 600-700 миб/с на запись и чтение. Пирринг и рекавери 10-15 секунд, без проседания практически
D
Думаю у Павла либо как вы заметили не хватает процессора, либо именно рекавери процесс затыкает все остальное. Но 30 секунд пирринг с фризом все же ненормально :)
Павел, вы бы дали больше информации о кластере, если вам интересно дальше копать. А если тестовый и вы пока просто за рычаги дергаете чтоб привыкнуть, то может пока не стоит копать особо :)
Павел, вы бы дали больше информации о кластере, если вам интересно дальше копать. А если тестовый и вы пока просто за рычаги дергаете чтоб привыкнуть, то может пока не стоит копать особо :)
ПС
Думаю у Павла либо как вы заметили не хватает процессора, либо именно рекавери процесс затыкает все остальное. Но 30 секунд пирринг с фризом все же ненормально :)
Павел, вы бы дали больше информации о кластере, если вам интересно дальше копать. А если тестовый и вы пока просто за рычаги дергаете чтоб привыкнуть, то может пока не стоит копать особо :)
Павел, вы бы дали больше информации о кластере, если вам интересно дальше копать. А если тестовый и вы пока просто за рычаги дергаете чтоб привыкнуть, то может пока не стоит копать особо :)
Ну железо и конфигурация переползет в прод в итоге.
D
Проц проседает в этот момент, context switching сильно вырастает.
Вот тут вам hyperthreading в помощь ;) немного оффтоп но там выше обсуждалось помогает ли ht
IF
Думаю у Павла либо как вы заметили не хватает процессора, либо именно рекавери процесс затыкает все остальное. Но 30 секунд пирринг с фризом все же ненормально :)
Павел, вы бы дали больше информации о кластере, если вам интересно дальше копать. А если тестовый и вы пока просто за рычаги дергаете чтоб привыкнуть, то может пока не стоит копать особо :)
Павел, вы бы дали больше информации о кластере, если вам интересно дальше копать. А если тестовый и вы пока просто за рычаги дергаете чтоб привыкнуть, то может пока не стоит копать особо :)
на больших кластерах с большим количеством pg это почти нормально ))
D
на больших кластерах с большим количеством pg это почти нормально ))
Может быть и так, но я не уверен что это нормально ;)
D
Аа, ну да, почти :)
IF
Аа, ну да, почти :)
ага, фиксанул :)
ПС
на больших кластерах с большим количеством pg это почти нормально ))
3 сервера на платформе supermicro SSG-6019P-ACR12L.
6hdd-14tb + 6ssd 2tb, 18osd hdd+ssd(bcache+wal+db)
36 osd - ssd(по два раздела на каждом)
Cpu intel xeon gold 5120, 2.2hgz
6hdd-14tb + 6ssd 2tb, 18osd hdd+ssd(bcache+wal+db)
36 osd - ssd(по два раздела на каждом)
Cpu intel xeon gold 5120, 2.2hgz
ПС
Врятли это большой кластер..
А🐎
Хм, у меня на такое же платформе тоже осд долго рестартятся