нет там такого трафика. на кластере живет терминальная ферма для удаленной работы. там сейчас полторы калеки работают. но даже в пиковое время, год назад, ничего не падало. падения начались последние месяца два-три.

странно всё это...

сетка кстати построена с использованием openvswitch. может в нем какието джобы есть?

А deep-scrub конечно уже исключили?

Ну смотрите. Клиническая картина такая.
В 6 утра по субботам у вас пропадает стабильный сетевой коннект между нодами, где работают CEPH-мониторы. Все остальное следствие этого.

Хорошо бы увидеть сетевой трафик с коммутаторов, куда эти серверы подключены.
Так же неплохо посмотреть и загрузку других портов тоже.

Может так статься, что в это время через коммутатор пролетает то, что вы с серверов не видите, а оно на вас влияет таким вот образом.

Судя по логам там deep-scrub настроен "по умолчанию" и он вполне себе идет, а не вызывает лавинную загрузку по субботам в 6 утра.

Я уже даже дашборд в графане сделал ))  По краям это privat trunk, в середине public trunk.

А это аплинк со стека коммутаторов, к которым они подключены

Эти графики собираются с портов коммутатора? Или с сетевых карт серверов?

с коммутатора, легенда снизу

А не может быть такого, что какой-то Модест Матвеевич дергает рубильник / АВР?  ИБП держат?

А на CEPHFS чего храните?

не, тут все норм.

пока ничего, только iso-шники для виртуалок.

Ок.

отойду на полчаса, обед.

Я тож.

Такой вопрос. В mgr включен модуль prometheus  ?
Т.е. из CEPH выливаются данные в prometheus  ?

Да который по дефолту сэтапится mgr демоном

В версии 14.2.2 был баг из-за него.