Size: a a a

Ceph — русскоговорящее сообщество

2020 June 22

ВН

Виталий На Заборе... in Ceph — русскоговорящее сообщество
а, хотя нет, ещё ceph-mgr поделили - нет, он и в оригинале поделен
источник

ZA

Zubarev Alexandr in Ceph — русскоговорящее сообщество
Коллеги доброй!
Какая то непонятная проблема, пытаюсь развернуть цеф используя официаный ансибль плейбук.  Эта поделка виснет на генерации ключей для мониторов, ставлю флаг cephx = false  - виснет на снятии флага для дисков noup - вообщем похоже виснет на всех питонячих вставках
источник

ZA

Zubarev Alexandr in Ceph — русскоговорящее сообщество
плюнул пытаюсь сделать по ручному руководству и при экспорте карты monmap  с первого монитора командой из руководства всегда эскпортируется список только с одним монитором первым
источник

AK

Artemy Kapitula in Ceph — русскоговорящее сообщество
Файрволы, MTU.
источник

AK

Artemy Kapitula in Ceph — русскоговорящее сообщество
Вообще можете попробовать вот эту наколенную поделку - https://github.com/dalt74/EasyCeph - я написал ее чтобы "поиграть", но она оказалась на диво удобной для моих целей.
источник

А

Александр in Ceph — русскоговорящее сообщество
Dmitry Polyakov
тиринг депрекейтед
Можно пруфы пожалуйста? Или плохо ищу или в официальной доке упоминания об этом нет
источник

А

Александр in Ceph — русскоговорящее сообщество
То вот все говорят что cache tiering говно говно... чож он у меня то нормально работал)
источник

DP

Dmitry Polyakov in Ceph — русскоговорящее сообщество
Александр
Можно пруфы пожалуйста? Или плохо ищу или в официальной доке упоминания об этом нет
сам цеф фичу оставил (и вообще не развивает, судя по всему) , а вот RHCS его депрекейтнул по причине того, что он не приносит перфоманс профита и может дестабилизировать кластер.
и сделали они это еще в джевеле, емнип
источник

DP

Dmitry Polyakov in Ceph — русскоговорящее сообщество
я могу говорить только про rbd - при рандомной нагрузке - смысла от него никакого
источник

А

Александр in Ceph — русскоговорящее сообщество
я попробую завтра затестить все предложенные варианты кэширования, посмотрим кто кого и где (если с легал проблемами разберемся)
источник

А

Александр in Ceph — русскоговорящее сообщество
какие есть варианты кэширование, ceph-овский cache tiering, bcache, lvmcache… что ещё? :)
источник

DP

Dmitry Polyakov in Ceph — русскоговорящее сообщество
Александр
какие есть варианты кэширование, ceph-овский cache tiering, bcache, lvmcache… что ещё? :)
а для чего вы вообще кластер то используете?
источник

А

Александр in Ceph — русскоговорящее сообщество
Dmitry Polyakov
а для чего вы вообще кластер то используете?
мы? хранилище дисков вм, в основном файлопомойки
источник

DP

Dmitry Polyakov in Ceph — русскоговорящее сообщество
Виталий На Заборе
ну да, в его статистике /sys/block/bcache*/bcache
а если мониторишь в проде - какой у тебя хитрейт получается?
источник

ВН

Виталий На Заборе... in Ceph — русскоговорящее сообщество
Dmitry Polyakov
а если мониторишь в проде - какой у тебя хитрейт получается?
не, у меня его нет в проде
источник

DP

Dmitry Polyakov in Ceph — русскоговорящее сообщество
Александр
мы? хранилище дисков вм, в основном файлопомойки
ну вот и тестируйте значит в близкой конфигурации - не с единственной вм запускайте тест - а одновременный с нескольких. а то результат тестов и реальные показатели в условиях использования кэширования могут несколько не сойтись
источник

DP

Dmitry Polyakov in Ceph — русскоговорящее сообщество
Dmitry Polyakov
ну вот и тестируйте значит в близкой конфигурации - не с единственной вм запускайте тест - а одновременный с нескольких. а то результат тестов и реальные показатели в условиях использования кэширования могут несколько не сойтись
блин, написал, прочитал - както резко получилось :) в общем я в самом хорошем смысле это пишу - как доброе пожелание и совет :)
источник

А

Александр in Ceph — русскоговорящее сообщество
Dmitry Polyakov
блин, написал, прочитал - както резко получилось :) в общем я в самом хорошем смысле это пишу - как доброе пожелание и совет :)
аааа, всё, в чате злые люди ))
посетителям клауд флуда к такому не привыкать) но замечание важное, именно такие тесты завтра и постараюсь провести, если времени хватит
источник

n

nanomechanic in Ceph — русскоговорящее сообщество
fs.aio-max-nr = 1048576
kernel.pid_max = 4194304

не помню зачем же я это делал. схоронял в /etc/sysctl.d/osd.conf
источник

n

nanomechanic in Ceph — русскоговорящее сообщество
у меня ceph на одном из кластеров (проксмокс) подцеплен к 40гб эзернету, RDMA. Соответствено, VLAN интерфейсы для Cephа сами по себе, без бриджа на них. Возникла нужда через cephfs раздавать несколько десятков файлов виртуалкам с nginx, оно будет работать с другой подсетью, на бриджах для виртуалок, или наличие RDMA настроек ceph.conf не даст это сделать ? Или придется прокидывать VF 40гб сетевух в виртуалки?
источник