Size: a a a

Ceph — русскоговорящее сообщество

2020 December 07

k

k0ste in Ceph — русскоговорящее сообщество
Denis Rybak
Всем доброго дня, может подскажет кто

Есть маленький кластер на виртуалках для экспериментаторских целей.
В бакеты грузим большие файлы(около 10гб) при помощи multipart, ну и дальнейшая обработка самописным приложением.
При этом место в цефе улетает со скоростью света - на 100 гб реальных данных в кластере занято 800гб за неделю.
Посмотрели через rados ls - там большая часть занята огромным количеством файлов с multipart и shadow в названии.

Из этого вопросы возникают
1) что такое shadow файлы?
2) должны ли они подвергаться автоматической очистке со стороны кластера?
3) есть ли ручные методы кроме rados rm?
Версия какая?
источник

DR

Denis Rybak in Ceph — русскоговорящее сообщество
14.2.9
источник

AG

Aleksei Gutikov in Ceph — русскоговорящее сообщество
Denis Rybak
Всем доброго дня, может подскажет кто

Есть маленький кластер на виртуалках для экспериментаторских целей.
В бакеты грузим большие файлы(около 10гб) при помощи multipart, ну и дальнейшая обработка самописным приложением.
При этом место в цефе улетает со скоростью света - на 100 гб реальных данных в кластере занято 800гб за неделю.
Посмотрели через rados ls - там большая часть занята огромным количеством файлов с multipart и shadow в названии.

Из этого вопросы возникают
1) что такое shadow файлы?
2) должны ли они подвергаться автоматической очистке со стороны кластера?
3) есть ли ручные методы кроме rados rm?
а что там должно быть? x3 или erasure какой-то?
источник

AG

Aleksei Gutikov in Ceph — русскоговорящее сообщество
Denis Rybak
Всем доброго дня, может подскажет кто

Есть маленький кластер на виртуалках для экспериментаторских целей.
В бакеты грузим большие файлы(около 10гб) при помощи multipart, ну и дальнейшая обработка самописным приложением.
При этом место в цефе улетает со скоростью света - на 100 гб реальных данных в кластере занято 800гб за неделю.
Посмотрели через rados ls - там большая часть занята огромным количеством файлов с multipart и shadow в названии.

Из этого вопросы возникают
1) что такое shadow файлы?
2) должны ли они подвергаться автоматической очистке со стороны кластера?
3) есть ли ручные методы кроме rados rm?
Где конкретно различия между
ceph df
radosgw-admin bucket-stats (сумма)
radosgw-admin user stats
источник

DR

Denis Rybak in Ceph — русскоговорящее сообщество
пулы - обычные, replicated, не erasure
различия между ceph df и реально известными нам файлами - мы прям знаем сколько положили
источник

AG

Aleksei Gutikov in Ceph — русскоговорящее сообщество
Denis Rybak
пулы - обычные, replicated, не erasure
различия между ceph df и реально известными нам файлами - мы прям знаем сколько положили
а radosgw-admin user stats соответствует тому что вы положили?
источник

k

k0ste in Ceph — русскоговорящее сообщество
Denis Rybak
пулы - обычные, replicated, не erasure
различия между ceph df и реально известными нам файлами - мы прям знаем сколько положили
ceph osd pool ls detail
ceph df detail
источник

DR

Denis Rybak in Ceph — русскоговорящее сообщество
да я бы посмотрел, но ситуация была критичная - 90% почти сожрало, и я почистил
собрал через radosgw-admin orphans leadked-объекты и удалил через rados rm
источник

AG

Aleksei Gutikov in Ceph — русскоговорящее сообщество
Denis Rybak
да я бы посмотрел, но ситуация была критичная - 90% почти сожрало, и я почистил
собрал через radosgw-admin orphans leadked-объекты и удалил через rados rm
ну т.е. такое впечатление что проблема именно с gc...
источник

DR

Denis Rybak in Ceph — русскоговорящее сообщество
спасибо, попробую настройки gc покрутить и помониторить
источник

ПС

Павел Савин... in Ceph — русскоговорящее сообщество
Привет всем.
Подскажите...
Создал osd через ceph-volume raw prepare.
Активировал и запустил systemd: ceph-osd@X
Все osd поднялись без проблем.
После перезагрузки не смонтировались директории:
/var/lib/ceph/osd/ceph-X -и osd не запускается.

Подскажите как их монтировать?, через systemd: ceph-volume@X? - не очень ясно что в этом X писать, все примеры в инете с lvm-ID-UUID..
источник

ВН

Виталий На Заборе... in Ceph — русскоговорящее сообщество
lvm prepare надо
источник

ПС

Павел Савин... in Ceph — русскоговорящее сообщество
а у меня не lvm...
источник

ВН

Виталий На Заборе... in Ceph — русскоговорящее сообщество
тогда как сам сделаешь так и монтировать
источник

ВН

Виталий На Заборе... in Ceph — русскоговорящее сообщество
на то и raw
источник

ПС

Павел Савин... in Ceph — русскоговорящее сообщество
видимо я что-то не так сделал..
я создал bcache девайс поверх lvm, и дальше надо было делать еще один lvm поверх bсache?
источник

ВН

Виталий На Заборе... in Ceph — русскоговорящее сообщество
Павел Савин
видимо я что-то не так сделал..
я создал bcache девайс поверх lvm, и дальше надо было делать еще один lvm поверх bсache?
ну да, с той только поправкой, что зачем bcache поверх lvm, bcache как раз можно и напрямую
источник

ВН

Виталий На Заборе... in Ceph — русскоговорящее сообщество
Павел Савин
видимо я что-то не так сделал..
я создал bcache девайс поверх lvm, и дальше надо было делать еще один lvm поверх bсache?
ну собсно второй lvm уже ведь не ты делаешь, а цеф сам
источник

ВМ

Владимир Марченко... in Ceph — русскоговорящее сообщество
Всем привет.
Кто-нибудь сталкивался с проблемами форматирования RBD расположенного на EC пуле?
Образ создается, мапится через RBD к целевой системе, отформатировать не могу, IO error
Сам диск создан на Replicated Pool, данные на EC перезапись разрешена.
источник

Е

Евгений [BG] in Ceph — русскоговорящее сообщество
Владимир Марченко
Всем привет.
Кто-нибудь сталкивался с проблемами форматирования RBD расположенного на EC пуле?
Образ создается, мапится через RBD к целевой системе, отформатировать не могу, IO error
Сам диск создан на Replicated Pool, данные на EC перезапись разрешена.
DMESG надо поглядеть
источник