Size: a a a

SDS и Кластерные FS

2020 December 03

МН

Михаил Новоселов... in SDS и Кластерные FS
А можно еще странный вопрос? Если HDD, который не zoned, не smr, т.е. который ОС считает обычным HDD + допустим, ext4 смонтировать с опцией discard, что будет?
источник

AK

Artemy Kapitula in SDS и Кластерные FS
Ничего. ФС получит отлуп от устройства что дискард не поддерживает и больше не будет пытаться
источник

ВН

Виталий На Заборе... in SDS и Кластерные FS
Михаил Новоселов
А можно еще странный вопрос? Если HDD, который не zoned, не smr, т.е. который ОС считает обычным HDD + допустим, ext4 смонтировать с опцией discard, что будет?
Даже не отлуп, а просто сразу фичи заявлено не будет. См /sys/block/*/queue/discard_granularity
источник

МН

Михаил Новоселов... in SDS и Кластерные FS
Виталий На Заборе
Даже не отлуп, а просто сразу фичи заявлено не будет. См /sys/block/*/queue/discard_granularity
во, как раз думал, где в /sys посмотреть, спасибо
источник

M

Mikhail Gusev in SDS и Кластерные FS
Всем привет. На гластере, может кто сталкивался?
Запустил удаление большого количество файлов разом, их gfid скопились на бриках в ./shard/.remove_me и ничго не происходит.. Соответственно место не очищается.
Как то можно процесс форсировать?
источник

МН

Михаил Новоселов... in SDS и Кластерные FS
А если на ext4, примонтированной с discard, делать unlink() (rm file), то discard должен моментально сработать?
источник

МН

Михаил Новоселов... in SDS и Кластерные FS
вот в f2fs очередь на дискард, а в ext4? такое ощущение, что не моментально
источник

t

tsla in SDS и Кластерные FS
Mikhail Gusev
Всем привет. На гластере, может кто сталкивался?
Запустил удаление большого количество файлов разом, их gfid скопились на бриках в ./shard/.remove_me и ничго не происходит.. Соответственно место не очищается.
Как то можно процесс форсировать?
погоди-погоди, ты прям с брика удаляешь или с клиента(куда примонтирован)?
источник

M

Mikhail Gusev in SDS и Кластерные FS
tsla
погоди-погоди, ты прям с брика удаляешь или с клиента(куда примонтирован)?
С клиента
источник

t

tsla in SDS и Кластерные FS
а версия какая?
источник

M

Mikhail Gusev in SDS и Кластерные FS
гластер 8.2
источник

M

Mikhail Gusev in SDS и Кластерные FS
rhel 8.3 на серверах
источник

t

tsla in SDS и Кластерные FS
нее, версия самого гластера
источник

M

Mikhail Gusev in SDS и Кластерные FS
8.2
источник

M

Mikhail Gusev in SDS и Кластерные FS
я так понял, они эту фишку с ./shard/.remove_me придумали чтобы быстрее работало удаление. Там создаются пустые файлы по gfid шардов, и фоновый процесс должен эту директорию смотреть, и если такого gfid нету в unlink дериктории - то удалять связанные шарды ..
источник

M

Mikhail Gusev in SDS и Кластерные FS
раз в 10 минут типо должен запускаться
источник

M

Mikhail Gusev in SDS и Кластерные FS
источник

t

tsla in SDS и Кластерные FS
ну там пишут создайте пустой файл в remove_me
источник

t

tsla in SDS и Кластерные FS
ты создал пустой файл?
источник

t

tsla in SDS и Кластерные FS
SOLUTION:
To make this operation atomic, we introduce a ".remove_me" directory.
Now renames and unlinks will simply involve two steps:
1. creating an empty file under .remove_me named after the gfid of the file
participating in unlink/rename
2. carrying out the actual rename/unlink
A synctask is created (more on that in part 2) to scan this directory
after every unlink/rename operation (or upon a volume mount) and clean
up all shards associated with it. All of this happens in the background.
The task takes care to delete the shards associated with the gfid in
.remove_me only if this gfid doesn't exist in backend, ensuring that the
file was successfully renamed/unlinked and its shards can be discarded now
safely.
источник