Size: a a a

2019 April 22

МS

Михаил SinTeZoiD in DevOps Moscow
Hopf
Мы скачиваем из интернета картинки (иногда видео) размером до 1мб.

Кладем их на файловую систему XFS локально или через NFS (не спрашивай почему, просто вот так) после этого эти картинки или видео читают по директориям. Средний размер директории до 10гб.

Одновременно читают в 20+ потоков (разные директории)

Люди хотят читать это быстрее чем есть сейчас.
чем тебе не нравится вариант с s3-like стораджем?
источник

AA

Alexander Akilin in DevOps Moscow
что-то мне это напоминает
источник

H

Hopf in DevOps Moscow
Михаил SinTeZoiD
чем тебе не нравится вариант с s3-like стораджем?
Мне нравится. Осталось понять сколько % производительности я из этого выиграю
Единственный минус у решения - людям переписывать свои куски.
источник

DN

Dmitry Nagovitsin in DevOps Moscow
Михаил SinTeZoiD
чем тебе не нравится вариант с s3-like стораджем?
а че даст?
источник

DN

Dmitry Nagovitsin in DevOps Moscow
ну кроме удобства )
источник

H

Hopf in DevOps Moscow
Dmitry Nagovitsin
а че даст?
снижение нагрузки в запросах типа "getattr"
источник

МS

Михаил SinTeZoiD in DevOps Moscow
Dmitry Nagovitsin
а че даст?
если кластер достаточно большой, то данные более размыты по кластеру и чтение будет идти с разных дисков
источник

DN

Dmitry Nagovitsin in DevOps Moscow
Михаил SinTeZoiD
если кластер достаточно большой, то данные более размыты по кластеру и чтение будет идти с разных дисков
это можно и без с3
источник

DN

Dmitry Nagovitsin in DevOps Moscow
Hopf
снижение нагрузки в запросах типа "getattr"
ой ли?
источник

H

Hopf in DevOps Moscow
Михаил SinTeZoiD
если кластер достаточно большой, то данные более размыты по кластеру и чтение будет идти с разных дисков
Это ты на цеф намекаешь?
источник

МS

Михаил SinTeZoiD in DevOps Moscow
Dmitry Nagovitsin
это можно и без с3
можно, но если речь идет о 400тб о s3 надо уже задуматься
источник

МS

Михаил SinTeZoiD in DevOps Moscow
Hopf
Это ты на цеф намекаешь?
не только
источник

МS

Михаил SinTeZoiD in DevOps Moscow
можно писос прикрутить
источник

H

Hopf in DevOps Moscow
не уверен, именно поэтому я начал этот холиварный вопрос
источник

DN

Dmitry Nagovitsin in DevOps Moscow
Hopf
не уверен, именно поэтому я начал этот холиварный вопрос
ну, теоритически - у тебя аттрибуты файла лежат на фс
источник

DN

Dmitry Nagovitsin in DevOps Moscow
так?
источник

H

Hopf in DevOps Moscow
догадываюсь, что да. Даже догадываюсь что их можно хранить где-то в другом месте
источник

H

Hopf in DevOps Moscow
Но это зависит от FS, если я буду использовать FS
источник

DN

Dmitry Nagovitsin in DevOps Moscow
Hopf
догадываюсь, что да. Даже догадываюсь что их можно хранить где-то в другом месте
я к тому, что сам по себе с3 скорей всего так же пойдет за аттрибутами на фс
источник

МS

Михаил SinTeZoiD in DevOps Moscow
Dmitry Nagovitsin
я к тому, что сам по себе с3 скорей всего так же пойдет за аттрибутами на фс
почитай как работает s3
источник