Size: a a a

SDS и Кластерные FS

2020 November 18

ВН

Виталий На Заборе... in SDS и Кластерные FS
Alex
А что мешало-то файлики разложить по сервачкам?
очумелые ручки %))
источник

AS

Adolf Stallman in SDS и Кластерные FS
Но так-то весело вышло, конечно
Дофига работы по переездам и несколько докладов
С Хетцнера, кстати, вроде слезли в servers.com, но тут я уже плохо помню
источник

AV

Alexey Vasilyev in SDS и Кластерные FS
Adolf Stallman
Обоснуй
(Сперва обоснуй, а потом мы обсудим именно постгресовскую реализацию, бггг)
Если мы говорим про задачу раздачу большого кол-ва файлов, про что речь как раз и шла то
1. Масштабировать СУБД сложнее чем файлуху
2. При работе с blobами СУБД жрет куда больше ресурсов
3. Скорость работы ниже
4. Бекапы сложнее
источник

AV

Alexey Vasilyev in SDS и Кластерные FS
В общем если речь идет про решения, где это например какая то система документооборота, то многие используют блобы
источник

S

Slach in SDS и Кластерные FS
kvaps
Горизонтально она не масштабируется, но можно много базок маленьких
нельзя много маленьких баз, ибо USE как в MySQL нет, можно "много маленьких таблиц" с суффиком или с разными именами schema
и vacuum надо очень аггрессивно для такого паттерна настраивать
потому что блобы это extended  и новый блоб идет как новый page
источник

ВН

Виталий На Заборе... in SDS и Кластерные FS
Slach
нельзя много маленьких баз, ибо USE как в MySQL нет, можно "много маленьких таблиц" с суффиком или с разными именами schema
и vacuum надо очень аггрессивно для такого паттерна настраивать
потому что блобы это extended  и новый блоб идет как новый page
а ещё не дай бог ты будешь их обновлять/удалять, т.к. вакуум
источник

ВН

Виталий На Заборе... in SDS и Кластерные FS
хотя если только добавляешь, то это не страшно, да
источник

AS

Adolf Stallman in SDS и Кластерные FS
Alexey Vasilyev
Если мы говорим про задачу раздачу большого кол-ва файлов, про что речь как раз и шла то
1. Масштабировать СУБД сложнее чем файлуху
2. При работе с blobами СУБД жрет куда больше ресурсов
3. Скорость работы ниже
4. Бекапы сложнее
Все четыре утверждения спорны
1) Ну - залей в один каталог на FS 150 миллионов файлов, дальше мы посмотрим, что будет
2) У постгреса вообще double buffering, сложно себе представить, чтобы он ресурсы не жрал, но что так page cache, что так page cache - просто под постгресом его меньше останется
3) За счет чего она ниже-то?
4) Бэкапы это вообще не очень просто
источник

AS

Adolf Stallman in SDS и Кластерные FS
Slach
нельзя много маленьких баз, ибо USE как в MySQL нет, можно "много маленьких таблиц" с суффиком или с разными именами schema
и vacuum надо очень аггрессивно для такого паттерна настраивать
потому что блобы это extended  и новый блоб идет как новый page
А вот вакуум, как раз, у нас ничего не вакуумил, потому что мы ничего не удаляли
источник

AS

Adolf Stallman in SDS и Кластерные FS
Что в голову приходит практически сразу
источник

AV

Alexey Vasilyev in SDS и Кластерные FS
Adolf Stallman
Все четыре утверждения спорны
1) Ну - залей в один каталог на FS 150 миллионов файлов, дальше мы посмотрим, что будет
2) У постгреса вообще double buffering, сложно себе представить, чтобы он ресурсы не жрал, но что так page cache, что так page cache - просто под постгресом его меньше останется
3) За счет чего она ниже-то?
4) Бэкапы это вообще не очень просто
1, Ну это кривая реализация, тут можно так же сказать, что сделать таблицу без индексов в 150М записей
2. При использовании таких отдач через СУБД, мы нагружаем воркеров субд, которые жрут куда больше чем например тот же Nginx
3. Потому что а) может хранится не оптимально б) дополнительные слои абстракции по сравнению с другими решениями
4. Это да, но тут еще размер СУБД растет со страшной силой
источник

G

George in SDS и Кластерные FS
Adolf Stallman
Все четыре утверждения спорны
1) Ну - залей в один каталог на FS 150 миллионов файлов, дальше мы посмотрим, что будет
2) У постгреса вообще double buffering, сложно себе представить, чтобы он ресурсы не жрал, но что так page cache, что так page cache - просто под постгресом его меньше останется
3) За счет чего она ниже-то?
4) Бэкапы это вообще не очень просто
> 1) Ну - залей в один каталог на FS 150 миллионов файлов, дальше мы посмотрим, что будет

вопрос - зачем?))
источник

S

Slach in SDS и Кластерные FS
Adolf Stallman
А вот вакуум, как раз, у нас ничего не вакуумил, потому что мы ничего не удаляли
UPDATE был? или только INSERT + SELECT?
источник

i

ivdok in SDS и Кластерные FS
George
> 1) Ну - залей в один каталог на FS 150 миллионов файлов, дальше мы посмотрим, что будет

вопрос - зачем?))
Интернет-магазин с лёгкостью пробьёт этот порог тамбнейлами и фотками товара с разных планов
источник

AS

Adolf Stallman in SDS и Кластерные FS
Alexey Vasilyev
1, Ну это кривая реализация, тут можно так же сказать, что сделать таблицу без индексов в 150М записей
2. При использовании таких отдач через СУБД, мы нагружаем воркеров субд, которые жрут куда больше чем например тот же Nginx
3. Потому что а) может хранится не оптимально б) дополнительные слои абстракции по сравнению с другими решениями
4. Это да, но тут еще размер СУБД растет со страшной силой
3) По сравнению со скоростью вращающегося диска пофиг вообще
источник

AS

Adolf Stallman in SDS и Кластерные FS
George
> 1) Ну - залей в один каталог на FS 150 миллионов файлов, дальше мы посмотрим, что будет

вопрос - зачем?))
Это надо спросить у того, кто так делал
источник

AS

Adolf Stallman in SDS и Кластерные FS
Slach
UPDATE был? или только INSERT + SELECT?
Только на таблицу со связями между объектами (а она мелкая)
На таблицы с блобами - никаких апдейтов
источник

G

George in SDS и Кластерные FS
ivdok
Интернет-магазин с лёгкостью пробьёт этот порог тамбнейлами и фотками товара с разных планов
ну так разложи по директориям, антипаттерн же
источник

AV

Alexey Vasilyev in SDS и Кластерные FS
Adolf Stallman
3) По сравнению со скоростью вращающегося диска пофиг вообще
ну да, будет еще в два раза тормознее, делов то
источник

AS

Adolf Stallman in SDS и Кластерные FS
Alexey Vasilyev
ну да, будет еще в два раза тормознее, делов то
С фига бы?
источник