Size: a a a

DevOps — русскоговорящее сообщество

2020 May 12

VK

Viacheslav Kaloshin in DevOps — русскоговорящее сообщество
Dr. Bot
ты же про rsyncd ?
про rsync --daemon
источник

PK

Pavel Kozlov in DevOps — русскоговорящее сообщество
Всем два раза ку! Ребят, а кто чем алертит из кибаны по событиям из логов, если денег на watcher не дают?
источник

KN

Kirill Nazarov in DevOps — русскоговорящее сообщество
Viacheslav Kaloshin
rsync же может в режиме демона работать, тогда близко к мгновенному будет
можно еще попробовать lsyncd заюзать
источник

VK

Viacheslav Kaloshin in DevOps — русскоговорящее сообщество
У rsync очень много времени занимает "а давай проверим, что у меня тут и у него там, вдруг разница". Когда одна из сторон постоянно запущенна, этот процесс занимает очень мало времени. Особенно, если попросить не пересчитывать контрольные суммы у старых файлов
источник

D

Dr. Bot in DevOps — русскоговорящее сообщество
@kiltum @knazarov Спасибо, пошел читать маны
источник

VK

Viacheslav Kaloshin in DevOps — русскоговорящее сообщество
Плюс если всё в локалке, можно rsync попросить не использовать шифрование и сжатие при передаче. Еще немножк можно выиграть
источник

D

Dr. Bot in DevOps — русскоговорящее сообщество
сейчас запускаю
rsync --archive --delete --recursive --partial --progress \
   --info=progress2
про контрольные суммы хорошая идея. но дело в том, что некоторые файлы меняются. имя файла остается тоже. но размер сильно уменьшается, после прохода оптимизатора
источник

D

Dr. Bot in DevOps — русскоговорящее сообщество
Viacheslav Kaloshin
Плюс если всё в локалке, можно rsync попросить не использовать шифрование и сжатие при передаче. Еще немножк можно выиграть
разные ДЦ
источник

VK

Viacheslav Kaloshin in DevOps — русскоговорящее сообщество
Dr. Bot
сейчас запускаю
rsync --archive --delete --recursive --partial --progress \
   --info=progress2
про контрольные суммы хорошая идея. но дело в том, что некоторые файлы меняются. имя файла остается тоже. но размер сильно уменьшается, после прохода оптимизатора
он умеет "если время/размер изменился - пересчитать"
источник

KN

Kirill Nazarov in DevOps — русскоговорящее сообщество
Dr. Bot
@kiltum @knazarov Спасибо, пошел читать маны
есть неприятный минус у lsyncd - оно вешает inotify на все файлы которые надо синкать, соответственно памяти надо слехка учесть

у какой то версии ваще баг был, оно не отпускало inotify если не стартовало нормально, соответственно память текла..
источник

D

Dr. Bot in DevOps — русскоговорящее сообщество
оу. и правда
--checksum              skip based on checksum, not mod-time & size
источник

VK

Viacheslav Kaloshin in DevOps — русскоговорящее сообщество
Dr. Bot
оу. и правда
--checksum              skip based on checksum, not mod-time & size
это как раз ты выключаешь проверку по времени и размеру и заставляешь пересчитывать чексуммы для файлов
источник

D

Dr. Bot in DevOps — русскоговорящее сообщество
Viacheslav Kaloshin
это как раз ты выключаешь проверку по времени и размеру и заставляешь пересчитывать чексуммы для файлов
ага, точно, еще не проснулся видимо…
источник

VK

Viacheslav Kaloshin in DevOps — русскоговорящее сообщество
(перечитал еще раз) но вообще 15 минут для 600Гб - имхо вполне норм
источник

D

Dr. Bot in DevOps — русскоговорящее сообщество
Viacheslav Kaloshin
(перечитал еще раз) но вообще 15 минут для 600Гб - имхо вполне норм
Понял, но всё равно благодарю за идею про --daemon и про компрессию. Пошел немного допилю и будет отлично.
источник

D

Dr. Bot in DevOps — русскоговорящее сообщество
Coffee
Была у меня подобная история. Переписала на питон. Multiprocessing + rsync(вернее не помню как модуль назывался для питона). Если грамотно подобрать количество процессов для копирования, то можн больше чем в 2 раза ускорить)))
Кажется нашел о чём ты, спасибо, посмотрю и этот метод.
источник

C

Coffee in DevOps — русскоговорящее сообщество
Dr. Bot
Кажется нашел о чём ты, спасибо, посмотрю и этот метод.
Если есть менее трудозатратные методы, то лучш их)
источник

AM

Aleksey Matveev in DevOps — русскоговорящее сообщество
Всем привет, подскажите альтернативные решения по такой задаче https://stackoverflow.com/questions/8762513/auto-committing-git-submodule-hash-in-super-project
через hook post-commit настраивал
git --git-dir="$PWD"/.git  --work-tree="$PWD" add .
но поведение странное, либо удаляет все в основном проекте, и не коммитит хэш подмодуля, либо если чуть изменить скрипт, то происходит зацикливание коммита
источник

d

dmitry in DevOps — русскоговорящее сообщество
Может кто подсказать как на линуху netcore2 и netcore3 поставить одновременно и запускалась нужная версия по параметру csproj <TargetFramework>netcoreapp2.2</TargetFramework>
источник

d

dmitry in DevOps — русскоговорящее сообщество
либо другому параметру файла csproj
источник