Size: a a a

Ruby, Rails, Hanami | dry-rb

2020 November 14

ES

Eugene Shved in Ruby, Rails, Hanami | dry-rb
Alexander Alyoshin
Ага, направят))))
Ну наши шлют нахуй, эти вроде бы стараются подсказать. У них немного другая идеология 🙂
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
я так будучи студентом - писал в mail.ru, говорил им какой запрос к базе надо написать, чтобы вернуть мой потерянный пароль к почте))))
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Eugene Shved
Ну наши шлют нахуй, эти вроде бы стараются подсказать. У них немного другая идеология 🙂
Да, понимаю, но всё же вы уже помогли.
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
А там потоки. Я не умею с ними работать. Читаю, но думаю налажаю.
источник

SS

Sergii Serogin in Ruby, Rails, Hanami | dry-rb
Не надо там с потоками ничего делать
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Sergii Serogin
Не надо там с потоками ничего делать
Пожалуй стоит пояснить. Секунду
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Есть sidekiq worker. Он делает бла бла бла. Внутри него, этого воркера, мне нужно отправить 10 простых запросов (обработка их ошибок, если такие будут, необязательны). Чтобы процесс ускорить, я запускаю эти 10 запросов в 10 потоков. После этого (когда все потоки отработалм) ставится touch на нужный объект и работа всего воркера заканчивается.
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Т.е. работа не с потоками самого sidekiq.
источник

SS

Sergii Serogin in Ruby, Rails, Hanami | dry-rb
Удачи. Садик не любит толстые длинные джобы.
источник

AA

Adamtsov Artem in Ruby, Rails, Hanami | dry-rb
а нельзя запустить 10 разных sidekiq worker-ов?
источник

AA

Adamtsov Artem in Ruby, Rails, Hanami | dry-rb
А touch сделать отложено
источник

AG

Alexander G in Ruby, Rails, Hanami | dry-rb
Если распараллеливать через сайдкик, то надо заморачиваться с отслеживанием общего результата.
Очень похоже на batches из sidekiq pro

https://sidekiq.org/products/pro.html
источник

AG

Alexander G in Ruby, Rails, Hanami | dry-rb
А так-то сделать несколько параллельных запросов из воркера не очень страшно, если осторожно
источник

AG

Alexander G in Ruby, Rails, Hanami | dry-rb
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Sergii Serogin
Удачи. Садик не любит толстые длинные джобы.
А подробнее?
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Adamtsov Artem
а нельзя запустить 10 разных sidekiq worker-ов?
Можно разделить всё на отдельные воркеры, но не имею опыта работы с таким. Т.е. может получиться гигантский кавардак, с которым не пойму как работать.

Условно, там 1 воркер, который проходит по 3000 объектам делая бла бла, потом в конце делаются эти 10 запросов и переходим к следующему объекту. Суммарно, на все дела уходит около 1 часа, но в рамках одного воркера.

Если предположительно сделать, чтобы каждый объект был новым воркером, то уже будет 3000 воркеров. А если ещё и запросы выделить в отдельные воркеры, то будет 30.000 штук.

Я не знаю насколько это норм, но что-то очень много и есть острое ощущение, что в продолжительности обработки вырастит в разы, скажем из 1 часа превратится в 5 часов.
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Alexander G
Если распараллеливать через сайдкик, то надо заморачиваться с отслеживанием общего результата.
Очень похоже на batches из sidekiq pro

https://sidekiq.org/products/pro.html
Да, поддерживаю, придётся мониторить каждый. А оно не особо нужно.
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
м? не понял вопроса
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Реальное число. Ну там примерно, может 2600 или 2800.
источник

AA

Alexander Alyoshin in Ruby, Rails, Hanami | dry-rb
Воркер делает свои операции, которые занимают время.
источник