а нельзя запустить 10 разных sidekiq worker-ов?
Можно разделить всё на отдельные воркеры, но не имею опыта работы с таким. Т.е. может получиться гигантский кавардак, с которым не пойму как работать.
Условно, там 1 воркер, который проходит по 3000 объектам делая бла бла, потом в конце делаются эти 10 запросов и переходим к следующему объекту. Суммарно, на все дела уходит около 1 часа, но в рамках одного воркера.
Если предположительно сделать, чтобы каждый объект был новым воркером, то уже будет 3000 воркеров. А если ещё и запросы выделить в отдельные воркеры, то будет 30.000 штук.
Я не знаю насколько это норм, но что-то очень много и есть острое ощущение, что в продолжительности обработки вырастит в разы, скажем из 1 часа превратится в 5 часов.