Size: a a a

2021 April 02

VN

Viacheslav Nefedov in Airflow
Nikolay Tolstov
Поток идет батчами из киттенхауса в кликхаус, можно его дублировать и получать для реал-тайм процессинга
можно запускать батчи airflow (по сенсору или по апи)
источник

VN

Viacheslav Nefedov in Airflow
изврат, конечно немного
источник

NT

Nikolay Tolstov in Airflow
а эти батчи тут обрабатываются какой-то своей внутренней логикой, или можно наш родной pandas numpy прикрутить к этим батчам?
источник

NT

Nikolay Tolstov in Airflow
и еще такой простой кейс - например идет телеметрия с датчика, нужно заалертить когда он порогового значения достигшнет, его можно на аирфлоу реализовать рейл-тайм?
источник

IL

Ilya Lozhkin in Airflow
Nikolay Tolstov
и еще такой простой кейс - например идет телеметрия с датчика, нужно заалертить когда он порогового значения достигшнет, его можно на аирфлоу реализовать рейл-тайм?
Мне кажется аирфлоу вам очень плохо подходит
источник

Р

Руслан in Airflow
Nikolay Tolstov
и еще такой простой кейс - например идет телеметрия с датчика, нужно заалертить когда он порогового значения достигшнет, его можно на аирфлоу реализовать рейл-тайм?
тут не аирфлоу. здесь скорее просто real-time connection делать и слушать
источник

IL

Ilya Lozhkin in Airflow
Nikolay Tolstov
и еще такой простой кейс - например идет телеметрия с датчика, нужно заалертить когда он порогового значения достигшнет, его можно на аирфлоу реализовать рейл-тайм?
источник

NT

Nikolay Tolstov in Airflow
Спасибо.
Типа reddis + кастомный процессинг + prometheus python client? StatsD в каком месте тут тогда будет?
источник

VS

Vladislav 👻 Shishkov... in Airflow
телеметрия - это метрики, смотрите в сторону мониторинга, в первую очередь
источник

VS

Vladislav 👻 Shishkov... in Airflow
если вам эту телеметрию нужно долго хранить и заниматься анализом, то тут нужен скорее всего еще один другой инструмент
источник

NT

Nikolay Tolstov in Airflow
Спасибо, понял. Аирфлоу это больше планировщик на стероидах, чем потоковая обработка))
источник

NN

No Name in Airflow
Nikolay Tolstov
Спасибо, понял. Аирфлоу это больше планировщик на стероидах, чем потоковая обработка))
Я бы сказал, что он вообще никакого отношения к потоковой обработке не имеет.
источник

NT

Nikolay Tolstov in Airflow
😂
источник

А

Андрей in Airflow
Nikolay Tolstov
Спасибо, понял. Аирфлоу это больше планировщик на стероидах, чем потоковая обработка))
NiFi посмотрите
источник
2021 April 03

AP

Anton Patsev in Airflow
Коллеги, а почему бот пропустил спам юзера?
источник

SC

Stanislav Chernov in Airflow
Я комботом пользуюсь в своем чате, и настроил его так что он сообщения о новых пользователях удаляет
источник

SC

Stanislav Chernov in Airflow
источник

SC

Stanislav Chernov in Airflow
источник

SC

Stanislav Chernov in Airflow
источник

SC

Stanislav Chernov in Airflow
источник