Size: a a a

2021 April 19

ПФ

Паша Финкельштейн... in Moscow Spark
У нас там в airflow целый пайплайн был )
источник

SG

Sergey Golovkin in Moscow Spark
Попробуем))
источник

NN

No Name in Moscow Spark
Ну вот мне тоже видится, что это может оказаться самым простым вариантом)
источник

N

Nikita Blagodarnyy in Moscow Spark
Где окромя сырцов почитать как оффхип юзается и как его параметры тюнить?
источник

GP

Grigory Pomadchin in Moscow Spark
ты конкретно про что? перегруженый термин
это могут быть и дайрект байтбуфферы жвм, и настройки жобы на старте (кубера / ярна)
источник

N

Nikita Blagodarnyy in Moscow Spark
Вот про это
источник

N

Nikita Blagodarnyy in Moscow Spark
Я наблюдаю, что одни и те же джобы на одних и тех же данных могут вообще не работать, если оставить дефолт и отлично пыхтеть, если написать туда 16 Gb при контейнере 64.
источник

GP

Grigory Pomadchin in Moscow Spark
читай это как контейнеры ярна / куба стартуют с memory + memoryOverhead хард лимитами, но жвм ограничена memory
источник

GP

Grigory Pomadchin in Moscow Spark
груб говоря xmx будет memory но лимиты контейнера memory + memoryOverhead
источник

GP

Grigory Pomadchin in Moscow Spark
обычно когда за хард лимиты вылезаешь у тебя в случае кубера и ярна оом киллер прибьет за exceeding memory limits
источник

АА

Артем Анистратов... in Moscow Spark
Ребят, могли бы подсказать лучшие решения по отслеживанию изменений в табличках оракла?(добавление/изменение/удаление)
Если я правильно понимаю то SCD TYPE N это подход к хранению этих изменений, а есть ли подходы к обнаружению их?
источник
2021 April 20

N

Nikita Blagodarnyy in Moscow Spark
Голден гейт
источник

ЕГ

Евгений Глотов... in Moscow Spark
Органолептический подход)
источник

ЕГ

Евгений Глотов... in Moscow Spark
Лучше всего наверно закрывать таблицы и менять менять их только каким-то фиксированным способом, накатывая миграции коммитами в гит
источник

ЕГ

Евгений Глотов... in Moscow Spark
Для всех баз работает, если продовые таблицы
источник

N

Nikita Blagodarnyy in Moscow Spark
Вопрос про ddl или dml?
источник

NN

No Name in Moscow Spark
Если за денежку, то просто погуглите, варианты есть, помимо голден гейт, но для оракла он, конечно, лучше всех подходит. Альтернатива - брать разрабов, вскрывать оракловые логи/журналы и ловить, как-то так, наверное. Но я тут вообще не спец.
источник

АА

Артем Анистратов... in Moscow Spark
За советы спасибо, попробую
источник

D

Dima in Moscow Spark
По сути он просто в момент отбрасывания лога пишет события которые потом забираешь...
Думаю если задаться целью , ничем не хуже решение можно при отсутствии денег самому сделать/скопировать
источник

e

er@essbase.ru in Moscow Spark
Асинхронный триггер который скидывает номер измененой строки в таблицу логов.норм  работает для транзакций. Если идёт пакетная вставка то нужно отключать.
источник