Size: a a a

2019 February 08

ЕГ

Евгений Глотов... in Moscow Spark
А драйвер на одной из трёх висит
источник

ЕГ

Евгений Глотов... in Moscow Spark
А, стоп
источник

ЕГ

Евгений Глотов... in Moscow Spark
7 ядер
источник

ЕГ

Евгений Глотов... in Moscow Spark
Виртуальных
источник

AA

Anton Alekseev in Moscow Spark
Stanislav
10 ядро - драйвер. Ты не задал ограничение в ярне по цпу, его можно жёстко задать.
yarn.scheduler.maximum-allocation-vcores
3 - это не то ограничение?
источник

AA

Anton Alekseev in Moscow Spark
Евгений Глотов
7 ядер
slave02:37502         RUNNING      slave02:8042                            
Detailed Node Information :
Configured Resources : <memory:25000, vCores:3>
Allocated Resources : <memory:9216, vCores:7>
источник

S

Stanislav in Moscow Spark
Anton Alekseev
yarn.scheduler.maximum-allocation-vcores
3 - это не то ограничение?
Вот только по умолчанию ресурсом, на который ярн ориентируется является памятт
источник

S

Stanislav in Moscow Spark
А цпу можно переподписать
источник

S

Stanislav in Moscow Spark
В некоторых случаях удобно
источник

ЕГ

Евгений Глотов... in Moscow Spark
Ааа, надо же включить ЦПУ шедулинг
источник

ЕГ

Евгений Глотов... in Moscow Spark
Если он выключен
источник

AA

Anton Alekseev in Moscow Spark
Евгений Глотов
Если он выключен
источник

AA

Anton Alekseev in Moscow Spark
Stanislav
А цпу можно переподписать
окей, почитаю
источник

ЕГ

Евгений Глотов... in Moscow Spark
Не, это не то
источник

ЕГ

Евгений Глотов... in Moscow Spark
источник

ЕГ

Евгений Глотов... in Moscow Spark
В амбари всё это чутка попроще настраивается
источник

AA

Anton Alekseev in Moscow Spark
да, помогло, теперь цифры совпадают, спасибо. Думал может это поможет побороть FetchFailedException в процессе работы таски, да что-то продолжает сыпаться.
источник

ЕГ

Евгений Глотов... in Moscow Spark
Фетчфэйлед - может где-то доступов нет, connection refused?
источник

AA

Anton Alekseev in Moscow Spark
Евгений Глотов
Фетчфэйлед - может где-то доступов нет, connection refused?
ага
источник

ЕГ

Евгений Глотов... in Moscow Spark
На этом наши полномочия всё, окончены)
источник