Если я правильно понимаю, то при работе с LocalExecutor, задачи исполняет сам вебсервер, или шедулер в своих воркерах, а вот при Celelery это делают отдельные ноды. Но могу заблуждаться.
а почему, там же есть код на def on_kill(self) -> None: """Kill Spark submit command""" self.log.debug("Kill Command is being called") только в логах я не вижу его вызова