Ребят, какая-то магия, я удаляю данные в shared preferenses вот так: sharedPreferences.edit().remove(key).apply();
Сразу после этого, судя по логам, они удалены. Потом я закрываю приложение, открываю, и данные снова там. Причем я не запускала сервис, который туда заносил эти данные.