@dm0mb Полагаю, что я и правда в неправильную сторону смотрел: думал, что Unity неверно учитывает метаданные и их надо удалить, а на самом деле просто не учитывает и из-за этого разница.
Чтение EXIF из WWW по первой твоей ссылке работает норм, у проблемной картинки ориентация отличается. Правда это довольно затратная операция.
Пока что я у проблемных картинок поправил ориентацию вручную — пересохранил в правильной ориентации без метаданных.
Но если их будут находить часто — буду думать уже про поворот картинки при её получении на основе метаданных.