Size: a a a

AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2

2020 October 28

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Всем привет. Обучаю свёрточную сеть (u-net), у меня происходит насыщение слишком низко, в районе 0.5, с чем это может быть связано? Оптимизатор adadelta, learning rate особо не должен влиять. При этом валидация вроде не падает.
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
источник

IB

Islom Babaev in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Dan • Captain
Яндекс.Практикум создал специальный курс по Python для разработчиков с опытом. За 6 месяцев обучения вы освоите углублённые знания технологий, которые используются в backend-разработке на Python. Научитесь решать сложные задачи с базами данных, работать с синхронными и асинхронными фреймворками. И писать очень красивый и лаконичный код.

Вас ждёт:

🔹Собственная среда для обучения. Специальный полноценный тренажёр от Яндекс.Практикума.
🔹Портфолио из 6 веб-проектов. Соберёте всё вместе и получите аналог Netflix.
🔹Практика. Все знания отрабатываются в онлайн-тренажёре.
🔹Поддержка наставников.
🔹Программа профессиональной акселерации и помощь с трудоустройством.

Учитесь прямо сейчас. Вводный курс — бесплатный.
онлайн? платно?)
источник

IB

Islom Babaev in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
F B
Всем привет. Обучаю свёрточную сеть (u-net), у меня происходит насыщение слишком низко, в районе 0.5, с чем это может быть связано? Оптимизатор adadelta, learning rate особо не должен влиять. При этом валидация вроде не падает.
лернинг рейт же влияет всегда, вроде по дефолту 0.1 берут, но надо смотреть на нейронку саму
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Islom Babaev
лернинг рейт же влияет всегда, вроде по дефолту 0.1 берут, но надо смотреть на нейронку саму
Хм, я поставил 1.0, типа как в оригинальной метрике (через керас делаю). Сама сеть - вроде стандартный u-net:
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
источник

IB

Islom Babaev in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
если CNN, то хз даже, всегда юзал лернинг рейт 0.1, иногда 0.3
источник

IB

Islom Babaev in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
1.0 слишком быстро ведь
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Islom Babaev
1.0 слишком быстро ведь
Хм, попробую 0.1 поставить, спасибо)
источник

IB

Islom Babaev in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
F B
Хм, попробую 0.1 поставить, спасибо)
источник

IB

Islom Babaev in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
F B
Хм, попробую 0.1 поставить, спасибо)
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Хм, а действительно похоже на высокий lr
источник

IB

Islom Babaev in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
лосс последний скок получился?
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Islom Babaev
лосс последний скок получился?
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
1.5 на тренировочной выборке, 1 на валидационной
источник

IB

Islom Babaev in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
около 1% получается?
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Да
источник

FB

F B in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Хм, а наверное стоит нормализовать входные данные ещё, у меня на входе они в диапазоне X max = 1158.0, min = -1110.0, mean = -909.8035888671875. Или для изображений это не критично?
источник

EZ

Evgenii Zheltonozhsk... in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
F B
Хм, а наверное стоит нормализовать входные данные ещё, у меня на входе они в диапазоне X max = 1158.0, min = -1110.0, mean = -909.8035888671875. Или для изображений это не критично?
Лучше нормализовать всегда
источник