Посмотрел вчера выступление ребят на DEF CON 25 (2017) на тему использования машинного обучения для хакинга «Weaponizing Machine Learning», ссылка на лекцию ниже, а я приведу самое любопытное.
Суть выступления заключается в том, что ребята набросали алгоритм который «прощупывает» базы данных на определенные поля, причем, модель построена так, что ей без разницы с каким видом базы данных работает алгоритм, что-то вроде «брутфорс на стероидах». В данный момент хакинг и машинное обучение находятся в зачетке, это означает, что все еще нет публичных инструментов для аудита безопасности — но они постепенно появляются и в 2017-2018 уже точно будут использоваться, так что пока без скайнета, чуваки, передайте Маску. Но сама мысль, что можно обучить ML алгоритм аудировать системы безопасности довольно впечатляет и пугает одновременно — беспокойно будет лет через 5 на не обновленных серверах.
Еще ребята доступно рассказывают отличия между разработкой обычного ПО и ПО с машинным обучением — если коротко, то разрабатывая ПО в стандартном виде, вы пишите код, затем этот код компилируется в набор машинных инструкций, вы его запускаете и смотрите что получилось, если не получаете задуманного результата — то правите все эти бесконечные «Если X то делай, пожалуйста, Y, дорогая моя программа» и так по кругу.
В разработке ПО для машинного обучения, подход другой — по сути, помимо обычной части со строго заданной логикой, ваша задача тренировать модель которая обрабатывает набор данных поощряя или ругая эту модель за определенные действия. То есть вы не можете открыть исходный код и починить какое-то слабое место сказав, что именно нужно сделать, как в обычном ПО, вам нужно менять логику поощрений и наказаний, за определенные действия, потом заново переобучать модель и смотреть на результат, это если коротко, в видео об этом подробнее.
На эту же тему, я как-то ковырял алгоритм ML и Марио, и главным поощрением было на тот момент длительность жизни — спустя какое-то время алгоритм просто поставил игру на паузу, так как формально, по его мнению это было лучшим состоянием для длительности жизни Марио.
Отдельно ребята отмечают, что сейчас не ясно, что такое open source в мире машинного обучения — и Google и Facebook с радостью делятся своими алгоритмами и наработками, но никто из них не отдает свои датасеты, то есть у вас попросту нет данных, чтобы обучать свои модели, а данных нужно очень много, поэтому в мире ML царствует тот, у кого есть данные.
Лекция не скучная, с шутками, с доступным уровнем обсуждения и базовым английским — если интересуетесь ML, очень рекомендую 💖
Лекция:
https://www.youtube.com/watch?v=wbRx18VZlYAИсходный код из примера в видео:
https://github.com/BishopFox/deephack
