Опубликовал на @apparatmag фрагмент из новой книги «Битва за Рунет», спасибо издательству Альпина. Фрагмент о том, как инженеры создают для спецслужб системы массовой слежки, а сама книга - история становления современной слежки и контроля российских спецслужб за гражданами.

Главная мысль этой главы - технари-инженеры редко задумываются над тем, что разработанные ими технологии могут быть использованы для тоталитарного контроля. Желание создавать что-то крутое, не задумываясь о возможных последствиях, хорошо укладывается в стереотип про холодных технарей с атрофированным чувством этики. По своему опыту учебы на  факультете информатики и вычислительной техники в КПИ скажу, что этот стереотип недалёк от правды.

http://apparat.cc/world/red-web/  

Ранее фрагменты из "Битвы за Рунет" публиковали Медуза и Секрет фирмы:

Как спецслужбы следили за посетителями и участниками Олимпиады в Сочи https://meduza.io/feature/2016/10/09/kakie-tehnologii-slezhki-ispolzovali-spetssluzhby-na-olimpiade-v-sochi

Как Кремль подчинил себе Яндекс и ВКонтакте http://secretmag.ru/longread/2016/10/10/bitva-za-runet/

How long it takes to complete a task

via robbomb.com

Пока писал пост, @addmeto уже запостил, почитайте тогда у него. А увидел ссылку на @hacker_news_feed - это канал с трансляцией топ-новостей с HackerNews. Удобная штука для тру-гиков и программистов.

18+, и NSFW, будьте осторожны.

Не так давно Yahoo выпустили отличную подборку и базовые алгоритмы для обучения нейронных сетей, позволяющий отличить порно от непорно. При этом алгоритмы, конечно, не интересны, самое крутое - огромная база размеченных фотографий и уже натренированная сетка. Неизвестные мне граждане провели очень интересную работу, на базе этой сетки не различая, а генерируя изображения разной степени запущенности. Обязательно почитайте выкладки, а если вы далеки от DL/ML - просто посмотрите на изображения. Задумайтесь, что вы видите в этих картинках. Задайтесь вопросом "Доктор, откуда у вас такие картинки?" https://open_nsfw.gitlab.io

Хорошая статья в Nature о черном ящике ИИ по наводке Сергея Карелова - @theworldisnoteasy.

Учёные создают мощные алгоритмы машинного обучения, при этом не понимая, как именно они работают. Обычные алгоритмы можно "разобрать"  - информация там хранится и обрабатывается с помощью понятных человеку алгоритмов и структур данных. В нейросетях информация "размазана" по миллионам коэффициентов нейронов - этот набор цифр непонятен человеку.

Такие системы намного сложнее отлаживать. Кроме того, решения, принятые черным ящиком, приходится принимать на веру, без объяснений. Например, женщину сложно будет убедить сделать упредительную мастэктомию просто потому что нейросеть увидела на её снимке повышенный риск возникновения рака.

Один из возможных вариантов решения этой проблемы - разработка более прозрачных систем ИИ. Например, таких, которые описывают, на основании каких наблюдений делают те или иные заключения.

Другие ученые предлагают не волноваться и использовать непрозрачные нейросети как есть - мы не знаем, как устроен мозг, но это не мешает нам его использовать.

Интересная тема и хорошая статья, почитайте: http://www.nature.com/news/can-we-open-the-black-box-of-ai-1.20731

Ранее уже писал об этом (тоже хорошая статья, есть перевод): https://telegram.me/brodetsky/510

А вот очень интересно о том, как можно "воровать" алгоритмы ИИ из черного ящика (спойлер: тоже с помощью машинного обучения) https://telegram.me/brodetsky/565

Кстати, пост выше, о порнокартинках, сгенерированных нейросетью, тоже близок к этой теме - там с помощью глубокого обучения программисты смогли увидеть, как нейросеть Yahoo "видит" порно, при этом не имея доступа к картинкам, на которых её обучали.

Красивый проект: исследователи из Гонконга с помощью 3D-графики записывают движения мастеров кунг-фу, чтобы сохранить древнее боевое искусство от исчезновения. Мастерство кунг-фу обычно передаётся устно, но практикующих мастеров с каждым годом становится всё меньше.

По ссылке хорошее короткое видео: http://qz.com/812715/kung-fu-masters-are-working-with-researchers-to-use-3d-motion-capture-to-document-their-art-before-it-disappears/

Посмотрел фильм Вернера Херцога об интернете. С одной стороны, не покидает ощущение, что фильм поверхностный. Неудивительно - сам Херцог признаётся, что интернетом не пользуется, так что для него самого он - открытие.

С другой стороны, от фильма, даже фестивального, не стоит ждать глубокого погружения в тему - для этого есть интернет и куча книг. Фильм же даёт неплохую пищу для рефлексии, и это главное. К тому же он красиво снят.

Даже для экспертов там есть интересные моменты: первый компьютер и первое сообщение в интернете (знаете, каким было первое сообщение? "LO" - незавершенное "Log", которое компьютер-получатель должен был дополнить до "Log in", но сломался;  с этого же слова начинается устойчивое выражение "Lo and behold" -  "И вот, о чудо!"), отличный рассказ Кевина Митника о социальном хакинге (как он получил исходники кода, просто позвонив в компанию Motorola) и интересные мысли о хрупкости интернета.

Наш редактор Коля Овчинников не поленился даже написать рецензию, там же можно посмотреть трейлер: http://apparat.cc/world/lo-and-behold/

Посмотреть фильм можно на фестивале кино о науке и технологиях Политехнического музея: http://360.polymus.ru/ru/program/films/o-internet-grezy-tsifrovogo-mira/

И кстати, на том же фестивале пройдёт дискуссия Роберта Эпштейна и Юрия Сапрыкина (@forevernotes) о поисковых системах и выборах; об этой теме я здесь уже много писал, так что не буду повторяться.
http://360.polymus.ru/ru/program/events/mogut-li-poiskovye-sistemy-menyat-ishod-vyborov/

Фото дня.

Военный музей в Житковичах, Беларусь / Виктор Драчев, ТАСС

via http://www.rferl.org/a/photos-week-42/28059221.html

Слушайте, у меня за последнее время накопилось столько интересных ссылок, что я даже не знаю, как успеть их все пересказать здесь. Надеюсь, за выходные разгребу вкладки и поделюсь с вами кучей интересного. Если что, подписывайтесь на мой Twitter - туда всё, что я читаю, улетает в первую очередь.

https://twitter.com/politehnik

Интересная история о том, как китайские производители электроники копируют новые продукты так быстро, что копии иногда выходят раньше, чем оригинал.

В 90-х и 00-х годах Китай ощутил на себе волну аутсорсинга. Мировые гиганты переносили производство в промышленные районы Китая, в первую очередь в Шеньчжень. Фабрики, которые делали комплектующие для западных компаний, могли после выполнения заказа наделать микросхем и для себя. У китайских производителей даже сформировалась культура свободного обмена наработками, в том числе и чужими - что-то вроде философии open source, только с хардвером. Так появилась культура копирования брендов, породившая такие прекрасные бренды как aPod, Nokla и прочие абибасы от электроники.

Теперь от воровства технологий и дизайна страдают не только крупные компании, но и маленькие стартапы. Израильский предприниматель Йекутель Шерман со своим стартапом целый год разрабатывал складную селфи-палку. Не смейтесь, она правда прикольно выглядит. После того как проектирование продукта было завершено, Шерман запустил кампанию на Kickstarter. Всего через неделю Шерман обнаружил копию своего продукта на AliExpress. Возмущенные пользователи Kickstarter приходили в комментарии и писали: "Вы продаете эту штуку в два раза дороже, чем китайцы! Вряд ли оно того стоит".

И, кажется, с этим ничего нельзя поделать. Если раньше индустрия была на стороне оригинальных производителей, а китайских копикэтов презирали, то теперь ситуация изменилась - разработчик любого хардверного продукта должен быть готовым к тому, что его идею быстро скопируют китайцы. Возможно, даже быстрее, чем он сам успеет его выпустить, как это случилось с Шерманом.

http://qz.com/771727/chinas-factories-in-shenzhen-can-copy-products-at-breakneck-speed-and-its-time-for-the-rest-of-the-world-to-get-over-it/

Прочитал тут про креативную акцию одного магазина электроники: людям, сменившим имя в паспорте на «Айфон Семь», подарят iPhone 7. Но не всем, а только первым пятерым.

Теперь мне не даёт покоя мысль: а ведь наверняка найдутся люди, которые не успеют попасть в первую пятерку.

Новый клип Moby, посвященный одержимости смартфонами.

https://youtu.be/VASywEuqFd8

У этого же автора (Steve Cutts) есть ещё замечательный мультфильм про человека: https://youtu.be/WfGMYdalClU

И ещё хороший - о жизни, экзистенциальный: https://youtu.be/A-rEb0KuopI

Сегодня друзья из Reed делают форум, на котором умные люди будут говорить про реформы, экономику, государство, будущее Украины и прочие сложные вещи.

Меня тоже позвали в компанию умных людей. Буду вместе с философом Кириллом Мартыновым разбираться, делают ли нас технологии свободными.

На сайте можно будет посмотреть трансляцию. Но лучше приходите! Третий павильон ВДНХ, начало дискуссии в 19:00.

http://fgf.reed.media/ru

Если вы интересуетесь состоянием современной науки, проблема фейковых конференций и сборников научных публикаций должна быть вам известна. Для тех, кто не в курсе: есть журналы и конференции, которые примут к публикации любой буллшит, даже если это буквально набор слов. Журнал получает от вас деньги, вы получаете "научную публикацию", всем всё платится. Никакой науки здесь нет - чистый бизнес.

Один профессор из Новой Зеландии ответил на очередное приглашение на такую конференцию статьей, набранной  с помощью клавиатурных подсказок. И ничего, статью приняли, ответили - шлите деньги, опубликуем.
https://www.theguardian.com/science/2016/oct/22/nonsense-paper-written-by-ios-autocomplete-accepted-for-conference

Это не новый трюк - был и Корчеватель (любопытные прочитают на Лурке), и другие забавные мистификации. Одну из таких сделал мой товарищ Мстислав Казаков, который недавно защитил диссер о лженауке. Он вообще большой выдумщик и пранкер, и пару лет назад придумал и опубликовал в таком фейковом сборнике мощнейшую статью о цивилизации древних кувечичей (Кувечичи - это село под Черниговом, сам Мстислав родом из Чернигова). Текст - настолько мощная поплава мозга, что я даже не буду вам ничего рассказывать, если интересно - сами почитайте https://vk.com/syava_marlboro?w=wall138518993_11882

Такой вот экскурс в экономику современной науки, или, вернее сказать, околонауки.

Немного странный проект под Хэллоуин от исследователей из MIT. Они научили нейросеть генерировать криповые лица, а также делать из обычных фото зловещие. Такой набор фильтров могла бы выпустить под Хэллоуин Prisma. Snapchat, кстати, так и сделал - у каждого фильтра к празднику появилась "страшная" версия.

http://nightmare.mit.edu/

Почитайте крутую статью (на английском) про систему Meduza, которую создавали для анализа и расшифровки больших объемов интернет-трафика для слежки за пользователями. Буквально, 40 Гбит/с одной карточкой. Малоизвестная компания Endace из Новой Зеландии даже получила на это два правительственных гранта общей суммой $11.1 млн. Ребята продают свои решения операторам AT&T, AOL, Verizon, Sprint, Cogent Communications, Telstra, Belgacom, Swisscom, Deutsche Telekom, Telena Italy, Vastech South Africa, и France Telecom.
Такой СОРМ для Европы и США, но работающий, в отличие от российского.
https://theintercept.com/2016/10/23/endace-mass-surveillance-gchq-governments/

Интересное мнение о том, как программное обеспечение поглотило мир, и себя вместе с ним: http://spectrum.ieee.org/computing/software/software-the-invisible-technology

Раньше мы шли в магазины и покупали коробочные версии ПО (если не пиратили); каждая такая покупка была сравнима с приобретением какой-то вещи. Теперь же ПО обеспечивает работу каждой сферы нашей жизни. Оно есть в метро, платежных терминалах Макдональдса, часах — и мы так к этому привыкли, что перестали замечать ПО.

Мы перестали платить за патчи и багфиксы (и такое бывало), все обновляется и устанавливается вручную. Компании, разрабатывающие программное обеспечение, выстраивают из него платформы для шоппинга, поиска, работы или социальных связей, чтобы как-то собрать побольше информации и выудить отсюда деньги.

Ушло то время, когда условный Билл Гейтс мог сколотить состояние только потому что он разрабатывал ПО. Теперь это делают все — и зачастую делают бесплатно. Мы не платим деньги Facebook или Google за использование социальных сетей, почты или просмотр видеороликов на YouTube. Конечно, платные опции существуют — но, как правило, это оплата сервиса как такового, а не обновлений непосредственного софта для доступа к этому сервису.

Такое вот незаметное и привычное ПО.

Quartz пишет об интересной проблеме: пользователи голосовых помощников флиртуют с ними, домогаются - в общем, навязывают программе свои сексуальные фантазии. По некоторым оценкам, до 5% всех взаимодействий с голосовыми ассистентами имеют сексуальный подтекст. Кто-то делает это для фана, кто-то просто тестирует возможности программ. Но есть и люди, которые действительно хотят воплощать свои BDSM-фантазии с помощью Siri, пусть и в текстовом формате. Естественно, разработчикам это не нравится - они не хотят создавать сексуально озабоченные программы. Как вариант решения проблемы, программу можно сделать обезличенной. Так сделали разработчики помощника от Google - у него человеческий голос, но нет "личности", которая есть у Siri или Cortana.

http://qz.com/818151

Кстати, тема изнасилования робота поднималась в модном сейчас сериале Westworld.

А у нас на @apparatmag раньше выходил текст о том, как люди влюбляются в роботов - хороший текст со ссылками на психологические исследования, почитайте: http://apparat.cc/human/in-love-with-robot/

Объявление для киевских программистов и ITшников. Сегодня в КПИ будет выступать с лекцией мой товарищ Саша Котлярский, который уже четыре года работает разработчиком в Facebook.  Саша - один из самых талантливых программистов, которых я знаю. Когда-то уже делал с ним интервью о Facebook - сейчас он, конечно, расскажет намного больше, но там тоже много интересного, почитайте: http://kpishnik.com/facebook-interview/  (по-русски: https://geektimes.ru/post/179489/)

На лекции Саша расскажет о работе в Кремниевой долине, о Facebook, программировании, и о всём, о чём спросят студенты.

Встреча пройдёт в Большой физической первого корпуса КПИ в 16:00, приходите и берите друзей, будет интересно. Здесь регистрация:  goo.gl/za30QV