Очень интересный кейс о приватности данных, интернете вещей и законе. Один американец убил другого у себя дома, труп нашли в джакузи. В ходе расследования полиция потребовала от компании Amazon передать следствию все записи, сделанные в тот вечер голосовым помощником Echo. Amazon отказывается это делать и объясняет, что устройство записывает аудио только после команды-обращения "Alexa". Полиция при этом заявляет, что всё же смогла извлечь из устройства некоторые данные.

Самое интересное: убийца был большим любителем технологий, так что голосовой помощник от Amazon был не единственным умным устройством в доме. Благодаря "умному" счетчику воды следствие установило, что в ночь убийства в доме было использовано 500 литров воды за два часа - полицейские предполагают, что убийца смывал улики.

Если ваш дом будет напичкан умными устройствами, можно ли будет использовать данные с них против вас в суде? Будут ли компании помогать полиции судить своих клиентов? Вспомните историю про заблокированный айфон стрелка из Сан-Бернардино и представьте на месте смартфона целый умный дом. Будущее прекрасно, будущее ужасно.

Оригинал истории (paywall): https://www.theinformation.com/amazon-echo-and-the-hot-tub-murder
Пересказ без paywall: https://www.engadget.com/2016/12/27/amazon-echo-audio-data-murder-case/

High tech, low life

https://twitter.com/mypicw/status/813807405234536448

Петербуржец Сергей Поздняков опубликовал на своей странице во ВКонтакте сканы советского диафильма 1960 года «В 2017 году». Авторы предсказали некоторые из современных технологий - видеосвязь, умные кухонные комбайны. Но большинство описанных в диафильме идей остаются фантастикой - фотонные ракеты, мезонная энергия, летающие станции управления погодой, подземные города, междугородное метро через Арктику.

Сюжет соответствует духу времени - советский человек радикально меняет мир вокруг себя, сносит горы с помощью атомных зарядов, строит плотину через Берингов пролив, поворачивает вспять реки, управляет погодой. Есть в сюжете и злодеи - "последние империалисты, скрывавшиеся на далёком острове" взрывают климатическую бомбу. Впрочем, футурология - это разговор не о действительном, а о желаемом, так что разговоры о будущем невозможны без идеологии.

Спасибо автору сканов за интересный артефакт ушедшей эпохи.

ВКонтакте: https://vk.com/album2118125_239615536

Facebook: https://www.facebook.com/andriy.brodetsky/posts/1189362247799988

Недавно я постил изображение инженерной конструкции, спроектированной с помощью алгоритмов*. Вот крутое и масштабное развитие этой темы: в Гамбурге архитекторы спроектировали с помощью алгоритмов дизайн одного из залов новой филармонии. Его стены и потолок покрыты специальными акустическими панелями - они все разные, всего их 10 тысяч, и каждая состоит из сотни секций, спроектированных так, чтобы определенным образом поглощать или отражать звук. Вместе с причудливой формой зала это обеспечивает оптимальную акустику в любом уголке аудитории.

Ну и главное: форму и структуру акустических панелей создали с помощью параметрического дизайна. Архитекторы разработали специальный алгоритм, который по заданным параметрам (форма аудитории, её звуковая карта) определил окончательный вид каждой из 10 тысяч панелей. Как говорит один из авторов проекта, делать всё это вручную было бы безумием.

Получилось не только практично, но и очень стильно и красиво, посмотрите фото. И оцените масштаб - строительство длилось 14 лет и обошлось в 780 млн евро.

https://www.wired.com/2017/01/happens-algorithms-design-concert-hall-stunning-elbphilharmonie/

* Автор процитированного мной твита (https://t.me/brodetsky/692) был не совсем корректен: деталь создали с помощью топологической оптимизации, а не машинного обучения. Вот коллеги из N+1 хорошо разобрались, почитайте, если интересно: https://nplus1.ru/blog/2016/12/27/within

Сильвия Николова из Болгарии работает агентом по копирайту в компании, которая помогает порностудиям удалять незаконные копии их фильмов. Работа Сильвии - 8 часов в день смотреть порно. Она пересмотрела столько порно, что может узнать фильмы определенной студии по пятну на диване или по родинке на спине актёра.

Помню, как-то удивился, наткнувшись на надпись "Видео удалено по запросу правообладателя" на одном порноролике во ВКонтакте. А теперь не удивлён - вот как это работает, оказывается. Сидит специальный человек и вбивает в поиск на всех сайтах названия фильмов.

Компания Porn Guardian помогла производителям порно удалить 10 миллионов нелегальных копий их контента. 10-20% этих роликов были обнаружены Сильвией. То есть человек за год видит буквально миллионы порнороликов. Ужасная работа, если вдуматься. Уверен, в скором будущем её автоматизируют. Это же только звучит забавно, а смотреть такое целым днями - бррр, нечеловеческий труд.

https://vimeo.com/153177244

Япония зашла дальше большинства других стран в развитии постиндустриального общества. Новости оттуда часто похожи на привет из будущего. Но из-за особенностей японской культуры этот привет часто выглядит странным и даже зловещим. Вот декабрьская новость как раз из этой серии.

Представьте себе, что интеллектуальный ассистент из фильма "Она" живёт в домашнем устройстве вроде Amazon Echo в виде анимешной голограммы. Этот "виртуальный робот" умеет управлять домашними "умными устройствами" - светильниками, пылесосом, кофеваркой, может говорить со своим владельцем и отвечать на сообщения (пока только на японском). Некоторые техноблоги окрестили это устройство "виртуальной женой" для одиноких японцев - "она" печалится, когда её владелец ("пользователь"? "муж"? даже не знаю, какое слово подобрать) уходит на работу и шлёт ему сообщения вроде "Я скучаю. Когда ты будешь дома?". Выглядит всё это, мягко говоря, странно, начиная с рекламного слогана - "Living with your favorite character". Посмотрите видео: https://youtu.be/nkcKaNqfykg

Для контекста: в Японии большая проблема с демографией - многие молодые люди не женятся и даже не заводят партнёров. По прогнозам Национального института исследования населения, через 20 лет треть японских мужчин будут одинокими на всю жизнь. Логично, что разработчики видят в этом огромную возможность для рынка персональных ассистентов. Посмотрим, может через 20 лет и у нас станет нормой общаться с анимешной голограммой (надеюсь, что нет).

http://gatebox.ai/

Ежегодно до 100 тысяч японцев "испаряются" - добровольно покидают общество из-за пережитых унижений разного масштаба: развода, долга, увольнения с работы, проваленного экзамена.

Французская журналистка Лена Може пять лет исследовала этот феномен и осенью выпустила книгу "Исчезнувшие". В интервью New York Post она рассказала об этом удивительном явлении.

"«Это табу. Об этом нельзя говорить. Но люди исчезают, потому что знают: они смогут выжить на дне японского социума», — говорит Може. Эти потерянные люди живут в городах-призраках, которые сами же и построили.

Город Санья не отмечен ни на одной карте. С технической точки зрения его вообще нет. Это трущобы в пределах Токио, о существовании которых власти предпочитают молчать. Территория находится под контролем якудза, преступной организации, которая нанимает людей для выполнения нелегальной работы. «Испарившиеся» живут в крошечных убогих номерах гостиниц, зачастую с общими туалетами и без доступа в Интернет. В большинстве таких отелей запрещается разговаривать после шести вечера.

Здесь Може повстречала Норихиро, 50-летнего мужчину, который устроил свое исчезновение 10 лет назад. Он изменял своей жене, но настоящим позором для мужчины было то, что он потерял свою работу инженера.

Из-за чувства стыда он не мог сообщить об этом своей семье. На протяжении недели Норихиро вел себя так же, как и обычно: вставал рано утром, надевал костюм и галстук, брал портфель, целовал жену на прощание, после чего ехал к офисному зданию своей прежней работы и сидел в машине весь день, ничего не ел и ни с кем не разговаривал. Страх того, что его ложь раскроется, был невыносим.

«Это не могло продолжаться вечно. После семи вечера мне все еще приходилось ждать в машине, потому что часто после работы я ходил выпивать с начальством и коллегами. Когда я возвращался домой, мне казалось, что жена и сын начинают что-то подозревать. Я чувствовал себя виноватым. Я больше не мог их содержать», — говорит Норихиро.

В день получения зарплаты он надел чистую выглаженную одежду и сел на поезд в сторону Санья. Он не оставил семье никакой записки, и все его родственники считают, что мужчина ушел в лес Аокигахара, где покончил жизнь самоубийством.

Сегодня он живет под чужим именем, в комнате без окон, а дверь запирает на навесной замок. Он очень много пьет и курит. Практикуя такую мазохистскую форму наказания, мужчина решил прожить остаток своих дней.

«Спустя все эти годы я мог бы вернуться. Но я не хочу, чтобы близкие видели меня в таком состоянии. Посмотрите на меня. Я выгляжу как ничтожество. Я и есть ничтожество. Если я завтра умру, то не хочу, чтобы меня опознали», — признается Норихиро."

http://nypost.com/2016/12/10/the-chilling-stories-behind-japans-evaporating-people/

перевод: http://openreporter.ru/news/u-nih/isparyayushchiesya-lyudi-na-chto-idut-yapontsy-chtoby-smyt-pozor-so-svoey-semi/

Чуть не забыл поделиться с вами ещё одной интересной историей. В Китае в тестовом режиме внедряют систему "социальных кредитов" - рейтинг "добропорядочности" граждан. На рейтинг влияют три фактора: финансовая история (платит ли человек налоги, отдаёт ли вовремя долги), поведение человека (нарушает ли закон, занимается ли волонтерской деятельностью, ухаживает ли за родителями) и его онлайн-активность (как и с кем общается, что покупает, не распространяет ли слухи). На основании этих параметров гражданин получает рейтинг. Высокий рейтинг открывает новые возможности (доступ к лучшим сервисам - кредитам, страховке, транспорту, гостиницам), низкий - наоборот, ограничивает доступ к таким сервисам.

В Китае госорганы уже давно ведут досье на каждого гражданина, только в виде папки с документами. Списки неблагонадежных граждан тоже существуют давно, так что система социальных кредитов появилась не на пустом месте, это развитие уже существующей практики.

К такой инициативе есть много вопросов, например, как гарантировать, что человек не получит плохой рейтинг ошибочно - а это вполне реальная ситуация, если учесть, какой сложной и масштабной будет система оценивания.

Корреспонденты Wall Street Journal в Китае узнали много подробностей, увидели, как проект работает в тестовых регионах и даже пообщались с некоторыми разработчиками системы.
http://www.wsj.com/articles/chinas-new-tool-for-social-control-a-credit-rating-for-everything-1480351590 (чтобы читать тексты WSJ без подписки, вбейте заголовок в Google и перейдите по ссылке из поисковика)

Здесь материал по-русски: http://www.rbc.ru/business/11/12/2016/584953bb9a79477c8a7c08a7

P.S. Да, что-то похожее было в сериале Black Mirror. Проект задумали в 2014, не исключено, что сценаристы именно ним и вдохновлялись.

Вот так это будет работать

https://si.wsj.net/public/resources/images/P1-BZ401_CCREDI_9U_20161128113928.jpg

Просматривал подписчиков канала, увидел людей из Азии, написал нескольким - думаю, наверное накрутка какая-то. А оно вот чего!

Очередная новость из параллельного мира Youtube-стримеров. Студент из Гомеля набрал 50 тысяч подписчиков, раздевая своих подписчиц в прямом эфире Youtube. Они созванивались с ним во время стрима по Skype и выполняли его команды - снимали с себя одежду, крутились перед камерой. Взамен получали лайки и подписчиков на свои аккаунты в ВК и Instagram. Казалось бы, что тут такого - на специальных сайтах люди за деньги показывают вообще всё. Но среди раздевавшихся за лайки девушек были несовершеннолетние, а это уже совсем другое дело.

В общем, попал стример из Гомеля. Недавно в Беларуси девушке дали условный срок за сохраненную фотографию с ню в ВК, а здесь такое дело. Зайти в его группу я уже не успел - администрация ВК заблокировала её с соответствующей формулировкой.

СМИ об этой истории толком ещё не писали, так что ссылка будет на другого видеоблогера: https://youtu.be/uXSjCKvCUlI. Больше примеров того, как всё это выглядело, можно найти по ссылке  https://www.youtube.com/results?search_query=mellstroy+%D1%80%D0%B0%D0%B7%D0%B4%D0%B5%D0%BB

Вот такие дела творятся в интернете, который мы не замечаем.

Большой текст Fast Company, в котором специалисты по ИИ, UX и продуктовому дизайну рассуждают о голосовых помощниках в беспроводных гарнитурах. Это перспективное направление в разработке интерфейсов, но пока непонятно, станет ли этот интерфейс массовым - как обычно, есть куча нюансов.

Ожидаемо, не обошлось без сравнений с фильмом "Она" - это самый яркий пример голосового помощника в массовой культуре (кто не смотрел, посмотрите, фильм отличный). Но сравнения с кино завышают ожидания от любой технологии. Более близкая к реальности (и потому более интересная) тема - это особенности и проблемы разработки такого интерфейса.

Одна из главных проблем - это как раз несоответствие между тем, чего люди ожидают от голосовых помощников, и тем, что они могут делать. Одно из возможных решений - узкоспециализированные помощники, заточенные на определенные задачи. Например, помощник для спортсменов, который хорошо умеет отвечать на вопросы вроде "сколько я пробежал?" или "какой у меня пульс?".

Будет ли голосовой помощник всегда одной "личностью", либо же в нём будут уживаться разные "аватары" для разных задач и сервисов? Siri или Alexa не знают о всех сервисах, которые могут вам пригодиться. Вы не можете заказать еду в пиццерии за углом - в Alexa есть интеграция только с компаниями, которые за это заплатили. Выходом может быть создание приложений внутри голосового ИИ - вы вызываете Siri, а уже внутри неё запускаете голосового ассистента нужного вам сервиса.

Чем умнее ИИ, тем больше вычислительных мощностей он требует. Серверные центры крупных компаний плохо справляются с обслуживанием голосовых помощников, так что даже при нынешнем уровне сложности эта технология плохо масштабируется.

Ещё одна проблема - аппаратная. Беспроводные наушники остаются непривычными и неудобными для огромного количества людей. Качество звука и качество распознавания речи в беспроводных гарнитурах оставляют желать лучшего. Один из возможных путей развития - дать голосовому помощнику дополнительные "органы чувств". Например, добавить камеру, которая будет считывать выражение лица и жесты пользователя, чтобы лучше его понимать.

Использование голосовых помощников будет приводить к неловким ситуациям. ИИ может вмешаться в серьёзный деловой разговор или интимный момент, может отвлечь человека во время дорожного движения. Разработчики должны придумать, как наделить ИИ "социальной интуицией", чтобы он понимал, что уместно, а что нет. Да что там ИИ - у большинства живых людей с этим проблема.

В общем, до того, что мы видели в фильме "Она", ещё очень далеко.

http://www.fastcodesign.com/3057483/the-next-big-tech-revolution-will-be-in-your-ear

перевод: http://rb.ru/longread/tech-revolution/

Сейчас будет длинный, но интересный пост про ИИ. Когда нейросеть распознаёт образ, она не видит "образы" в привычном для нас смысле. Нейросеть - это черный ящик. Внутри него находятся несколько слоёв коэффициентов ("нейронов"), которые определенным образом меняются в зависимости от того, что подают на вход. Допустим, мы научили нейросеть распознавать лошадей, показав ей несколько миллионов фото. Если теперь подать на её вход любое изображение, нейросеть преобразует его в многослойный набор коэффициентов и сравнит с теми наборами, которые получались, когда ей показывали лошадей.

"Лошадь" или любой другой образ для нейросети - это не картинка, а набор чисел. И вот здесь начинается интересное. Потому что образ "страус" может преобразовываться внутри нейросети в очень похожий набор чисел. И если, зная это, совсем немного подправить изображение лошади (изменение будет даже незаметным для человека), нейросеть вместо лошади распознает страуса. Или любой другой образ. Для этого даже не надо знать, как нейросеть устроена внутри - её можно обмануть не открывая "чёрный ящик", просто показывая картинки и записывая её реакцию.

Вот подробная статья в Popular Science с иллюстрациями, не поленитесь посмотреть. Вжух - и нейросеть видит вместо здания страуса, вместо панды - обезьяну, а вместо одних дорожных знаков - совсем другие. Исследуют это всё в целях безопасности, а один из заказчиков исследования - армия США.
http://www.popsci.com/byzantine-science-deceiving-artificial-intelligence

Подобным атакам подвержены и системы распознавания речи. Учёные разработали специальные голосовые команды, которые для человеческого уха звучат как белый шум, но при этом голосовые ассистенты (вроде Siri или Google Now) их слышат и распознают. Встроив скрытую команду в выпуск радио, ТВ, или в Youtube-ролик, злоумышленнники могут направить людей на вредоносный сайт, украсть их личные данные или деньги. Это не фантастика: недавно в Техасе домашние устройства Alexa некоторых телезрителей отреагировали на голосовую команду, которую произнёс ведущий местной передачи. Правда, мой смартфон эти команды не распознал. Но на деморолике всё работает, посмотрите: http://www.hiddenvoicecommands.com/demo

Подробнее: https://www.theatlantic.com/technology/archive/2017/01/the-demon-voice-that-can-talk-to-your-smartphone/513743/

Посты по теме:

В чём проблема "чёрного ящика" ИИ и как её можно решить:
https://t.me/brodetsky/608, https://t.me/brodetsky/510

Как исследователи научились копировать алгоритмы машинного обучения из "черного ящика": https://t.me/brodetsky/565

Как работает перенос стиля с помощью нейросетей в приложениях вроде Prisma:
https://t.me/brodetsky/642

So meta

Знакомый журналист делает большой материал про торговлю наркотиками в русском сегменте Tor. Он попросил меня провести тематический опрос, чтобы оценить популярность явления. Не стесняйтесь, опрос анонимный. Текстом потом поделюсь здесь.

Часто употребляете наркотики? Где покупаете?

Не употребляю и никто из знакомых тоже – 2K
👍👍👍👍👍👍👍 62%

Не употребляю, но знаком с теми, кто брал в Tor – 407
👍👍 17%

Употребляю иногда, беру у барыги – 230
👍 9%

Употребляю иногда, беру в Tor – 155
👍 6%

Регулярно употребляю, беру в Tor – 67
▫️ 3%

Регулярно употребляю, беру у барыги – 65
▫️ 3%

👥 2450 people voted so far. Poll closed.

Хорошая статья NYT о том, кто и как делает музыку с помощью ИИ. Пока в этом направлении больше исследований, чем коммерции. Но один лондонский стартап уже умудряется зарабатывать на этом, продавая фоновую музыку для игр, видео и рекламы. Среди их клиентов - британское отделение Coca-Cola.

Удивило меня и то, что машинные песни уже исполняют на концертах. Правда, пока малоизвестные инди-группы.

Упомянули и амбициозный проект машинного творчества Google Magenta, и фортепианные шедевры от DeepMind, и другие проекты, и все - с примерами. Даже если не читаете по-английски, послушайте аудио. Вы будете удивлены.

https://nyti.ms/2kgmE5K

Вот, кстати, интересный российский стартап - алгоритм генерирует электронную музыку в разных стилях. Можно включить на фоне и работать, я сам так провёл не один час: http://play.mubert.com/

Интересная заметка Wired про самую горячую криптовалюту сейчас. Это не биткойн и не Ethereum, а анонимная криптовалюта Monero, которая за 2016 год подорожала в 27 раз. Для сравнения - биткоин подорожал в два раза, Ethereum - в 10.

Monero ("монета" на эсперанто) позволяет лучше сохранить анонимность - в отличие от биткоина, транзакции пользователей Monero не хранятся в публичном реестре. Есть и другие фичи, благодаря которым Monero считается наиболее защищенной криптовалютой (ссылка на Википедию в конце поста).

Неудивительно, что это привлекло пользователей, для которых анонимность критична - наркоторговцев из даркнета. В августе одна из крупнейших торговых площадок Alphabay ввела возможность оплаты с помощью Monero. Сразу после этого курс криптовалюты вырос в 6 раз. По словам администраторов Alphabay, сейчас на расчёты с помощью Monero приходится всего 2% от общего оборота. Но даже это - сотни миллионов долларов.

Общий объём рынка Monero сейчас оценивают в $185 млн. Для сравнения, у биткоина - $15,6 млрд, Ethereum - $699 млн.

Если другие площадки последуют примеру Alphabay, Monero продолжит набирать популярность и расти в цене. Криптоанархисты и пользователи даркнета, берите на заметку.

https://www.wired.com/2017/01/monero-drug-dealers-cryptocurrency-choice-fire/  (из рассылки @while_you_were_out)

Подробнее: https://en.wikipedia.org/wiki/Monero_%28cryptocurrency%29

Так они нас и победят
https://www.youtube.com/watch?v=fsF7enQY8uI