Так кто виноват: машина или человек?
В последние дни в чате активно обсуждали мой пост об опасности псевдо-автопилота.
Меня даже называли луддитом: якобы я борюсь с прогрессом, и без тестирования автопилота 2-3 уровня не получится создать автопилот 4 уровня, который я в своих статьях уже считаю безопасным.
Но мой пост был скорее не о борьбе с технологией, а о юридической ответственности тех компаний, которые эту технологию выпускают.
Объясню на примере: во многих автомобилях есть круиз-контроль, и вместе с ним есть такая вещь, как «лимитер». Он позволяет выставить скорость, выше которой машина не разгонится. Очень удобно, если вы хотите ехать на максимально разрешенной скорости при наличии фотофиксирующих камер.
Допустим, разрешенная скорость – 100 км/ч. Ставите лимит 100 км/ч и спокойно жмете на газ: быстрее машина не разгонится, а вы не получите штраф. Эта штука очень хорошо снимает напряжение – не надо постоянно следить за скоростью и наличием камер.
В те моменты, когда вы привыкаете к технологиям, подобным лимитеру, вы как бы перекладываете ответственность за превышение скорости на него. Вы знаете, что это машина и она надежна. Теперь вам не надо постоянно следить за спидометром, и вы перестаете это делать. Так устроен наш мозг, именно для этого мы и окружаем себя различными умными приборами – чтобы не тратить лишнее внимание.
Но давайте пофантазируем и представим, что лимитер сломался и начал превышать скорость, но только иногда, а не постоянно. Я не замечаю этого, и в какой-то прекрасный момент могу получить 5-10 штрафов.
Получается, что автопроизводитель, который заверял меня, что эта штука защитит от превышения скорости, меня подвел. Машина никак не оповестила меня о поломке, то есть система не имела механизмов отслеживания неисправностей. Но при этом ответственность за штраф лежит на мне, а не на автопроизводителе.
А теперь перенесите мой пример на систему экстренного торможения. Допустим, я знаю, что эта система пару раз помогла мне, когда я был невнимателен. Помогла не сбить оленя на трассе и остановиться перед пьяным человеком, который переходил дорогу в неположенном месте. Через год-два использования подобной системы я начинаю доверять ей безоговорочно, и как бы «перекладывать» на нее часть ответственности. Начинаю водить машину более спокойно, меньше переживая о том, чтобы заранее притормаживать на подозрительных участках дороги. В результате этого в какой-то момент я сбиваю человека, потому что система не сработала, и я сажусь в тюрьму.
Вы конечно можете сколько угодно писать, что «сам дурак» и надо всегда быть на стреме, ты же знаешь, что ответственность на тебе! Но ребята, я специально выше привел вам пример, показывающий механизм формирования доверия автоматическим системам в случае опыта успешного взаимодействия.
Все те люди, которые сейчас массово пересаживаются на автомобили с интеллектуальными ассистентами водителя, попадают в самый настоящий капкан. Автопроизводитель не озвучивает ряд вопросов:
– Статистика успешного выполнения задачи такими системами. У всех она будет не 100%.
– Есть ли системы контроля поломки подобных систем? Задублированы ли они?
В итоге, все эти покупатели «умных авто» с усыпляемой бдительностью становятся подопытными кроликами корпораций за свои же деньги. Благодаря ним производитель собирает информацию о внештатных ситуациях (авариях) и потихоньку идет к созданию автопилота 4-5 уровней. А наивные покупатели имеют не нулевую вероятность полностью разрушить свою жизнь, сбив человека.
Поэтому, на мой взгляд, продаваемые людям автопилоты 2-3 уровня должны вести черный ящик, и в случае, если в озвученных производителем условиях (например, днем в ясную погоду) в машине не сработала система аварийного торможения, то юридическую ответственность должен нести автопроизводитель.
В последние дни в чате активно обсуждали мой пост об опасности псевдо-автопилота.
Меня даже называли луддитом: якобы я борюсь с прогрессом, и без тестирования автопилота 2-3 уровня не получится создать автопилот 4 уровня, который я в своих статьях уже считаю безопасным.
Но мой пост был скорее не о борьбе с технологией, а о юридической ответственности тех компаний, которые эту технологию выпускают.
Объясню на примере: во многих автомобилях есть круиз-контроль, и вместе с ним есть такая вещь, как «лимитер». Он позволяет выставить скорость, выше которой машина не разгонится. Очень удобно, если вы хотите ехать на максимально разрешенной скорости при наличии фотофиксирующих камер.
Допустим, разрешенная скорость – 100 км/ч. Ставите лимит 100 км/ч и спокойно жмете на газ: быстрее машина не разгонится, а вы не получите штраф. Эта штука очень хорошо снимает напряжение – не надо постоянно следить за скоростью и наличием камер.
В те моменты, когда вы привыкаете к технологиям, подобным лимитеру, вы как бы перекладываете ответственность за превышение скорости на него. Вы знаете, что это машина и она надежна. Теперь вам не надо постоянно следить за спидометром, и вы перестаете это делать. Так устроен наш мозг, именно для этого мы и окружаем себя различными умными приборами – чтобы не тратить лишнее внимание.
Но давайте пофантазируем и представим, что лимитер сломался и начал превышать скорость, но только иногда, а не постоянно. Я не замечаю этого, и в какой-то прекрасный момент могу получить 5-10 штрафов.
Получается, что автопроизводитель, который заверял меня, что эта штука защитит от превышения скорости, меня подвел. Машина никак не оповестила меня о поломке, то есть система не имела механизмов отслеживания неисправностей. Но при этом ответственность за штраф лежит на мне, а не на автопроизводителе.
А теперь перенесите мой пример на систему экстренного торможения. Допустим, я знаю, что эта система пару раз помогла мне, когда я был невнимателен. Помогла не сбить оленя на трассе и остановиться перед пьяным человеком, который переходил дорогу в неположенном месте. Через год-два использования подобной системы я начинаю доверять ей безоговорочно, и как бы «перекладывать» на нее часть ответственности. Начинаю водить машину более спокойно, меньше переживая о том, чтобы заранее притормаживать на подозрительных участках дороги. В результате этого в какой-то момент я сбиваю человека, потому что система не сработала, и я сажусь в тюрьму.
Вы конечно можете сколько угодно писать, что «сам дурак» и надо всегда быть на стреме, ты же знаешь, что ответственность на тебе! Но ребята, я специально выше привел вам пример, показывающий механизм формирования доверия автоматическим системам в случае опыта успешного взаимодействия.
Все те люди, которые сейчас массово пересаживаются на автомобили с интеллектуальными ассистентами водителя, попадают в самый настоящий капкан. Автопроизводитель не озвучивает ряд вопросов:
– Статистика успешного выполнения задачи такими системами. У всех она будет не 100%.
– Есть ли системы контроля поломки подобных систем? Задублированы ли они?
В итоге, все эти покупатели «умных авто» с усыпляемой бдительностью становятся подопытными кроликами корпораций за свои же деньги. Благодаря ним производитель собирает информацию о внештатных ситуациях (авариях) и потихоньку идет к созданию автопилота 4-5 уровней. А наивные покупатели имеют не нулевую вероятность полностью разрушить свою жизнь, сбив человека.
Поэтому, на мой взгляд, продаваемые людям автопилоты 2-3 уровня должны вести черный ящик, и в случае, если в озвученных производителем условиях (например, днем в ясную погоду) в машине не сработала система аварийного торможения, то юридическую ответственность должен нести автопроизводитель.
