Незамеченные итоги G20: робот не должен причинить вред человеку.
На фоне уже привычных положений декларации лидеров стран «Группы двадцати» Осакская декларация имеет одно существенное отличие от своих предшественников: в документе впервые находит полноправное отражение проблема развития и внедрения технологии искусственного интеллекта (ИИ). В п. 12 декларации появился развернутый пассаж о том, что «
искусственный интеллект при условии ответственного подхода к его разработке и использованию может стать движущей силой достижения Целей устойчивого развития и создания устойчивого и инклюзивного общества».
Лидеры приветствовали Принципы G20 в области развития ИИ, в основу которых легли (практически слово в слово, за исключением вводной части) Рекомендации ОЭСР по ИИ, принятые 22 мая 2019 г.
Итак, общепринятыми принципами (а по сути — условиями) развития искусственного интеллекта признаны:
— содействие инклюзивному росту, устойчивому развитию и благополучию (предполагает увеличение числа бенефициаров использования ИИ, сокращение экономического, социального, гендерного и иного неравенства);
— приоритетность человеческих ценностей и справедливости (подразумевает признание верховенства права, демократических ценностей, защиту прав и свобод человека);
— транспарентность и объяснимость (заключается в обеспечении доступа к общей информации о механизмах функционирования искусственного интеллекта, а также в случае необходимости — об алгоритмах, непосредственно составивших прогноз, рекомендацию или принявших решение);
— надежность, безопасность и стабильность (ИИ-системы, помимо беспрерывного функционирования в нормальных условиях, должны демонстрировать устойчивость к непредвиденным рискам безопасности, а причинно-следственные связи в их работе должны быть отслеживаемыми; предполагается, что разработчики ИИ должны на постоянной основе на каждой фазе разработки осуществлять риск-менеджмент);
— подотчетность (лица или организации, разрабатывающие или внедряющие искусственный интеллект, должны придерживаться перечисленных принципов и нести ответственность за свою деятельность).
Подробнее — в комментарии
Евгении Дрожащих https://russiancouncil.ru/analytics-and-comments/analytics/itogi-g20-robot-ne-dolzhen-prichinit-vred-cheloveku/
