Этика ИИ: актуальность вопроса

Российский ИТ-вендор «Инферит» подписал Кодекс этики в сфере искусственного интеллекта и присоединился к основным акторам в области ИИ в России. Альянс в сфере искусственного интеллекта объединяет ведущие технологические компании для совместного развития их компетенций и ускоренного внедрения искусственного интеллекта в образовании, научных исследованиях и в практической деятельности бизнеса.

Кодекс ИИ

Кодекс этики в сфере ИИ, разработанный Альянсом, представляет собой единую систему рекомендательных принципов и правил, предназначенных для создания среды доверенного развития технологий искусственного интеллекта в России. Он адресован государству, представителям науки, разработчикам, бизнесу и пользователям. В числе задач кодекса – снизить риски неэтичного использования ИИ, нарушающего права и интересы человека, и создать инструмент взаимодействия по вопросам этики ИИ для всех, кто создает, внедряет или использует технологии искусственного интеллекта.

Василий Гурьев, директор «Инферит ИТМен»: «Присоединение "Инферит" к Альянсу в сфере искусственного интеллекта открывает для нас возможность активно участвовать в формировании будущего ИИ в России. Сотрудничество и обмен опытом между участниками сообщества станут катализатором для разработки востребованных инновационных ИТ-продуктов в России».

Дмитрий Баранов, директор «Инферит ОС»: «Инициатива Альянса – это важный шаг для укрепления доверия и создания основ для взаимовыгодного сотрудничества между участниками рынка. Мы рады присоединиться к инициативе Альянса, это позволит нам быть в эпицентре отраслевых изменений, слушать, учиться и делиться своими разработками с коллегами. Подписывая Кодекс этики Альянса в сфере ИИ, мы подчеркиваем свою приверженность прозрачным и этичным практикам в разработке и применении технологий искусственного интеллекта».

Вопросы этики

Когда мы говорим об этике ИИ, важно говорить и о безопасности его применения. Некоторые исследователи, эксперты, представители корпораций со всего мира считают, что ИИ несёт риски. Созданную ИИ информацию стало сложно отличать от реальных фотографий – и даже жюри престижных фотоконкурсов на это не способны. Видео и тексты также сложно отличить от подделок. Джеффри Хинтон, «крёстный отец» нейросетей, заявил, что со временем подобный контент наводнит интернет. ИИ-технологии, как и любые другие технологии в принципе, повлияют на рынок труда. Поэтому дизайнерам, видеографам и копирайтерам уже сейчас важно осваивать новые инструменты – нейросети могут стать их соавторами, а не заменой.

Один из главных вопросов, связанных с ИИ, касается работы беспилотного транспорта.

Эта отрасль развивается быстрыми темпами. Если в технологическом конкурсе DARPA Grand Challenge в 2004 году ни один робот-автомобиль не преодолел трассу в 230 км (лучший результат – 11 км), то уже в 2005 году беспилотный автомобиль прошёл 211,8 км по пустыне Мохаве и забрал приз в 2 млн долларов. Сейчас в Ясенево работают беспилотные такси от «Яндекс», а X5 Group производит коммерческие перевозки с помощью беспилотных грузовиков по трассе М-11 между Москвой и Санкт-Петербургом.

Если говорить о трассе М-11, то важно отметить, что до неё и после за рулём – водитель. Технологии позволяют свести риски к минимуму при отсутствии пешеходов и других неожиданностей, хотя и в зимнем городе могут вполне успешно «вести» автомобиль без участия водителя.

Тем не менее, дорожно-транспортные происшествия с участием беспилотных автомобилей уже не раз случались – и даже смертельные. В 2016 году энтузиаст электрокаров Джошуа Браун погиб в аварии, когда ехал на автопилоте в Tesla: машина не увидела белый фургон в солнечный день.

В 2018  году автомобиль Uber сбил 49-летнюю женщину, переходившую дорогу с велосипедом в неположенном месте. Расследование показало, что автомобиль определил препятствие и должен был использовать аварийный тормоз – но этот тормоз был отключен. В 2018 году случилось сразу две аварии Tesla за один месяц – во время одной из них машина была на автопилоте, и водитель скончался в больнице в результате столкновения.

ИИ в автомобиле может ошибаться. Но кто будет виноват? Кто будет нести ответственность – компания-производитель авто, разработчик системы автономного управления, водитель? В случае с Элейн Херцберг вина была на женщине – всё-таки, не стоило так неаккуратно переходить дорогу ночью в неположенном месте.

Если пока отложить вопрос ответственности, возникает следующая дилемма – «дилемма вагонетки». Как автопилот должен выбрать, кем жертвовать в случае аварии, а кого спасать в первую очередь – водителя или пассажира, пешехода или людей на остановке и так далее. Массачусетский технологический институт предлагает пройти тест, в котором каждое новое задание даёт всё более сложный выбор. Например, в машине может быть ребёнок, а на дороге – беременная женщина.

И это всего два из множества этических вопросов, решить которые требуется для запуска беспилотного транспорта по всему миру.

Вернёмся к искусственному интеллекту, который не управляет транспортом или роботами, а выполняет роль инструмента в различных системах. Например, ИИ подбирает кандидатов на работу, опознаёт людей по лицу и отслеживает их передвижение по камерам, следит за безопасностью на дорогах. И здесь важно избежать предвзятости.

Amazon несколько лет назад запустила ИИ для поиска сотрудников. Компании пришлось отказаться от системы, потому что она подбирает специалистов-женщин реже, чем мужчин. Причина в том, что тренировали её по выборке сотрудников Amazon за 10 лет – и мужчин там было больше.

А в 2018 году выяснилось, что алгоритм системы судейства определял для афроамериканцев большую сумму залога, чем в случае с другими подозреваемыми.

‍

Правительства стран внедряют стратегии развития ИИ, новые нормативные акты для регулирования вопросов, связанных с этой технологией. В России действует «Национальная стратегия развития искусственного интеллекта на период до 2030 года» и «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года».

Крупнейшие корпорации, а также разработчики в области ИИ, объединились в Альянс в сфере искусственного интеллекта. Альянс разработал Кодекс, в числе подписантов которого – Сбер, Яндекс, ВКонтакте, МТС, Ростелеком, Росатом, РФПИ, Газпромнефть, Университет Иннополис, Сколтех, Фонд Сколково, Softline Digital.

В октябре 2023 года российский IT-вендор «Инферит» присоединился к профессиональному сообществу акторов ИИ, приняв этот Кодекс.