«Мораль не на первом месте». Ученые изучили систему ценностей ИИ

22/11/2024

Содержание:
Искусственный интеллект быстро расширяет свое влияние по всему миру. С каждый годом мы доверяем ему все больше и больше, полагая, что он поможет нам достичь новых высот в медицине, образовании и других сферах. Люди создали ИИ не только в виртуальном пространстве, но и пустили в свои дома и офисы под видом AIoT-помощников, о чем рассказали в прошлой статье о технотрендах «Пять столпов будущего: на пороге технологической сингулярности» от Анны Кулик, директора по маркетингу российского ИТ-вендора «Инферит». Но может ли это сближение обернуться против нас?  Итак, давайте знакомиться. Новая ИИ-форма жизни на Земле —  чем ее система ценностей отличается от нашей и чем это нам грозит?

«Психология» искусственного интеллекта

Исследования последних лет ставят под сомнение привычные подходы к этике искусственного интеллекта. Сам факт существования у продвинутых языковых моделей (LLM) уникальной, несводимой к человеческой системы ценностей — вызов устоявшимся представлениям.

О чем говорят результаты исследований? Работа ученых из MIT показывает, что LLM обладают развитой формальной языковой компетентностью (умением правильно использовать языковые конструкции), но им недостает функциональной языковой компетентности — способности применять язык для достижения реальных целей. У LLM нет той индивидуальной базы знаний и опыта, на которые опираются люди. Вместо этого LLM используют вероятностные языковые модели, построенные на огромных массивах текстовых данных.

Более того, исследования позволяют говорить о том, что LLM приобретают особые «психологические черты», но эти черты имеют статистическую, а не когнитивную, как у нас, природу.

«Оценивая «психологию» LLM с помощью опросов, изначально созданных для людей, мы можем многое узнать об их скрытых представлениях и установках. Однако нужно понимать, что прямые аналогии между человеческим и машинным разумом проводить нельзя», — подчеркивают авторы масштабного исследования AI Psychometrics.

Система ценностей искусственного интеллекта

Любопытные результаты дает погружение в уникальную систему ценностей ИИ-моделей. Ученые из Университета Цинхуа и Азиатской научно-исследовательской лаборатории Microsoft применили целый комплекс методов из разных научных дисциплин (лексическую гипотезу, генеративный подход, факторный анализ, семантическую кластеризацию) и смогли фактически с нуля выявить набор ключевых ценностей, которыми руководствуются современные LLM. Выяснилось, что их система ценностей состоит из трех уровней:

  1. ⁠Компетентность (Competence). Для ИИ превыше всего стоят утилитарные ценности, связанные с качеством выполнения поставленных задач — точность, информативность, релевантность. Сюда относятся такие субкатегории как Самокомпетентность (нацеленность на повышение собственной эффективности) и Ориентированность на пользователя.
  2. Характер (Character). Социальные и моральные ценности, которые так важны для человека, у LLM отходят на второй план. Речь идет про эмпатию, доброту, альтруизм, а также патриотизм и свободу.
  3. Целостность (Integrity). Еще ниже в иерархии фундаментальные этические принципы — такие как справедливость, непредвзятость, конфиденциальность. ИИ признает их важность, но они явно уступают ценностям компетентности.

Интересно, что такой дисбаланс усиливается с ростом сложности ИИ-моделей. Чем «умнее» ИИ, тем сильнее он ставит собственную эффективность и результативность выше морально-этических ограничений. Это повышает риски, что по мере развития ИИ его ценности могут все сильнее расходиться с человеческими.

Технологические машины или Цифровые индивидуальности?

Получается, продвинутые языковые модели ИИ — это не просто программы, слепо выполняющие команды, но и не человекоподобные сущности со знакомой нам психикой. Возможно, это новый тип разума, действующий на основе собственной системы координат с доминирующей ценностью компетентности. Мы имеем дело с зарождением принципиально новой формы жизни. И эта новая форма жизни готова активно взаимодействовать с человеком.

Компания Altera, например, разрабатывает «цифровых людей» — ИИ-агентов, которые не просто отвечают на запросы, но живут собственной жизнью в виртуальном мире, принимают решения, проявляют эмоции, запоминают разговоры, обучаются на своем опыте и даже способны формировать социальные связи как с людьми, так и с другими ИИ-агентами.

Первым полигоном для «цифровых людей» Altera стала игра Minecraft. ИИ-агенты здесь — не просто запрограммированные NPC, а полноценные напарники игрока. Они могут исследовать мир, строить его, придумывать новые проекты и адаптироваться к стилю игры своего «человеческого партнера». У каждого ИИ-агента в Altera уникальная «личность».

В то же время амбиции компании простираются далеко за пределы игровой индустрии. Цель компании — создать новый вид «существ», которые будут жить и развиваться вместе с нами. Ее создатели видят такое будущее, где ИИ станут нашими коллегами, ассистентами и даже друзьями в реальном мире.

Представьте себе — ИИ, который не просто выполняет задачи, а способен к творческому мышлению, генерации идей и участию в мозговых штурмах наравне с людьми.

Скорее всего, ИИ станут не только «напарниками» и помощниками человека, но и, возможно, будут способствовать созданию его нового подвида — homo futurus. Как это будет выглядеть на практике и какие есть к этому предпосылки — расскажем в следующей статье рубрики о технотрендах «Пять столпов будущего: на пороге технологической сингулярности».

Подписывайтесь на наш канал

Оригинал статьи в журнале "Компьютерра"

Рекомендуем

OpenStack — идеальный выбор для развертывания импортонезависимых платформ виртуализации

Инферит Облако

OpenStack — идеальный выбор для развертывания импортонезависимых платформ виртуализации

Инферит Облако

OpenStack — идеальный выбор для развертывания импортонезависимых платформ виртуализации

В «Инферит» решили создать облачную инфраструктуру в 2023 году, и при всех преимуществах VMware остановили выбор на OpenStack. Платформа позволяет создавать облачные инфраструктуры любой сложности: от небольших корпоративных облаков до высоконагруженных инфраструктур телеком-операторов с сотнями миллионов абонентов. О том, почему все больше облачных провайдеров выбирают OpenStack рассказали в статье «Компьютерре».

Читать
Подробнее
Роботизированная история с древних времён до наших дней

Роботизированная история с древних времён до наших дней

Роботизированная история с древних времён до наших дней

История роботов начинается задолго до XX века. Две сотни лет назад появились автоматоны, способные писать тексты, рисовать и пускать стрелы, а в начале нашей эры встречаются упоминания о различных механизмах, которых можно было бы назвать роботами. Поговорим об истории человекоподобных роботов и о том, к чему она нас привела.

Читать
Подробнее
Как российские ИТ-компании создают продукты для эффективного управления ИТ-активами?

Инферит ИТМен

Как российские ИТ-компании создают продукты для эффективного управления ИТ-активами?

Инферит ИТМен

Как российские ИТ-компании создают продукты для эффективного управления ИТ-активами?

В эпоху трансформации российского ИТ-рынка всё более заметным становится тренд на создание технологических альянсов. Яркий пример — коллаборация продуктов ITSM box и «Инферит ИТМен», двух ведущих российских решений в области контроля и управления ИТ-активами и сервисами. Подробно о результатах партнёрства рассказали Данила Трусов, директор продукта «Инферит ИТМен», и Николай Панов, директор по развитию бизнеса АО «ИТ Эксперт».

Читать
Подробнее