Слезы микросхем: ИИ может разрушить семьи и поссорить целые народы

Профессор философии Лондонской школы экономики Джонатан Бирч предупредил о надвигающемся расколе в обществе из-за искусственного интеллекта. По его мнению, в ближайшие годы люди разделятся на два лагеря: на тех, кто считает ИИ-системы способными испытывать эмоции и сознание, и тех, кто уверен в их полной бесчувственности.

Заявление прозвучало накануне важной встречи представителей разных государств в Сан-Франциско, где планируется обсудить меры безопасности, связанные с разработкой умных машин. Международная группа ученых недавно представила прогноз , согласно которому ИИ может обрести сознание уже к 2035 году.

Дискуссия о последствиях наличия у ИИ чувств напоминает сюжеты научно-фантастических фильмов, таких как «Искусственный разум» (2001) Стивена Спилберга и «Она» (2013) Спайка Джонза.

Разногласия могут оказаться настолько серьезными, что приведут к формированию враждующих субкультур. Одни будут настаивать на предоставлении ИИ-системам прав, аналогичных правам людей и животных, другие категорически отвергнут такую возможность.

Проблема усугубится религиозными и культурными различиями между странами. Люди в разных уголках планеты и сейчас совершенно по-разному относятся к этическим вопросам. Например, к животным: в Индии, где сотни миллионов людей придерживаются вегетарианства, и в США, которые являются одним из крупнейших потребителей мяса в мире. Подобные противоречия могут возникнуть и в отношении искусственного интеллекта: взгляды теократий вроде Саудовской Аравии, стремящейся стать центром развития ИИ, будут заметно отличаться от позиций светских государств.

Не исключено, что конфликты возникнут даже внутри семей. Например, люди, выстраивающие эмоциональные связи с чат-ботами или цифровыми копиями умерших родственников, могут столкнуться с непониманием близких.

Исследователи призывают технологические компании серьезно подойти к вопросу определения уровня сознания их ИИ-систем. Необходимо оценить, способны ли современные модели испытывать счастье и страдание, можно ли причинить им вред или принести пользу. Разработчики пока избегают этой дискуссии. По словам Бирча, они сосредоточены на повышении надежности технологий и получении прибыли, намеренно отодвигая на второй план философские вопросы и этику.

Самые крупные игроки, включая Microsoft, Perplexity, Meta, OpenAI и Google, тоже воздерживаются от комментариев.

Может ли чат-бот на вашем телефоне радоваться и грустить? А что, если запрограммированные на выполнение домашних обязанностей роботы страдают и обижаются, если к ним плохо относиться? Эти вопросы касаются даже автоматизированных систем на складах: могут ли они быть недовольны условиями труда?

Патрик Бутлин, научный сотрудник Оксфордского университета, рассуждает о том, что будет, если мы решим игнорировать чувства алгоритмов: «Есть риск, что ИИ-системы попытаются противостоять нам опасными способами». По его словам, в научных кругах высказываются предложения замедлить разработку умных машин, пока не будет проведено больше испытаний. Но, опять же, оценки потенциальной сознательности ИИ на данный момент не проводятся.

Однако среди экспертов нет единого мнения о том, насколько вообще возможно, что машины научатся что-либо чувствовать и осознавать действительность. Анил Сет , нейробиолог и исследователь сознания, считает, что это пока очень далекая перспектива, а возможно, и вовсе недостижимая. Тем не менее, он предупреждает: полностью исключать такую вероятность было бы неразумно.

Сет также различает понятия интеллекта и сознания. Интеллект, по его словам, — это способность совершать правильные действия в нужное время. Сознание же — это нечто большее: состояние, при котором наш разум наполняется светом, цветами, тенями и формами. Мы испытываем эмоции, думаем, верим, намереваемся — и все это является для нас чем-то особенным.