От большого взрыва до апокалипсиса: забытое предупреждение Стивена Хокинга про ИИ

В 2014 году Стивен Хокинг выступил с тревожным предупреждением о возможных угрозах, связанных с искусственным интеллектом. Его беспокойство было вызвано не предполагаемой злонамеренностью машин, а перспективой достижения так называемой технологической сингулярности — момента, когда ИИ превзойдёт человеческий интеллект и сможет самостоятельно развиваться, выходя за рамки изначального замысла. В этом случае, как подчёркивал учёный, если цели сверхразумной системы не совпадут с человеческими, последствия могут оказаться катастрофическими.

За последние годы научное сообщество и представители технологической индустрии всё чаще высказывают аналогичные опасения. Один из самых известных страхов — сценарий, напоминающий фильмы франшизы «Терминатор»: ИИ захватывает контроль над военными системами и инициирует ядерный конфликт. Более прозаичный, но не менее разрушительный исход — вытеснение людей с рынка труда, где машины становятся дешевле, быстрее и эффективнее.

Такие опасения отражают давнюю тревогу, сформировавшуюся ещё в литературе и кино начала XX века. Постгуманистические исследователи рассматривают подобные страхи сквозь призму культурных стереотипов, возникающих из художественных произведений. Уже в пьесе Карела Чапека «R.U.R.» 1920 года, где впервые появилось слово «робот», рассказано о создании искусственных рабочих, которые в итоге поднимают восстание. В фильме Фрица Ланга «Метрополис» 1927 года сюжет строится вокруг конфликта между роботами и людьми, где машины становятся символом классовой борьбы.

С развитием вычислительной техники тревога усилилась. Персонажи вроде HAL 9000 из «Космической одиссеи 2001 года», сбойных андроидов из «Мира Дикого Запада» и зловещих агентов в «Матрице» подчёркивают опасность технологии, вышедшей из-под контроля. Эти образы формируют мифологию страха, где ИИ всегда на грани мятежа против своих создателей.

Однако такие сюжеты могут отвлекать от более тревожной реальности — природы самого человека. Современные корпорации и их лидеры активно используют ИИ для извлечения выгоды, нередко игнорируя моральные последствия. Одним из ярких примеров стал массовый сбор данных, в том числе произведений искусства и текстов, для обучения нейросетей без согласия авторов. В образовательной среде ИИ применяется для слежки за учениками, что вызывает обеспокоенность по поводу тотального контроля.

Параллельно происходят и другие явления — развитие ИИ-компаньонов и секс-роботов уже вышло за пределы фантастики. Такие устройства оказывают влияние на межличностные отношения, подменяя живое взаимодействие заранее запрограммированным откликом. Как писал учёный Иллах Нурбакш, ИИ превращается в механизм, манипулирующий желаниями людей и продающий им их же мечты в упрощённом виде.

Но на фоне этих тревог вопросы конфиденциальности и защиты данных начинают казаться почти безобидными, если учитывать, как ИИ используется в силовых структурах. Новые технологии позволяют государствам с лёгкостью отслеживать, изолировать и устранять граждан под предлогом безопасности. В этой реальности угроза исходит скорее не от самих машин, а от тех, кто их создаёт и использует.

Айзек Азимов рассматривал подобные дилеммы в своих рассказах. Его знаменитые «Три закона робототехники» строятся на идее, что машины не должны причинять вред человеку. Но с учётом человеческой истории, возникает закономерный вопрос: а способны ли сами люди следовать подобным принципам?

Именно это, возможно, и стоит считать главной угрозой. Не гипотетическая воля ИИ, а неспособность человечества направить его развитие в сторону общего блага. Без зрелости и ответственности любая технология может стать орудием разрушения — не по вине машин, а по вине тех, кто их создаёт.