«AGI ‒ не лучше атомной бомбы»: почему США стоит отказаться от гонки за сверхинтеллектом

Три ведущих эксперта в области искусственного интеллекта выступили с неожиданным заявлением в программном документе , опубликованном 5 марта. Бывший генеральный директор Google Эрик Шмидт, глава компании Scale AI Александр Ван и директор Центра безопасности ИИ Дэн Хендрикс призвали США отказаться от идеи масштабной государственной программы по созданию систем ИИ со "сверхчеловеческими" способностями (artificial general intelligence, AGI).

Всего несколько месяцев назад специальная комиссия Конгресса США предложила взять за образец программу создания атомной бомбы 1940-х годов и запустить аналогичную инициативу для разработки искусственного общего интеллекта.

Специалисты предупреждают: если США попытаются установить единоличный контроль над умными системами, в гонку непременно вступит Китай, как это всегда происходит в последнее время. Скорее всего, ответ Поднебесной примет форму разрушительных кибератак, которые могут серьёзно дестабилизировать международные отношения.

"Когда мы говорим о подходе в духе Манхэттенского проекта, мы почему-то думаем, что соперники просто смирятся с постоянным неравенством сил или угрозой тотального уничтожения, вместо того чтобы попытаться этому помешать", – пишут авторы. "Но стремление создать супероружие и получить глобальный контроль лишь спровоцирует ответные меры и обострит напряжённость. В итоге мы подорвём ту самую стабильность, которую якобы хотим обеспечить".

По мнению Шмидта, Вана и Хендрикса, в сфере AGI сложилась ситуация, поразительно похожая на времена холодной войны с её доктриной взаимного гарантированного уничтожения. Они проводят чёткую параллель: как ведущие державы избегают монополии на ядерное оружие, понимая, что это может спровоцировать превентивный удар противника, так и здесь США следует проявлять осторожность.

Сравнение систем ИИ с ядерным оружием может показаться преувеличением, но факты говорят об обратном - мировые лидеры действительно рассматривают нейросети как ключевое военное преимущество. Министерство обороны Америки открыто заявляет: технологии ИИ уже помогают военным быстрее принимать решения во время боевых операций. Более того, разработка подобных систем ведется во всех развитых странах.

В качестве альтернативы авторы предложили новую концепцию – "взаимно гарантированный сбой ИИ" (Mutual Assured AI Malfunction, MAIM). Правительства якобы должны разработать специальные технические механизмы, которые позволят им в случае угрозы дистанционно выводить из строя потенциально опасные технологии других стран. Это может удержать государства от попыток использовать системы искусственного общего интеллекта в качестве оружия – точно так же, как угроза ответного ядерного удара много лет сдерживает крупнейшие державы от применения атомных бомб.

Ещё один необходимый шаг, по мнению специалистов, - ограничить доступ потенциальных противников к современным ИИ-чипам и открытым моделям. Впрочем, с этим страна и так справляется вполне успешно.

В документе выделены два противоборствующих лагеря в сфере ИИ-политики. Первый – "думеры" (от английского doom – гибель): они уверены, что AGI неизбежно приведёт к катастрофе, и призывают все страны затормозить прогресс в этой области. На другом полюсе – "страусы": они хотят максимально ускорить разработку ИИ и надеются, что проблемы как-нибудь разрешатся сами собой.

Авторы не призывают полностью остановить прогресс, но и не хотят гнаться за ним вслепую: гораздо лучше двигаться вперёд осторожно, делая упор на безопасность и защиту. Особенно интересно, что такую позицию поддержал Эрик Шмидт – тот самый человек, который ещё совсем недавно активно призывал США обгонять Китай в гонке ИИ-технологий.