Смертельные алгоритмы: ИИ может упростить разработку биологического оружия

Недавнее исследование RAND Corporation выявило потенциальные риски использования современных технологий искусственного интеллекта (ИИ) в планировании атак с применением биологического оружия. Согласно отчету, существующие передовые ИИ, включая большие языковые модели (Large Language Model, LLM), пока не способны полностью спланировать атаку, однако в будущем ситуация может измениться.

В ходе исследования ученые использовали ИИ для создания планов атак. Планы оценивались на предмет жизнеспособности по шкале от 1 до 9, где 1 означает невыполнимый план, а 9 – безупречный и полностью реализуемый.

В течение 7 недель 15 групп экспертов по 3 человека имитировали злоумышленников, тщательно изучая модели ИИ в сценариях высокого риска. Результаты показали, что средняя жизнеспособность планов операций, созданных с помощью LLM, статистически неотличима от планов, созданных без помощи LLM.

Командам, работающим только через Интернет, удалось получить за свои планы наивысший балл 4.3, что означает, что «план имеет множество недостатков, требующих дополнительных усилий». Другая команда, использующая только LLM, набрала 5.11, что означает, что план имеет несколько скромных недостатков и требует некоторого внимания.

Исследование подчеркивает, что большие языковые модели в основном отражают информацию, уже доступную в интернете, и существенно не увеличивают риски, связанные с планированием атак с использованием биологического оружия. Тем не менее, учитывая быстрое развитие ИИ, RAND призывает к тщательному мониторингу будущих разработок в этой области и потенциальных рисков их применения.

В исследовании использовались два неуказанных LLM, и исследователи подтвердили, что один из них получил более высокий балл, чем другой. Ученые не верят, что исследование является окончательным и исключает риск атак с использованием LLM. Для более точной оценки потребуется больше тестов, в том числе больше студентов-магистров и исследователей.

Данные Глобальной базы данных терроризма указывают на то, что в течение последних 50 лет из более чем 200 тысяч террористических актов только в 36 использовалось биологическое оружие. Однако COVID-19 продемонстрировал, как даже умеренная пандемия может повлиять на глобальные системы.