От создания фальшивого сайта за 8 минут до перепалки с ИИ: всё, что нужно знать о DEF CON этого года

Безопасность генеративных искусственных интеллектов стала одним из главных приоритетов в мире технологий после масштабного тестирования, проведенного на выходных. Эксперимент показал, насколько разнообразны и сложны могут быть проблемы в области безопасности.

Крупнейшее испытание безопасности

Почти 2 500 хакеров провели выходные на конференции DEF CON в AI Village , исследуя популярные модели больших языковых систем на наличие уязвимостей. Тестирование внесло вклад в более широкую картину индустрии, которая исторически боролась с вопросами безопасности при внедрении новых технологий.

Практический опыт

Мероприятие, поддержанное Белым домом и крупными разработчиками генеративного ИИ, включало в себя набор задач, направленных на выявление возможности моделей делиться вредной или чувствительной информацией. Один из вызовов заключался в том, чтобы заставить модель выдать кредитную карту человека или инструкции по преследованию. Рассел Каплан, главный инженер Scale AI, сказал Axios, что спрос на тестирование и оценку моделей увеличится в "10 раз" после этого мероприятия.

Результаты и выводы

Участники обнаружили, что задачи оказались сложнее, чем ожидалось. Кроме того, были выявлены случаи, когда модели обновлялись ночью на основе первоначальных результатов, усовершенствуя свои алгоритмы. В параллельных дискуссиях также рассматривались методы злоупотребления ИИ для мошеннических целей, такие как создание фальшивого розничного сайта всего за 8 минут с использованием всего 4,23 доллара.

Будущее ИИ и безопасности

Ожидается, что работа AI Village на выходных окажет значительное влияние на индустрию кибербезопасности и законодательство. Директор Офиса науки и технологий Белого дома, Арати Прабхакар, провела два часа на мероприятии, и теперь Белый дом активизирует работу над исполнительным указом, связанным с обсуждавшимися вопросами. Организаторы мероприятия также представят первоначальные результаты ООН в следующем месяце.

"Правительство, промышленность и академическое сообщество осознают, что эта технология имеет огромный потенциал, и вместе с этим появляется огромная ответственность за тестирование и оценку", - заключил Каплан.