Фальшивое аудио с провокационными высказываниями едва не стоило работы директору школы

Полиция Балтимора арестовала Дэжона Лесли Дариена, бывшего спортивного директора старшей школы Пайксвилль (PHS), за имитацию голоса генерального директора той же школы с использованием программного обеспечения на основе искусственного интеллекта. Целью имитации было создание видимости, что мужчина ответственен за распространение расистских и антисемитских высказываний.

Дариен, проживающий в Балтиморе, штат Мэриленд, был задержан поздно вечером, когда пытался сесть на один из рейсов в местном аэропорту. Сотрудники безопасности остановили его, так как обнаружили хоть и задокументированное, но неправильно упакованное огнестрельное оружие, после чего проверка выявила наличие открытого ордера на арест.

Роберт Маккалоу, начальник полиции округа Балтимор, сообщил на пресс-конференции, что 17 января 2024 года полиции стало известно о распространении в социальных сетях голосовой записи, которая якобы принадлежала Эрику Айсверту, директору PHS. После тщательного расследования и анализа, проведённого совместно с ФБР, было установлено, что запись поддельная и была создана при помощи ИИ.

В ордере на арест уточняется, что аудиофайл был распространён через социальные сети после того, как его отправили по электронной почте учителям школы. В записи звучали высказывания, достаточно провокационные, чтобы полиция посоветовала школе принять меры безопасности для персонала.

Запись содержала обидные комментарии о евреях и двух учителях, которых «никогда не следовало нанимать». По словам Айсверта, он никогда не вёл подобных разговоров, и предполагает, что Дариен мог стоять за созданием записи, учитывая его технические знания и возможные мотивы, связанные с непродлением его контракта из-за проблем с выполнением работы.

Подозреваемый отрицал свою причастность к созданию и распространению записи, однако, по данным следствия, электронный адрес, с которого была отправлена запись, был зарегистрирован на IP-адрес, ассоциированный с домом бабушки Дариена в Лос-Анджелесе. А в качестве восстановительного номера телефона указан номер, зарегистрированный на самого Дариена.

Джон Олсзевский, исполнительный директор округа Балтимор, призвал к осторожности в использовании публичных медиа и подчеркнул важность бдительности в эпоху новых технологий, чтобы противостоять их использованию в злонамеренных целях.