Фейк-ньюс от ИИ: Grok отправил 50 000 полицейских в метро Нью-Йорка

Чат-бот Grok оказался в центре скандала в соцсети X *, генерируя новости на основе шуточных сообщений и представляя их как достоверные сведения.

Один из пользователей обнаружил материал, написанный ИИ, который превратил серию шутливых твитов в реальную новость, акцентируя внимание на том, что раздел трендовых новостей на X теперь под патронажем Grok.

Спорная статья получила заголовок «Адамс против Землетрясения: 50 000 полицейских в метро», ссылаясь на землетрясение магнитудой 4.8, произошедшее в Нью-Йорке 5 апреля 2024 года. Несмотря на то, что землетрясение считается легким, оно было одним из самых мощных за последнее десятилетие в городе. Сгенерированная новость утверждает, что мэр Нью-Йорка Эрик Адамс предпринял решительные действия, направив 1 000 офицеров полиции для борьбы с последствиями землетрясения и предотвращения новых, что является абсолютной выдумкой.

Сгенерированная новость (слева) и твиты, на основе которых Grok составил новость (справа)

Кульминацией статьи стало заявление о том, что в ответ на бедствие в метро города были направлены все полицейские для того, чтобы «стрелять по землетрясению, прежде чем оно ударит вновь». В конце текста присутствует отказ от ответственности, подчеркивающий, что Grok находится на ранней стадии разработки и может допускать ошибки, рекомендуя проверять получаемую информацию.

Инцидент с подачей шуточного содержания в качестве новостей не единственный: Grok также сгенерировал ложный заголовок о предполагаемой атаке Ирана на Израиль. Данные случаи демонстрируют, как чат-бот Илона Маска может легко создавать вымышленные новостные истории, что вызвало беспокойство относительно распространения дезинформации с помощью ИИ.

Распространение недостоверной информации ИИ-технологиями, особенно на ранних этапах их развития, не является редкостью. Чат-боты и другое ПО на основе ИИ часто подвергаются «галлюцинациям», создавая несуществующую информацию.

* Социальная сеть запрещена на территории Российской Федерации.