ChatGPT написал сценарий теракта для ветерана в Вегасе

ChatGPT написал сценарий теракта для ветерана в Вегасе

ChatGPT и опасности его неправильного применения.

image

1 января 2025 года у отеля Trump International в Лас-Вегасе взорвался электрический пикап Tesla Cybertruck. Водитель, 37-летний бывший солдат спецназа США Мэтью Ливелсбергер, погиб на месте, а семь прохожих получили незначительные травмы.

Расследование показало, что Ливелсбергер использовал генеративный искусственный интеллект ChatGPT для планирования атаки. Он задавал вопросы о взрывчатых веществах, способах их детонации и легальности приобретения определенных материалов.

Компания OpenAI, разработчик ChatGPT, заявила , что стремится к ответственному использованию своих инструментов и сотрудничает с правоохранительными органами в рамках расследования. В компании подчеркнули, что их модели отказываются выполнять вредоносные инструкции и предупреждают о незаконных действиях.

Ливелсбергер оставил записки, в которых назвал свои действия "сигналом тревоги" для общества и отметил, что не имел намерения причинить вред кому-либо, кроме себя. По данным полиции, он, вероятно, страдал от посттравматического стрессового расстройства после службы в Афганистане.

Этот инцидент усилил опасения по поводу потенциального использования искусственного интеллекта в преступных целях и вызвал призывы к усилению мер безопасности при разработке и использовании подобных технологий.

Присоединяйся к сообществу ИБ-специалистов

Обменивайся опытом, решай реальные задачи и прокачивай навыки вместе с экспертами на Standoff Defend*.

*Защищать. Реклама. АО «Позитив Текнолоджиз», ИНН 7718668887