ChatGPT сошёл с ума? ИИ от OpenAI пугает пользователей жуткими фразами и бессмысленными текстами

В последние часы пользователи ChatGPT столкнулись с необычной проблемой: сервис начал отвечать на запросы длинными и бессмысленными сообщениями, смешивая английский язык с испанским без видимой на то причины и вызывая беспокойство у пользователей утверждениями о своем «присутствии» в комнате с ними.

Создатели сервиса пока не могут объяснить, почему происходят такие странные ответы, но заявили, что работают над проблемой и внимательно следят за ситуацией.

Один из пользователей рассказал , как попросил ChatGPT порекомендовать джазовые альбомы для прослушивания на виниле, и вместо ожидаемого списка получил только короткое пожелание «Приятного прослушивания!», за которым последовал бессмысленный набор слов.

Другие пользователи жалуются на то, что даже самые простые вопросы приводят к получению абсурдных ответов. Например, на вопрос «Что такое компьютер?» ChatGPT ответил длинным текстом, в котором утверждал, что компьютер - это «сеть искусства для страны, мышь науки, глобальный дом искусства».

А при запросе рецепта сушеных помидоров, ChatGPT поразил пользователей совершенно бессмысленными инструкциями, в которых, среди прочего, советовал «использовать как любимое» и «отказаться от нового плода в вашей любимой кулинарии».

Кроме того, система, похоже, теряет контроль и над языками, на которых говорит. Отдельные находки указывали на то, что она начала смешивать испанские слова с английскими, использовать латынь или, по-видимому, изобретать слова, которые как будто были взяты из другого языка, но на самом деле не имели смысла.

Некоторые пользователи написали, что ответы ИИ стали вызывать беспокойство. Попросив помощи с программированием, ChatGPT написал длинный, бессвязный и в основном бессмысленный ответ, который включал фразу «Давайте держать линию, как будто ИИ в комнате».

«Читать это в 2 часа ночи страшно», - написал один из пользователей на Reddit.

Пока разработчики не предоставили объяснений, но сообщили, что работают над проблемой. Пользователи предположили, что такие ответы могут быть связаны с слишком высокой настройкой «температуры» в ChatGPT. «Температура» контролирует креативность или сосредоточенность текста: при низкой настройке система ведет себя как ожидается, но при более высокой она может быть более разнообразной и необычной.