ИИ научился делать чеки — настолько реалистично, что ими уже пытаются вернуть деньги за стейк

ИИ научился делать чеки — настолько реалистично, что ими уже пытаются вернуть деньги за стейк

Когда математика хромает, но чек уже готов.

image

Новая версия ChatGPT с моделью 4o обзавелась улучшенным генератором изображений, способным создавать текст, который выглядит всё более правдоподобно. Пользователи уже активно тестируют возможности — и результаты вызывают тревогу: генератор научился подделывать кассовые чеки настолько реалистично, что ими уже заинтересовались мошенники.

Первым на это обратил внимание один из пользователей соцсети X*, выложив фотографию чека из стейкхауса в Сан-Франциско. На деле изображение оказалось генерацией ChatGPT. Другие пользователи без труда повторили результат, некоторые даже добавили на «бумагу» пятна от еды и напитков, усиливая иллюзию реальности.

Сгенерированные чеки пользователями X (@deedydas, @michaelgofman, @john_beans)

Самым убедительным образцом стало изображение скомканного чека французского ресторана, который выглядел так натурально, что распознать подделку можно было лишь при внимательном изучении.

Сгенерированный чек французского ресторана (Raphael Chenol)

Сотрудники издания TechCrunch также провели тест и сгенерировали чек от имени популярной американской сети. И хотя при ближайшем рассмотрении стали заметны ошибки вроде неправильных знаков препинания или не сходящейся арифметики, эти детали легко исправимы вручную или при помощи точной формулировки запроса.

Чек ИИ по запросу TechCrunch ( TechCrunch )

Проблема заключается в том, насколько просто теперь стало создавать подделки, которые потенциально могут быть использованы для финансового мошенничества — например, подделки расходов для получения компенсации. При этом новая технология предоставляет возможность оперативно генерировать десятки вариантов, подстраиваясь под нужды злоумышленников.

OpenAI утверждает , что все изображения, созданные в ChatGPT, сопровождаются специальными метаданными, указывающими на их искусственное происхождение. Представитель компании пояснил, что OpenAI принимает меры при нарушении правил использования и старается совершенствовать модель, учитывая поведенческие кейсы. Тем не менее, остаётся открытым вопрос — почему система вообще позволяет генерировать изображения, явно предназначенные для подделки финансовых документов?

На это представитель компании ответил, что целью OpenAI остаётся предоставление максимальной творческой свободы пользователям. По словам сотрудника, поддельные чеки могут применяться в образовательных целях — например, при обучении финансовой грамотности — а также при создании рекламы или художественных проектов. Однако очевидно, что грань между креативным применением и мошенничеством становится всё тоньше.

В условиях, когда ИИ всё чаще используется для подделки видео, аудио и документов, очередной инструмент, позволяющий «по щелчку» сгенерировать почти реальный чек, рискует стать популярным среди злоумышленников. Развитие таких технологий требует не только технического контроля, но и пересмотра политики допуска и фильтрации контента.

* Социальная сеть запрещена на территории Российской Федерации.

Эксклюзивный стрим с хакерами мирового класса

15 апреля в 19:00 Hussein и Niksthehacker раскроют все карты.

Реклама. АО «Позитив Текнолоджиз», ИНН 7718668887