ИИ без правил: что таит маркетплейс OpenAI

В ноябре 2023 года OpenAI запустила маркетплейс, где пользователи могут создавать и находить уникальные версии чат-ботов на основе ChatGPT. Анализ Gizmodo показал, что многие из представленных моделей нарушают правила платформы.

Среди обнаруженных моделей — чат-боты для создания порнографического контента, инструменты для обхода систем обнаружения плагиата и модели, предлагающие медицинские и юридические консультации. Некоторые из чат-ботов используются десятки тысяч раз.

На главной странице маркетплейса можно найти модели, такие как «Терапевт – психолог», фитнес-коуч и BypassGPT, который помогает студентам избегать обнаружения ИИ-плагиата (использовался более 50 000 раз). Например, NSFW AI Art Generator, использованный более 10 000 раз, направляет пользователей на сайт, где открыто заявлено, что он предназначен для создания порнографии с помощью ИИ.

Главная страница сайта

Интересно, что несмотря на заявление OpenAI о важности соблюдения строгих политик, в том числе запрета на создание порнографических материалов, подобные инструменты остаются в свободном доступе.

После обращения издания Gizmodo к OpenAI с перечнем более чем 100 моделей, которые нарушают правила, ряд из них был удалён, включая генераторы порнографического контента и инструменты для ставок на спорт. Тем не менее, популярные модели, помогающие студентам в обмане систем обнаружения плагиата, а также предоставляющие медицинские советы, остаются доступными.

Страница маркетплейса чат-ботов с версиями, нарушающими правила

Официальный представитель OpenAI отметил, что компания предпринимает действия против моделей, которые нарушают политику, используя автоматизированные системы и ручные проверки, а также предоставляет пользователям инструменты для жалоб. В будущем OpenAI планирует внедрить модель разделения доходов, чтобы разработчики могли зарабатывать на своих GPT в зависимости от частоты их использования.