ИИ под колпаком: американский сенат выдвинул ультиматум создателям ChatGPT

Сенат США обратился к OpenAI с запросом о предоставлении информации и доступе к новой модели искусственного интеллекта, выражая обеспокоенность по поводу практик безопасности компании. Письмо, направленное генеральному директору OpenAI Сэму Альтману и опубликованное The Washington Post, подписано пятью законодателями.

В письме сенаторы указывают на партнёрство OpenAI с правительством США и национальными агентствами безопасности для разработки киберзащитных инструментов, предназначенных для защиты критически важной инфраструктуры страны. «Национальная и экономическая безопасность — одна из важнейших обязанностей правительства США, и небезопасные или уязвимые системы ИИ неприемлемы», — отмечается в обращении.

Законодатели призывают компанию устранить положения из трудовых договоров, которые могут быть использованы для наказания сотрудников, публично выражающих озабоченность по поводу практик компании. Сенаторы также требуют, чтобы OpenAI выделила 20% своих вычислительных ресурсов на исследования в области безопасности ИИ, что было обещано в июле прошлого года, когда компания создала команду, сосредоточенную на предотвращении экзистенциальных рисков. По сообщениям, эта команда впоследствии была расформирована, а её члены перераспределены на другие проекты внутри компании.

Сенаторы настаивают на том, чтобы OpenAI предоставила следующую основную модель ИИ для предварительного тестирования правительственным агентствам. Они также требуют, чтобы независимые эксперты получили возможность оценить безопасность и надёжность систем OpenAI до их выпуска. Всего сенаторы сформулировали 12 вопросов, на которые OpenAI должна ответить до 13 августа 2024 года.

Ранее в этом месяце анонимные осведомители из OpenAI подали жалобу в Комиссию по ценным бумагам и биржам США (SEC), требуя расследовать, не ограничивала ли компания незаконно сотрудников в общении с регуляторами. В мае компания столкнулась с критикой за свою жёсткую политику увольнения, которая запрещает бывшим сотрудникам критиковать OpenAI. Даже признание существования такого соглашения является нарушением условий договора.