Пять шагов до Скайнета: OpenAI о том, как ИИ превзойдет человека

OpenAI, ведущий разработчик искусственного интеллекта, представил систему из пяти уровней, которая будет использоваться для отслеживания прогресса в создании ИИ, превосходящего человеческие возможности. Эта инициатива направлена на то, чтобы лучше объяснить общественности и инвесторам подход компании к безопасности и будущему ИИ.

На общем собрании сотрудников компания OpenAI поделилась новой классификационной системой, охватывающей ИИ от уровня, доступного сегодня, до уровня, когда ИИ сможет выполнять задачи организации. Представитель компании сообщил, что в настоящее время OpenAI находится на первом уровне, но уже близко ко второму, который называется «Reasoners». Этот уровень включает системы, способные решать базовые задачи на уровне человека с докторской степенью.

На том же собрании руководство компании продемонстрировало исследовательский проект на основе модели GPT-4, демонстрирующий новые навыки, близкие к человеческому рассуждению. Представитель OpenAI подтвердил, что компания постоянно тестирует новые возможности своих моделей.

OpenAI уже несколько лет заявляет о своей цели создать так называемый общий искусственный интеллект (AGI), то есть компьютеры, которые будут выполнять большинство задач лучше людей. Главный исполнительный директор OpenAI Сэм Альтман ранее заявлял , что AGI может быть достигнут в этом десятилетии.

Исследователи ИИ давно обсуждают критерии для определения достижения AGI. В ноябре 2023 года исследователи Google DeepMind предложили пятиуровневую систему, включающую такие уровни, как «эксперт» и «сверхчеловек». Эти ранги напоминают систему, используемую в автомобильной промышленности для оценки степени автоматизации самоуправляемых автомобилей.

Согласно системе уровней, разработанной OpenAI, третий уровень, ведущий к AGI, будет называться «Agents» и подразумевает ИИ, способный выполнять действия от имени пользователя в течение нескольких дней. Четвертый уровень описывает ИИ, способный создавать новые инновации. Самый продвинутый уровень, пятый, будет называться «Organizations».

Эта система уровней была разработана руководством и старшими сотрудниками OpenAI и является рабочей версией. Компания планирует собирать отзывы от сотрудников, инвесторов и совета директоров, чтобы вносить корректировки по мере необходимости.