Бен Герцель: «Baby AGI» может появиться уже в начале 2025г

На открытии саммита Beneficial AGI Summit в Панаме 27 февраля Бен Герцель, основатель SingularityNET и один из ключевых популяризаторов концепции общего искусственного интеллекта (AGI), выразил уверенность, что уже в следующем году может начать работу ранний прототип системы AGI. Герцель представил детальный план развития AGI, ориентированный на то, чтобы технология служила интересам человечества и не оказалась под контролем крупных корпораций или государств.

AGI, по сути, представляет собой теоретическую модель искусственного интеллекта, способную выполнять любую интеллектуальную задачу, которую может выполнить человек. Для достижения этой цели Герцель выделил несколько ключевых направлений:

• разработка на основе открытого исходного кода;
• использование децентрализованной инфраструктуры и систем управления;
• создание открытой когнитивной архитектуры;
• применение разнообразных алгоритмов AGI;
• управление данными на этических принципах;
• вовлечение участников из различных уголков мира.

В беседе с Cointelegraph Герцель подчеркнул, что предложенный план лежит в основе всей деятельности экосистемы SingularityNET. «Мы создаем децентрализованные инфраструктуры искусственного интеллекта, которые не зависят от того, какой подход к искусственному интеллекту вы захотите использовать», — сказал он, отметив, что цель заключалась в том, чтобы любой «12-летний гений из Таджикистана» мог внести свой вклад в этот прорыв.

Герцель особо выделил свой проект OpenCog Hyperon как потенциального кандидата на роль платформы, способной совершить прорыв в достижении AGI. Ожидается, что альфа-версия Hyperon будет представлена в апреле и станет прото-AGI, предлагая разработчикам уникальный инструментарий для создания продвинутых ИИ-систем. По его словам, Hyperon Alpha будет использовать специальный язык программирования под названием Metta. Hyperon описан в научной работе как «фреймворк для AGI на уровне человека и выше», объединяющий последние идеи, программное обеспечение и техники.

На вопрос о том, будет ли альфа-релиз чем-то вроде детского AGI, который можно будет превратить в полноценный AGI, Герцель ответил утвердительно. «У нас будет полный набор инструментов для создания детского AGI», — пояснил он и сказал, что планируют основательно масштабировать систему до конца года.

«Чтобы достичь того, что я хотел бы назвать младенцем AGI, нам понадобится ускорение в миллион раз. Я думаю, что к началу 2025 года у нас может появиться детский AGI. Мы можем назвать его эмбриональным AGI», — сказал Герцель.

Мнения о развитии AGI в настоящее время разделились между сторонниками акселерационизма (accelerationists, e/acc), которые хотят броситься к этой технологии из-за ее преимуществ, и сторонниками замедления (decelerationists, decel), которые хотят замедлить развитие технологий ИИ из-за страха перед экзистенциальными рисками. По мнению Герцеля, первый подход немного напоминает «Кремниевую долину Uber Alles», в то время как второй даже если бы и был лучшим подходом, не имеет шансов на реализацию.

Вместо этого Герцель поддерживает подход Виталика Бутерина к разработке сверхразумного искусственного интеллекта - «децентрализованный акселерационизм», или «защитный акселерационизм» (defensive acceleration, d/acc). Такой подход призывает продолжать разработку ИИ, но делать её открытой, прозрачной и подотчётной обществу.

Ускорение прогресса к AGI — «вероятно, лучшее, что мы можем сделать», — сказал он, но «мы не хотим, чтобы власть над AGI была сосредоточена в руках какой-либо одной стороны [...] И мы хотим обратить внимание на различные плохие вещи, которые могут произойти».

В своей новой книге «Взрыв сознания», Герцель обсуждает огромные выгоды AGI, включая освобождение человечества от рутинной работы, окончание всех физических и психических заболеваний, лечение старения и потенциальное предотвращение непроизвольной смерти. Однако, несмотря на все преимущества, он признает, что AGI может принести и ряд проблем, включая разработку Китаем и США «супер AGI, цель которого — уничтожить» или неэтичный AGI, который принесет выгоду только глобальной элите и сделает бедных еще беднее.

Регуляторный захват, когда крупные компании лоббируют правила, которые приносят пользу им больше, чем остальным людям, по мнению Герцеля, вполне возможен. Хотя он считает это маловероятным, «риск, о котором Голливуд любит говорить», что ИИ выходит из-под контроля, также находится в пределах возможного.