"Крёстный отец" ИИ ответил на вопрос: ИИ - новое будущее или опасность для общества

Джеффри Хинтон, один из ведущих специалистов в области искусственного интеллекта, призвал правительства всего мира принять меры, чтобы не допустить будущего, когда машины получат контроль над обществом.

75-летний доктор Джеффри Хинтон, часто называемый «отцом искусственного интеллекта», ушел из Google, чтобы открыто говорить об опасностях искусственного интеллекта и признать, что, в частности, сожалеет о своем вкладе в развитие этой области. 10 лет назад он присоединился к Google для разработки ИИ-технологий компании, и его подход стал основой для создания таких систем, как ChatGPT.

Известный учёный в области ИИ, который преподаёт в Университете Торонто, выступил на технологической конференции Collision в Канаде.

«Прежде чем ИИ станет умнее нас, я думаю, что разработчикам следует уделять больше внимания тому, как он может попытаться захватить контроль. Сейчас есть 99 очень умных людей, которые стараются сделать ИИ лучше, и один очень умный человек, который пытается предотвратить захват человечества искусственным интеллектом. Может быть, стоит быть более сбалансированными», - добавил Хинтон.

Хинтон подчеркнул, что риски ИИ не следует игнорировать, несмотря на критиков технологии, которые полагают, что опасность ИИ преувеличена. Хинтон также выразил озабоченность тем, что ИИ усилит неравенство в обществе, так как большая часть прибыли от использования технологии «пойдёт в карманы богатых, а не работников».

Хинтон также указал на опасность фальшивых новостей, созданных нейросетями, в частности, ChatGPT, и выразил надежду на то, что сгенерированный ИИ контент можно будет отличить от настоящего так же, как банки ставят водяные знаки на деньги. Однако, эксперту неизвестно, возможно ли это сделать технически. Европейский союз рассматривает такую технику в своём законе об ИИ (AI Act) , который устанавливает правила использования ИИ в Европе.

Венчурный капиталист Сара Гуо на этой же конференции сказала, что мрачные разговоры об ИИ как о экзистенциальной угрозе преждевременны, и сравнила их с «разговорами о перенаселении Марса».

Мнения разделились относительно того, останутся ли на рынке нынешние лидеры генеративного ИИ, в основном поддерживаемые Microsoft OpenAI и Google, или новые игроки расширят поле со своими собственными моделями и инновациями.

На конференции высказывали точки зрения о том, что через 5 лет на рынке будет немного компаний, которые смогут предоставить самую точную и самую продвинутую общую модель. Другое мнение заключается в том, что в будущем будут существовать миллионы ИИ-моделей, как сегодня у нас существует огромное количество веб-сайтов