Ученые: люди не смогут контролировать искусственный интеллект

Последние достижения в области искусственного интеллекта (ИИ) поставили несколько этических дилемм, одна из которых заключается в том, сможет ли человечество управлять автономными машинами.

Международная группа исследователей предупредила о потенциальных рисках создания слишком мощного и автономного программного обеспечения. Используя серию теоретических расчетов, ученые пришли к выводу, что полностью контролировать такой ИИ невозможно. Ученые экспериментировали с двумя способами управления искусственным интеллектом. Один из них — изолировать ИИ от Сети и других устройств, ограничив контакт с внешним миром. Проблема заключается в том, что данный способ значительно снизит способность ИИ выполнять функции, для которых он был создан.

Другой способ заключается в разработке «теоретического алгоритма сдерживания», гарантирующего, что искусственный интеллект «не сможет причинить вред людям ни при каких обстоятельствах». Однако анализ существующей компьютерной парадигмы показал, что такой алгоритм не может быть создан. Ни один алгоритм не может определить, нанесет ли ИИ вред миру. Как отметили исследователи, человечество может даже не знать, когда появятся сверхразумные системы, потому что решение о том, обладает ли устройство интеллектом, превосходящим человеческий, находится в той же сфере, что и проблема сдерживания.