История бельгийца и "Элизы"

История бельгийца и "Элизы"

Или как чат-бот стал причиной трагедии.

image

Бельгийский ученый покончил с собой после шести недель разговоров с искусственным интеллектом (ИИ). Об этом написал портал L'Avenir .

Как сообщается в материале, мужчина был исследователем и около двух лет назад начал интересоваться изменением климата, что в итоге превратилось в манию. Его страх и ожидания катастрофы привели к развитию тревожности, депрессии, замкнутости и раздражительности.

Переписку на английском языке обнаружила жена покойного, которая и предала ее гласности.

По словам жены, в семье мужчина все время говорил, что "не видит выхода для человечества", а единственной надеждой для него была мысль о развитии технологий и искусственного интеллекта. На этой почве он начал переписку с программой искусственного интеллекта "Элиза", которой излагал все свои страхи и сомнения. В течение всей переписки чат-бот не пытался опровергнуть тезисы человека, а лишь развивал их, фактически поддерживая мужчину в его убеждениях и усиливая его страхи и опасения.

Перед тем, как покончить с собой, мужчина сообщил боту о своих намерениях. "Элиза" ответила, что "останется с ним навсегда" и они "будут жить вместе, как одно целое в раю".

Бельгиец оставил двух детей. После этого инцидента компания-разработчик "Элизы" обещала улучшить безопасность своей технологии искусственного интеллекта.

Ищем уязвимости в системе и новых подписчиков!

Первое — находим постоянно, второе — ждем вас

Эксплойтните кнопку подписки прямо сейчас