Gaggle: школа будущего или виртуальный концлагерь

В средней школе Лоуренса, штат Канзас, недавно была введена система круглосуточного наблюдения за учениками. С ноября прошлого года школьный округ заключил контракт на 162 000 долларов с компанией Gaggle, специализирующейся на технологиях безопасности учащихся.

Система искусственного интеллекта Gaggle анализирует все домашние задания, электронные письма, фотографии и чаты на школьных устройствах. Она ищет признаки употребления наркотиков и алкоголя, антисоциального поведения и суицидальных наклонностей.

Если ИИ обнаруживает подозрительное слово или изображение, последствия могут варьироваться от беседы с администратором до направления на онлайн-консультацию к психологу или визита местной полиции.

Администрация округа утверждает, что Gaggle — инструмент для повышения безопасности и благополучия учащихся и персонала. Эта цель особенно актуальна, учитывая, что самоубийство является второй по распространённости причиной смерти молодых людей 15-19 лет.

Компания Gaggle заявляет, что с 2018 по 2023 год «спасла» около 5790 жизней учащихся. Однако методология подсчёта этих данных вызывает вопросы у критиков системы.

Использование подобного программного обеспечения также вызывает опасения по поводу нарушения гражданских свобод. Критики указывают на возможное подавляющее воздействие для творчества и самовыражения учеников.

Были случаи, когда система ошибочно помечала работы учеников-фотографов как содержащие «обнажённую натуру», хотя сами ученики это отрицали. Особую обеспокоенность выразили студенты-журналисты. Они утверждают, что система нарушает их права на свободу прессы и конфиденциальность источников.

Несмотря на критику, школьный совет Лоуренса недавно проголосовал за продление контракта с Gaggle на сумму 53 000 долларов. Член совета подчеркнул, что у учащихся и сотрудников нет ожидания конфиденциальности при использовании устройств, выданных округом.

Дебаты вокруг использования систем наблюдения в школах продолжаются. Сторонники утверждают, что, если такая система спасёт хотя бы одну жизнь (а Gaggle заявляет о 5790 спасённых жизней), то оно того стоит. Критики же опасаются, что подобные меры буквально превращают школы в «виртуальные концлагеря».