Сыроежки или поминки: чрезмерное доверие к ИИ едва не убило множество американцев

В свежем докладе общественной организации защиты прав потребителей Public Citizen поднимается тревожный вопрос о росте популярности сбора диких грибов и связанных с этим рисков, усугубляемых чрезмерной зависимостью людей от искусственного интеллекта (ИИ). Эксперты предупреждают о серьёзных последствиях, включая случаи отравления, когда пользователи опираются на ИИ-технологии для определения съедобности грибов.

Отчёт указывает на случаи, когда люди, доверившиеся ИИ для идентификации грибов по фотографии, оказывались в больнице после употребления ошибочно идентифицированных видов. В Северной Америке насчитывается около 5000 видов «мясистых» грибов (которые характеризуются мягкой консистенцией, хорошо режутся и ломаются), 15 из которых являются смертельно опасными, а ещё 60 токсичными.

Несмотря на то, что интернет-ресурсы и социальные сети в течение многих лет помогали грибникам избегать опасности, всплеск интереса к ИИ привёл к обратному эффекту. Люди начали обращаться к ИИ за советами по грибам, полагаясь на его всеобъемлющие знания и бытовую мудрость, однако на данный момент технологии далеки от совершенства.

Согласно отчёту, опубликованному исследователями, на данный момент существует более десятка приложений для идентификации грибов на основе ИИ, доступных в официальных магазинах Google и Apple. Многие из таких приложений не способны учитывать весьма важные факторы, такие как подложка, на которой растёт гриб, особенности его повреждений и запах. Даже при установлении, что гриб съедобен, это не означает, что его употребление не принесёт вреда здоровью.

Отчёт цитирует недавнее исследование австралийских учёных, которые проверили три приложения на основе ИИ, подсунув им фотографии 78 грибов. Лучшим по эффективности приложением оказалось Picture Mushroom, однако даже оно точно идентифицировало грибы лишь в половине случаев и правильно определило токсичные грибы только в 44% случаев.

Эксперты отмечают, что, хотя способность приложений на основе ИИ идентифицировать почти половину всех испытанных диких грибов впечатляет, именно такая «впечатляющая» точность является причиной высокого риска их использования в качестве основного или даже единственного средства идентификации грибов. Переоценка доверия к приложениям на основе ИИ может привести к серьёзным последствиям.

Отчёт заканчивается выводом о том, что ядовитые грибы являются лишь одним из примеров, как чрезмерная зависимость от технологий ИИ для получения достоверной информации может нанести вред. По мере того как ИИ становится всё более интегрированным в нашу жизнь, крайне важно развивать критическое мышление и подходить к использованию таких технологий с осознанностью и осторожностью.