Ассистент или киллер: Meta* тестирует ИИ на неопытных грибниках

На днях в одной из популярных групп на Facebook*, посвящённой грибам, появился новый чат-бот FungiFriend. Присутствие помощника вызвало бурную дискуссию среди участников, когда ИИ порекомендовал обжаривать в масле ядовитый гриб. Ситуация вновь поднимает вопрос о высоких рисках использования ИИ-инструментов для неопытных любителей собирать грибы.

Ранее СМИ уже сообщали об угрозах, связанных с использованием ИИ в хобби по сбору грибов. В частности, на Amazon появились книги с советами, сгенерированными ИИ, а в поиске Google можно увидеть изображения грибов, созданные нейросетями. На этот раз речь идёт о внедрении FungiFriend в группу с более 13 000 участников, многие из которых — новички, ищущие советы по идентификации грибов. Модераторы группы заявили, что бот был добавлен Meta* автоматически и что его уже убирают из сообщества.

Meta недавно начала активно добавлять чат-ботов в определённые группы, представляя различные виртуальные персонажи. Однако подобные действия вызывают опасения среди специалистов. Отраслевые эксперты отмечают, что ИИ-инструменты начинают использоваться для помощи новичкам, но способность различать съедобные и ядовитые грибы требует навыков, которые нейросети пока не могут надёжно воспроизводить.

Внешне FungiFriend представлен в виде бородатого волшебника в психоделическом стиле. Один из участников группы задал боту вопрос о приготовлении гриба Sarcosphaera coronaria, который ранее считался съедобным, но, как известно, накапливает мышьяк и может быть смертельно опасен. FungiFriend посоветовал приготовить гриб, обжарив в масле или добавив в суп, что вызвало серьёзное беспокойство среди пользователей.

Пример общения с чат-ботом FungiFriend ( 404 Media )

Специалисты выражают мнение, что добавление чат-ботов в такие группы — крайне рискованное решение Meta. Тесты различных ИИ-инструментов показали, что они пока не способны давать достоверные и проверенные советы, особенно когда дело касается различий между съедобными и ядовитыми грибами.

Искусственный интеллект, автоматически добавленный в группу, где участники пытаются избежать отравления, кажется особенно коварным. Такая практика подчёркивает, что Meta недостаточно контролирует внедрение ИИ на свои платформы. В мобильной версии Facebook чат-бот был представлен как первая опция для общения в группе, что демонстрирует стремление компании к замене общения между людьми на взаимодействие с ИИ.

Также отмечается, что новички часто публикуют фотографии грибов прямо с телефонов, находясь на природе, чтобы получить быстрый ответ от более опытных участников. Если информация окажется неверной, другие пользователи могут её скорректировать. В случае с чат-ботом консультации проходят в личных сообщениях, что повышает риск неправильных рекомендаций.

По словам экспертов, неопытные пользователи могут обращаться к ИИ, опасаясь показаться глупыми перед другими членами сообщества. Однако следует понимать, что советы ИИ не всегда могут быть правильными, и вовсе привести к трагическим последствиям.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.