Риски и возможности новой функции искусственного интеллекта.
Anthropic начала тестирование новой функции для своего ИИ Claude, позволяющей управлять компьютером на основе пользовательских команд. В демонстрационных роликах разработчики показали , как Claude самостоятельно выполняет поисковые запросы, планирует мероприятия и даже добавляет задачи в календарь. Однако данная функция, известная как «использование компьютера», на данный момент доступна только разработчикам, и о ее стоимости и эффективности пока не сообщается. Например, в ходе одного из тестов ИИ отвлекся от основного задания, начав искать изображения Йеллоустонского национального парка, что подчеркивает необходимость доработок.
Claude контролирует компьютер, анализируя снимки экрана и рассчитывая расстояния между курсором и элементами интерфейса, с которыми нужно взаимодействовать. На основе полученных данных модель отправляет набор команд, выполняя поставленные задачи пошагово. Anthropic позиционирует Claude как первый общедоступный ИИ для подобного рода взаимодействия, но пока его сфера применения и реальные возможности остаются неопределенными.
Функция «использование компьютера» ориентирована на общие задачи, но практическая польза пока под вопросом. Как правило, модели ИИ работают надежнее и реже допускают ошибки, если используются ограниченные, строго контролируемые базы данных. В данном случае функция могла бы помочь в автоматизации рутинных или исследовательских задач. Однако при этом остается риск ошибок, что делает нежелательным использование Claude для сложных или критически важных процессов, таких как корпоративные коммуникации или управление важными данными. Подобные функции, по мнению некоторых экспертов, могут стать инструментом для автоматизации работы с электронной почтой или социальных сетей, а также для выполнения несложных задач.
В условиях общего интереса к ИИ ведущие технологические компании, такие как Microsoft, активно продвигают идею «агентов» — автономных ботов, способных выполнять задачи без постоянного контроля человека. Microsoft недавно представила возможность создания агентов в Copilot, ориентированных на автоматизацию задач в бизнесе, от обработки заказов до управления цепочками поставок. Однако не все конкуренты оценивают подобные функции положительно: генеральный директор Salesforce Марк Бениофф выразил скептицизм, сравнив Copilot с неудачной попыткой «Клиппи 2.0». Сам Salesforce также продвигает свои собственные ИИ-решения, нацеленные на упрощение работы с клиентами.
Хотя ИИ остается в центре внимания корпораций, спрос на продукты, такие как Microsoft Copilot, ограничен: лишь малая часть пользователей Microsoft 365 готова платить за ИИ-инструменты. Компании, вкладывающие значительные средства в разработку ИИ, стремятся доказать инвесторам эффективность своих проектов, но встречают препятствия из-за сложности и недостоверности создаваемого ИИ контента. На сегодняшний день объем корректировок и правок, требуемых для устранения ошибок в тексте, часто сводит на нет предполагаемую выгоду.
В то же время Anthropic рекомендует использовать новую функцию Claude с осторожностью и тестировать её на задачах, не связанных с высоким риском.
Наш канал — питательная среда для вашего интеллекта