Фейковые дела – реальные штрафы: суд наказал адвоката за доверие к ИИ

В США продолжают разгораться скандалы, связанные с применением искусственного интеллекта в юридической практике. Адвокат Рафаэль Рамирес был оштрафован на $15000 после того, как суд обнаружил, что он использовал ссылки на несуществующие судебные решения в своих документах.

Рамирес представлял компанию HoosierVac в споре с профсоюзным фондом Mid Central Operating Engineers Health and Welfare Fund, который требовал провести полный аудит финансовых документов компании. В октябре 2024 года адвокат подал в суд ходатайство, где упомянул дело, которое судья не смог найти в юридических базах. После замечания судьи юрист признал ошибку, отозвал цитату и извинился, однако проверка остальных документов выявила ещё два случая использования фиктивных прецедентов.

В своих объяснениях Рамирес указал, что ранее использовал ИИ в юридической работе, но не знал, что генеративные модели могут придумывать несуществующие дела. Он заявил, что текст ссылок выглядел правдоподобно, поэтому он не стал проверять их подлинность. Позже адвокат прошёл курсы повышения квалификации по использованию ИИ и продолжает применять юридические инструменты на основе ИИ, но только те, которые «гарантируют отсутствие подобных ошибок».

Однако суд не посчитал такие доводы достаточными. Судья отметил , что адвокат не предпринял «даже минимальных усилий», чтобы убедиться в достоверности ссылок. Суд подчеркнул, что использование ИИ в юридической практике допустимо, но требует разумного подхода и проверки результатов. Судья сравнил ИИ с «полезным, но потенциально опасным инструментом, вроде бензопилы», использование которого требует осторожности.

Данный случай стал не единственным. В январе 2025 года группа адвокатов, работающих над иском против производителя гироскутеров и Walmart, также представила суду ссылки на вымышленные дела. В результате одного из адвокатов временно запретили работать, а трое других получили штрафы от $1000 до $3000.

В другом случае суд в США вынес строгое замечание адвокатской фирме Cuddy Law за попытку обосновать свои высокие гонорары с помощью чат-бота ChatGPT. А в Нью-Йорке адвокаты получили штрафы за то, что использовали ChatGPT для создания поддельных судебных решений и показаний.