«Это не я, это Джим»: суд не оценил цифровую подмену истца

Необычный случай произошёл в суде штата Нью-Йорк: Джер Дьюолд попытался представить свои аргументы не лично, а через созданного с помощью нейросети цифрового двойника. Судья восприняла инициативу как недопустимую и упрекнула истца за отсутствие прозрачности.

Конфликт произошёл во время заседания апелляционного суда, в рамках спора между Дьюолдом и страховой компанией MassMutual Metro New York по делу о трудовых отношениях. Истец заранее получил разрешение представить своё выступление в формате видео, ссылаясь на ограничения по здоровью — в прошлом у него была онкология гортани. Однако вместо записи с собственным лицом он проиграл фрагмент, где к суду обращается ИИ-аватар по имени Джим.

Судьи не были готовы к такому повороту. Уже в начале записи один из членов коллегии прервала трансляцию, удивившись, кто именно обращается к суду. Когда Дьюолд сообщил, что это не реальный человек, а созданный цифровой образ, судья резко заявила, что тот не предупредил о таком способе подачи информации и не имел права использовать зал суда для продвижения бизнеса.

Момент из трансляции слушаний, когда ИИ-аватар показался на экране ( Appellate Division, First Department )

Позже Дьюолд объяснил, что намеревался использовать реалистичного аватара, максимально похожего на самого себя, но технология подвела. Используемый сервис не смог вовремя сгенерировать нужный образ, и Дьюолд был вынужден воспользоваться одним из шаблонных аватаров платформы — Джимом. По словам истца, попытки создать собственного двойника дважды завершались неудачей — один процесс завис после шести часов, второй после восьми.

Дьюолд уверяет, что у суда была вся необходимая информация о намерении подать аргументы в видеоформате, но он не уточнил, что в записи будет изображён не он сам, а сгенерированный персонаж. Судья напомнила, что ранее истец уже выступал устно и не испытывал видимых трудностей с речью, а потому усомнилась в достоверности объяснений.

Дьюолд подчёркивает, что при создании текста выступления он действительно использовал генеративный ИИ, но затем тщательно проверил все формулировки. При этом он отметил, что открыто сообщает судам и оппонентам об использовании ИИ уже более года, как это рекомендовалось на одном из обсуждений с участием судей Нью-Йорка.

В юридическом сообществе сохраняется настороженность к ИИ. Один из недавних вебинаров Американской ассоциации юристов был посвящён вопросам использования ИИ в судопроизводстве. Там обсуждались как преимущества, так и риски, включая ошибки генерации, нарушение конфиденциальности и возможные злоупотребления.

Несмотря на замечания судьи и неловкость ситуации, Дьюолд продолжает считать, что технологии могут принести пользу, особенно тем, кто не может позволить себе юридическую помощь. Он уже подал письменные извинения за то, что не проинформировал суд о специфике видео и применении цифрового аватара.