Верховный суд РФ признал неуважением к правосудию бездумное использование документов, сгенерированных нейросетью.
Юристы должны нести ответственность за ложь и ошибки искусственного интеллекта. Об этом говорится в определении Судебной коллегии по экономическим спорам.
Центр компетенций и этические принципы
На Форуме председателей Верховных судов стран БРИКС в Нью-Дели председатель Верховного суда РФ Игорь Краснов сообщил, что в ВС РФ сформирован Центр судебных компетенций в сфере искусственного интеллекта. Он занимается выявлением и применением лучших практик, а также взаимодействием с академической средой и IT-сектором. Также он предложил коллегам, возглавляющим высшие суды БРИКС, приступить к разработке общих этических принципов применения искусственного интеллекта в судебной деятельности. По его словам, это должен быть рамочный документ, отражающий общие ценности: независимость судьи, право сторон знать основания принятого решения и недопустимость делегирования итогового суждения алгоритму. «Искусственный интеллект — это инструмент в руках судьи, помощник, но не субъект правосудия и тем более не судья», — подчеркнул Краснов.
При Верховном суде уже работает центр судебных компетенций в сфере ИИ — совместно с российскими IT-компаниями он разработал этические принципы применения нейросетей в правосудии.
Суть инцидента
Проблема в том, что юристы, и не только в России, но и во всём мире, приступили к формированию худшей практики: использованию без перепроверки документов, сгенерированных искусственным интеллектом. В одном из дел компания, участвовавшая в судебном процессе по делу банкротства должника из Ярославской области, принесла в Верховный суд РФ документ с грубым ляпом. Компания ссылалась на пункт 15 одного из постановлений пленума Верховного суда РФ, в котором всего 14 пунктов. Нейросеть, сгенерировавшая документ, просто дорисовала пункт и додумала «правовые позиции» пленума.
Верховный суд РФ разъяснил, что такие действия являются неуважением к правосудию. В связи с этим Судебная коллегия по экономическим спорам инициировала привлечение к ответственности представителя общества и само общество. Дело направлено на рассмотрение в суд первой инстанции, который и должен решить вопрос по поводу штрафа.
Прецеденты и размеры штрафов
На практике уже известно как минимум о двух судебных штрафах в отношении юристов, доверившихся нейросетям. Прецедент создал несколько месяцев назад Арбитражный суд Западно-Сибирского округа: он оштрафовал на 50 тысяч рублей компанию, чьи юристы использовали недостоверную информацию от ИИ. В кассационной жалобе были приведены ссылки на несуществующие судебные акты с прямыми цитатами из них — дела и цитаты были придуманы нейросетью, а представители компании эту информацию не перепроверили.
В документе подчёркивается: подобное поведение не может иметь никаких оправданий, в частности таковым не является подготовка кассационной жалобы с помощью технологий искусственного интеллекта, поскольку в таком случае ответственность за достоверность сгенерированного текста несёт лицо, участвующее в деле, использовавшее указанную технологию (часть 2 статьи 9 АПК РФ).
Недавно Суд по интеллектуальным правам оштрафовал на 5 тысяч рублей индивидуального предпринимателя из Удмуртии, который сослался в своей жалобе на несуществующую практику. «Подсказку» подготовила нейросеть. По мнению юристов, когда одна и та же позиция воспроизводится разными судами, это перестаёт быть случайностью и начинает складываться в единый подход.
Обязанность уведомлять суд
Пленум Верховного суда России обязал участников судебных процессов при подготовке гражданских дел к разбирательству признаваться в использовании искусственного интеллекта. Нарушителей будут штрафовать. В судебной практике уже есть прецедент, когда юристы одной компании принесли на процесс «галлюцинации» ИИ: в подготовленных нейросетью материалах были ссылки на несуществующие судебные акты с прямыми цитатами, которые тоже были выдуманы ИИ. Этих юристов оштрафовали на 50 тысяч рублей.
У нейросети часто запрашивают обзор судебной практики, однако она часто лжёт. Тем не менее ИИ активно используется в разных аспектах юридической помощи, например анализируются записи видеокамер. Однако тут следует тщательно следить за тем, что ИИ только нашёл и вырезал нужный момент, а не дорисовал что-то от себя. При этом сами суды не собираются отказываться от высоких технологий: начался пилотный проект по внедрению ИИ в судах десяти регионов страны. По мнению экспертов, нейросеть может существенно сократить время выполнения рутинных задач и ускорить судопроизводство.
Позиция Верховного суда
Важно, что сейчас Верховный суд фактически закрепил этот подход: никакой снисходительности к юристам, отказавшимся от своего естественного интеллекта, быть не должно. Верховный Суд РФ рекомендовал адвокатам тщательно проверять судебные документы после использования искусственного интеллекта. Поводом для предупреждения стал инцидент, когда один из защитников сослался в своей жалобе на несуществующее разъяснение суда, сгенерированное нейросетью. При изучении материалов дела Верховный Суд обнаружил ссылку на пункт постановления Пленума ВС РФ, которого в действительности никогда не существовало. ИИ-ассистент просто выдумал нормативное обоснование, а юрист поленился проверять предоставленные роботом данные перед подачей документов.
Использование ИИ допустимо для оптимизации рутины, однако ответственность за достоверность практики и нормативных актов в процессуальных документах целиком лежит на самом адвокате. Пренебрежение такой проверкой может как навредить доверителю, так и повлечь для самого адвоката меры дисциплинарного взыскания.
По мнению практикующих юристов, в эпоху активного внедрения искусственного интеллекта в деятельность юридического сообщества Верховный суд РФ обратил внимание на обязательность проверки участвующими в судебном разбирательстве сторонами результатов работы, полученных при использовании нейросетей, на предмет достоверности и соответствия полученных результатов первоисточнику. Такая честная и добросовестная проверка документов практикующим юристом будет служить проявлением уважения к суду, формирование которого относится к задачам арбитражного судопроизводства.
Поэтому юристам надо взять на заметку: в цифровое время крайне важно не терять собственной головы.
