Впервые в России суд оштрафовал юристов за ИИ-ошибки: нейросеть «придумала» судебные дела, а компания заплатила 50 тысяч
Арбитражный суд Западно-Сибирского округа вынес решение, которое уже называют важным процессуальным прецедентом: компанию оштрафовали на 50 тысяч рублей за представление в суд недостоверных сведений, подготовленных с использованием искусственного интеллекта.
Поводом стала кассационная жалоба, в которой юристы сослались на судебную практику, не существующую в действительности. Более того, в тексте были приведены прямые цитаты из этих «решений».
Впоследствии выяснилось, что ссылки и формулировки были сгенерированы нейросетью, а представители компании их не проверили.
О прецеденте «Российской газете» сообщили аналитики ПравоТех.
В материалах суда отмечается, что в заседании представитель ответчика подтвердил отсутствие указанных судебных актов.
Суд прямо указал: «общество предоставило суду заведомо ложные сведения, сфальсифицировав источники и стремясь воздействовать на суд округа непререкаемым авторитетом высшей судебной инстанции… что является прямым обманом суда и грубейшим проявлением неуважения к правосудию».
Отдельно суд подчеркнул, что использование технологий ИИ не освобождает от ответственности: «подобное поведение не может иметь никаких оправданий… ответственность за достоверность сгенерированного текста несет лицо, участвующее в деле», — указано в определении со ссылкой на ч. 2 ст. 9 АПК РФ.
Компания попыталась объяснить ситуацию ошибкой и просила не принимать спорные ссылки во внимание, однако суд с этим не согласился и оставил свое решение без изменений.
В определении отмечается, что жалоба была подписана уполномоченным представителем и не отозвана, а попытка дистанцироваться от ее содержания не снимает ответственности.
«Проявление неуважения к суду уже состоялось как оконченное процессуальное правонарушение и требует неотвратимой адекватной реакции суда», — указано в решении.
По данным аналитиков, штраф составил 50 тысяч рублей при максимальном пороге в 100 тысяч по ч. 1 ст. 119 АПК РФ.
Эксперты отмечают, что это один из первых случаев, когда суд в России прямо квалифицировал использование ИИ как фактор, не освобождающий от процессуальной ответственности.
Заместитель генерального директора ПравоТех Кирилл Кондратенко пояснил, что ранее суды уже сталкивались с материалами, созданными нейросетями, но в основном отказывались принимать их как доказательства.
Так, в одном из дел Златоустовский городской суд не принял выводы ChatGPT и других моделей о состоянии жилого дома, указав на отсутствие допустимости и достоверности.
В другом деле суд по интеллектуальным правам отказался приобщать аналитические материалы, подготовленные сразу несколькими ИИ-моделями, по процессуальным основаниям.
А в деле о контрафакте суд прямо указал, что ответы чат-ботов «не дают достоверный ответ со ссылками на источники информации», а значит не имеют доказательственного значения.
При этом суды последовательно исходят из того, что ИИ-выводы не могут считаться доказательствами, так как не соответствуют требованиям к верификации и источникам информации.
Отдельный пример касается спора о стоимости ремонта после залива квартиры, где попытка представить заключение ChatGPT-4 была отклонена как несоответствующая требованиям закона о судебной экспертизе.
По словам Кондратенко, новое дело принципиально отличается.
«Здесь речь не о доказательственной силе ИИ, а о процессуальной добросовестности стороны», — пояснил он.
Собеседник издания отметил, что суд квалифицировал представление фальсифицированных ссылок как обман суда, независимо от того, были ли они созданы человеком или сгенерированы моделью.
Эксперт также пояснил, что языковые модели могут «галлюцинировать» несуществующие источники, поскольку работают на основе вероятностного прогнозирования текста.
«Поэтому появляются несуществующие постановления с убедительными реквизитами», — отметил он.
В то же время специалисты подчеркивают, что это не означает непригодность ИИ в юридической сфере. Проблема, по их словам, решается использованием специализированных систем с архитектурой Retrieval-Augmented Generation (RAG), которые формируют ответы только на основе проверенных баз данных.
В таких системах, как отмечают аналитики, ситуация с «придуманными» судебными актами технически исключена.
Как ранее писал Topnews, ИИ не оправдал ожиданий.
