ИИ допустил более 5 тысяч ошибок в документах по судебным делам
ИИ допустил ошибки в более чем 1700 судебных делах по всему миру.
Аналитики собрали крупнейшую базу ИИ-галлюцинаций в судебных процессах. Она содержит 1725 дел за последние 3 года, в которых участники тяжб допустили 5169 ошибок из-за использования нейросетей. В базе собраны дела из России, Австралии, Бразилии, Великобритании, США, Франции и других стран, сообщает “Ъ”.
В числе самых распространенных ошибок нейросетей – выдуманные законы и кейсы, а также искаженные цитаты из судебной практики. Пользователи не перепроверяют результаты генерации, поэтому суды вынуждены тщательнее проверять дела.
Согласно данным аналитики, чаще всего ошибки искусственного интеллекта находят в документах простых граждан, которые самостоятельно представляют свои интересы в суде, – на эту категорию приходится 1014 инцидентов. Среди юристов, защищающих интересы сторон, зафиксировано 637 случаев ИИ-галлюцинаций. Ссылки на несуществующие источники встречаются и у судей (около 20 эпизодов), а также судебных экспертов и прокуроров.
За указание несуществующих ссылок суды во многих случаях накладывают на провинившихся штрафы. В базе числится 298 взысканий на общую сумму 1,6 млн долларов. При этом активнее наказывают профессиональных участников судебного процесса – прокуроров, адвокатов и судей. К обычным гражданам, использующим нейросети, подход мягче. В России пока известен только один случай наказания: в мае Арбитражный суд Западно-Сибирского округа выписал организации штраф в размере 50 тыс. рублей за ссылку на выдуманную судебную практику.