В Аргентине запретили использовать ИИ в судопроизводстве

На фоне активизировавшейся в Аргентине дискуссии о перспективах повсеместного внедрения искусственного интеллекта Верховный суд провинции Буэнос-Айрес запретил использование ИИ при вынесении судебных решений. В принятом судебной инстанцией беспрецедентном решении указывается, что "юрисдиксионная функция не подлежит делегированию и незаменима", что означает невозможность замены человеческого мышления в судопроизводстве. Таким образом, в провинции теперь прямо запрещается использование автоматизированных систем, а также коммерческих чат-ботов для оценки доказательств или формирования вердиктов.

В суде отметили, что выработка обозначенной позиции продиктована тем фактом, что искусственный интеллект уже вышел за рамки экспериментальных технологий и теперь является ресурсом, используемым повсеместно. На сегодняшний день ИИ применяется как в формальном, так и в неформальном поле юристами и должностными лицами для решения задач в рамках судебной практики. Однако генеративные системы все еще содержат массу недостатков и несут в себе реальную опасность, поскольку в процессе их работы могут возникать "галлюцинации", что ведет к неточным результатам. Кроме того, они способны выдавать предвзятую информацию и способствовать формированию необъективности у использующих их специалистов.

Верховный суд провинции в целях защиты основных прав граждан, участвующих в судебных разбирательствах, установил строгие запреты. Среди прямо запрещенных видов использования ИИ указываются применение систем при прогнозировании риска рецидива, а также при рассмотрении дел об освобождении или предварительном заключении под стражу. Под строгий запрет также попали использование ИИ для создания автоматизированных или "синтетических" доказательств и подготовка экспертных заключений без участия и проверки квалифицированным экспертом.