Чем опасен ИИ в сфере правосудия

ИИ и электронные инструменты аналитики становятся всё более доступными. Стартапы начали применять методы прогнозирования в правовой сфере — это было лишь вопросом времени. Перспективы рынка впечатляющие. По оценкам Statista, выручка сегмента юридических технологий может достичь 25,17 млрд долларов в 2025 году. Например, компания Ex Parte утверждает, что использует ИИ и машинное обучение для прогнозирования исхода судебных разбирательств. Клиентам обещают «оптимизировать шансы на победу».

Но эксперты скептически относятся к тому, что ИИ может предсказывать такие сложные события, как исход судебных дел. В судебных процессах есть ряд факторов, которые данные, используемые для «обучения» ИИ, могут не учитывать, что приводит к ошибочным или потенциально предвзятым прогнозам. 

Ex Parte — не единственный, кто утверждает, что может предсказать исход судебных дел. Компания Blue J Legal из Торонто заявляет, что может оценивать результаты разбирательств с точностью до 90%, опираясь на модели, обученные на базе прецедентов и фактических данных по делу. Компания ArbiLex фокусируется на арбитраже, предоставляя клиентам такие показатели, как стоимость дела и вероятность того, кто может выиграть.

Правовая система США имеет огромный объем общедоступных законов, включая судебные решения, постановления агентств, а также ходатайства и сводки. Начиная с 1980-х годов некоторые части законодательства США стали доступны в Интернете. Примерно в 2010 году появились стартапы, которые предлагали более глубокое понимание общедоступного права.

Ex Parte, которая недавно привлекла 7,5 млн долларов в рамках финансирования серии A, даёт рекомендации для любых корпоративных судебных разбирательств. В том числе ИИ советует клиентам, какие адвокаты и юридические фирмы могут обеспечить наилучшие шансы на успех. Владельцы компании утверждают, что платформа может правильно прогнозировать исход дел примерно в 85% случаев.

Однако новейшая история полна примеров того, как проблематичные данные могут неблагоприятным образом повлиять на прогнозы специалистов по ИИ.

Система правосудия США приняла инструменты искусственного интеллекта, которые, как позже выяснилось, демонстрируют предвзятое отношение к обвиняемым, принадлежащим к определенным демографическим группам. Возможно, самым печально известным случаем является специализированный ИИ COMPAS, который предназначен для прогнозирования вероятности того, что человек станет рецидивистом. В отчете ProPublica зафиксирован факт: COMPAS с гораздо большей вероятностью ошибочно оценивает чернокожих обвиняемых как подверженных более высокому риску рецидивизма.

Опубликованное в декабре прошлого года исследование ученых из Гарварда и Массачусетского университета показало, что ИИ PSA — инструмент оценки риска, который судьи могут использовать при принятии решения об освобождении подсудимого до суда, — имеет гендерные предпочтения. В частности, этот искусственный интеллект считает, что мужчины более опасны, чем женщины.

Конечно, риски ниже в случаях, с которыми в настоящее время имеют дело Ex Parte и другие корпоративные стартапы в области предиктивной аналитики. Некоторые судебные процессы, такие как обычные споры о недвижимости и другая «общая» юридическая работа, могут быть в пределах компетенции ИИ. Но если технология получит широкое распространение, она может создать непредсказуемую петлю обратной связи, поскольку будущий ИИ будет учиться на результатах дел, предсказанных сегодняшним ИИ. Юристов из плоти и крови в этом странном уравнении, по сути, не останется.

В Вашингтонском университете также выразили обеспокоенность тем, что ИИ, предсказывающий дела, может лишь упрочить неравенство в судебной системе США. В будущем более богатые клиенты — компании или физлица — будут использовать рекомендации на основе ИИ. Необеспеченные клиенты при таком сценарии могут оказаться в невыгодном положении.

Уже сейчас состоятельные клиенты могут позволить себе урегулировать дела, которые они, скорее всего, проиграют, и оплатить дорогостоящие услуги адвокатов по расследованию и предварительному следствию. У них также есть бюджеты, чтобы платить экспертам с высоким уровнем знаний и навыками дачи показаний, а также фирмам с глубинными познаниями в сфере юриспруденции. 

Некоторые эксперты утверждают, что эти преимущества сохраняются даже на высших уровнях судебной системы. Адам Коэн, автор книги «Высшее неравенство: 50-летняя битва Верховного суда за более несправедливую Америку», утверждает, что консервативные судьи Верховного суда, которые редко голосуют за отмену обвинительного приговора бедным подсудимым по уголовным делам, проявляют явную симпатию к богатым. Исследование Коэна показало, что консервативный судья А. Скалиа голосовал за обвиняемых примерно в 7% уголовных дел, не связанных с белыми воротничками, и в 82% дел, связанных с белыми воротничками.

Адам Коэн не стесняется в выражениях. Он считает, что результат работы технологии прогнозирования юридических кейсов ИИ будет — цитата — «социально ужасающим». Огромная разница в исходах дел, когда речь идёт о неимущих и богатых клиентах — это факт. Причина также очевидна: ресурсы. Обещание технологии ИИ в сфере юриспруденции состоит в том, что ситуация лишь усугубится. У тех, кто и так уже обладает всеми возможностями, будет ещё больше возможностей.