Есть мнение, что искусственный интеллект достаточно скоро сможет заменить людей во всех сферах управления обществом. Ученые полагают, что ИИ сможет управлять заводами, городами и даже страной. Но сможет ли искусственный разум выносить приговоры в суде, сможет ли ИИ работать судьей? Этот вопрос Digital Report задал экспертам.
Иван Мершков, технический директор NGR Softlab.
В ближайшей перспективе ИИ не сможет полноценно вести процессы или выносить приговоры. Оптимальное применение ИИ сегодня возможно в двух направлениях.
Первое – это автоматизация и «разгрузка» перегруженных работой судов в области вынесения судебных приказов. Согласно статистике Судебного департамента при Верховном суде РФ, каждое пятое рассмотренное судом дело – это приказ о взыскании штрафов, налогов и санкций. Так, в 2020 году было вынесено более 6 млн подобных приказов. Именно эту область работы судов можно автоматизировать и отдать на откуп ИИ. Приказное производство, фактически, носит технический характер и не затрагивает анализ отношений сторон. Второе направление – это накопление данных и их оцифровка.
Для обучения ИИ нужна выборка, и чем больше она будет, тем точнее будет результат или предсказание результата. На мой взгляд, ИИ сможет выполнять роль советника или оценивать работу судьи в ближайшие 5-7 лет.
Сможет ли стать ИИ стать решением от коррупции?
ИИ сможет выявлять аномальные решения, а значит, подсвечивать и давать возможность проверки правомочности данного решения. В этом случае отсутствие «души» и непредвзятость позволит сопоставлять факты и существующую практику.
Человеческие эмоции, на мой взгляд, необходимы для судьи. Не будем забывать, что при вынесении вердикта суд обязан руководствоваться рядом критериев, которые закреплены в законе, такими как принцип справедливости и гуманизма. У человека это формируется в процессе социализации и становления личности, что прописать в алгоритме ИИ не представляется возможным.
И, наконец, законодательство и право не стоит на месте и развивается. Встречаются случаи, когда судья должен применять аналогию закона и права, опираясь на суть законодательства.
Алексей Болдырев, генеральный директор российского системного интегратора Айтоника.
Пока что первые эксперименты в применении искусственного интеллекта к вынесению судебных решений проводятся в сферах, где споры подробно описаны в договорных отношениях. Например, сейчас искусственный интеллект может “прочитать” кредитный договор банка, из списка платежей увидеть, что очередной платёж, к примеру, был пропущен и подготовить проект решения для судьи о том, что с должника следует к взысканию определённая сумма с процентами.
По закону, окончательное решение может вынести только судья, но он может это сделать, прочитав предложенный проект решения и проверив документы, подготовленные искусственным интеллектом. В такой ситуации судья может принять во внимание какие-то моменты, не предусмотренные алгоритмом искусственного интеллекта.
Простыми для алгоритмов представляются также вопросы об административных правонарушениях. Речи об участии искусственного интеллекта в уголовных процессах пока в российских экспериментах не идёт. Уголовное право – очень чувствительная тема, критически важная для жизни человека, где алгоритмизации подвержено далеко не всё и заменить судью, человека с юридическим образованием и огромным жизненным опытом, в ближайшее время совершенно нереально. Возможно, в следующие три-пять лет искусственный интеллект в приложении к уголовным процессам будет привлечён к анализу уже вынесенных судьями судебных решений, где на основе больших данных (так называемые технологии Big Data) несложно выявить общие закономерности вынесенных судебных решений и увидеть те их них, которые существенно отклоняются от основного статистически достоверного диапазона. Пока это представляется максимумом для искусственного интеллекта в судебной системе, но и это уже не так мало.
Оксана Николаевна Васильева , к.ю.н., доцент Департамента правового регулирования экономической деятельности Финансового университета при Правительстве Российской Федерации.
В России искусственный интеллект привлекли к вынесению судебных решений: в ходе пилотного проекта он готовит приказы по взысканию долгов. А может ли ИИ полноценно вести процессы и выносить приговор? Сможет ли ИИ стать решением от коррупции, и способен ли он учесть человеческое отношение при вынесении приговора? Нужны ли, на ваш взгляд, человеческие эмоции для судьи?
Дискуссии о применении искусственного интеллекта в судебном разбирательстве с каждым годом все нарастают и нарастают. Одна сторона считает, что за высокими технологиями будущее и профессия юриста скоро вымрет, другие с недоверием относятся к любой «компьютеризации» судебного процесса. Определенные судебные органы разных стран – Франции, США, Китая, Великобритании, уже используют ИИ для помощи судье в определенных обстоятельствах – например, для подготовки процессуальных документов, проверки правильности заполнения реквизитов сторон и подборе судебной практики.
Основной вопрос в другом – может ли ИИ заменить человека в качестве судьи?
Нет, не может. В первую очередь, судья – в идеале – и является тем самым воплощением «добра и справедливости», разрешая споры между двумя сторонами.
Может ли машинная логика обеспечить должный уровень понимания взаимоотношений сторон?
Нет, не может.
Может ли искусственный интеллект оценивать доказательства или выносить решения исходя из своих внутренних убеждений, основываясь на понимании основ права, руководствуясь основными принципами права – справедливости и гуманности, разумности и добросовестности – не может. Для этого нужно быть человеком – или понимать человеческие эмоции не хуже, чем их понимает сам человек, до чего прогресс ещё не дошел.
Искусственный интеллект не сможет применить аналогию закона или аналогию права, а об общих принципах права не может идти и речи. На самом деле, не каждый судья – даже профессионал своего дела – может выполнять свою работу так, как это нужно – гуманно, справедливо, добросовестно и беспристрастно. Чего уж говорить об искусственном интеллекте, максимум которого – беспристрастное рассмотрение дела исходя из машинной логики.
Действительно, машинные алгоритмы не подвержены коррупции, их нельзя подкупить и доля «честных» решений, бесспорно, возрастет. Но это не отменит всех тех проблем, которые были указаны выше, да и к тому же – смогут ли алгоритмы добиться не только честного, но и справедливого приговора?
Тем не менее, использование таких технологий для помощи судьям, а не для их замещения, может улучшить ситуацию – как пример, уже указанные рассмотрения дел в приказном порядке, где требуется только два качества – усидчивость и внимательность, которые есть у ИИ. И если судья перестанет тратить сорок процентов своего рабочего времени на бюрократическую рутину, перекладывая её на плечи ИИ, то количество времени для более детального разбора дела, несомненно, увеличится. В этом и является суть такой системы для права – быть помощником, а не замещающим.
Тарас Баранюк, разработчик, тимлид, менеджер по продукту, директор по развитию и совладелец стартапа.
Алгоритмы машинного обучения в целом и искусственный интеллект(ИИ) в частности — это не магия, это математический аппарат, опирающийся на домен знаний, в рамках которого проходило его обучение. И надо понимать, что если в качестве корпуса данных будут сомнительные судебные дела, то и результирующий алгоритм, будет выносить решения далекие от справедливых. Таким образом встает дилемма — кто будет собирать данные для обучения и принимать решение о том, какие именно судебные дела лягут в основу ИИ?
Текущее состояние отрасли позволяет создавать инструменты с использованием алгоритмов ИИ под ряд достаточно узких задач, которые, скорее могут облегчать принятие решений судьями, чем заменить их. Например, можно делать скоринг(оценку рисков) подсудимых, чтобы определять его опасность для общества. Это, в свою очередь, позволит принять более взвешенное решение о мере пресечения. Еще один из вариантов — поиск аномалий в решениях судей, алгоритм может осуществлять некую форму надзора. Если говорить о более рутинных вещах, то это распознавание фальсификации подписи, анализ речи и телодвижения свидетелей и обвиняемых, поиск прецедентов и еще множество других вспомогательных функций. Говорить же о полноценном ИИ, которое может принять честное, и не подверженное коррупционной составляющей, решение — на текущий момент рано.
Гогин Артем, эксперт в области больших данных, разработчик с многолетним опытом, участвовал во множестве проектов с применением ИИ в Мегафоне, Сбербанке и GridDynamics.
ИИ хорошо показывает себя в принятии типовых решений, которые поддаются хорошему описанию. Можно представить себе такое правило: если мы можем сформулировать алгоритм, по которому должны приниматься решения, значит ИИ будет способен принимать надежные решения, следуя этим правилам. Если же решение должно зависеть от множества обстоятельств, и все эти обстоятельства сложно сформулировать одновременно, значит ИИ может давать неожиданные результаты, которые могут вызвать недоверие.
Если говорить о долговых судах, то здесь ИИ должен хорошо себя показать, т.к. существует набор законов, который указывает условия для взыскания задолженности и условия для освобождения от взысканий. При правильной входной информации ИИ должен взвесить все входные данные и принять корректное решение, или запросить дополнительную информацию, в точности как человек.
Если же говорить о более сложных судопроизводствах, которые тянутся не один день и требуют максимального погружения в детали дела, здесь ИИ будет мало полезен, т.к. практически невозможно свести сложное дело к хорошо сформулированному алгоритму.
Мы можем наблюдать применение судейского ИИ в Facebook. Facebook использует ИИ для автоматической блокировки аккаунтов, которые нарушают политики Facebook. Facebook имеет достаточно множество правил, и некоторые довольно расплывчатые, поэтому не всегда заблокированный аккаунт на самом деле нарушил правила. В таком случае Facebook предусматривает возможность обжаловать решение, т.е. запросить человеческую модерацию решения. Человеческая модерация уже исключает неправильное срабатывание ИИ. Это позволяет Facebook полагаться на ИИ и значительно освобождать ресурсы модераторов социальной сети.
Давид Григорян, разработчик программного обеспечения.
Искусственный интеллект по своей природе – состоит из правил, благодаря которым он принимает те или иные решения. Базовые правила формируются на этапе реализации самого ИИ, однако весь потенциал искусственного интеллекта формируется в процессе работы с реальными данными – это и есть самообучающаяся модель.
В случае по взысканию долгов – здесь довольно базовая и “рутинная” модель и она не представляется такой комплексной по сравнению с полноценными судебными процессами с участием всех сторон, где присутствуют истец / ответчик, обвиняемый / потерпевшей, свидетели, адвокаты и другие.
Безусловно человеческие эмоции для судьи необходимы, как минимум чтобы оценить правдивость слов “я раскаиваюсь в содеянном”.
Машина просто примет это как утвердительный ответ и будет более снисходительна в своем решении. А это может быть уже не первый эпизод в котором участвует обвиняемый и серия преступлений относится к особо тяжким. Более того, ИИ так же не сможет оценить “последние слова” обвиняемого, не исключено что они тоже могут повлиять на ход процесса если судья сочтёт, что их нужно принять во внимание. В данном случае, при настройке искусственного интеллекта, да и любой другой программы, невозможно изначально заложить правильный алгоритм действий в случае если машина столкнется с неизвестными входными данными. Единственное что в данном случае сможет сделать искусственный интеллект так это уточнить запрос или отложить дело для “ручного” рассмотрения человеком. Однако эффективность данного подхода может вызывать вопросы.
Максим Блохин, управляющий партнёр УК «Блохин & партнёры», арбитражный управляющий.
ИИ может помогать судье и его аппарату в подготовке проектов судебных актов. Но выносить судебные решения по действующему законодательству может только суд в составе одного или нескольких судей. Поэтому без кардинальных реформ законодательства передать все полномочия судьи ИИ не возможно. ИИ не обладает эмоциональным интеллектом, а именно он важен в разрешении вопроса доверять / не доверять доказательству, что справедливо, а что нет, где добросовестное поведение, а где злоупотребление правом. Поэтому считаю что правосудие без человека невозможно.
- Стартап Humane потерпел крах, несмотря на $230 млн инвестиций и амбиции заменить iPhone - 16/04/2024 16:06
- Громкий трансфер CS2: ElectroNic покинул Cloud9 и присоединился к Virtus.pro - 15/04/2024 13:12
- Российские ученые обнаружили в Черном море микроорганизм-вундеркинд - 15/04/2024 12:56
