Существует идея, что роль юриста, судьи и даже президента страны может взять на себя искусственный интеллект. И в этом случае, принятые решения, могут быть не только беспристрастными, но и абсолютно честными. Мы попросили экспертов высказать свое мнение – можно ли заменить судей и президентов на холодный ИИ.
Игорь Иофчу, руководитель юридического департамента группы компаний Gaskar Group.
В 2018 году на Петербургском юридическом форуме состоялся знаменитый в юридической среде батл между Романом Бевзенко и юридическим роботом, который создала команда Мегафона. Роман Бевзенко – известный юрист, к.ю.н., партнер «Пепеляев Групп».
Битва была жаркой, и по словам участников – очень познавательной. Но в том споре живой человек одержал победу. Однако та скорость и объем информации, которые выдавал робот, а также умение выстраивать логические цепочки и связи между исследуемыми фактами были очень высоко оценены участниками и зрителями процесса.
Сейчас в России уже существуют все предпосылки для использования и развития ИИ в рамках судебной системы. Участники процесса могут подавать в суд документы в электронном виде, дистанционно получать уведомления, имеют дистанционный доступ к материалам дел, получают судебные акты или их копии в электронном виде. В условиях пандемии многие суды рассматривали дела и выносили по ним решения фактически в цифровом мире.
Я считаю, что на данном этапе развития ИИ может более широко применяться в судебной системе, но только при рассмотрении незначительной категории судебных дел. Таких, например, которые рассматривают мировые судьи. Там, где размер исковых требований низок.
ИИ мог бы, используя заложенные в него алгоритмы, разрешать дела на основании доказанных фактов и представленных документов. В некоторых странах, например, во Франции, США, Китае, Великобритании программы, подобные ИИ, уже начинают использоваться в судебной системе, однако они являются скорее дополнительными инструментами для анализа документов и ни в коем случае не подменяют собой судью.
Вместе с тем нельзя забывать, что суд, при вынесении решения руководствуется целым рядом критериев, закрепленных в законе. Принципы справедливости и гуманизма при назначении уголовного наказания. Требования разумности и добросовестности при разрешении гражданских дел. Возможность осознания таких общих категорий приходит к человеку в процессе взросления, социализации и становления личности. Не представляется как все вышеперечисленное можно внедрить в ИИ.
Но нельзя забывать также и о том, что сейчас судебная система часто критикуется за предвзятость и/или подкупность. Использование ИИ, вероятнее всего, помогло бы избавить судебную систему от случаев, когда судебные решения принимаются под давлением со стороны руководства или в интересах, определенных участников процесса. Представляется, что ИИ всегда непредвзят, неподкупен и не подвержен соблазнам. Однако если задаться вопросом – кем бы вы хотели быть осужденным – справедливой машиной, не способной к человеческому пониманию, или живым судьей, который может сострадать, проявлять гуманизм, то ответ очевиден. Во всяком случае для меня.
Денис Рыбченко, руководитель направления «Большие данные» компании «Техносерв».
Уровень современного развития искусственного интеллекта определен и имеет ограничения. О полном замещении человека искусственным интеллектом сейчас речи не идет. ИИ позволяет автоматизировать часть узкоспециализированных функций в различных бизнес-процессах, сокращая время обработки огромного объема данных и помогая человеку принимать верные решения в любой сфере, будь то бизнес или управление государством.
Государство сейчас начинает активно использовать искусственный интеллект. В основном, сфера его применения – это консультирование, особенно запросы, требующие обработки значительного объема данных. Таким образом, ИИ анализирует входящий поток информации, исключает влияние человеческого фактора и поддерживает принятие управленческих решений человеком.
В настоящее время возможно только дозированное и выборочное использование искусственного интеллекта. Для расширения сферы и возможностей технологию нужно усовершенствовать: улучшать и усложнять модели, учесть требования информационной безопасности, усовершенствовать вычислительные комплексы – это суперперспективное направление.
ИИ в роли президента или министра представить практически невозможно: личность имеет огромное значение и человек вызывает бОльшее доверие других людей. На текущем этапе ИИ может оказать человеку поддержку в государственном управлении, предоставляя возможность оперативной обработки огромного объема разнородных данных, и тем самым открывая новые ранее недоступные возможности.
Дмитрий Романовский, ADCI Solutions.
В некоторых прикладных задачах ИИ уже давно внедрен. Скажем, это задачи по распознаванию образов на фото, виртуальные операторы и чат-боты, системы на основе машинного обучения, анализирующие рынок акций, предсказывающие погоду или ищущие лекарство от рака. В Китае с этим пошли ещё дальше и на государственном уровне высчитывают социальный рейтинг гражданина на основе анализа больших данных.
Фото innovation.24tv.ua
Однако здесь есть нюансы. Рассмотрим пример с распознаванием образов. Допустим, вы превысили максимально допустимую скорость. Искусственный интеллект сделал фото, распознал ваш номер, внес в базу ГИБДД и выписал штраф. И здесь, и в других приведённых примерах ИИ либо действует по заранее чётко выверенному алгоритму, который можно полностью автоматизировать, либо предоставляет некий срез или выжимку на основе большого количества данных, помогающих человеку принять решение. Такие сложные системы, как государство, слишком хаотичны, для них характерно непостоянство входных данных. Следовательно, работа таких систем не поддаётся алгоритмизации, и управлять ими (как и вообще управлять) ИИ в текущем своём исполнении не способен.
Мария Юсупова, руководитель проектов nlogic (входит в “ИКС Холдинг”).
В функции искусственного интеллекта не входит управление ни государством, ни чем-бы то ни было другим и, конечно же, он не может заменить человека на таких постах как президент или министр. На данном этапе существуют завышенные требования к ИИ и необъективное восприятие его возможностей. Самый большой эффект от внедрения технологии ИИ можно увидеть как раз там, где не требуется принятие управленческих решений, где накопился определенный объем типовых, рутинных операций и нет необходимости в участии человека или где человеческий труд носит механический характер.
Если говорить про судебную систему, то я вижу большие перспективы внедрения ИИ в работу ее отдельных участков. Использование технологий ИИ будет наиболее актуально в процессах, где правила принятия решений четко регламентированы, например, при формировании и принятии промежуточных судебных актов (определения о принятии к рассмотрению исковых заявлений/об оставлении без движения/о назначении судебного заседания и т.д.). Практическим примером в данном случае может послужить один из проектов нашей компании, где мы тестировали возможность применения технологии распознавания неструктурированных текстов и подготовки судебных актов в судопроизводстве.
За основу был взят процесс рассмотрения заявлений о взыскании налоговой задолженности в судах общей юрисдикции и формированию судебных приказов. Использование платформы nlogic с применением технологий искусственного интеллекта в судопроизводстве показало сокращение времени на подготовку проекта судебного акта на 86% и на 95% при ведении и заполнении внутренних судебных систем (создание и заполнение карточек судебных дел). Сэкономленное время сотрудники могут использовать для более емких, нетиповых задач.
Алексей Рыбаков, генеральный директор IT-компании Omega.
Если смотреть на исторический путь развития ИИ, то на сегодня мы имеем специальные ИИ. Они охватывают даже не отрасли, а лишь отдельные бизнес-процессы или группы бизнес-процессов. Таким образом, еще нет достаточно сильного ИИ, который бы полностью охватывал хотя бы предприятие, заменив абсолютно всех сотрудников и оставив лишь оператора. Когда это произойдет, можно будет говорить о возможности появления ИИ, управляющего подотраслью. В целом, появление всеобщего ИИ прогнозируется лишь через несколько десятилетий. Перед появлением всеобщего ИИ мы обязательно должны отработать практику применения этических принципов на специальных ИИ.
Государственное управление – это именно та отрасль, в которой критически важным звеном является человек. Здесь важны отношения доверия. При применении ИИ в государственном управлении мнения разойдутся диаметрально.
Во-первых, всегда останется вопрос, не стоит ли за решениями ИИ группа людей. Наличие группы людей, управляющих ИИ, подрывает доверие к нему, так же как и в случае, если выясняется, что президентом руководит другой человек или группа людей. Проблема в том, что это ударит не только по президенту, ИИ это или человек, но и по доверию к государству вообще. ИИ будет требовать технического обслуживания специалистами-людьми, поэтому доверия к нему априори не будет.
Во-вторых, большинство людей будет относится к ИИ-президенту, как к некоей суперсиле. Это мнение будет аккумулировать страх. Слишком долгая жизнь в страхе однажды приведет к революции.
В-третьих, отсутствие доверия к искусственному интеллекту будет усиливаться мнением о том, что ИИ – это, грубо говоря, “тостер, который стал разговаривать”. Вынесет ли кто-то ситуацию, когда домом управляет тостер, неизвестно. Всегда появятся группы людей с притязаниями на власть.
В восприятии ИИ необходимо спокойное отношение к нему. На данный момент в обществе существует отношение к нему, как к чему-то чуждому и неизвестному. Для начала ИИ должен завоевать полное и безоговорочное доверие общества к нему. Далее возникнет проблема сменяемости власти и проблема чистоты выборов.
Таким образом, мы еще долгое время не увидим искусственный интеллект в роли президента или министра. Власть – это не только логика управления, право насилия, но и человеческие эмоции и чувства как находящихся под управлением, так и управляющих. Едва ли человек, вкусивший власть, отдаст ее “тостеру”. В ближайшие десятилетия мы не можем говорить о масштабном применении ИИ в функциях власти. Решения будут оставаться за людьми, хотя служебные функции контроля, сбора и анализа информации могут перейти к ИИ.
Кажется, что искусственный интеллект лишь добавят рисков и турбулентности. Я уверен, что мы идем к синергии, а не к замене человека. Смена технологических укладов всегда проходит болезненно, но в итоге эволюция породит много интересного и полезного.