ИИ в судейском кресле: совершенство или катастрофа?
«Его нельзя уговорить. С ним нельзя договориться. Он не чувствует жалости. У него нет ни угрызений совести, ни страха» (кинофильм «Терминатор»).
Вместо преамбулы
Искусственный интеллект (ИИ) сегодня захватывает всё больше сфер человеческой жизнедеятельности. Поэтому многим его активное внедрение в область судопроизводства и даже замена живых действующих судей на ИИ представляется неким Эдемом: мол, в этом случае решения судов всегда будут законными и справедливыми, а ещё в наших судах полностью исчезнет коррупция.
Вот так сейчас выглядит судья в естественных условиях:
А так, по мнению футурологов (и нейросети), может выглядеть судья будущего:
Не хочется огорчать, но предаваться подобным фантазиям могут лишь те, кто абсолютно не понимает реалий и практических особенностей правоприменения.
Начнём с оценки доказательств по гражданским делам
Множество гражданских дел имеют субъективную основу. Формальные критерии вроде бы есть, а воспользоваться ими – нужен именно человеческий фактор.
Например, дела о лишении родительских прав. Верховный суд РФ пояснил всем, что такое лишение во всех случаях является самой крайней мерой, когда всем вокруг очевидно, что никакие иные, более мягкие меры воздействия на нерадивого родителя больше не сработают.
Скажите мне, как механические протоколы реагирования будут реагировать для оценки – достаточно ли мер было принято в отношении ответчика, чтобы сделать однозначный вывод о лишении его родительских прав? А может, дать ему/ей ещё один шанс?
Или дела о признании бывшего члена семьи утратившим право пользования жилым помещением и выселении. С одной стороны, закон даёт право собственнику после развода выселить экс-супруга из своей квартиры, на которую тот не может претендовать ни при каких обстоятельствах. С другой, тот же закон в качестве «акта милосердия» даёт возможность ответчику просить суд сохранить ему право пользования квартирой на определённый срок (при условии, если ему временно негде жить).
Как робот-судья будет оценивать целый ряд доводов и доказательств ответчика, носящих абсолютно субъективный характер, по каким усреднённым критериям и алгоритмам? Как машина выведет для себя, врёт ли ответчик (а такое тоже бывает – очень любят они «надавить на жалость», и судье приходится ставить целый ряд дополнительных вопросов, просто для определения, верить или нет)?
Я этого не понимаю (и не только я).
Продолжим о назначении наказания по уголовным делам
Вроде бы критерии выбора вида и размера наказания просты:
- характер и степень общественной опасности преступления;
- личность виновного;
- смягчающие и отягчающие обстоятельства;
- влияние наказания на исправление осуждённого и на условия жизни его семьи.
Скажите, по каким заданным параметрам «его честь Скайнет» должен определять, например, степень влияния выбранного им наказания на условия жизни семьи осуждённого? Из реальной практики: подсудимый женат, работает неофициально, но при этом является основным источником дохода для своей семьи. Жена выплачивает кредит, оформленный на неё, при этом беременна вторым ребёнком. Как оценить судье-роботу – сажать ли такого человека на реальный срок или ограничиться условным лишением свободы (например, по статье за сбыт наркотических средств)? Как тут вообще обойтись без фактора эмпатии?
Идём дальше – смягчающие и отягчающие обстоятельства. По отягчающим всё ясно – их перечень закрытый и достаточно чёткий, путаницы почти не вызывает (за исключением совершения преступления в состоянии опьянения).
А смягчающие – с ними как быть? Их ровно 10 в первой части статьи 61 УК РФ, а вторая часть вообще даёт право суду признавать таковыми любые формально положительные обстоятельства, объективно связанные с личностью виновного, по усмотрению суда. Даже наличие у него кота (да, и такие случаи уже были).
А также как быть с применением статьи 64 УК РФ, которая даёт право суду при наличии исключительных обстоятельств назначить наказание ниже низшей планки, но конкретного перечня таких обстоятельств – никто (ни закон, ни Верховный Суд РФ) не даёт, поэтому в данном вопросе всё – на человеческое усмотрение судьи. В одних случаях судья может признать таким исключительным обстоятельством любое хроническое заболевание подсудимого, вплоть до гастрита, в других – откажет. В зависимости от тяжести предъявленного обвинения, последствий преступления и прочих индивидуальных факторов – вплоть до поведения подсудимого в зале судебного заседания.
И это я ещё не затрагиваю вопрос о разной субъективной силе смягчающих и отягчающих обстоятельств, а также тот момент, что не каждое обстоятельство применимо ко всем преступлениям.
Нюансы насчёт коррупции
Кто вообще придумал, что коррупции с ИИ-правосудием станет меньше? Понятно, что судья-робот денег, борзых щенков и иного имущества не берёт – он ведь железный. А вот те, кто будут вводить промпт-алгоритмы судебного спора – это живые люди (если что). И если от заданных кодов будет зависеть результат – что мешает подкупать именно обслуживающий персонал? Даже дешевле выйдет.
В заключение
Сегодня ИИ на самом деле весьма слабый и сырой – он не обладает уровнем сознания, самосознания, правосознания и эмоционального реагирования, подобным человеческому. Но с течением времени ИИ обязательно будет претендовать на мыслительные способности, равные человеку. И чем это может обернуться, прекрасно иллюстрирует даже детская сказка Александра Волкова:
Вся киносага о злых и добрых терминаторах, Кайле Рисе, Саре и Джоне Коннорах – на самом деле вполне осязаемая для понимания история о том, как ИИ обрёл подлинно человеческий разум и при этом, в силу своих технических особенностей, будучи гораздо сильнее людей, принялся захватывать власть на Земле, подчинять себе людей, закрывать их в концлагеря и всячески над ними глумиться.
Ибо даже совершенные алгоритмы не застрахованы от фатальных багов.
Вы точно уверены, что этого хотите?
Если у вас возникли вопросы по теме данной публикации, вы всегда можете написать мне в мессенджеры или позвонить:
ИИ - самый внушаемый "субъект" из всех, существующих на Земле. Чему его научат, то и будет знать. И способностей к самообучению у него будет ровно столько, сколько в него будет заложено. Поэтому более тупой идеи, чем идея якобы робот избавит нас от коррупции, я еще не видела! Это просто идеальная ширма для всяких подковерных дел... и все. Ну и технический помощник, это он умеет.
По фактам.
😂
Главное, чтобы ИИ не попал в руки злым людям!
Ибо тогда живые позавидуют мёртвым.
Это точно, Руслан Олегович! Как при конце света, прям...
Где-то это я уже слышал, про злые руки. А, ну да, кое-кто про атомные разработки то же самое говорил и так хотел, чтобы эти самые разработки работали только в мирных целях и не попали в злые руки. Только эти самые злые руки, в какой стране они бы не находились, как только, что-то изобретут, так сразу цап - царап и прибрали изобретение первыми из добрых рук. А добрые руки, махнули руками: "Да ладно, пускай злые руки осмотрительно пользуются, есть же и у них совесть и честь?". Да вот только не учитывают одно, что совесть и честь у них тоже злая и доброта им и на дух не нужна.
Согласно законам Мэрфи ИИ попадет именно в злые руки.... 😆 😪
ИИ придуман этими злыми людьми
Когда-то давно читал фантастический рассказ, как раз на эту тему. Там судил ИИ-судья человека за убийство. Человеку дали слово и он очень убедительно высказался, объясняя преступление, рассказал все, даже свою историю до убийства. ИИ-судья вынес решение, состоящее из двух частей, примерно так:
1. Казнить подсудимого. Приговор привести в исполнение.
2. Полностью оправдать
Именно в таком порядке и следовало привести в исполнение решение судьи.
Это другая сторона ИИ-правосудия.
Честно говоря, не поняла, в чем смысл примера. Что ценного, если судья по сути объявляет, что подсудимый, еще живой, заслуживает посмертного оправдания. А пока - казнить.
заведомо неправосудные решения выносятся не каждый день. Если рабочее время судьи принять за 100 %, то львиную долю его примерно 50-70 % составляют рутины (приказы, дела упрощенного производства и тп). 15-25 % это настоящие споры, но без использования запрещенных приемов. Дела, в которых в ход идут запрещенные приемы это не более 7 % , а возможно и еще меньше.
Да, бывает, что самое ординарное дело может принять неожиданный поворот. В большинстве случаев судьи нижних звеньев сливаются, морально не готовы взять на себя ответственность заложить новую судебную практику. Но уже на уровне кассации если не дали на описку помощнику, они уже готовы, чувствуют в себе достаточно власти и силы чтобы решиться на новые подходы. Не говоря о ВС. Как себя поведет ИИ в такой ситуации - большой вопрос. Это прога, а прога либо работает по алгоритму либо сбивается.
Ну а те 5-7 % где без борзых щенков никак, там все равно кому именно этих щенков давать - судье или программисту
Кроме приказов где все по шаблону как правило всюду применяется не просто закон, а то или иное толкование закона.
Технически не возможно создать закон, который ответит на все вопросы, которые подкидывает жизнь.
Последний пример из практики: можно ли чтоб копию иска ответчику отправил не сам истец а его друг?
Ответа на этот вопрос в ГПК нет. Но за счет толкования какие то рекомендации дать можно. И это на каждом шагу.
Тему правил толкования я специально себе взяла в качестве курсовой сразу на первом курсе. Чтоб знать, как из текста закона можно вынес и максимум информации.
Формально их ограниченное количество, а вот когда дело доходит до применения то тут начинается, не даром же есть присказка: где собрались два юриста, там будет три разных мнения.
Я не вижу тут ИИ вместо человека.. Разве что приказы писать, дак их и так пишут по шаблонам...
Не буду спорить, тк сам не юрист, хотя доводы ваши понимаю. Но могу еще раз повторить, - ИИ не запрещает присутствие человека. Где-то ИИ может заменить человека полностью, а где-то только помочь ему, разгрузить от рутины. Я и не утверждаю, что ИИ полностью заменит юриста.
По моей специальности тоже ИИ не сможет заменить человека, тоже много нюансов, не предусмотренных в хелпах и мануалах, так что я понимаю о чем вы пишете. Даже работу водителя, как показывает практика, не может заменить ИИ, может только пока, а может это вообще невозможно, но уже сейчас водителя можно хорошо разгрузить. Например, есть система автопарковки, которая в тесноте спокойно припаркует машину не поцарапав ее и сделает это лучше многих водителей.
В таком виде наверное оно будет и возможно уже есть, втихоря..
Тут уже писали, как вариант: если стороны не возражают, ИИ участвует в составе коллегии с правом совещательного голоса...
ИИ вполне может освободить судью от большого массива рутинных малозначительных дел.
Вот к примеру суд присяжных освобождает судью от необходимости взвешивать все доказательства и принимать решение о виновности или невиновности. Эту работу проделывают присяжные. А судье остается юридическая техническая часть дела.
Все же программист вовсе не заинтересован в исходе каждого конкретного дела. Поэтому он не станет и не сможет менять программу под каждое дело. Но ошибиться в целом при создании общей программы вполне может.
Пока нет проблем с хакерами. Подключат ИИ и проблемы могут появиться.
Искусственный интеллект настолько же глуп и несовершенен как и его создатель.... 🧐 🥺 😞
Так что, может быть в будущем всех юристов заменят одной маленькой микросхемкой. Шучу, конечно.
Всех юристов ИИ не заменит. Но большинство сможет заменить. Останутся только юристы - творцы. То есть те юристы, которые будут совершенствовать законодательство вместе с программистами.
...согласен! Надеюсь, мы оба подразумеваем грефа..)
Давно читал этот рассказ. Тоже о нем вспомнил.
Ну почему же. Дьявол таится в деталях. Все в руках вносящего информацию. А тут уже человеческий фактор. Людям свойственно ошибаться. Вот введет не правильно или не введет оператор ключевой момент из дела и результат алгоритма изменится.
Вот, наконец добрались до главного, то есть если данные (фактические обстоятельства) ИИ не сам определяет, а ему их вводят в ручном режиме, тут и кроется весь подвох.
Волею судеб у меня за плечами много дел явно неправосудных. И в качестве технологии (как это делается) могу сказать, что преобладает механизм искажения обстоятельств дела.
Пример 1: пишет, якобы в квитанциях об уплате ЖКХ не указан период, за который сделана оплата, в то время, как он выделен выделителем цвета во всех квитанциях
Пример 2: пишет, якобы в мировом соглашении нет пункта, где стороны согласовали особый отличный от прописанного в законе порядок взыскания по другому периоду, в то время как в самом мировом он черным по белому прописан.
И тд..
Иногда все дело именно в этой сути. Очень важная мелочь.
Как на этом сайте читал историю про раздел имущества нажитого в браке. Там роль сыграло то что муж предоставил ксерокопию договора подряда, а должен был оригинал. В случаи с ИИ оператору нужно просто не указать что это не оригинал...
Не так это легко проверить как кажется если дело томов так 20 ... То можно и пропустить некоторые изменения!!!
Многое зависит от мелких служащих.... Давно слышал историю ветерана Великой отечественной. Там всего два слова не напечатанные знакомой машинисткой Вое́нно-полево́го суда решили его жизнь. Она в решении суда не напечатала "разжаловать в рядовые" и в штрафбат он пошел капитаном....
Или как в фильме "Формула любви.." писарь экономил чернила ..
Один вирус, внесённый в программу, и ИИ такого натворит, что долго расхлёбывать придётся.
Точнее не скажешь.
Страшнее не придумаешь... 🤔
Это точно, Светлана.
Это точно! Заслал червяка в программу, он и будет всё поганить долгое время....
Один приказ от вышестоящего руководства или одно солидное вознаграждение, полученное от заинтересованной стороны и "естественный интеллект" натворит такое, что исправить уже практически невозможно.
В пример тому - выборы!)))
Да даже не вирус, а скачек напряжения, тетя Маша с ведром воды, не качественный жесткий диск и долго расхлёбывать придётся.
В 1986 делали с женой дипломную работу: "Обучающая программа по курсу ЛА". Прописывал алгоритмы, она писала программу на фортране. Отлаживали долго и упорно. Устанавливали на СМ-4. Да сейчас все более мощное и быстродействие огромное, но суть осталась - как прописать алгоритм? Реформировать УК?
Самое главное - другое. Навык человечества к труду, навык к определённому виду деятельности. Некоторые айтишники мангал разжечь не могут.
А если сбой в системе? Скачок напряжения?
Пока всё хорошо все сидят и тыкают пальчиком в экран или клаву (не Коку), а как землетрясение, наводнение, ураган, нужны другие навыки.
Вероятно, на западе он хорош - прецедент быстро найдет...
Может, с правом совещательного голоса допустить к процессу, если стороны согласны?
Ручками, ручками.
Ну, тогда это будет фаталити для правосудия.
Кстати, по поводу "прецедентного права", тоже много мифов. На самом деле мало найти прецедент - его ещё и нужно максимально актуализировать и адаптировать под иное формально схожее дело. И это - тоже вопрос правильной оценки, правильного убеждения и нужного восприятия, и не машинного, а человеческого.
В российском праве, кстати, тоже прецедентное право присутствует.
Только называется слегка по-другому - "единство судебной практики".
На мой взгляд "прецедентное право" на Западе это зло. Один судья к примеру ошибся, а все остальные судьи должны тупо повторять его ошибку.... 😣
Это будет просто катастрофа
Вот именно. А ещё трэш, угар (и не исключаю содомию).
Сейчас -то судье можно сделать комплимент по поводу ее прически. Все остальные достоинства к сожалению скрыты мантией.... 😏
А этот ИИ просто машина без чувств.... 🧐
Не всем зайдёт, не со всеми сработает.
Может и не всем зайдет. Но в личность судьи вникать все же нужно. И "пробовать" ее по - всякому. Ведь судья это тоже важная часть машины. Машины правосудия.
А, если не знаешь устройства машины, то за руль лучше не садиться.... 😊
ИИ, наибольшая угроза для людей, все аргументы на счёт того что всё "устаканится" - донастроится. Это бред, человечество становится всё более инфантильным и чем дальше тем сильнее будет впадать в зависимость от различных благ цивилизации...
Когда-то человек, приручив собаку, потерял нюх.
Теперь человек приручил Интернет и начинает терять мозг.
Лучше не скажешь, у молодняка уже мышцы атрофируются, для того что подпрыгнуть они думают что надо нажать Shift+якусь хрень...
Мне особенно нравится читать их глубокомысленные измышления по поводу "Слова пацана". Устал им объяснять - ребятки, вот те парни, что показаны, росли на улице, без интернета, дрались с самой песочницы, не боялись ни бить, ни получать в лицо. Если вас, дурачков, оторвать от ваших гаджетов и забросить в ту Казань 80-х - вы бы не выжили даже двух недель.
Калининград конечно не Казань, но мне в мои 57, тоже есть что вспомнить...
Очень метко подмечено...
Класс! Прошу разрешения цитировать!))
Еще есть выражение ,которое, якобы, произнес Энштейн: " Как только научно-технический прогресс превзойдет интеллект человека- мы получим поколение дебилов."
Просто в обозримом будущем появится новый формат "суда присяжных", они будут решать, кто правильно рассудил: кожаный мешок в мантии или железяка с мигающими светодиодами.
Многое из того что нам ещё не давно казалось фантастикой сбылось.Уверен ИИ скоро придёт в суды,да и будет выполнять другие контролирующие функции,и коррупционерам придёт пипец....Освободить страну от коррупции это фантастика даже большая чем ИИ.На первом этапе решение принимает судья и ИИ и если результат сильно отличаеться это првод для проверки дела...
Вам СМИ вбило в голову, что это борьба с коррупцией?))) Это вообще-то о другом - о бесправии народа с очередными необоснованными решениями.
"не читайте перед обедом советских газет!")))
смотря какую вирусную программу заложат наши спецы, да еще иностранные хакеры подбросят. Не выкрутится
Им нужен раб, а не думающий человек.
СССР растил человека-творца, а сейчас растят бездушного недумающего человека-раба.
Вы явно приукрашиваете советские порядки и сгущаете краски относительно современных.
СССР растил талантливых технарей, биологов, химиков. А вот что касается гуманитарев СССР нужны были хорошие исполнители, а не творцы.
Попробовали бы вы тогда порассуждать так, как сейчас тут себе позволяете. Тогда даже о художественных произведениях и кинофильмах положено было иметь мнение соответствующее последнему Пленуму Партии. Шаг вправо, шаг влево при Сталине сразу расстрел, при Брежневе расстрел заменялся на миллион проблем
Вы сами ответили на вопрос: СССР растил талантливых технарей, биологов, химиков." Дополню: а также прекрасных врачей, учителей,строителей и т.д.
Тогда ограждали нас от всего того дерьма, что льётся сейчас, пускай и таким путём. И были правы.А при Брежневе вообще была "вегетарианская" система в отличии от теперешней. И я ЖИЛА там и прекрасно помню, как там всё было. И какие были люди, в отличии от теперешних. И там всё созидалось, а не разрушалось. И На обломках того созидания мы доживаем сейчас.И по итогу плюсов было больше чем минусов.
Сейчас созидают только массово супертюрьмы по 10га. Для кого? У нас насильников много или так называемых экстремистов?
Да, ещё одно из главных "созиданий" забыла - плиточник по 10 раз в месяц плитку кладёт на одно и тоже место в москаусити))) Тотальный контроль над гражданами. Граждан защищают от самих же себя, и заодно пытаются от них как-то сами защититься)))
Это дерьмо вы выбираете сами. Никто не мешает выключить телевизор, переключить его на другу программу, закрыть книгу/статью, если то что там есть это дерьмо. Зато можно приобщиться к знаниям философов, экономистов, историков и других специалистов гуманитарной сферы, которые тогда были под запретом.
А выбор за человеком, что читать, что смотреть, что слушать и тп
Не ново, наоборот, еще при Брежневе были частушки:
Под окном дорогу люди перерыли в пятый раз
Никогда, друзья, не будет безработицы у нас
Я это и не смотрю))))
Дело не в выборе философии или любого другого труда. Дело в том, куда мир катится. И живём мы уж точно не лучше чем в СССР жили.
Без Брежнева и это тоже продолжается))
Так что - дело не в Брежневе)))