Чат-бот против юриста: как искусственный интеллект с треском провалил написание претензии (реальный пример)

Фото сгенерировано нейросетью "Шедеврум"
Почему искусственный интеллект не заменит юриста в ближайшие десять-двадцать лет
Добрый день или ночи всем-всем! Искусственный интеллект сегодня лезет буквально в каждую щель. Везде эти чат-боты — в банках, на сайтах и даже на "Госуслугах". И если раньше я радовалась прогрессу, то теперь, когда мне в очередной раз приходится объяснять банковскому боту, что я не хочу "узнать баланс", а хочу поговорить с живым человеком, — меня начинает слегка потряхивать. Ну правда, разве можно заменить человеческое общение этим электронным "чем-то"? Особенно когда вопрос не из серии "где ближайший банкомат", а что-то посложнее.
История из жизни: когда ИИ решил поиграть в юриста
Недавно у меня в практике случился очень показательный случай. Мой старый знакомый, назовём его Игорь, человек весьма обеспеченный, с собственной небольшой компанией (а мы уже года два наверное не общались), пишет мне (примерно в таком стиле): "Дашутка, сколько лет, сколько зим! Слушай, тут у меня новая юристка, попросил её претензию подрядчику накатать, а что-то мне не нравится, как она написала. Глаз "замылился", контрагент не филькина контора, посмотришь? Один глаз хорошо, а два лучше".
Я, конечно, не против помочь, но сразу предупреждаю:
— Проверка чужой "писанины" — это работа, а работа у нас оплачивается.
Игорь, как человек практичный, конечно же, соглашается. Присылает мне документ. Открываю, начинаю читать. С виду — всё чинно: нормы права, ссылки на законы, даже структура вроде бы есть. Но что-то не так. Чувствую нутром: не живой человек писал, а какой-то "робот".
Как я вычислила ИИ в юридическом документе
Сама я работаю с искусственным интеллектом давно, типа "промт-инженер", и уже по первым абзацам вижу: тут без ИИ не обошлось.
- Во-первых, стиль — сухой, шаблонный, будто кто-то скопировал куски из разных источников и склеил их между собой.
- Во-вторых, структура какая-то странная: сначала требования, потом обоснование, потом опять требования. Ну не так мы пишем претензии, не так!
Но самое интересное началось, когда я дошла до ссылок на нормативные акты.
"О, Господи, — думаю, — что это за приказ такой?"
Проверяю — приказ либо уже юридически не действует, либо вообще называется иначе.
Дальше — больше: ссылка на пленум Верховного суда, на пункт, а в этом пункте написано совсем не то, что в претензии. А в одном месте ИИ вообще придумал пункт, которого в природе не существует!
Вот это фантазия, вот это креатив! Только вот в суде за такой креатив по голове не погладят. А контрагенты – посмеются!
Что я сделала?
Всё, что было "отсебятины" и "от ИИ", я выделила красным. Написала Игорю:"Почти всё надо удалить, пусть твоя юристка переделывает сама. Или, если хочешь, я могу сделать нормально, но это уже другая стоимость".
Игорь, конечно, был в шоке.
"А что, так можно было? Она нах**рила мне с ИИ?"
"Можно, — говорю, — но не нужно, видимо да, с ИИ".
Чем закончилось?
Короче говоря, лучше бы Игорь сразу обратился к юристу, только к толковому, а не бестолковому. А так переплатил: за проверку документа с ИИ и за новый документ. У его "юристки" премии в этом месяце не будет и ей запретили работать с ИИ.
Почему ИИ не заменит юриста (пока что)
Сейчас нам со всех сторон рассказывают, что искусственный интеллект вот-вот заменит всех: бухгалтеров, юристов, врачей, копирайтеров. Но, друзья мои, не всё так просто.
Во-первых, нормативная база в России меняется со скоростью света. Сегодня закон есть, завтра его уже нет, а послезавтра он снова есть, но с поправками. ИИ, конечно, может что-то "знать", но чтобы загрузить в него все эти изменения, нужно, чтобы кто-то этим занимался. А кто? Пока что — никто. Поэтому ИИ часто оперирует устаревшей или вообще вымышленной информацией.
Во-вторых, ИИ не понимает контекста.
Он не знает, что у Игоря с подрядчиком давний конфликт, что там есть нюансы, которые в шаблон не впишешь. Он не чувствует, где надо "надавить", а где — "погладить". А ведь в юридических документах это очень важно.
В-третьих, ИИ не несёт ответственности.
Если ваш документ, составленный ботом, не примут в суде или, не дай бог, из-за него вы потеряете деньги — кто виноват? Бот? Нет, конечно. А вот юрист — человек живой, с дипломом, с репутацией. И если что — спросить можно.
К сожалению, нейросетями многие не умеют пользоваться, это все очень и очень заметно. А если не умеете, то и нечего их использовать).
Нейросети, использованные при оказании консультационных услуг: практика
Довод о ненадлежащем качестве услуги из-за использования нейросети работает только при проявлении должной осмотрительности.
Суд отказал в признании договора недействительным из-за использования нейросети при оказании услуги: истец принял и оплатил работу, не предъявил претензий, не проявил должной осмотрительности и не доказал недобросовестность исполнителя. Оснований для признания сделки недействительной не установлено.
Арбитражная практика (Решение суда Санкт-Петербурга и Ленинградской области 04.02.2025 по делу № А56-102880/2024).
То есть мой вам совет, если вы уверены, что работа написана юристом с помощью ИИ, то не подписывайте акт с ним, указывайте на явные юридические недостатки, иначе Вы потом можете получить отказ в иске в суде
Когда ИИ всё-таки может пригодиться?
Справедливости ради, скажу: для простых задач — например, написать возражение на приказ или составить шаблонную жалобу без указания нормативки — ИИ вполне сгодится. Там, где не нужно глубокого анализа, где всё по шаблону — пожалуйста, пользуйтесь. Но если вопрос серьёзный, если на кону деньги, репутация, бизнес — не рискуйте.
Лучше заплатить юристу, чем потом разгребать последствия "творчества" ИИ.
От автора
Искусственный интеллект — это, конечно, круто. Но пока что он не заменит живого юриста. Потому что законы меняются, нюансов много, а ответственность — на человеке. Так что, если хотите спать спокойно, доверяйте важные документы профессионалам, а не чат-ботам. А если вдруг вам попадётся документ, который "пахнет" ИИ — не стесняйтесь показать его юристу. Один глаз хорошо, а два — лучше. И пусть искусственный интеллект пока что остаётся помощником, а не главным действующим лицом в вашей юридической истории.
P.S. А если вам всё-таки хочется пообщаться с чат-ботом — милости прошу в банк.
Всего доброго!
Доверили бы вы важный юридический документ искусственному интеллекту?
Проголосуйте, чтобы увидеть результаты
Я привык общаться только с людьми, а юридическом плане, тем более. Держитесь юристы, ИИ не пройдёт?
Так в судах могкт внедрить скоро.
Совет судей ориентируют судей на гуманизацию и открытость по всем делам.
Предлагается использовать искусственный интеллект (ИИ) при проектировании судебных приказов, составлении протоколов судебных заседаний и по административным делам. Так, чтобы ИИ сам формулировал тексты обвинений, а потом судья это проверял.
Чтобы ИИ писал тексты судебных приказов, чтобы взыскать в пользу банков и микрокредитных организаций деньги с граждан.
Проект цифрового помощника судьи с элементами искусственного интеллекта поможет с расшифровкой позиций сторон в судебных заседаниях и анализом представленных документов, заявил заместитель генерального директора Судебного департамента при ВС РФ Алмаз Ибрагимов.
«В рамках проекта портала судебной системы реализована ИИ-модель, с помощью которой можно будет транскрибировать аудиозаписи заседаний с тайм-кодами, анализировать документы и готовить проекты решений, в том числе автоматически заполнять данные по делу, указывая номер дела, судью и участников процесса», — отметил Ибрагимов на пленарном заседании Совета судей РФ.
По словам представителя Суддепа, параллельно внедряется единая система электронного документооборота в суде, доступная через браузер и мобильные устройства. Она уже работает в 9 субъектах РФ, включая Московскую область и Приморье.
anti-corruption.news
Конечно. ИИ не придет в голову что судебный приказ это беззаконие, и что он противоречит другим законам и Конституции.
Да и юристам - ремесленникам это в голову тоже не придет. У некоторых юристов потому что сиськи больше головы.... 🥺 🙊 🙈
«У некоторых юристов потому что сиськи больше головы»
——
По ночам спи.
Я не понимаю причин столь грубого обращения со мной... 😊 Извольте объясниться, Дарья Алексеевна, почему это Вы опять кидаетесь помидорами, ведь я Вас совсем не обижал... 😇
Как же не обижал, если переименовал молочные железы в "сиськи"?
По мне, так "сиськи" куда приятнее на слух, чем беспощадно прямолинейная медицинская терминология)
"Сиськи" это во-первых вполне литературный общепринятый термин. А во-вторых я вовсе не Дарьи Алексеевны сиськи имел ввиду, а вообще абстрактно, неприменительно ни к кому конкретно... 😇
Я не понимаю почему она приняла это на свой счет. По моему мнению сиськи у нее весьма компактные.
Да что мы все о сиськах и сиськах?!.... 😠 Это юридический сайт или что?...
Сосцы?... 😵
"Железы" вообще как-то не звучит... 😖 Как скрип металла по стеклу....
Юридический. Да.👏
Конечно же, лучше общаться с живым юристом и обязательно с глазу на глаз (тет-на-тет). Ведь что такое чат-боты? Виртуальные помощники, часть которых выполняет примитивные действия. Набор микросхем не может заменить живую человеческую душу.
Правильно, Андреич! С Вами бы я выпила чашечку зеленого чая ☺️👍😌
Тьфу, гадость какая этот зелёный чай. Лучше чашечку зелёного змия.
Я просто летом перешла на зеленый и белый чай, лечу зависимость от кофе
Белый - это какой?
Вспомнилось. В кафе: "Мне, пожалуйста, чаю. Можно без сахара. Можно без заварки. Можно некипячёный".
Такой чай есть, из Китая привезла 😁
А я по старинке..., Иван-Чай и другие травы....
Это ладно, в это поверю, с кем не бывает
.
Теперь про другое. Прошло почти три с половиной часа, а я только увидел этот ответ. Что-то алгоритм тормозит, не шлёт уведомления. Я примерно понимаю почему. Не до меня администрации, в окошко кассы ломятся конкурсанты прошедшего конкурса. Но я-то причём?
«профессиональная» диагностика? 🥱 ты, я смотрю, зависим от необходимости влезть в каждый разговор и поставить свой диагноз? Не переживай, это лечится — можно просто заняться своей жизнью.
Именно "профессиональная", а не профессиональная.
Скорее всего, кто-то занялся его жизнью, но не лучшим образом. Бывает так, что вылечить уже невозможно. В любом случае жаль человека. У меня есть такой жизненный опыт. Человек ненавидит тебя, но когда видишь, как ему плохо, почему-то пробивает на жалость. Не знаю, может быть только я такой неправильный, а может быть правильный. Правда, это не относится к тем, кто покушается на твою, то есть мою, жизнь или чужую. Здесь никакой жалости, даже если он в глубоком ауте после моих правильных действий, хочется порой добить и закопать. Но сдерживает одно - всяческие Законы, которые надо блюсть.
В случае с Владиком ему нужна помощь хорошего психолога. Мы тут с Вами, Дарья Алексеевна, бессильны, ибо не шибкие психологи. Вы изучали психологию в процессе обучения, а у меня не было заложено в той специальности, на которую учился.
Скорее всего это шутка такая, но так как ты на вздрючке, на шутку не похоже. Я прочитал здесь все твои комментарии в ответ на мои, а также там, где Анютка типа извиняется перед Валентиной. Что ж, очень "достойные" ответы. Чувствуется напор и сила. Правда, вектор этой силы направлен как-то криво и сам он кривой. Я в спор с тобой вступать не буду, только одно скажу. Не греши перед своим богом, если он, конечно, у тебя есть, ведь отвечать за грехи придётся. Карма, то есть судьба, строится самим человеком. Кто-то тебе помогает, направляет в нужную сторону, кто-то сбивает тебя с намеченного тобой пути, но в конце этого пути мы все отвечаем за свои поступки. Изложил очень кратко, но, надеюсь, доходчиво. Если ты поддерживаешь тему о чат-боте, лучше выскажи своё мнение о ИИ. Сейчас эта тема многих тревожит. Если этот ИИ пустить на самотёк, будет апокалипсис. Но я, например, не думаю, что ему доверят абсолютно всё. В промышленном производстве или в медицине роботы на тонких и мелких работах просто необходимы, а в остальных случаях нет, только человек со своими мозгами и руками. Сам-то как думаешь по этому поводу?
Это че,придется ему ехать теперь в Москву?
Может я приеду в Новосибирск. 😺 Кто ж знает
Ааа,ну это тогда совсем все в корень меняет!
Так для этого придется снимать квартиру!)))
Игорь, выйди вон из чата
Че,изгоняете?
А это уже не твоя забота, Игорёк, спи спокойно, не вертись, а то с кровати шлёпнешься. И дальше тоже не хами, не изображай клоуна, не нарывайся, кореш.
Как скажите,вот так всегда,хочется как лучше,а получается как всегда!)))
Видишь ли, Игорь, в чём дело. Когда поднимается какая-то тема, обязательно найдутся один-два, а то и трое, которые чирикают не по делу. Вас таких сюда специально присылают? Если по теме сказать нечего, обязательно паясничать?
Но я тоже,за питье зеленного змия!
Только За!)))
Вот это уже другой разговор. С такими можно в любую разведку идти не страшно. А то пристаёшь к девушкам, старый хрыч.
Привычка,дело плохое!)))
Про чай и зависимость тут точно по делу.
Страшно представить: дедушки-разведчики идут в обнимку и песни поют по-тихому) А враг ничего не слышит, относится с пониманием.
Действительно не заменит
А он тебя помидорами закидает.
Какая еще душа в 21 веке, Андреич?
Почему за истекшую часть жизни вам так не удалось выяснить, что душа - это или сознание, или его высшие формы - мышление и речь.
Такая же, как и в 11-м. Теперь тебе вопрос. Сильно тебе скучно? Никто всерьёз не воспринимает? Сочувствую и соболезную.
Я тестирую нелогично мыслящих людей не с целью развеять скуку (монотонию), а с целью выяснения реакции того или иного человека, а также его способностей к логическому мышлению.
А для чего? Диссертацию пишешь?
Зачем вам выяснять мотивы моей деятельности? Составьте список гипотез и выберите самую вероятную из них, этого будет достаточно.
Любопытство - не порок. А что, трудно ответить? Или нечем? Гугл рухнул? Вроде бы нет, нормально работает.
Ваши реплики нелогичны, так как не учтены самые очевидные варианты. Это нежелание раскрывать мотивы или цели общения, либо их неизвестность самому участнику общения.
У живого человека в отличие от робота может не быть осознаваемой цели деятельности или ясных для него самого мотивов своего поведения.
Сознание управляет самыми сложными формами поведения, требующими постоянного внимания и сознательного контроля. Но многие поведенческие акты совершаются человеком на бессознательном уровне.
Это обыкновенное нежелание с тобой общаться, Николай. Мне ты не интересен. Если ищешь объект для общения, найди другой объект. Если ты это поймёшь, будешь молодца.
Сознательно достигни уровня осмысления мной сказанного и не липни к людям, если они не хотят с тобой общаться. Чего уж проще. Давай, успехов, осмысляй.
Здесь сайт такой, Андреич. Он похож на аквариум.
И на мудрого пескарика обязательно найдётся каракатица или морской чёрт (ёрш), к ним присоединяются рыбки-прилипалы, к прилипалам липнут рыбки-подсиралы. Получается не скучно.
А может пескарик дружить с каракатицей?
Вопросом на вопрос. А может Влад обходиться без подъ*бок?
Андреич, дятел что-то расчирикался. Оставим его
Дружить? Да они, наверное, уже вместе чай пьют и немножко сплетничают о безмозглых морских звездах. Ты еще спроси, может ли кактус подружиться с чайником — примерно такой же уровень совместимости.
Его надо поощрять к этому.
Надо. Пусть успокоится и не ворует сухарики из кормушки. Не ему сушили. Не напасёшься на дармоедов. Помните, я писал о своей звероферме? Так вот на ней дятлы лютуют.
Можно и поощрить. Не переборщить бы.
А вы что каракатица?
Даша-вертолётчица, здравствуйте! Приказываю удалить этот комментарий. Послушание - самое главное.
Поощрялка то есть?)
Пискарика и каракатицу Андреич посадил в один аквариум. Я тут ни при чём. Следи за логикой).
Да та,что весит 21 грамм!)))
У одного человека была пару килограмм. Поэтому и улететь не смогла, осталась. И он ожил.
Но и где этот человек,имеет ли он имя,а кем научно это было зафиксировано?
Фиксировали какие-то инопланетяне. Они его на борт тарелки забирали. Странно, что вы не слышали.
Люди всё ещё верят в религии, неудивителен в таком контексте и живучий миф про существование души.
Живучий, потому как не хотят умирать. Не заложено это желание в людях.
Значит идея о бессмертной душе всё же рухнула.
Хрен его знает. Это выражение в грубой форме, разговорно-сниженной, как любит это повторять Николя. Хрен его знает означает ничего не известно.
Так вот. Николя правильно загуглил и нашёл, что душа - это или сознание, или его высшие формы - мышление и речь. О чём я и сказал в своём комментарии: лучше надеяться на знания живого юриста, а не опираться на неодушевлённый ИИ.
Далее о бессмертной душе. Кто-нибудь видел эту душу, удалось ему на ощупь определить её материальность? Но тем не менее выдвигается, что она весит около 70 граммов и покидает тело умершего. Если это так, значит она бессмертна.
Рухнула эта идея или нет, не знаю. Если эта идея ложная, то и рушиться нечему.
А ты что скажешь?
Душа с древнегреческого звучит по-русски "психи" и означает само живое существо, а не некую субстанцию, отделяющуюся после смерти от тела. В Библии есть разные фразы типа "душа ...умрёт", также рыбы, животные, да и сам человек названы живыми душами. Психиатор, кстати, тоже лечит именно живых людей. На этом сайте существует статья, что даже есть психологи для кастрированных котов). Идею о бессмертной душе развил философ Платон. А философия дело очень мутное и противоречивое, впрочем как и большинство человеческих рассуждений.
Отсюда и наука психология.
Безоговорочно согласен. Спасибо за участие.
Даше это не понравилось. Помидором замазала.
Это привычно, но не страшно. Надо застирать "Новостью". Обычный порошок не возьмёт, а "Новость" любую грязь отмоет. Можно добавить кальцинированной соды, если её нет, то каустической, но только чуть-чуть, иначе штаны разъест и будешь ходить без штанов.
А что тогда замазано помидором?
Правильно. Возраст ещё не тот, чтобы в штаны ходить по нужде. Хотя... Всяко бывает. Этому все возрасты покорны при прочих равных условиях, то есть адекватных, если точнее.
Человек после смерти становится легче по вполне понятным причинам (уходит вода, и бывает не только она). Но для тех, кто его несёт будет казаться обратное, т.к. уже не работают мышцы и не держат больше скелет и органы.
Однако пишут, что человек испускает дух. Типа некое облачко покидает тело. 70 граммов воздуха - это не облачко, это уже облако. Ладно, хрен с ними, пусть разбираются кому надо. Мне не надо.
Я в это не верю, Андреич. Было время когда мода на сведения про НЛО была больше востребована, чем сейчас, буквально в каждом месте). Оказалось всё фейком, как и промежуточные скелеты от зверя к человеку).
Верить не обязательно. Чтобы во что-то или чему-то верить, нужны доказательства.
Вот и подошли к теории Дарвина, за которую ты мне вкатил двойку. "Зашло, не зашло". Не зашло и до сих пор не заходит. Будешь дальше спрашивать, что зашло, а что не зашло? Мне понравилось, как ты "прессовал" меня за мой возраст, там и твоя рыбка-подсирала проявилась. Она ко мне не равнодушна. Ей я категорически по́перек, всё норовит укусить насчёт возраста. Конечно, жаль, что молодость мелькнула, жаль, что старость коротка.
Итак, ещё чего ляпнуть? Ладно, хватит, пожалуй.
Помолодеть можно.
Или воинственный клич
Понятное дело, что ИИ не сравнится с живым юристом.
Верно
Да же сами нейросети при ответе на любой вопрос, требующий специальных познаний, в заключение пишут: "Проконсультируйтесь со специалистом" 🙂
Это да, хорошо, что они так пишут)
А фамилию специалиста не пишут.... 😏
Нет, считаю, что ИИ ещё не готов к таким задачам.
Но то, что его готовят к этому, сомнений нет.
Готовить - то готовят, но тогда надо оставить НПА в покое, а этого не будет, это нереально))) Дума же у нас по Конституции, а она и нужна для того, чтобы поправки вносить в законы)))
значит ИИ не сможет заменить юриста полностью, он помощник)
Дарья, Вас он точно не заменит! 😉
🤔 🤔 🤔 даже я в этом немного сомневаюсь. Ну хорошо, пусть будет по-вашему 🙃 😂
ИИ не может кидаться помидорами. Наука и техника еще не дошла до создания таких сверхсложных изобретений.... 😶