Изкуственият интелект промени света – какво трябва да знае всеки съдия

Има ли приложение изкуственият интелект в правосъдието? Какви възможности дава? Какви са рисковете при използването му? Кои са законовите рамки и етичните правила, които го регулират?

Тези въпроси бяха в основата на дискусията „Използване на изкуствения интелект (ИИ) в правосъдието“, организирана от Съюза на съдиите в България на 28 април във Велико Търново. Поканените лектори: проф. Георги Димитров от фондация „Право и интернет“, съдия Ивайло Йосифов, зам.-председател на Административния съд в Русе, съдия Линда Мари Бел от Върховния съд на щата Невада и проф. Стоян Ставру, главен редактор на експертната правна система „Лексебра“ – изнесоха презентациите си пред съдии и адвокати и предизвикаха силен интерес. 

Четиримата лектори посочиха: Изкуственият интелект вече промени света, влияе на решенията на хората, на действията им, на правните им отношения. Правосъдието вече е обект на влияние на големите езикови модели (LLM) – общодостъпният изкуствен интелект. Съдиите се нуждаят от непрекъснато ново знание, за да избегнат рисковете в бързо променящата се дигитална действителност и за да използват ИИ инструментите в работата си при стриктно спазване на европейските регламенти, законите и етичните норми. 

Ето кои бяха акцентите в лекциите на гостите: 

Европейската цифрова идентичност ще промени държавата

Европейският портфейл за дигитална идентичност (EUDI Wallet) ще е задължителен за всички държави от ЕС до края на 2026 г., информира проф. Димитров. Което повдига въпроса докъде е стигнал процесът по внедряването му в България. 

Дигитализацията не е само удобство, тя има огромен икономически ефект, спестява значителни разходи в човекочасове, които иначе се пропиляват – дори само при подаване на една молба в съда. С новите правила за електронната идентификация и удостоверителните услуги, въведени с Регламент 910/2014 г., концепцията за оригинал на документ изчезна, всеки е-документ е оригинал. Изземването на електронни доказателства в България се случва все още абсурдно с изземване на компютри, вместо с изземване на данните в тях, които представляват е-доказателствата. 

Европейската цифрова идентичност ще промени държавата, посочи проф. Димитров. Събирането на документи от различни институции, ще се случва само по електронен път, автоматизирано. Квалифицирани доставчици ще събират информацията и това ще е революция в начина, по който работи държавата. Не става въпрос за далечното бъдеще – стандартът ще е валиден за целия ЕС от 2030 г., когато 80% от гражданите му ще имат е-идентичност и съдът ще е длъжен да работи с нея.

На този фон изкуственият интелект също променя правната действителност. Ключовото при него е че, за да се избегнат халюцинациите му, изкуството е да се задават правилно въпросите (т.нар. промпт). 

Какво трябва да знае съдията:

• Моделите дават статистически най-вероятен отговор, не истината;
• ИИ генерира убедителни, но фактически грешни твърдения – особено LLM;
• Моделът наследява изкривяванията в данните и в проектирането му;
• „Черна кутия“ е – често не може да се проследи защо е дал даден отговор;
• Без качествени, представителни и актуални данни моделът е негоден.

ИИ е отличен помощник за транскрибиране на звукови файлове, автоматично заличаване на лични данни, машинен превод на документи, намиране на сходни казуси в съдебната практика.

Спорни и рискови използвания са: прогнозиране на риска от рецидив, на изхода на дела, на престъпността (заради неговата предубеденост – bias), използването на робот като съдия. 

Проф. Димитров формулира 6 препоръки към магистратите:

1. Бъдете критични.
2. Изисквайте обяснимост.
3. Защитете личните права.
4. Запазете си решаващата дума.
5. Внимавайте за deepfake.
6. Развивайте се.

Съдията е програмист, когато създава заданието

Дигиталната Темида е бъдещето, каза и съдия Ивайло Йосифов и даде ценни съвети как да се направи задание (промпт), който да улесни работата в правораздаването. Съдията е програмист, като задава промпта, удобно е да се създаде библиотека от запитвания. Най-добрите резултати идват след няколко запитвания, а не след единичен въпрос. ИИ е само инструмент за по-бърза и качествена работа на съдията. 

Техниките за формулиране на запитвания според съдия Йосифов са: 

П – Постави роля. Напр. „Ти си съдия във ВКС“.

Р – Разясни контекста. Напр. „Изготвяш мотиви по адм. дело по ЗДОИ.“

А – Адресирай задачата.

В – Въведи фактите.

О – Определи резултата. Напр. „Структурирай мотивите по следния начин…“

И – Изискай проверка. Напр. „Посочи възможните слабости в правния анализ.“

И – Итерация (повторение на операцията). Напр. „Прецизирай, разшири, провери.“

Съдия Йосифов обобщи опита си с 5 полезни примерни запитвания:

1. Структура на съдебни мотиви;
2. Проверка на аргументация;
3. Резюме на съдебен акт;
4. Аргументи за и против;
5. Проверка на правопис и стилистично изглаждане.

ИИ може да съветва, но никога не бива да решава

Халюцинациите на изкуствения интелект са най-големият проблем, на който се обръща внимание в САЩ, разказа съдия Линда Мари Бел от Върховния съд в Невада. Там са установени случаи, че съдии се позовават на несъществуващи дела, посочени от ИИ. Фалшивата информация стига до съдията най-вече през неговите секретари и помощници, затова са необходими ясни правила за използването на изкуствения интелект в правораздаването. И винаги трябва да се правят насрещни проверки.

Например е абсолютно забранено в професионалната дейност да се използват отворени източници на ИИ с оглед правната сигурност. Но дори в затворена система може да изтече информация. 

Съдия Бел изготви за участниците в дискусията етични стандарти, свързани с изкуствения интелект. Ето есенцията от тях:

• Използвайте ИИ само като източник на съвети.
• Ако ИИ се използва по начин, който ограничава независимостта, информирайте компетентните органи.
• Не допускайте прогнозите на ИИ да ви влияят така, че преценката ви да изглежда предрешена.
• Използвайте ИИ само когато можете да формулирате ясни, разбираеми мотиви.
• Отказвайте облаги, които могат да се възприемат като компромис с почтеността и безпристрастността. (Съдия Бел даде пример, че си плаща вечерите, когато е канена на събития, свързани с представяне на правни системи.)
• Строго разграничете служебната от личната употреба на технологиите. 
• Никога не използвайте ИИ инструменти за уронване на авторитета и репутацията на колеги.
• Използвайте ИИ за решаване на делата в разумен срок, но не за сметка на правилността на решението.
• Гарантирайте, че при използването на ИИ се спазват принципите за случайно разпределение. 
• Включете темата „Етика и технологии/ИИ“ в задължителното обучение за всички съдии. 

Хората грешим много повече от ИИ

Проф. Стоян Ставру представи пред аудиторията езиковия модел, интегриран в „Лексебра“, на която той е главен редактор. „Попитай Лексебра“ е продукт, създаден да отговаря на правни въпроси с висока точност, яснота и директни препратки към съдебната практика. 

„За разлика от други популярни системи с изкуствен интелект, нашият модел не „халюцинира” – той дава обосновани отговори, стриктно придържащи се към вече постановена практика на българските съдилища. В допълнение, към всеки отговор се прилагат и преки референции към цитираните съдебни актове, така че да знаете точно върху какво се базира анализът“, посочи проф. Ставру.

Според него няма как да не се включи ИИ в правните системи – би било ретро и неадекватно. Трябва обаче да се внимава с „високата калоричност“ на това, което ИИ дава, тъй като води до пристрастяване. Затова са необходими „диетични“ правни системи и въздържаност, контрол върху рамката.

Статията е прочетена: 24 пъти