Върховният съд на САЩ предупреди за опасностите от AI в юридическата сфера

С все по-значителното навлизане на технологиите с изкуствен интелект (AI) е нормално да има и повече притеснения за това как те ще се отразят на живота ни. Сега върховният съд на САЩ адресира използването на AI в съдебната система като потвърждава потенциала, но и предупреждава от възможността за дехуманизиране на закона.

Институцията публикува доклада си за изминалата година, включващ преглед в 13 страници на правната система на САЩ. Посочва се, че едно от големите предизвикателства пред федералната съдебна система е AI, а дори има сравнение на машинното обучение с предходни технологични скокове, включително въвеждането на компютрите. Посочва се, че AI може да помогне на тези, които не могат да си позволят адвокат. Технологията предлага достъпни инструменти, включително в помощ за доста базови въпроси.

Все пак обаче трябва да се има предвид и това, че системата изисква и човешка оценка, за да не се стигне в крайна сметка до незадоволително резултати. Това е на фона на това, че моделите често съдържат непреднамерено пристрастие. В криминалните случаи това може да е риск от бягство, рецидив и други сходни по смисъла възможности. Към момента все още хората, въпреки многото си недостатъци, са по-справедливи отколкото машините.

Посочва се обаче, че AI може да помогне за по-бързото и евтино разрешаване на някои типове случаи, но не и за всички ситуации. Интересно е заключението, че поне в базовите нива юридическата работа ще бъде повлияна значително от ИИ. Разбира се разбирането на технологиите от страна на професионалистите все още изостава значително от бързото им развитие.

Миналата година например двама адвоката бяха глобени за това, че цитират несъществуващи дела след като са използвали ChatGPT. Чатботът изцяло си е измислил шест дела, които след това са използвани от адвокатите, за да подкрепят доводите си. Друг адвокат наскоро също беше хванат да цитира фалшиви дела, тъй като не си е направил труда да направи ръчна проверка след като клиентът му ги е генерирал с Google Bard.
Правени са и опити за използване на чатботове за генериране на законови аргументи, но засега те не могат да бъдат въведени на практика. Изкуствен интелект се използва и за създаване на закони.

В крайна сметка, със сигурност може да има някои възможности за използване на алгоритми за машинно обучение в съдебната сфера. Въпросът е дали е възможно те да бъдат изчистени от възможностите за генериране на грешни и дехуманизирани решения. В момента поне безрезервното разчитане на ИИ за някои по-ключови задачи носи много рискове.