Адвокат беше санкциониран заради измислени от ChatGPT свидетели

Върховният съд на американския щат Ню Мексико призна адвокат за виновен в неуважение към съда, след като той е внесъл документ с измислени свидетели, несъществуващи показания и неточно представена съдебна практика. Част от невярната информация е била генерирана от ChatGPT.

Адвокатът Стивън Аарънс е представлявал Оскар Рене Сандовал при обжалването на присъда за убийство. Сандовал е осъден на доживотен затвор през февруари 2025 г. за убийството на своята партньорка и майка на децата му Шиерин Ал-Джибури.

През август 2025 г. Аарънс подал писмена защита, в която били включени показания на няколко несъществуващи свидетели. Сред тях са посочени полицейски служители и други лица, които никога не са били разпитвани по делото. Документът съдържал и измислени твърдения от реални свидетели, включително за получени заплахи и външния вид на извършителя.

Аарънс признал, че е предоставил на ChatGPT компютърно генерирана стенограма от процеса заедно с други материали по делото. След това използвал получения текст, без да провери подробно фактите и цитираните правни източници. По думите му той предполагал, че системата ще създаде надеждно резюме на производството, и не знаел, че генеративният изкуствен интелект може да създава неверни факти.

Съдът не приел това обяснение. Магистратите посочили, че отговорността за съдържанието остава на адвоката, който подписва и внася документа, независимо дали той е подготвен с помощта на AI, младши юрист или друг сътрудник. Според съда неточното описание на реално съдебно решение не се различава съществено от позоваването на изцяло измислен казус, когато резултатът е подвеждане на институцията.

Допълнителни критики предизвикал фактът, че адвокатът не е информирал подробно своя клиент за използването на ChatGPT и мащаба на грешките. В решението се посочва, че Аарънс е показал недостатъчна загриженост за последиците върху подсъдимия, чието обжалване се забавя.

Съдът наложил глоба от 5000 долара, която трябва да бъде внесена във фонда за защита на клиентите към адвокатската колегия на Ню Мексико. Аарънс няма да може да се явява пред върховната съдебна инстанция на щата до приключването на дисциплинарното производство. Всички внесени досега писмени защити по делото са заличени, а на публичната защитна служба е възложено да назначи нов адвокат. Разглеждането на жалбата ще продължи през съдебния период 2026–2027 г.

Аарънс заявява, че съжалява за допуснатото и определя случая като предупреждение към професионалистите, които използват генеративен AI. Съдът от своя страна подчертава, че проблемът не е самото използване на технологията, а подаването на непроверена информация.