Създателите на ChatGPT от OpenAI признаха, че са разработили вътрешни инструменти за поставяне на водни знаци и за проследяване на съдържанието, генерирано от популярния чатбот. Според The Wall Street Journal, този софтуер има точност от 99,9 процента. Въпреки това, компанията отказва да го сподели публично поради няколко опасения.

Едно от тях е свързано с проучване, проведено през април 2023 г., което установява, че 30% от потребителите на OpenAI ще спрат да използват ChatGPT, ако тя започне да внедрява водни знаци, а конкурентна компания не го направи. Както пише изданието, това проучване е "натежало" в дискусиите за масовото пускане на инструмента за откриване и маркиране на създаденото от ChatGPT текстово съдържание.

Детекторът за ChatGPT текстове

Разработеният от OpenAI инструмент добавя шаблон към начина, по който големият езиков модел (LLM) записва своите резултати. Този шаблон позволява на компанията да открива кога ChatGPT генерира определено съдържание, като в същото време това остава незабележимо за хората.

Въпреки че софтуерът на OpenAI е много ефективен за откриване на съдържание, генерирано от ChatGPT, той не може да работи с текстове на други големи езикови модели, като Gemini AI или Llama 3.

Предизвикателствата

Освен това, тази техника може лесно да бъде заобиколена чрез различни методи. Един такъв метод включва използването на Google Translate за преобразуване на съдържанието на ChatGPT в друг език и след това обратно на същия. Това ефективно премахва водния знак, поставен от инструмента на OpenAI.

Достатъчно е също да помолите друг изкуствен интелект да преформулира изцяло текста, което също ще разбие детектора на компанията. От OpenAI също заявиха, че желаещите да заобиколят инструмента могат да "вмъкнат специален символ между всяка дума и след това да изтрият този символ".

Компанията се сблъсква с друго голямо предизвикателство по отношение на широкото внедряване на детектора за ChatGPT текстове. То е свързано с възможността потребителите да обърнат инженерството на технологията за поставяне на водни знаци и да пуснат разширение или приложение, което да я неутрализира.

Това потенциално би позволило на всеки да заобикаля системата за поставяне на водни знаци на OpenAI, подкопавайки усилията на компанията да наблюдава и контролира използването на нейния изкуствен интелект.