OpenAI въвежда текстови воден знак в ChatGPT и Codex

OpenAI ще внедри в своите AI-услуги ChatGPT и Codex системата от невидими водни знаци textGrain за генериране на текст. На първия етап технологията ще бъде достъпна само за потребителите от Европейския съюз. Според компанията това трябва да повиши прозрачността и качеството на взаимодействието с крайните потребители.

Според OpenAI технологията за поставяне на „воден знак“ textGrain е показала резултати, „съпоставими и дори превъзхождащи“ показателите на другите методи, като например SynthID за текст на Google DeepMind. Последният, от своя страна, също е послужил като основа за системата за маркиране, обявена от компанията Anthropic през август. Подобно на OpenAI, компанията Anthropic внедрява тази функция, за да отговори на изискванията на Закона на ЕС за изкуствения интелект.

OpenAI също така представи резултатите от тестовете на бенчмаркове за AI, които демонстрират сходна ефективност на моделите с и без „воден знак“. В същото време OpenAI заявява, че textGrain „не гарантира надеждно откриване“, а самите текстови водни знаци не потвърждават фактическата точност на информацията, не определят собственика на текста, не измерват степента на човешко участие и не служат като доказателство за човешко авторство.

Въвеждането на текстовите „воден знаци“ в ЕС за ChatGPT и Codex започва през следващите седмици. Нововъведението ще се използва при всички тарифни планове на тези услуги. Преди глобалното пускане компанията иска да натрупа опит от реалното използване на системата и да вземе предвид обратната връзка от потребителите. Затова първоначалното пускане ще бъде регионално.

OpenAI съобщава, че от днес потребителите на нейния API по целия свят могат по свое желание да активират функцията за поставяне на „воден знак“ върху текстовия резултат за редица AI модели. Компанията също така сътрудничи с множество партньори в областта на облачните услуги, за да направи функцията за „воден знак“ достъпна през следващите седмици в резултатите от работата на моделите на OpenAI, предоставяни чрез техните услуги.

Одобрените изследователи и специализирани организации могат да подадат заявка за достъп още днес. В съответствие с Кодекса за добри практики достъпът през началния етап ще се предоставя на индивидуална основа, за да се подпомогне оценката и усъвършенстването на методите за проследяване на произхода на текста. Инструментът ще съобщава за наличието или липсата на воден знак на OpenAI, без да идентифицира потребителя и без да разкрива съдържанието на неговите заявки и диалози.

Въвеждането на невидими водни знаци от страна на OpenAI е голяма стъпка към регулирането на генерираното от алгоритми съдържание в интернет. Тази промяна подчертава, че границата между написаното от човека и от машината става все по-прозрачна за съвременните софтуерни инструменти за проверка и сигурност.