Google създаде „воден знак“, който да маркира всякакво AI съдържание

Създаденото от изкуствен интелект (AI) съдържание се увеличава и става все по-трудно да разпознаване. Изображенията са много реалистични, а постепенно и генерираното от AI видео е много по-качествено.

Един от големите проблеми на AI съдържанието е, че се използва и за злоупотреби. Създават се фалшификати, които се представят за реални изказвания, събития и ситуации – т.нар. deep fake. С подобряването на реалистичността на deep fake съдържанието, както и неговото количество, се създава риск за изкривяване на фактологията и дори представата на хората за действителност и на какво да се доверят.

Затова ИТ индустрията работи по различни техники за превенция на разпространението на deep fake съдържание или най-малкото за неговото разпознаване. Google е създала технология, която нарича SynthID и сега я отваря за използване от цялата индустрия, съобщава Ars technica.

SynthID може да разполага виртуален воден знак в AI съдържанието, без значение дали то е аудио, видео или изображения. Знакът е незабележим от хората, но алгоритъмът на технологията може да го засече моментално и така да сигнализира, че дадено съдържание е обработвано от AI.

Технологията е изработена така, че да внедрява водния знак още в процеса на генериране на съдържанието. Това не позволява премахването му в последствие.

Разработката може да се използва и за разпознаване на генериран от AI текст. При текст обаче е по-трудно запазването на знака, тъй като текстът може да бъде модифициран, променян по дължина и т.н. Затова прецизността на разпознаване на обработван от изкуствен интелект текст ще е по-ниска.

Google е провела множество тестове с технологията, за да провери точността ѝ и как внедряването на водния знак се отразява на разнообразието и креативността на изкуствения интелект. Засега резултатите показват, че през заявките на потребителите на Gemini, сред 20 млн. отговора, потребителите показват едва 0,1% повече положителни и само 0,2% по-малко отрицателни реакции на полученото съдържание, когато има маркер от SynthID. Това означава, че хората на практика не виждат разлика в качеството на съдържанието, но то може да бъде засечено от системите, което е основната цел на проекта.

Тестовете за успешното засичане на маркерите от алгоритмите също са с положителни резултати. SynthID може да бъде засечен дори в текст, много по-често спрямо досегашните технологии за воден знак – близо 100% точност при по-дълги текстове от 400 токена, спрямо 40% при текстове от 100 токена за предишната система Gumbel.

Всичко това е чудесно, но разбира се, има и уловка. SynthID не е задължителен стандарт. Никоя компания няма задължението да го използва и прилага. Амбицията на Google е той да бъде приет от повечето AI платформи, тъй като е с отворен код и е прецизен. Но дори и така, винаги е възможно да бъде направен и използван алгоритъм, който не следва стандарта.