Google улеснява проверката на AI съдържание с новия сайт SynthID

Google обяви глобалното разпространение на обновения си детектор SynthID, който проверява изображения, видео и аудио за невидими водни знаци, поставени от AI системи. Инструментът вече има собствен сайт — SynthID.com, и разпознава обозначенията на партньорски компании, а не само тези на Google.

SynthID вгражда невидим сигнал в пикселите на генерирани изображения и видеоклипове, както и в звуковата вълна на AI аудио. Така съдържанието може да бъде обозначено като създадено или редактирано с изкуствен интелект, без да се добавя видим надпис. По данни на Google чрез Gemini технологията вече е приложена към над 180 млрд. изображения и видеоклипове, както и към аудио с обща продължителност 240 000 години.

Досега потребителите извън програмата за доверени тестери на Google можеха да проверяват за SynthID чрез Gemini. Това изискваше разговор с асистента, а отговорите невинаги даваха достатъчно ясно заключение. Отделно, предишният детектор разпознаваше само водните знаци на Google, въпреки че технологията се използва и от други разработчици.

Новият сайт обединява проверките за различните водни знаци на партньорите в SynthID, включително OpenAI, Nvidia и Kakao. Предстои добавяне и на Apple. Това означава, че например изображения от ChatGPT с такова обозначение вече могат да бъдат разпознавани от инструмента на Google. Резултатът показва дали е открит воден знак, свързан със създаването или редактирането на файла. Публичната версия обаче не маркира конкретните области от изображението, в които е намерен сигналът.

За използване на услугата е необходимо влизане с Google, OpenAI или Apple акаунт. Google посочва дневен лимит от приблизително 10 проверки на изображения, видео и аудио за всеки потребител. Според инженери на компанията ограничаването на достъпа цели да затрудни разработването на инструменти за премахване на водните знаци чрез многократни проверки.

Основното ограничение е, че SynthID търси конкретно обозначение, а не всички възможни признаци за AI произход. Някои разработчици използват различни технологии за водни знаци, докато други не поставят такива. Модели, които могат да се изпълняват локално, също позволяват създаване на реалистично съдържание без SynthID. Затова липсата на открит воден знак не доказва, че дадено изображение, видео или аудиозапис е автентичен.

Обновеният детектор улеснява проверката на съдържание от няколко големи AI платформи, но резултатът трябва да се разглежда в контекст. Той може да потвърди наличието на поддържан воден знак, без да гарантира произхода на всеки файл или да замени проверката на източника.