Google улеснява проверката дали дадено съдържание е генерирано от AI

Тъй като става все по-трудно да се разграничат генерираните от изкуствен интелект изображения, видеоклипове и аудиозаписи от автентичните, Google предоставя на интернет потребителите нов начин да проверяват съдържанието, с което се срещат онлайн, съобщава MakeUseOf. Компанията направи своя инструмент SynthID Detector достъпен за хората, като позволява на всеки да проверява поддържаните медийни файлове за наличието на невидими водни знаци, указващи, че са създадени с помощта на изкуствен интелект.

Инструментът, който досега беше достъпен само за ограничена група журналисти, изследователи и други медийни специалисти, вече е наличен в световен мащаб на английски език. Потребителите могат да качат изображение, видео или аудио файл и да проверят дали съдържат SynthID – технологията на Google за поставяне на воден знак с цел идентифициране на съдържание, генерирано от изкуствен интелект.

Системата работи по различен начин от инструментите, които се опитват да установят дали дадено съдържание изглежда или звучи изкуствено. Вместо да разчита единствено на визуални дефекти, неестествени движения или съмнителни аудио характеристики, SynthID търси незабележим воден знак, вграден в медийния файл по време на генерирането му. Този воден знак е проектиран така, че да се запази дори след обичайни модификации, включително компресия и промени във външния вид на изображението.

Google представи SynthID през 2023 г. и оттогава разшири обхвата на технологията отвъд изображенията, включвайки видео и аудио. Според компанията тя е използвана за поставяне на воден знак върху над 180 милиарда изображения и видеоклипове, както и върху аудиосъдържание, равняващо се на приблизително 240 000 години записи.

Важен аспект от публичното внедряване е поддръжката на съдържание, генерирано от участващи партньори. От Google посочват, че детекторът може да разпознава SynthID в съдържание, създадено чрез собствените инструменти на компанията с изкуствен интелект, включително Gemini, Nano Banana, Veo и Lyria, както и чрез поддържани системи на OpenAI, NVIDIA и Kakao. Очаква се в бъдеще към инициативата да се присъедини и Apple.

Детекторът поддържа различни често срещани файлови формати, включително изображения (JPG, PNG, WebP), видеоклипове (MP4, MOV) и аудиофайлове (MP3, WAV). Това го прави полезен за проверка на съмнителни файлове, споделяни чрез приложения за съобщения, социални мрежи или други онлайн източници.

Google също така разширява достъпа до функции за проверка чрез своята по-широка екосистема. Компанията съобщава, че вградените инструменти за проверка в търсачката, Gemini и Chrome вече обработват над един милион заявки дневно.

Макар публичното пускане на SynthID Detector да бележи важен етап по отношение на дигиталната прозрачност, експертите по киберсигурност подчертават наличието на определени ограничения. Инструментът разпознава единствено съдържание, маркирано със съвместими технологии. Медийни файлове, създадени от по-малки модели или от специализирани модели с отворен код, които не съдържат вградени водни знаци, ще останат незасечени. От Google отбелязват, че резултатите следва да се тълкуват като технически индикатори, а не като категорични доказателства за автентичност, тъй като при сложни манипулации водните знаци понякога могат да бъдат премахнати.

И все пак инструментът е полезен за най-масовото AI съдържание, което се разпространява все повече в социалните мрежи. Може да проверите съдържанието от тук.