OpenAI пуска детектор за фалшиви изображения

OpenAI обяви, че разработва нов инструмент за откриване на генерирани от изкуствен интелект снимки. Компанията работи и върху устойчиви на подправяне водни знаци, с които могат да се маркират създадени с помощта на AI аудиоклипове.

С тази инициатива нашумелият през последните години стартъп се присъединява към усилията на индустрията за откриване на фалшивото съдържание в интернет. Въпреки това компанията признава, че новият набор от инструменти е само малка част от мерките, които ще са необходими за борба с т.нар. дълбоки фалшификати (deepfakes) през следващите месеци и години.

OpenAI обяви, че ще сподели новия си детектор за дълбоки фалшификати с малка група изследователи на дезинформацията. Това е част от усилията ѝ да тества инструмента в реални ситуации и да определи начините, по които той може да бъде подобрен.

Сега детекторът може да идентифицира правилно 98,8% от изображенията, генерирани с помощта на DALL-E 3 - последната версия на генератора на изображения на OpenAI. В същото време, инструментът не е предназначен за откриване на снимки, създадени от други популярни генератори като Midjourney и Stability.

OpenAI заяви също, че разработва "водни знаци" за аудиоклипове, генерирани от AI, за да могат лесно да бъдат идентифицирани. Компанията започна да добавя такива маркери към клиповете в нейната платформа за преобразуване на текст в реч - Voice Engine.

Противопоставяйки се на фалшивото съдържание в интернет, OpenAI се присъединява и към Коалицията за доказване автентичността на съдържанието (Coalition for Content Provenance and Authenticity, C2PA). Основан през 2021 г. от Microsoft, Adobe, Intel и BBC, този съюз има за цел да разработи технически стандарт, позволяващ на издателите, създателите и потребителите да проследяват произхода и историята на различни видове медийно съдържание.

Ако например създадете изображение с Photoshop, Adobe добавя метаданни към него, които идентифицират датата на създаването му, софтуера и всички редакции, направени в него. Така всеки може да проследи неговия произход, включително дали е създаден с помощта на изкуствен интелект. Присъединявайки се към C2PA, OpenAI одобрява този основан на метаданни подход за различаване на истинското от фалшивото съдържание в интернет.

Други големи технологични компании също се включват в тези усилия. През март YouTube добави възможност създателите на видеоклипове да могат да ги обозначават като генерирани от изкуствен интелект. Миналия месец Meta последва примера с подобен подход за маркиране на съдържанието в платформите ѝ.