Тест - може ли да разпознаете фалшиви изображения

Когато се появиха първите AI генератори на изображения, дезинформацията веднага се превърна в основен проблем. Въпреки че многократното излагане на изображения, генерирани от изкуствен интелект, може да изгради известна резистентност, неотдавнашно проучване на Microsoft показва, че някои видове истински и фалшиви изображения все още могат да заблудят почти всеки.

Проучването установи, че хората могат правилно да разграничат истинските снимки от тези, генерирани от AI, в около 63% от случаите. За разлика от тях инструментът на Microsoft за откриване на AI изображения, който е в процес на разработване, постига 95% успеваемост.

За да проучи по-подробно този въпрос, Microsoft създаде онлайн тест (realornotquiz.com), включващ 15 произволно избрани изображения от библиотеки със стокови снимки и различни AI модели. В проучването са анализирани 287 000 изображения, разгледани от 12 500 участници от целия свят.

Участниците са били най-успешни при разпознаването на изображения на хора, генерирани от ИИ - 65% точност. Въпреки това най-убедителните фалшиви изображения са били дийпфейковете на GAN, които са показвали само лицеви профили или са използвали окраска, за да вмъкнат елементи, генерирани от изкуствения интелект, в реалните снимки.

Въпреки че е една от най-старите форми на изображения, генерирани от изкуствен интелект, дийпфейковете на GAN (Generative Adversarial Networks) все още заблуждават около 55% от зрителите. Това отчасти се дължи на факта, че те съдържат по-малко детайли, които генераторите на изображения обикновено се затрудняват да възпроизведат. По ирония на съдбата приликата им с нискокачествените снимки често ги прави по-достоверни.

Изследователите смятат, че нарастващата популярност на генераторите на изображения е направила зрителите по-наблюдателни към прекалено гладката естетика, която тези инструменти често създават. Подканянето на изкуствения интелект да имитира автентична фотография може да помогне за намаляване на този ефект.

Някои потребители са установили, че включването на общоприети имена при файловете с изображения в подканите дава по-реалистични резултати. Въпреки това повечето от тези изображения все още приличат на полирани снимки със студийно качество, които могат да изглеждат неуместни в случайни или откровени контексти. 

Участниците са имали малко по-малък успех при идентифицирането на генерирани от AI изображения на природни или градски пейзажи, които не включват хора. Така например двете фалшиви изображения с най-ниска степен на идентифициране (21% и 23%) са генерирани с помощта на подсказки, които включват реални снимки за насочване на композицията. Най-убедителните изображения с изкуствен интелект също така поддържат нива на шум, яркост и ентропия, подобни на тези, които се срещат в реалните снимки.

Изненадващо, трите изображения с най-ниски нива на идентификация като цяло: 12%, 14% и 18%, всъщност са истински фотографии, които участниците погрешно определят като фалшиви. И на трите са изобразени американски военни в необичайна обстановка с необичайно осветление, цветове и скорости на затвора.

От Microsoft отбелязват, че разбирането на това кои подкани е най-вероятно да заблудят зрителите може да направи бъдещата дезинформация още по-убедителна. Компанията изтъква проучването като напомняне за важността на ясното етикетиране на изображенията, генерирани от изкуствен интелект.