С все по-голямото разпространение на технологиите и решения с изкуствен интелект (AI) се появяват и много възможности за използването им от страна на престъпници. В този ред на мисли, тази седмица ФБР предупреди за нарастващата употреба на AI за генериране на фалшиви сексуални клипове, които се използват в схеми за изнудване. Това включва и малолетни, които биват принудени да плащат откупи или да изпълняват други искания.

Разбира се изнудването със сексуални материали не е новост, като включва изискването на заплащане, за да не бъдат публикувани онлайн снимки или клипове, които са придобити по един или друг начин. Заплахата е в очернянето на засегнатите хора през обществеността, а темата е добре засегната и в множество шпионски филми. В някои случаи изображенията са реално и придобити чрез хакване или близък до жертвата човек. Понякога разбира се измамниците блъфират, като нямат материали, а само заплашват с разпространението на такива.

Ако съдържанието е реално, жертвите получават доказателство за това, като се изисква плащане, в противен случай заплахата е за разпространението на материалите онлайн до семейство, приятели и колеги. Ако жертвата изпрати като заплащане изображения или видео, те биват използвани за продължаване на процеса. През изминалите месеци обаче ФБР наблюдава ръст в използването на AI за генериране на фалшиви клипове, които привидно показват реални хора в сексуални действия.

От Бюрото споделят, че продължават да получават доклади от жертви, включително и малолетни, чиито снимки са променени в сексуално съдържание. Снимките и клиповете биват публикувани в социални мрежи и порнографски сайтове за целите на изнудването. Обичайните изисквания са за плащания под формата на пари или подаръчни карти, както и за изпращане на реално сексуално тематични снимки или клипове.

Онлайн има множество софтуерни и облачни решения за създаване на този тип видео съдържание (deepfake), които са с отворен код или достъпни чрез абонамент. С напредъка от последните години качеството на съдържанието се подобрява драстично, като вече дори само със снимка на лице могат да се създават реалистични клипове.

Повечето решения за създаване на deepfake съдържание включват поне някакъв тип защити с цел предотвратяване на злоупотреби. Това включва вградена проверка, с която се подсигурява, че не се работи с неуместно съдържание. На практика обаче тези мерки могат лесно да бъдат заобиколени, а дори има услуги и без ограничения.

Измамниците често добиват снимки на жертвите си от социалните мрежи или от други онлайн източници. Преработеното съдържание се изпраща директно към жертвата или биват открити в Интернет. След това свалянето им е доста сложен процес. От ФБР приканват хората да използват предпазни мерки срещу споделянето на изображения и клипове онлайн. Разбира се всеки може сам да се предпази, но така до голяма степен се обезсмисля идеята на социалните мрежи.