Как да не позволим на изкуствения интелект да открадне гласа ни

Технологиите за клониране на глас се развиват с бързи темпове и вече са достатъчно убедителни, за да заблудят много хора. Дори и съвсем кратък аудиоклип (в рамките на три секунди) с вашия глас е достатъчен на кибер престъпниците да го клонират с помощта на изкуствен интелект (AI) и да го използват за свои цели.

Ето защо експертите по киберсигурност призовават хората да бъдат предпазливи и да избягват подозрителни телефонни обаждания, както и да не споделят гласови записи онлайн. Според предупрежденията, телефонните измамници крадат и клонират гласовете на нищо неподозиращи жертви, за да възпроизведат самоличността им, да създадат аудио фалшификати и да изнудват близките им за пари.

Зачестилите подобни измами привличат вниманието на властите, институциите и групите за защита на потребителите по света. Според проф. Моника Уити, ръководител на катедрата по софтуерни системи и киберсигурност в университета Монаш, досега основният проблем са били хора, които се обаждат и се опитват да получат личната ни информация или да ни убедят да платим за нещо. Най-новата заплаха обаче е свързана с възможността някой да се опита да извлече отделни части от гласа ни, които след това могат да бъдат използвани за обучение на изкуствен интелект, така че да звучи точно като нас.

Въпреки че телефонните измами не са нещо ново, експерти като проф. Уити подчертават, че технологичният напредък е допринесъл за тяхното усъвършенстване и разнообразяване. Шахриар Кайсар, ръководител на катедрата по информационна сигурност в университета RMIT, посочва, че разпространението на системи за изкуствен интелект като ChatGPT е довело до усъвършенстване на тези измами до "много различно ниво, при което е станало много трудно да се направи разлика между това, което е истинско и което не е".

Експертът пояснява, че престъпниците могат да събират гласови проби и от видеоклипове, качени в YouTube, TikTok и други социални мрежи. Събраните данни се въвеждат в системата, където се разчленяват на милиарди милисекунди или наносекунди. Целта е да се създаде нов глас, който звучи точно като истинския и би могъл да бъде разпознат от други хора като автентичен.

Кои са жертвите?

Саймън Кенеди, президент на Австралийската асоциация на озвучаващите актьори (AAVA), често се сблъсква с истории на хора, пострадали от аудио фалшификати. Той е част от индустрия, която е силно засегната от тази развиваща се технология.

Експертът разяснява, че често хората се свързват с него, защото са разбрали, че гласът им е бил използван без тяхно съгласие в YouTube видеоклип, с който нямат нищо общо. Той се опитва да въведе закони и разпоредби, които да спрат подобни измами.

Работейки заедно с AAVA, Кенеди разговаря с австралийски парламентаристи, като настоява, че трябва да бъде обявено за незаконно някой да прави синтетичен клонинг на гласа на хора без тяхното съгласие - действие, което потенциално може да засегне всеки, не само озвучаващите актьори.

Видео и аудио дълбоките фалшификати могат да се използват и за нещо повече от финансови измами и използване на безплатна работна ръка. Експертите предупреждават, че има още няколко злонамерени начина, по които тази технология може да бъде използвана, включително и за клевета и разпространение на слухове в политически контекст.

Кенеди е на мнение, че проблемът е толкова сериозен, че дори може да предизвика напрежение между държавите на национално ниво. Експертът посочва за пример deepfake видео, в което украинският президент Володимир Зеленски приканва войниците си да оставят оръжията и да се предадат на Русия.

Как да се предпазим?

Според проучване на компанията за онлайн защита McAfee, почти една четвърт от британците вече са се сблъсквали с подобни измами, свързани с AI гласови фалшификати или познават някой, който е пострадал от тях. А 78% са загубили пари, след като са станали жертва на клониране на гласа им.

Специалистите предупреждават, че за да се предпазят, хората трябва да внимават за съдържанието, което споделят онлайн, особено когато става въпрос за лични видеоклипове и аудио записи. Уити съветва всички да сведат до минимум времето, прекарано в разговори с подозрителни или непознати лица. Препоръчително е да отговаряте на телефонни обаждания само от контакти, които познавате.

Старши изследователят по сигурността в McAfee Оливър Девън обяснява, че измамниците използват AI технологията за клониране на гласове, като разчитат на емоционална манипулация, сценарии на силен стрес и кратки срокове. Много често целта им е да окажат натиск и да накарат родителите да предадат пари, като възпроизвеждат гласовете на децата им чрез обаждане, гласова поща или гласово съобщение в WhatsApp.

В повечето случаи, за които експертите научават, измамникът казва, че детето е претърпяло тежък инцидент, например автомобилна катастрофа, и спешно се нуждае от пари. Той залага на това, че родителят ще се притесни за детето си, ще се остави на емоциите и ще изпрати пари, за да му помогне.

Съвети за защита

Лаура Канкаала, ръководител на отдела за разузнаване на заплахите на F-Secure, споделя съвети за разпознаване на онлайн измами и какво трябва да знаете, за да не станете жертва.

Тя обръща внимание на това, че изкуственият интелект е интелигентен, но не може да възпроизведе личните взаимоотношения между хората. Ето защо, ако се съмнявате, че попадате в измама, може да попитате нещо лично и уникално. Например: "Как се казва първото ви плюшено мече?" или "Колко счупвания имате и как?".

Избягвайте да питате "Какъв е адреса ви?" или "Как се казва първият ви домашен любимец?", тъй като измамниците могат да получат достъп до този вид информация, която често се въвежда онлайн.

Добър съвет е да си измислите тайна парола с членовете на семейството си. Трябва да се отбележи обаче, че в случай на реална опасност детето ви може да не си спомни или да не каже паролата на глас. Така че това може да не е най-надеждният вариант.

Дори ако обаждането, което получавате, изглежда като да идва от телефонния номер на детето ви, не се доверявайте, защото той също може да бъде клониран. Това е известно като “подмяна на номера” и е често използвана тактика от измамниците, тъй като насърчава хората да се доверят на обаждащия се.

Ако сте получили обаждане и подозирате, че то не е истинско, кажете, че ще се свържете отново и затворете. Телефонният номер може да бъде фалшифициран за входящи повиквания, но не и за изходящи. Затова използвайте телефонния си указател и се обадете на детето си, за да потвърдите, че разговаряте с него.

Никога не предоставяйте банкови данни по телефона или чрез съобщения (електронна поща), дори и при законни обстоятелства, тъй като това увеличава риска някой да злоупотреби или случайно да изтече чувствителната ви информация.

Информираността е най-добрата форма на превенция - след като сте наясно с подобни измами, можете бързо да откриете предупредителните сигнали и да действате адекватно. Споделете тези съвети с членовете на семейството си - особено с по-възрастните роднини, които може да не са добре запознати с новите технологии и опасностите, свързани с тях.