Според последното проучване на фондация Mozilla, известно като проекта “Privacy Not Included”, романтичните чатботове с изкуствен интелект събират изключително много лична информация и почти всички продават или споделят събраните данни.

Изследването обхваща 11 чатбота, включително популярни приложения като Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate и CrushOn.AI и др., които до момента са изтеглени повече от сто милиона пъти. За тях изследователите установяват, че събират огромни количества данни за хората; използват проследяващи устройства, които изпращат информация на Google, Facebook и др. компании; позволяват на потребителите да създават слаби пароли; липсва прозрачност относно собствеността им и моделите на изкуствен интелект, които ги захранват и др.

Проучването показва, че 90% от романтичните чатботове могат да продават или споделят данни за потребителите за таргетирани реклами и други цели. А повече от половината не позволяват събраната от тях информация да бъде изтрита. Тези данни включват лична и интимна информация, включително сексуални предпочитания, употреба на лекарства и др.

Само едно приложение (Genesia AI Friend & Partner) е отговорило на минималните стандарти за сигурност на Mozilla. Фондацията разкрива, че повечето компании имат слаби практики за сигурност при създаването на пароли. Изследователите например са успели да създадат парола само с един символ и да я използват за влизане в приложението Anima AI, което предлага "приятелки с изкуствен интелект”. Други платформи на романтични чатботове по подобен начин са позволили кратки пароли, което потенциално улеснява хакерите да проникват в акаунтите на хората и да получават достъп до данните от чата.

Изследването установява още, че приложенията за приятелки с изкуствен интелект са използвали средно по 2663 тракера на минута. Услугата Romantic AI например, която позволява на потребителите да си създадат “своя собствена приятелка с изкуствен интелект", в политиките си за поверителност посочва, че няма да продава данните на хората. Въпреки това, когато изследователите тествали приложението, установили, че то “изпраща 24 354 рекламни проследявания в рамките на първата минута от използването му".

Вивиан Та-Джонсън, доцент по психология в Лейк Форест Колидж, информира, че разговорите с чатботове могат да накарат някои хора да се чувстват по-комфортно да обсъждат теми, които обикновено не биха повдигнали пред други хора. Въпреки това Та-Джонсън подчертава, че ако дадена компания прекрати дейността си или промени начина, по който работят нейните системи, това може да бъде "травмиращо" за хората, които са се сближили с чатботовете. "Тези компании трябва да се отнасят сериозно към емоционалните връзки, които потребителите са изградили с чатботовете, и да разберат, че всякакви големи промени във функционирането им могат да имат сериозни последици" - посочва Та-Джонсън.

Експертите от фондация Mozilla предупреждават, че хората трябва да бъдат предпазливи при използването на романтични чатботове и да възприемат най-добрите практики за сигурност. Това включва използването на силни пароли, да не се вписват в приложенията чрез Facebook или Google, да изтриват лични данни като имена, местоположение, възраст и др., както и да отказват събирането на такива, когато това е възможно.