OpenAI е засякла пет кампании за манипулация чрез алгоритмите ѝ

Стоян Ненов Последна промяна на 02 юни 2024 в 12:57 24473 0

OpenAI

Снимка Sanket Mishra/Pexels

OpenAI е засякла пет кампании за манипулация чрез алгоритмите ѝ

OpenAI обяви, че е засякла и блокирала успешно пет „тайни операции за влияние“, които са опитвали да манипулират общественото мнение чрез използване на моделите ѝ. Компанията казва, че и петте кампании са засечени през последните три месеца.

Тя допълва, че работи с външни експерти, партньори, граждански организации и правителства, за да се бори с този тип операции и планира да публикува редовни доклади за засечените кампании и извършените дейности. OpenAI ще споделя какви са били кампаниите, ще показва доказателства за тях, но няма да посочва кои са извършителите, а само местоположението на произхода им.

Какво е блокирала OpenAI

Компанията описва накратко „операциите за влияние“, които е засякла и какво представляват:

Първата е кръстена Bad Grammar, като действа главно в Telegram. Тя е насочена към Украйна, Молдова, балтийските страни и Съединените щати. „Хората зад Bad Grammar използваха нашите модели за отстраняване на грешки в кода за бот в Telegram и за създаване на кратки политически коментари на руски и английски, които след това бяха публикувани в Telegram”, казва OpenAI. Кампанията е с руски произход.

Втората операция също е с произход от Русия, като е кръстена Doppelganger. „Хората, действащи от името на Doppelganger, използваха нашите модели, за да генерират коментари на английски, френски, немски, италиански и полски, които бяха публикувани на X и 9GAG; превеждат и редактират статии на английски и френски, които са публикувани на уебсайтове, свързани с тази операция; генериране на заглавия; и конвертирайте новинарски статии в публикации във Facebook“, описва OpenAI.

Третата кампания е китайска мрежа, известна като Spamouflage. Тя „използва нашите модели за изследване на дейността на публичните социални медии, генериране на текстове, включително на китайски, английски, японски и корейски, които след това бяха публикувани в платформи, включително X, Medium и Blogspot. Генериран е и код за отстраняване на грешки, за управление на бази данни и уебсайтове, сред които и неизвестен до този момент домейн“, описва OpenAI.

Четвъртата кампания е иранска операция, известна като Международния съюз на виртуалните медии (IUVM). Тя „използва нашите модели за генериране и превод на дълги статии, заглавия и маркери на уебсайтове, които след това бяха публикувани на свързан уебсайт“, споделя компанията.

Последната пета операция е „дейност на търговска компания в Израел, наречена STOIC, като ние прекъснахме дейността, а не компанията. Нарекохме тази операция Zero Zeno, на основателя на стоическата школа по философия. Хората зад Zero Zeno използваха нашите модели, за да генерират статии и коментари, които след това бяха публикувани в множество платформи, по-специално Instagram, Facebook, X и уебсайтове, свързани с тази операция“, казва OpenAI.

Компанията твърди, че няма индикации, че извършителите са успели да постигнат значими резултати, използвайки услугите ѝ. Тя е създала рейтинг на последствията от кампаниите, който е от 1 до 6. Нито една от петте кампании превишава рейтинг 2. Не се споделя колко време са били активни въпросните операции преди да бъдат засечени, но OpenAI споделя, че процесът е труден, тъй като изисква анализ и във външни платформи и ресурси.

Всички новини
Най-четени Най-нови
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !