ЕС иска да забрани AI сексуални изображения без съгласие

Инструментите за изкуствен интелект, които могат да се използват за създаване на сексуални изображения без съгласие, може да бъдат забранени в Европейския съюз. Това става след като се надигна бурна реакция на практиката потребители да използват услугата „Grok“ на Илон Мъск, за да генерират хиляди снимки на голи жени и деца.

Комисията по граждански свободи на Европейския парламент одобри проекта на текста на Общия закон за изкуствения интелект на блока. Той включваше поправка за забрана на всяка система за изкуствен интелект, която генерира реалистични изображения с цел да изобрази сексуално експлицитни дейности или интимните части на идентифицируемо физическо лице без неговото съгласие.

Забраната няма да се прилага, ако дадена компания е наложила мерки, ограничаващи създаването на такива дипфейкове. Одобрението на поправката привежда парламента в съответствие с европейските правителства, които се споразумяха за подобна забрана, което прави вероятно забраната да бъде одобрена и въведена в сила по-късно тази година.

Макар в Европа да има редица правила, които забраняват създаването и споделянето на сексуално съдържание без съгласието на субекта, тази поправка е първата, която специално се насочва към платформите за изкуствен интелект. Законодателите избраха да насочат мерките към технологията за изкуствен интелект, а не само към нейните потребители, поради бързото усъвършенстване на способностите на моделите да създават убедителни подобия на реални хора.

Тази промяна беше олицетворена от начина, по който Grok — чатбот, достъпен за всеки, който използва социалната мрежа X на Мъск — беше използван през януари за генериране и публикуване онлайн на огромно количество сексуализирани изображения, базирани на снимки на напълно облечени хора. Майката компания xAI Corp. ограничи функцията след широко разпространена критика.

Забраната се добавя към нарастващия корпус от закони на ЕС, насочени срещу сексуални материали с насилие над деца и споделяне на интимни изображения без съгласие. Директива от 2024 г. относно насилието срещу жени определи като престъпление използването на ИИ за създаване на сексуални изображения без съгласието на обекта, а Законът за цифровите услуги също налага санкции на социалните мрежи, които позволяват разпространението на незаконно съдържание, включително материали с насилие над деца.

Ако забраната бъде приета в законодателството на ЕС, разработчиците на усъвършенствана ИИ, способна да генерира всякакъв вид аудиовизуален материал, ще трябва да докажат, че са наложили ограничения върху изображенията, създавани от техните модели. Не е ясно как системите за ИИ биха проверили дали лицето, изобразено на снимката, е дало съгласието си или не.

ЕС работи по приемането на AI Omnibus – всеобхватна регламентация, която има за цел да опрости обширния Закон за изкуствения интелект на ЕС.