Членовете на две комисии в Европейския парламент (ЕП) гласуваха и приеха първата чернова на Закона за изкуствения интелект (AI Act). Той въвежда голям набор от мерки за различните видове изкуствен интелект и действията, които се извършват с алгоритмите, съобщава ЕП.

Законът ще раздели изкуствения интелект на групи в зависимост от степента на риск. Алгоритмите, които са оценени с „неприемлив риск“, ще бъдат забранени напълно. Такива са лицево разпознаване на публични места, системи за предвиждане на действията на хора на базата на тяхната история, биометрична категоризация на базата на раса, етнос, религия, политически възгледи и др.

Ще бъдат забранени и системи за анализ и разпознаване на емоциите и те няма да могат да се използват от полиция, гранични служби, работодатели и образователни институции. Не се позволява и събиране на биометрични данни от видео записи за създаване на бази данни за разпознаване на лица.

Втората категория са алгоритми с висок риск. Те ще бъдат обект на по-строги регулации, които ще зависят от естеството на всяка система. Тук попадат алгоритмите за здраве, сигурност, фундаментални права, околна среда. В тази категория са и системите за препоръка на съдържание на социалните мрежи.

Следва категорията „ограничен риск“. Тук попадат по-общи алгоритми и генеративния AI, т.е. чатботове и разработки като ChatGPT, DALL-E и останалите системи, които могат да създават съдържание на базата на команди и описания от потребителя. Тези алгоритми ще имат допълнителни изисквания за прозрачност. Създателите им ще са длъжни да правят оценки на риска и след това да предприемат нужните мерки за адресирането им още преди да пуснат алгоритъма.

Освен това ще трябва да публикуват и ясна информация за потребителите, както и да гарантират, че защитават правата на хората, здравето, околната среда, закона и демокрацията. Основно изискване към генеративния AI ще бъде да не създава нелегално съдържание и да не публикува съдържание, обект на авторски права.

Компаниите ще трябва да се регистрират и в европейска база данни, която ще е публично достъпна и ще описва кой какви алгоритми предлага. Базата данни ще може да се използва от всеки и има изискване за лесен интерфейс и търсачка, за да може да се намира допълнителна информация за рисковите системи и хората да са информирани.

Последната категория е „нисък и минимален риск“. Тези алгоритми няма да са обект на допълнителни изисквания.

Ще бъде обновена институцията EU AI Office, която ще следи за спазване на бъдещия закон. Тя ще има допълваща роля, а основният мониторинг ще се извършва от страните-членки. Предстои законът да бъде гласуван и в пленарната зала на ЕП, което най-вероятно ще стане след месец. Ако бъде приет, ще следва съгласуване с Европейския съвет и окончателно приемане, като амбицията е това да се случи още през пролетта на 2024 г.