OpenAI се подготвя да защити ChatGPT от поредицата политически избори през 2024 г.

През 2024 г. предстои първото голямо политическо изпитание за изкуствения интелект (AI). По целия свят ще има поредица от избори в множество държави, което ще създаде напрегната политическа обстановка с много кампании, обвинения, скандали, опити за дезинформация и какво ли още не.

AI услугите като ChatGPT за пръв път ще се окажат в позиция, в която от тях ще зависи общественото мнение и ще могат да му влияят. Неизбежно много политици ще се опитат да използват AI, за да повлияят на хората. Част от тях ще разчитат на AI, за да популяризират своите позиции, докато други ще се опитват да злоупотребят с технологията и да я използват за манипулации и дезинформация.

Всичко това ще се отрази и на репутацията на AI, а компаниите не могат да си позволят тя да бъде накърнена, особено точно докато технологията „прохожда“. Затова създателите на ChatGPT – компанията OpenAI обяви, че е подготвила пакет от мерки, които да защитят не само ChatGPT, но и останалите ѝ алгоритми.

„Очакваме и искаме хората да използват нашите инструменти по безопасен и отговорен начин, като това важи и за изборите. Затова работим да предвиждаме и предотвратяваме релевантни злоупотреби. Например подвеждащи дийпфейкове, опити за влияние на мнението или чатботове, които се представят за дадени кандидати“, казва компанията.

Затова по време на изборите и особено за политиците, ще важат допълнителни правила над регулярните за използване на услугите. На първо място няма да е позволено услугите на компанията да се използват за направата или за внедряването им в приложения и сайтове, които се използват за лобиране и политически кампании.

Забранява се правенето на ботове, които се представят за кандидати, институции, партии и т.н. Всеки бот, който използва системите на OpenAI, трябва ясно да се самообозначава като такъв.

OpenAI забранява и приложения, които „отклоняват хората от участие в демократични процеси“. Това включва призиви да не се гласува, призиви да се нарушава редът по време на изборите, манипулиране на резултати или условията за гласуване и т.н.

Освен това OpenAI ще внедри дигиталните маркери на CCPA (Coalition for Content Provenance and Authenticity). Това са криптографски елементи, които ще се добавят към генерираните от DALL-E 3 изображения. Така те ще имат виртуален „пръстов отпечатък“, който да предотврати използването им за манипулации, дийпфейкове и дезинформация. OpenAI казва, че досегашните тестове показват, че въпросният маркер се запазва дори и при модификация на изображението.

ChatGPT ще получи и достъп до повече източници на информация, включително и новини в реално време. Към тях ботът ще добавя и линкове откъдето е взел информацията.

OpenAI предвижда да работи и по региони, където това е възможно. Така ще бъде добавяна релевантна информация за конкретните избори. В САЩ например ChatGPT ще може да препраща потребителите към официалния изборен сайт, когато те питат как да гласуват или търсят информация за процеса и сроковете.