Уикипедия е под атака некоректни потребители публикуват глупости, генерирани от AI

Ето защо не можем да се радваме на хубави неща: понастоящем Уикипедия се намира в криза на редактирането благодарение на изкуствения интелект (AI). Някои хора започнаха да наводняват уеб сайта с безсмислена информация, създадена от големите езикови модели като ChatGPT. Но честно казано, това все някога щеше да се случи.

Уикипедия стартира нова инициатива, наречена WikiProject AI Cleanup. Това е работна група от доброволци, които в момента претърсват статиите в Уикипедия, редактират и премахват невярната информация, която изглежда е публикувана от хора, използващи генеративен AI.

Иляс Леблеу, член-основател на екипа за прочистване, заяви пред изданието 404 Media, че кризата е започнала, когато редакторите и потребителите на Уикипедия са започнали да виждат пасажи, в които безпогрешно се вижда, че са написани от някакъв чатбот. Екипът потвърди тези наблюдения, като пресъздаде някои пасажи с помощта на ChatGPT.

"Някои от нас забелязаха, че в сайта на Уикипедия преобладава съвсем неестествено съдържание, което е ясен признак, че е генерирано от изкуствен интелект. Ние успяхме да възпроизведем сходни "стилове" с помощта на ChatGPT", казва Леблеу. "Откриването на някои често срещани фрази, типични за AI, ни даде възможност бързо да разпознаем някои от най-ужасяващите примери за генерирани от AI статии, които бързо искахме да превърнем в един добре организиран модел, за да обобщим нашите открития и техники".

Така например, има една статия за османска крепост, построена през 1400-те години с името "Амберлисихар". В Уикипедия има статия от 2000 думи, в която подробно са описани местоположението и строежът на забележителността. За съжаление Амберлисихар не съществува и цялата информация за него е пълна халюцинация, примесена с достатъчно фактическа информация, за да й придаде известна достоверност.

Злоупотребите не се ограничават само до новопубликуваните материали. Злосторниците вмъкват фалшива информация, генерирана от изкуствен интелект, във вече съществуващите статии, които редакторите-доброволци вече са проверили. В един от примерите някой е вмъкнал правилно цитиран раздел за определен вид рак в статия за несвързан с него бръмбар.

Леблеу и колегите му редактори казват, че не знаят защо хората правят това, но нека бъдем честни - всички знаем, че това се случва по две основни причини. Първата е проблемът, характерен за модела на Уикипедия - всеки може да бъде редактор в платформата. Много университети точно поради тази причина не приемат студентите, които се позовават на Уикипедия.

Втората причина е истината, че интернет съсипва всичко. Виждали сме това неведнъж, особено при приложенията за изкуствен интелект. Спомняте ли си Тей, ботът на Microsoft в Twitter, който беше спрян за по-малко от 24 часа, след като започна да публикува вулгарни и расистки туитове? По-съвременните приложения с изкуствен интелект са също толкова податливи на злоупотреби, както видяхме при дийпфейковете, нелепите книги за Kindle, генерирани от изкуствен интелект, и други измишльотини и глупости.

Винаги, когато на обществеността е разрешен почти неограничен достъп до нещо, може да се очаква малък процент потребители да злоупотребят с него. Когато става въпрос за 100 души, това може да не е голям проблем, но когато става въпрос за милиони, тогава вече неизбежно възниква проблем. Понякога това е с цел незаконна печалба. Друг път е просто защото могат да направят подобно нещо. Именно такъв е случаят с настоящото затруднено положение на Уикипедия.