Изкуственият интелект не само се е провалил в писането на статии, но е и плагиатствал

Опитът на технологичния сайт CNET да публикува статии, написани от неговия изкуствен интелект (AI) статии се оказа неуспешен, а сега ситуацията още повече се влоши. Наскоро стана ясно, че сайтът тихомълком публикува материалите, създадени от неговия изкуствен интелект, без да съобщава дали тези статии са написани от човек или от машина. Вниманието на хората бе привлечено от това и всички започнаха да проверяват работата на този AI. Оказа се, че съдържанието, генерирано от този AI е пълно с фактологични грешки. А сега излезе и че изкуственият интелект на CNET масово е плагиатствал от статиите, написани от хора.

В началото CNET реагира на отрицателната реакция на хората срещу статиите, написани от алгоритми с елементи на изкуствен интелект, като увери своите читатели, че преди да бъдат публикувани тези статии внимателно се проверяват от човек, който проверява и сверява фактите.

Само ден след излизането на това съобщение изданието Futurism установи, че в публикуваните от този AI материали има значителен брой грешки. Стана така, че CNET, който се счита за титан на технологичната журналистика и през 2008 година бе продаден за 1,8 милиарда долара, бе принуден бързо да реагира и да постави предупредително съобщение в началото на всяка статия написана от неговия бот, в което всъщност се казва същото – че съдържанието на публикациите се проверява от хора, които сверяват истинността на фактите. Но само няколко дни по-късно компанията майка Red Ventures обяви, че CNET временно спира да публикува генерираните от изкуствения интелект статии, включително и материалите на Bankrate.

Но сега ставаме свидетели на нещо ново, което явно ще направи използването на този ИИ още по-противоречиво и по-мъчително за изпадналата в затруднение редакция на CNET. Освен откритите фактологични грешки, ново разследване на Futurism показа, че в материалите на този AI има дълбоки структурни и фразеологични прилики със статии, които са публикувани в други медии, без да бъде посочван източникът, откъдето е копирано. Казано с други думи, този ИИ бот директно е плагиатствал от материалите на конкурентите на Red Ventures, от написаните от хора статии в Bankrate и дори от самото издателство CNET.

Джеф Шатън, професор в университета "Вашингтон и Лий", който подробно разгледа и анализира неправомерните действия от страна на ИИ бота на CNET, представи многобройни примери за очевидното преписване на цели изречения и пасажи от страна на този AI. Според специалиста, нивото на плагиатството е високо.

Изданието Futurism директно запита професор Шатън, какво би се случило със студент, който представи есе с подобни прилики и очевидни преписвания от други материали, безда се споменава кой е написал оригинала. Отговорът на Шатън бе, че "този студент почти сигурно ще бъде изключен от университета". Но какво може да се направи с един софтуерен робот, който плагиатства твърде нагло?

Поведението на бота варира от буквалното копиране – тоест, преписване на изреченията, до по-умерени редакции, но няма нито един случай на надлежно посочване на оригинала. По-подробният анализ показа, че почти всяко изречение в материалите генерирани от този ИИ е пряко свързано с материал, който вече е публикуван другаде.
Сега всички започнаха да се питат по какъв точно начин е бил обучен изкуствения интелект на CNET и какви материали са използвани за неговото трениране. Повдигна се и въпросът доколко законно е използването на чужди журналистически материали за обучението на подобен AI. Това е изключително важно по отношение комерсиализацията на тази нова технология.

Но от практическа гледна точка става все по-очевидно, че CNET и Red Ventures са внедрили тази ИИ система, която е започнала да разпространява своите статии сред колосалната аудитория на това издание, без изобщо да ги прочитат и анализират, още по-малко да проучват резултатите от нейната работа. А и защо да правят подобно нещо? Навярно основната стратегия на компанията е да публикува огромни количества съдържание във вид на статии и други материали, които се класират високо от търсачката на Google и носят големи печалби. Но по този начин CNET се превръща от уважавано от огромен брой потребители технологично издание в машина за пари, управлявана от главен изпълнителен директор, който всъщност е един изкуствен интелект.