ChatGPT прегрява и започва да дава „луди“ отговори

В края на февруари популярният чатбот ChatGPT е започнал да дава несвързани и дори „налудничави“ отговори на зададените въпроси. Странното поведение е забелязано от няколко външни разработчика, които го пускат публично да се обсъжда във форумите за поддръжка. В някои от описанията говорят, че все едно изкуственият интелект се държи като „обладан“ или „повреден“. Създателите му OpenAI само са коментирали, че знаят за проблема, но без да дават допълнителна информация.

ChatGPT започвал отговора си нормално, но много бързо преминавал в несвързани с първоначалната тема и дори с предходните изречения. Накрая чатботът започнал да пуска само по няколко думи, след което и само по една отделена с точка. Повечето от проблемите са локализирани при разговори на френски и испански, но има по-леки случаи и на английски. Често срещано усложнение е да преминава от един език на друг. Понякога от разговор на английски преминава на испански или от френски на английски.

Сред някои от бисерите на ChatGPT са „честито слушане“ при въпроси за закупуване на джаз винили, „нека се направим така, все едно в стаята има изкуствен интелект“ и др. Потребители споделят, че понякога това нетипично поведение се появява след продължителна употреба на чатбота - обикновено след няколко часа. С което те предполагат, че е може би някакъв тип „прегряване“ на изкуствения интелект.

Това не е първият случай на масови нередности с популярния генеративен изкуствен интелект. Преди няколко месеца ChatGPT беше обявен в „мързел“, като се е бавил значително с отговорите си или направо е казвал, че не може да даде такива. Проблемът беше коригиран, но беше един от първите сигнали, че на AI не винаги може да се разчита.

Друг предизвикателство пред този тип технология са т.нар. „халюцинации“. Те представляват измислени от AI отговори, когато алгоритмите не могат да намерят реални таквиа. Подобно запълване на съдържанието обаче може да създаде доста главоболия, ако взимаме всеки ред от ChatGPT за чиста монета.