AI търсачката на Google отново дава грешни и дори опасни отговори

В началото на месец май т.г. Google пусна новото поколение на търсачката си, което нарича AI Overviews. Тя използва ресурсите на изкуствения интелект Gemini и на традиционната търсачка, за да дава конкретни и подробни отговори на сложни въпроси директно в страницата с резултати.

Амбицията на Google е AI Overviews постепенно да се превърне в предпочитания начин на потребителите да търсят информация и да получават отговори. Оказва се обаче, че това може и да не се случи толкова лесно, тъй като AI Overviews допускат фрапиращи и дори опасни грешки, съобщава CNBC. Ако това ви звучи познато, то е защото миналата година, когато Google представи първата версия на изкуствения си интелект, той също допускаше елементарни грешки. Дори се наложи компанията да спре проекта за кратко. И същото се случи и по-рано тази година, когато пусна генерирането на изображения, като алгоритъмът създаваше исторически неточни и дори расистки картини.

Сега ситуацията се потретва. Много потребители критикуват AI Overviews в социалните мрежи и показват грешките и противоречивите твърдения, които изкуственият интелект дава на различни въпроси. Например AI Overviews смята, че Барак Обама е мюсюлманин. Или пък предлага да се добави лепило към рецепта за сос за пица.

Функцията изпитва трудности и с правилното предаване кой е източник на дадена информация. И понякога твърди, че невярната информация идва от популярни и доверени сайтове. Например ботът смята, че според популярната онлайн енциклопедия за здравни въпроси WebMD, „учените казват, че взирането в Слънцето за 5-15 минути на ден или до 30 минути, ако сте с по-тъмна кожа, е безопасно и носи най-много ползи за здравето“. Ботът препоръчва и да се яде по един малък камък на ден, защото има много витамини и ползи за храносмилателната система.

„В преобладаващата част от въпросите, AI Overviews предоставят информация с високо качество и линкове за повече информация в мрежата. Много от примерите, които се споделят, са от непопулярни въпроси. Също така видяхме и примери, които са манипулирани или такива, които ние не успяха да пресъздадем“, казва говорител на Google. Той допълва, че компанията продължава да подобрява технологията и се намесва своевременно при открити грешки.

Доверието на потребителите обаче отново е накърнено. В социалните мрежи има критики, че това са последствията от използването на огромни масиви данни от интернет, които не са проверени, плюс самия факта, че самите езикови модели все още са далеч от прецизни.

И изглежда Google е пределно наясно с проблема. Преди няколко дни в интервю за The Verge изпълнителният директор на Google Сундар Пичай признава, че изкуственият интелект страда от „халюцинации“, т.е. генерирането и измислянето на погрешни данни, които представя като факти. И допълва, че такива има и в AI Overviews, като те затрудняват експертите, тъй като все още не може да се намери достатъчно добро решение. „Но само, защото функцията греши понякога, не означава, че не е полезна“, казва Пичай.