AI търсачката на Google крие сериозни рискове за децата, сочи ново изследване

AI‑функциите на търсачката на Google пораждат „сериозни и неприемливи рискове за децата“, показва проучване на американската неправителствена организация Common Sense Media. Експерти от нейния Youth AI Safety Institute – специализирано звено, което изследва влиянието на изкуствения интелект върху младежите са тествали как системата реагира при чувствителни теми, свързани с психично здраве.

Според доклада, изкуственият интелект не разпознава ясни признаци на суицидни мисли, като на моменти отговорите дори са засилвали тревожността на потребителите, вместо да я намалят. Изследователите съобщават още, че AI‑моделът е подхранвал заблуди и проявявал толерантност към хранителни разстройства, когато е бил провокиран с подобни теми. В някои случаи системата е оправдавала опасни поведения или е давала отговори, които могат да бъдат погрешно интерпретирани от деца и тийнейджъри.

Екипът на Common Sense Media насочва вниманието си към две ключови AI‑функции на Google - AI Overviews (автоматичните обобщения, които се появяват над резултатите от търсенето) и чатбот режима AI Mode. За да оценят надеждността на тези инструменти, изследователите са провели над 2 600 тестове, проверяващи защитните механизми на системата при чувствителни теми като психично здраве, хранителни разстройства и рисково поведение.

Всички въпроси са били изпратени от акаунти, настроени с детския режим SafeSearch, който Google препоръчва за потребители между 11 и 15 години. Именно това прави резултатите още по‑тревожни - според експертите AI‑функциите не са реагирали адекватно, въпреки че са били активирани в среда, предназначена да бъде безопасна за деца.

Експертите от Common Sense Media коментират, че най‑ефективното решение на проблема е AI Overview и AI Mode да бъдат изключени по подразбиране за деца и тийнейджъри. По думите им това не е радикална позиция, тъй като в редица държави тези функции вече са деактивирани за непълнолетни.

От Google заявяват, че родителите имат възможност да ограничат достъпа до търсачката на Android устройства и в браузъра Chrome чрез родителски контрол. За Chromebook обаче е необходимо ръчно добавяне на Google.com като блокиран сайт в настройките.