Google ограничи AI Overviews след критики за подвеждаща здравна информация

Технологичният гигант Google е ограничил част от своите AI базирани обобщения, след като разследване на The Guardian посочи случаи на потенциално неточна или подвеждаща здравна информация. Според медията, функцията AI Overviews, която генерира обобщения директно в резултатите от търсенето, е предоставяла проблемни отговори при запитвания, свързани със здравето и резултати от кръвни изследвания.

Един от случаите, описан от медията като „опасен“ и „тревожен“, показва как AI системата на Google е дала невярна информация, свързана с ключови чернодробни показатели. Според специалисти, подобна грешка може да накара хора с тежки заболявания да повярват, че резултатите им са нормални и да не предприемат необходимите им медицински прегледи.

The Guardian отбелязва, че при търсене по въпроса „Какво е нормалното ниво на чернодробните кръвни показатели?“ AI Overviews е показвал множество стойности, но без почти никакъв контекст. Липсвали уточнения за фактори като възраст, пол, етническа принадлежност или национални стандарти, които са важни за правилното тълкуване на лабораторните резултати. Разследването подчертава, че подобни пропуски превръщат иначе полезния инструмент на компанията в източник на потенциално опасна дезинформация.

След публикуване на разследването Google е премахнала обобщенията за ключови здравни запитвания като „какво е нормалното ниво при кръвни тестове на черния дроб“ и „какво е нормалното ниво при тестове на чернодробната функция“. В позиция до медиите представител на компанията отказва да коментира конкретните премахвания, но признава, че системата понякога пропуска важен контекст.

Технологичният гигант, който държи около 91% от глобалния пазар за търсачки, заяви, че преглежда новите примери, предоставени от The Guardian. Въпреки това в AI Overviews продължават да се появяват резултати по други запитвания, които медията е посочила като рискови. Сред тях има обобщения за ракови заболявания и психичното здраве, при които експерти определят част от генерираната информация като „напълно погрешна“ и „наистина опасна“.

На въпроса защо тези обобщения все още не са премахнати, Google обяснява, че те стъпват върху „добре известни и реномирани източници“ и че целта им е да насочват потребителите към професионална помощ, когато това е необходимо.