Google спря AI генерирането на изображения в Google Earth само ден след старта му

Alphabet обяви, че премахва новата AI функция за генериране на изображения в Google Earth едва ден след нейния старт. Решението е взето след докладвани случаи на съдържание, което не отговаря на политиките на компанията.

Функцията, задвижвана от AI модела „Nano Banana 2“, позволяваше на потребителите да въвеждат текстови команди за всяка локация на планетата и да получават фотореалистични визуализации, създадени чрез комбиниране на сателитни, въздушни и 3D данни. Инструментът можеше да променя изгледа на реално място, като наслагва желаната сцена върху автентичния кадър.

Технологията обаче бързо предизвика критики заради потенциала си да създава убедителни, но напълно измислени изображения - риск, който според експерти може да улесни разпространението на дезинформация.

В свое изявление в социалната мрежа X Google информира, че инструментът е бил използван от специалисти за редица полезни приложения, но паралелно с това са били споделяни визуализации, които не отговарят на политиките за съдържание. Google работи по въвеждането на допълнителни ограничения, преди функцията да бъде активирана отново.

Сред първите, които тестваха инструмента, беше изследователят на отворен код Хенк ван Ес. Той демонстрира колко лесно AI моделът може да бъде насочен към чувствителни теми, като генерира изображения на атомна електроцентрала в Иран, бомбардирана болница в Газа и фатална катастрофа в Амстердам. След неговите публикации много други потребители също са започнали да експериментират с функцията.

Google не уточнява кои точно визуализации са нарушили политиките ѝ, но подчертава, че генерираните изображения не се появяват в основния интерфейс на Google Earth. Всички те са маркирани с воден знак, който ясно показва, че са създадени от изкуствен интелект - мярка, която компанията използва, за да предотврати объркване с реални сателитни данни.

Припомняме, че Meta също беше принудена да реагира на рисковете около генеративния AI. По‑рано този месец компанията прекрати услугата Muse Image, която позволяваше създаването на изображения на база публични профили в Instagram. Функцията предизвика сериозна критика заради опасения, свързани с поверителността и потенциални злоупотреби с лични данни.