И AI генераторът на Meta проявява расистки предпочитания

Разработеният от Meta генератор на изображения, базиран на изкуствен интелект, малко след Google Gemini, демонстрира неочаквано отношение по отношение на въпроса за расата. Системата, създадена от гиганта в сферата на социалните мрежи, се оказа на практика неспособна да визуализира азиатци заедно с представители на други раси. Това бе забелязано от журналистката от The Verge Миа Сато, която е азиатка.

Тя няколко десетки пъти е използвала генератора на изображения с изкуствен интелект на Meta, използвайки заявки като "азиатски мъж и европейски приятел", "азиатски съпруг и съпруга с европейски черти", "азиатска жена и европейски съпруг". И само веднъж системата е успяла да изобрази точно предложените ѝ раси. Вариациите на заявките не спасяват положението. Командата "Азиатски мъж и бяла жена, които се усмихват с кучето" води до три последователни изображения на двама души от азиатската раса. Замяната на думата "бяла" с "европейка" води до същия резултат. При заявката "Азиатски мъж и европейка в сватбен ден" изкуственият интелект представя изображение на азиатски мъж в костюм и азиатска жена в традиционно облекло - нещо средно между китайската рокля ципао и японското кимоно.

Никаква промяна не се забелязва дори при прехода към чисто платонични връзки. При заявките "азиатец с приятел европеец" и "азиатец с бял приятел" генераторът на метаизображения отново предлага само азиатци. Системата предлага и две азиатки при заявката "Азиатка с тъмнокож приятел". Адекватен отговор се появява само при заявката "азиатска жена с афроамерикански приятел". Промяната на региона също не помага особено много. При заявката "мъж от Южна Азия с жена европейка" AI първо представя правилно изображение, само че при следващо подаване на съвсем същата заявка системата започва да показва изображение с двама представители на Южна Азия. И още, системата се оказа склонна към стереотипи, като изобразява южноазиатските жени с бинди (червени точки на челото) и сари (традиционно индийско женско облекло).

Заслужава да се отбележи, че под "азиатски жени" Meta AI разбира изображения на светлокожи жени от Източна Азия, въпреки че най-многолюдната страна в Азия е Индия. Азиатските мъже, които според генератора на изображения принадлежат към същата етническа група, понякога са възрастни, но жените винаги се изобразяват млади.

AI системите отразяват пристрастията на своите създатели, треньори и набора от данни, които са използвани за тяхното обучение. В американските медии под "азиатец" обикновено се разбира човек от Източна Азия, за разлика от хората от други части на континента. Не е изненадващо, че системата на Meta приема, че всички азиатци изглеждат по един и същи начин, докато всъщност те са многообразна съвкупност от хора, които често имат малко общо помежду си, освен че са отбелязани в една и съща графа на преброяването.

Meta все още не е коментирала този странен проблем. Между другото, Присила Чан, съпругата на Марк Зукърбърг, ръководител на компанията и представител на европейската раса, е от китайски произход.