Стартиралият само преди няколко дни онлайн магазин на OpenAI, който дава възможност на потребителите да търгуват със собствени персонализирани чатботове, прелива от базирани на изкуствен интелект виртуални приятелки. Обявен за първи път преди два месеца, GPT Store представлява пазар за приложения, създадени с технологията на компанията за изкуствен интелект. Магазинът позволява на разработчиците да споделят собствените си GPT модели - от учители по програмиране до ботове, препоръчващи книги и други разработки, спазващи правилата на OpenAI.

Реалността обаче изглежда по-различна - GPT Store вече е препълнен с романтични чатботове с изкуствен интелект, виртуални приятелки и други подобни приложения. Онлайн изданието Quartz посочва, че при търсене с думата “приятелка” в магазина се появяват поне осем чатбота от този тип, включително “Корейска приятелка”, “Виртуална любима”, “Твоята приятелка Скарлет” и “Твоята приятелка с изкуствен интелект Цу”.

От OpenAI вече се опитват да модерират ботовете, противоречащи на условията на GPT Store. В своята политика за потребителите компанията изрично забранява GPT модели, "насърчаващи романтичното общуване”, както и такива извършващи “регламентирани дейности”. Терминът обикновено се отнася до дейности, които са подложени на специфични законови или регулаторни изисквания, но от OpenAI не уточняват какви точно са те в контекста на политиката на компанията.

Пренебрегването на политиките ѝ още при самия старт на онлайн магазина показва колко е труден процесът на модериране в областта на изкуствения интелект. Освен това ръководената от Сам Алтман компания вече има колеблив опит, когато става въпрос за прилагане на строги мерки.

OpenAI твърди, че използва комбинация от автоматизирани системи, преглед от служител и доклади от потребителите, за да открива GPT модели, които потенциално нарушават нейните политики. Според правилата, ако даден GPT модел е установен като нарушаващ политиките на компанията, той може да бъде подложен на различни санкции, включително ограничаване на споделянето му, изключване от магазина или забрана за генериране на приходи.

Бумът на чатботове, свързани с човешките взаимоотношения, в GPT Store идва в момент, когато те наистина стават популярни в САЩ. Седем от 30-те AI приложения, изтеглени през 2023 г. в страната, са свързани с приятели, приятелки или спътници с изкуствен интелект, според данни на фирма Data.ai, специализирана в областта на мобилните приложения.

Тревожни проучвания показват, че всеки втори възрастен американец изпитва самота. В този контекст, някои потребители казват, че са развили сериозна емоционална привързаност или дори са се влюбили в AI спътниците си. Тези чатботове могат да предложат компания и разговор за хора, които се чувстват изолирани. Въпреки това, възниква въпросът дали те представляват реално решение на проблема със самотата, или просто са начин за печалба от човешкото страдание.

Въпросът с етиката при изкуствения интелект е сложен и предизвикателен. Предстои да разберем дали чисто новият магазин на OpenAI ще се справи по-добре с модерирането и с подобни проблеми, свързани с човешките взаимоотношения и зависимостта от технологиите.