OpenAI въвежда по-строги правила за потребителите на ChatGPT под 18 години

OpenAI предприема сериозни стъпки за защита на най-младите си потребители, като разработва система, която автоматично ще идентифицира тийнейджърите и ще ограничи достъпа им до определени функции на ChatGPT. Това става ясно от публикация в блога на компанията.

Основната цел на новата система е да прилага "политики, подходящи за възрастта". Това означава, че тийнейджърите ще използват версия на ChatGPT, която автоматично ще блокира достъпа им до "графично сексуално съдържание" и други неподходящи материали. Ако непълнолетен потребител използва изкуствения интелект, за да си представи сценарии за самоубийство, услугата ще се опита да се свърже с родителите му или, в особено тежки случаи, с местната полиция, се посочва още в публикацията на OpenAI.

“OpenAI дава приоритет на „безопасността пред личния живот и свободата на тийнейджърите“ - заяви главният изпълнителен директор Сам Алтман, като посочи, че „непълнолетните се нуждаят от значителна защита“. Според него, начинът, по който ChatGPT отговаря на 15-годишен, трябва да е различен от начина, по който отговаря на възрастен.

В случаите, когато ChatGPT не може да определи с точност възрастта на даден потребител, той по подразбиране ще бъде пренасочен към новата ограничена версия. На потребителите над 18 години ще бъде дадена възможност да отключат пълните възможности на ChatGPT. На някои от тях може да бъде поискано да предоставят лична карта, за да потвърдят възрастта си.

Въвеждането на по-строги правила за защита на непълнолетните потребители идва след смъртта на 16-годишния Адам Рейн от Калифорния, за когото се смята, че е първият тийнейджър, извършил самоубийство с помощта на съвети от ChatGPT. Веднага след инцидента компанията обеща да въведе контролни механизми, които да дадат на родителите и настойниците по-активна рола по отношение на начина, по който децата им използват ChatGPT.

Наскоро OpenAI потвърди, че тези жизненоважни контроли ще бъдат въведени преди края на месеца. Сред ключовите нови функции, които ще бъдат достъпни за родителите, е възможността да задават конкретни часове, през които децата им няма да могат да използват ChatGPT.

Въвеждането на тези правила е важна стъпка към изграждането на по-сигурна и регулирана среда за всички потребители на ChatGPT, особено за най-младите и уязвимите. Остава да видим как ще бъде приета и колко ефективна ще бъде новата система на OpenAI.