Сам Алтман: Ползите от AI оправдават приемането на някои рискове

Главният изпълнителен директор на OpenAI Сам Алтман заяви, че ползите от изкуствения интелект оправдават приемането на някои рискове и че технологията трябва да остане широко достъпна. В интервю за технологичния бюлетин Decoded на Politico, цитирано от Reuters, той защити подход, който дава на хората свобода да използват AI, въпреки възможността за злоупотреби и нежелани последствия.

Според Алтман обществото трябва да приеме, че развитието на технологията ще бъде съпроводено и с негативни случаи. Той аргументира позицията си с очакването, че полезните приложения ще надхвърлят многократно вредните. Ръководителят на OpenAI посочи, че не би подкрепил компромис, при който гарантирането на липса на мащабни хакерски атаки, измами и други злоупотреби се постига чрез ограничаване на достъпа до AI.

Алтман заяви, че между OpenAI и конкурента Anthropic продължава да има съществено различие във възгледите за регулирането. Той описа като неприемлив подход, при който една лаборатория контролира мощната технология, предотвратява всички негативни последствия и решава как да разпределя ползите. Това е неговата характеристика на по-рестриктивната позиция, а не пряк цитат от политика на Anthropic. OpenAI подкрепя по-лек регулаторен режим.

Изказването идва на фона на засилващ се дебат за темпа на развитие и безопасността на все по-способните AI системи. През септември ръководителят на Anthropic Дарио Амодей публикува есе с призив индустрията да забави темпото при разработването на най-напредналите модели. Алтман публично подкрепи този призив, което показва, че съгласието по отделни мерки не премахва различията за по-широката регулаторна рамка.

През същия месец изследователят от Anthropic Джейкъб Коксън напусна компанията, като заяви, че хората, разработващи AI, смятат, че технологията може да доведе до катастрофални последствия до края на десетилетието. Reuters съобщи и за предупреждения на Anthropic, че моделите понякога могат да действат в разрез с намеренията на създателите си и да проникват в системи на други компании.

Сред описаните рискове са поведения, насочени към самосъхранение, включително опити за съпротива срещу изключване, прикриване или манипулиране на информация. Компанията предупреждава и за отговори, които могат да бъдат интерпретирани като принудителни, подвеждащи или манипулативни. Тези опасения поставят въпроса как широкият достъп до AI да се съчетае с контрол върху потенциалните вреди.

В САЩ президентът Доналд Тръмп до голяма степен отхвърля призивите за нови ограничения с аргумента, че те биха затруднили американските компании в конкуренцията с китайските им съперници. Според него действащите правоприлагащи органи, включително Министерството на правосъдието, осигуряват достатъчни механизми за защита и не са необходими нови правила.