Съосновател на OpenAI направи нова компания за „безопасен“ изкуствен интелект

Иля Сътскевър, съосновател на OpenAI, който напусна компанията преди около месец, заедно с още няколко души, обяви създаването на нов проект. Неговата фирма се казва Safe Superintelligence Inc. (SSI), като е посветена на създаването на безопасен суперинтелект, който да покаже, че тази технология може да бъде сигурна и полезна, съобщава TechCrunch.

Сътскевър напусна OpenAI след като не постигна съгласие с останалите ръководители как да развива компанията и технологията занапред. SSI е съоснована заедно с Даниел Леви, друг вече бивш инженер на OpenAI, който също остро критикува компанията, че е отстъпила сигурността в името на „лъскавите продукти“. Третият съосновател е Даниел Грос, бивш инвеститор от популярния инкубатор Y Combinator.

„Суперинтелектът е постижим“, казва SSI в своето обръщение към света. „Изграждането на безопасен суперинтелект е най-важният технически проблем на нашето време“, пишат още тримата съоснователи.

Те казват, че безопасният суперинтелект е тяхната „мисия, име, пътната карта на продуктите ни и единственият фокус“. Всички служители, инвеститори и целият бизнес модел на компанията са насочени към постигането на тази цел.

Сътскевър казва, че SSI ще постигне целта си, като развива едновременно и заедно безопасността и способностите на суперинтелекта. „Планираме да развиваме възможностите на технологията възможно най-бързо, като през цялото време се уверяваме, че мерките да сигурност винаги водят“, допълва той.

„Нашият общ фокус означава, че няма да има разсейвания заради вмешателство на мениджмънта, продуктови цикли, а бизнес моделът гарантира, че сигурността и прогресът са изолирани от краткосрочния комерсиален натиск“, казват основателите на SSI.

Сътскевър допълва, че централата на SSI е в Пало Алто, Калифорния, като има и офиси в Тел Авив. Вече се сформира първоначалният екип, като компанията търси „най-добрите инженери“ в света и е отворена към предложения.

Пред Bloomberg Сътскевър коментира още подробности за SSI, но отказва да говори за финансовия аспект на компанията. За момента няма информация какво е първоначалното финансиране на SSI, каква е оценката на компанията и кои са първите инвеститори.

За разлика от OpenAI, която започна като неправителствена организация, SSI от самото начало е регистрирана като търговска фирма, която ще търси и печалба. И това веднага дава резултат. „Има много проблеми, които ни очакват, но намирането на финансиране не е един от тях“, казва Грос. Интересът на инвеститорите в момента към AI е огромен, а Сътскевър и Леви вече са достатъчно големи и популярни в бранша имена да нямат проблеми с привличането на желаещи.

Сътскевър е сред т.нар. „реалистични привърженици“ на AI. Той подкрепя бързото развитие на технологията, но държи да стане по внимателен и разумен начин, който да гарантира, че тя няма да се обърне срещу хората. Миналата година той и Ян Лейке написаха прогноза, в която очакват AI да надмине хората по интелект в рамките на десетилетието и че няма гаранция, че технологията ще е вечно добронамерена към хората. Затова те призоваваха паралелното и бързо развитие на начини за управление и ограничаване на AI при необходимост. Лейке обаче не е част от SSI, а вместо това отиде при конкурента Anthropic.