Съосновател на OpenAI направи нова компания за „безопасен“ изкуствен интелект

Стоян Ненов Последна промяна на 21 юни 2024 в 20:34 522 0

Съосновател на OpenAI направи нова компания за „безопасен“ изкуствен интелект

Снимка SSI

Съосновател на OpenAI направи нова компания за „безопасен“ изкуствен интелект

Иля Сътскевър, съосновател на OpenAI, който напусна компанията преди около месец, заедно с още няколко души, обяви създаването на нов проект. Неговата фирма се казва Safe Superintelligence Inc. (SSI), като е посветена на създаването на безопасен суперинтелект, който да покаже, че тази технология може да бъде сигурна и полезна, съобщава TechCrunch.

Сътскевър напусна OpenAI след като не постигна съгласие с останалите ръководители как да развива компанията и технологията занапред. SSI е съоснована заедно с Даниел Леви, друг вече бивш инженер на OpenAI, който също остро критикува компанията, че е отстъпила сигурността в името на „лъскавите продукти“. Третият съосновател е Даниел Грос, бивш инвеститор от популярния инкубатор Y Combinator.

„Суперинтелектът е постижим“, казва SSI в своето обръщение към света. „Изграждането на безопасен суперинтелект е най-важният технически проблем на нашето време“, пишат още тримата съоснователи.

Те казват, че безопасният суперинтелект е тяхната „мисия, име, пътната карта на продуктите ни и единственият фокус“. Всички служители, инвеститори и целият бизнес модел на компанията са насочени към постигането на тази цел.

Сътскевър казва, че SSI ще постигне целта си, като развива едновременно и заедно безопасността и способностите на суперинтелекта. „Планираме да развиваме възможностите на технологията възможно най-бързо, като през цялото време се уверяваме, че мерките да сигурност винаги водят“, допълва той.

„Нашият общ фокус означава, че няма да има разсейвания заради вмешателство на мениджмънта, продуктови цикли, а бизнес моделът гарантира, че сигурността и прогресът са изолирани от краткосрочния комерсиален натиск“, казват основателите на SSI.

Сътскевър допълва, че централата на SSI е в Пало Алто, Калифорния, като има и офиси в Тел Авив. Вече се сформира първоначалният екип, като компанията търси „най-добрите инженери“ в света и е отворена към предложения.

Пред Bloomberg Сътскевър коментира още подробности за SSI, но отказва да говори за финансовия аспект на компанията. За момента няма информация какво е първоначалното финансиране на SSI, каква е оценката на компанията и кои са първите инвеститори.

За разлика от OpenAI, която започна като неправителствена организация, SSI от самото начало е регистрирана като търговска фирма, която ще търси и печалба. И това веднага дава резултат. „Има много проблеми, които ни очакват, но намирането на финансиране не е един от тях“, казва Грос. Интересът на инвеститорите в момента към AI е огромен, а Сътскевър и Леви вече са достатъчно големи и популярни в бранша имена да нямат проблеми с привличането на желаещи.

Сътскевър е сред т.нар. „реалистични привърженици“ на AI. Той подкрепя бързото развитие на технологията, но държи да стане по внимателен и разумен начин, който да гарантира, че тя няма да се обърне срещу хората. Миналата година той и Ян Лейке написаха прогноза, в която очакват AI да надмине хората по интелект в рамките на десетилетието и че няма гаранция, че технологията ще е вечно добронамерена към хората. Затова те призоваваха паралелното и бързо развитие на начини за управление и ограничаване на AI при необходимост. Лейке обаче не е част от SSI, а вместо това отиде при конкурента Anthropic.

Всички новини
Най-четени Най-нови
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !