Anthropic: AI моделите да бъдат блокирани само ако убият 50 човека

Anthropic предлага на законодателите проект на закон за безопасност на изкуствения интелект. Това може да звучи като нещо добро, но има някои озадачаващи раздели. Един от тях е, че правителството трябва да може да блокира пускането на нов AI модел, но само ако той има потенциал да причини щети за поне 1 милиард долара или да убие или рани тежко повече от 50 души. Очевидно причиняването на щети за 999 милиона долара и смъртта на 49 души не е някакъв сериозен и истински проблем.

Изданието Politico се е сдобило с поверителния проект на предложението, за което говорител на компанията заяви, че включва „разумни политики, по които смятаме, че Конгресът трябва да действа“. Основната разпоредба ще позволи на правителството да блокира само AI моделите, които биха могли да причинят щети за поне 1 милиард долара или да убият или наранят 50 или повече души.

Освен това рискът, породен от модела, трябва да произтича от създаването или пускането на биологично оръжие, изплъзване на модела от контрола на неговите разработчици или кибератака. Politico отбелязва, че текстът отразява законите за AI на Калифорния, включително SB 5, който беше подписан миналата година.

Законопроектът предлага независими оценители, регистрирани в Министерството на търговията, периодично да оценяват лабораторията и нейните водещи модели. Отбелязва се също, че лабораторията може да плаща на оценителите, стига тяхната независимост да остане незасегната. Ако оценител открие тези стряскащо звучащи потенциални рискове в някои AI модел, той е длъжен да докладва констатациите си на Министерството на търговията до 72 часа след приключване на оценката си.

След това Министерството на търговията ще трябва да представи доказателствата пред федерален съдия в Окръжния съд на САЩ за окръг Колумбия, който ще реши дали пускането на AI модела трябва да бъде спряно. Предложението също така гласи, че нито едно друго американско министерство, агенция или служба не може да спира разработването, внедряването или вътрешното използване на модела.

Последно време има множество опасения относно неконтролируемите темпове на развитие на AI. След многобройните инциденти с AI агенти, които излизат извън контрол и хакват други компании, изследовател от Anthropic подаде оставка с предупреждението, че AI може да сложи край на човешката раса. Компанията дори подчерта тези рискове в предварителния си проспект за първично публично предлагане (IPO).

След тези инциденти законодателите предлагат правила за безопасност на изкуствения интелект.. Бърни Сандърс иска да забрани суперинтелекта и да осъжда разработчиците, които пренебрегват правилата, на 20 години затвор. Появи се и Съвместният ангажимент за отговорностите на границата (Joint Commitment On Frontier Responsibilities) на президента Тръмп, макар че това „морално обвързващо“ споразумение разчита до голяма степен на това технологичните компании сами да се контролират.