Mozilla: само за две седмици Claude AI откри над 100 бъга във Firefox

Докато някои компании се борят с потока от ненадеждни или халюцинирани доклади за грешки, генерирани от изкуствения интелект, Mozilla откри истинска полза от AI инструментите за търсене на грешки. Фондацията започна да работи с Anthropic за подобряване сигурността на Firefox и няколко сериозни фиксове на бъгове с помощта на AI вече се появиха в кодовата база на браузъра.

Сега Mozilla работи с Red Team Frontier на Anthropic, за да идентифицира и отстранява потенциално опасните уязвимости в сигурността на Firefox. Според Mozilla компанията за изкуствен интелект се е обърнала към тях преди няколко седмици с резултатите от новоразработен метод за търсене на бъгове, подпомаган от изкуствен интелект. Според Mozilla подходът очевидно работи и в крайна сметка може да доведе до по-безопасен Firefox за всички.

Екипът на Anthropic се е фокусирал върху JavaScript енджина на Firefox, отчасти защото Red Panda предлага широко използвана и „дълбоко проучена“ кодова база с отворен код, която я прави идеална за тестване на новите техники за анализ. AI системата откри няколко пропуска в сигурността на JS енджина и също така създаде минимални тестови примери, което позволи на разработчиците на Firefox бързо да проверят и възпроизведат проблемите.

Като цяло разработчиците потвърдиха 14 грешки в сигурността с висока степен на опасност, които доведоха до 22 отделни идентификатора за CVE мониторинг. Mozilla заяви, че всички тези проблеми вече са отстранени в последната версия на Firefox (версия 148.0). Процесът е разкрил и 90 допълнителни грешки с ниска степен на приоритет, които понастоящем вече са отстранени.

Mozilla подчерта, че подходът на Anthropic към докладването на грешките значително се различава от другите инициативи, базирани на изкуствен интелект. Някои големи проекти с отворен код, включително curl, се принудиха да намалят или направо да забранят приноса, създаден от изкуствения интелект, след като бяха наводнени от подаването на некачествени данни от потребители, които се опитват да получат награди за откриване на грешки без съответната проверка.

Много от уязвимостите, открити чрез технологията на Anthropic, обикновено се откриват чрез fuzzing - метод за автоматизирано тестване, при който в софтуера се подават неочаквани и често пъти непредвидени входни данни, за да се предизвикат сривове. Mozilla заяви, че AI моделът също така е идентифицирал няколко класа логически грешки, които традиционните fuzzing техники често пропускат.

След като се запознае по-подробно с резултатите, Mozilla възнамерява да включи новия AI-асистиран метод в своя по-обширен работен процес за осигуряване на сигурност, както и в разработката. Организацията очаква моделите на Anthropic Claude и други авангардни AI системи да помогнат за разкриването на допълнителни проблеми в близкото бъдеще.

Ако подходът се окаже мащабируем, той би могъл да помогне и за идентифицирането на голям брой „неоткриваеми“ досега грешки и в други популярни проекти с отворен код.