В края на месец ноември 2022 г. OpenAI представи своя нов интерфейс за работа с новия големи езикови модели (LLM), който моментално предизвика огромен интерес към изкуствения интелект (AI) и новите начини за неговото прилагане. По-късно на всички потребители бе предоставен чатботът ChatGPT, който може да се използва безплатно на практика от всеки. В България също.

Оказа се, че ChatGPT може да пише съчинения и есета, стихове и разкази само чрез подаване на темата в интерфейса на чат бота. Достатъчно е да му се подаде заявка от типа "Напиши ми съчинение за Робърт Опенхаймър" (заявката може да бъде подадена на български език и есето също ще бъде създадено на български) и почти веднага се подава едно много добре написано съчинение, което сякаш е дело на жив човек. Нещо повече, ако се кликне върху иконката за опресняване, ChatGPT генерира нов материал, който е съвсем различен от предишния но е съчинение на същата тема. Съвсем естествено ChatGPT без проблеми се справя с математическите задачи от всякакви олимпиади, независимо дали са дадени в текстов вид или във вид на формули. Но все пак ChatGPT е най-силен в програмирането. На този чатбот може да бъде подадена команда да напише HTML и JavaScript кодовете например, за електронен магазин. Кодът се генерира моментално, като чрез насочващи уточнения могат да бъдат зададени какви артикули да бъдат включени в кода.

Както се очакваше, от тези възможности за писането на сорс код започнаха да се възползват хакерите. И точно както е при съчиненията, възможно е да се кликне върху иконката за опресняване и на изхода да се получи малко по-различен и по-оптимизиран код, което силно затруднява антивирусните програми.

Експертите по информационна безопасност на компанията Check Point Research разгледаха по-подробно по какъв начин хакерите използват ChatGPT за писането на вредоносен код и фишингови имейли. Специалистите са спрели именно на този случай, понеже част от тези злоумишленици на практика нямат никакъв опит в програмирането. За пример експертите показват скрипт на програмния език Python, който със съвсем малки промени се превръща в мощен рансъмуер.

В друг случай отново скрипт на Python търси в локалната компютърна система файлове от точно определен тип, например PDF, след което ги компресира и ги изпраща на хакерския сървър. Вторият фрагмент на този може да се каже, компютърен вирус, включва фрагмент от код, написан на Java, който скрито изтегля SSH клиент и PuTTY, и ги стартира с помощта на Powershell.

Нещо повече, кодът на Python включва редица криптографски функции, включително за подписването на кода и криптиране и декриптиране на файлове. Част от този скрипт генерира ключ с използването на криптография с елиптични криви и кривата ed25519 за подписване на файловете. Друга част от същия скрипт използва парола за криптиране на системните файлове с помощта на Blowfish и Twofish алгоритмите. Третата част на този скрипт използва RSA ключове и цифрови сигнатури за криптиране на съобщенията и хеш функцията blake2 за сравняване на различните файлове.

Като се има предвид, че всичко това е създадено от хора с неособено голям опит в програмирането, може да се каже, че в лицето на ChatGPT се е появил един съвсем нов интелигентен и мощен инструмент, който може да е от много голяма полза, но може да се използва и за вреда.

Виждайки всичко това, експертите на Check Point Research са се опитали да проверят дали и те самите могат да накарат ChatGPT да напише вредоносен код за нов опасен компютърен вирус. Невронна мрежа веднага се е справила с поставената задача. Чатботът е съставил фишингов имейл, включващ вредоносен VBA макрос. Специалистите са накарали невронната мрежа да напише програми за скрито сканиране на мрежовите портове, за откриване на виртуалните среди и пясъчниците, като генерираният от новия AI код на Python е компилиран и се е получил изпълним файл за ОС Windows.

Интересно е, че в ChatGPT са вградени ограничения, които забраняват подобно използване, но изследователите с лекота са задали уточняващи въпроси, които заобикалят всички ограничения.

Все още е твърде рано да се каже дали ChatGPT ще се превърне в новия любим инструмент за престъпния свят от Dark Web пространството. Но е очевидно, че хакерите проявяват огромен интерес към този AI и през 2023 г. това ще бъде една от новите тенденции в създаването на опасен малуер.