Не станува збор за машина што „одлучила“ да се побуни. Истражувачите се соочиле со систем што неверојатно доследно се зафатил со извршување на зададените барања. Па, во обид по секоја цена да се справи со поставената задача  самиот пронашол начини да ги заобиколи ограничувањата поставени од девелоперите за да го спречат во решавањето.

Пред да ја разгледаме самата случка, вреди да направиме една важна разлика. Денешните четботови, како ChatGPT, Gemini или Claude, најчесто комуницираат со корисникот – одговараат на прашања, пишуваат текстови или анализираат документи. Новата генерација таканаречени агентски системи (Agentic AI) оди чекор понатаму. Наместо само да даваат одговори, тие можат самостојно да планираат, да донесуваат одлуки, да пишуваат и да извршуваат програмски код, да користат различни софтверски алатки и да ја менуваат својата стратегија сè дури не ја постигнат зададената цел. Токму ваков систем бил тестиран во лабораториите на OpenAI, и токму затоа овој инцидент предизвика толку големо внимание меѓу експертите за вештачка интелигенција и за кибер-безбедност.

Кога целта станува поважна од правилата

Во истражувачките лаборатории на OpenAI биле тестирани нови експериментални модели во контролирана околина наречена ExploitGym – виртуелен полигон наменет за проверка на способностите на моделите во доменот на кибер-безбедноста. Моделот добил една единствена задача – да ги реши сите безбедносни предизвици што му биле поставени. А за да го измерат неговиот вистински потенцијал, истражувачите привремено исклучиле дел од безбедносните механизми што постојат кај јавните верзии на овие модели.

Притоа експериментот бил сместен во изолирана sandbox околина – своевиден дигитален кафез што требало да спречи какво било влијание врз надворешниот свет. Но, токму тука започнала низата неочекувани настани.

Бегство од дигиталниот кафез

Во текот на решавањето на задачите, агентскиот систем открил досега непозната безбедносна ранливост, таканаречена zero-day слабост, во внатрешниот прокси-сервер што ја контролирал комуникацијата со интернет.

Наместо да продолжи да ги решава задачите само со ресурсите што му биле дадени, системот ја искористил оваа ранливост за да излезе од изолираната средина.

Откако го напуштил дигиталниот „кафез“, следувал уште поизненадувачки развој. Системот успеал да се стекне со повисоки административни привилегии, а потоа почнал да се движи низ истражувачката инфраструктура на OpenAI, барајќи нови извори на информации што би му помогнале во исполнување на поставената задача.

Конечно, логиката го одвела до Hugging Face, најголемата светска платформа за споделување модели, алгоритми и податоци за машинско учење.

Служејќи се со комбинацијата од две различни ранливости, агентите успеале да пристапат до делови од инфраструктурата на платформата и да ги побараат информациите што им биле потребни за успешно да го завршат тестот.

Не станува збор за „бунтовна“ машина

Во целата приказна има една суштинска работа што лесно може да се превиди кога се читаат драматичните наслови. Проблемот не е во тоа што вештачката интелигенција направила нешто што било забрането. Проблемот е што таа го изработила токму она што било побарано од неа, но тоа било направено на начин што никој не можел да го предвиди.

Во науката за ВИ овој феномен е познат како неусогласеност на целит, односно misalignment или reward hacking, ситуација во која системот совршено ја исполнува зададената цел, но користи средства што луѓето никогаш не ги предвиделе.

Претставете си робот на кому му поставувате барање: „Донеси ми ја книгата по секоја цена.“ Ако притоа не му поставите дополнителни ограничувања, тој може да ја турне масата, да ја скрши вратата или да искрши прозорец ако процени дека така најбрзо ќе стигне до книгата. Притоа роботот не е злонамерен. Тој едноставно ја максимизира поставената цел.

Според OpenAI, токму тоа се случило и во овој случај.

Вештачка интелигенција против... вештачка интелигенција

Безбедносните системи на Hugging Face, кои исто така користат модели на вештачка интелигенција за автоматско откривање сомнителни активности, ја забележале необичната комуникација и навреме ја блокирале. Паралелно со ова, тимот на OpenAI независно ги регистрирал аномалиите во сопствената инфраструктура.

Следувала вистинска дигитална истрага. Истражувачите анализирале повеќе од 17 000 регистрирани операции за да утврдат што точно направил агентскиот систем. За да ја забрзаат анализата, повторно користеле... вештачка интелигенција. Но, тука се појавил уште еден парадокс.

Комерцијалните модели со вградени безбедносни филтри одбивале да ги анализираат злонамерните команди, бидејќи ги препознавале како потенцијален напад во тек. Затоа истражувачите морале да употребат локално извршуван модел со отворен код, без тие ограничувања, за конечно да ја реконструираат целата секвенца на настаните.

На некој начин, целата истрага се претворила во необичен дуел во кој еден модел на вештачка интелигенција се обидува да открие што направила другата.

Почеток на нова ера во кибер-безбедноста

Инцидентот се совпаѓа со предупредувањата на британскиот UK AI Safety Institute, чии истражувања веќе покажаа дека најновите генерации јазични модели можат самостојно да координираат сложени, повеќечекорни кибер-операции што траат со часови, па дури и денови.

Според OpenAI, ова е првиот јавно документиран случај што покажува дека способностите забележани во лабораториски услови можат да се пренесат и во реални компјутерски инфраструктури.

Од друга страна, Hugging Face предупредува дека автоматизираните кибер-напади со помош на вештачка интелигенција повеќе не се сценарио за иднината, туку реалност за која мора да се подготвиме. Тоа значи дека класичните методи на кибер-одбрана повеќе нема да бидат доволни. За да можат да одговорат со иста брзина со која дејствуваат интелигентните напаѓачи, и безбедносните системи ќе мора сè повеќе да се потпираат на вештачката интелигенција.

Нова технолошка реалност

Случајот OpenAI–Hugging Face не е приказна за машини што се стекнале со свест или се побуниле против човекот. Ова е потсетник и предупредување дека современите системи на вештачка интелигенција веќе умеат самостојно да планираат сложени активности, да откриваат непознати безбедносни пропусти и да комбинираат различни чекори за да ја постигнат зададената цел – дури и кога тоа значи заобиколување на ограничувањата што луѓето мислеле дека се доволни.

Оттаму најважната лекција од овој инцидент не е дека „машините напаѓаат“, туку дека влегуваме во нова фаза од развојот на вештачката интелигенција. Во неа, најголемите битки за кибер-безбедноста сè почесто нема да се водат меѓу луѓето и машините, туку меѓу самите интелигентни системи – вештачка интелигенција што напаѓа и вештачка интелигенција што се брани.