Најновите истражувања во сајбер-безбедноста го потврдија она што е поширок тренд во целиот дигитален свет – за напади, но истовремено и за одбрана од хакери, сѐ повеќе се користат т.н. агенти на вештачка интелигенција, програми што самостојно извршуваат задачи и носат одлуки без постојан надзор и упатства од човек.

Преправање во препознатливи брендови

Омилен метод на хакерите, според сѐ, е преправањето на вируси и друг злонамерно создаден софтвер (malware) во популарни ВИ агенти и сервиси.

Касперски, една од водечките светски компании за сајбер-безбедност, од почетокот на годината открила повеќе од 92 000 вакви случаи ширум светот, соопштено е во Рим на годишната конференција Kaspersky Horizons.

Лажен Claude

Истражувачкиот тим на Касперски открил нова хакерска акција под името Силвер Фокс (Silver Fox). Во рамки на оваа операција, напаѓачите дистрибуирале лажни апликации на популарниот четбот Клод (Claude) за Виндоус, Мек и Линукс.

Штом корисниците ги стартувале, вирусите незабележливо се инсталирал на уредите на жртвите, овозможувајќи долгорочен пристап до компромитираните системи и чувствителните податоци.

Сајбер-криминалците злоупотребуваат препознатливи брендови за да ги намамат жртвите да преземат оштетени фајлови – лажните апликации на ЧетГПТ (ChatGPT) сочинувале 49% од сите откриени напади, додека Клод (Claude) и Џемини (Gemini) учествувале со по 18 %.

Ransomware – уценувачки софтвер што може да се изнајмува како услуга

Истовремено, полето на напади се шири бидејќи опфаќа мобилни уреди, услуги во облак и сервери, додека вештачката интелигенција ги забрзува и нападите и одбраната. Ова е клучната порака што на конференцијата ја пренел Андреа Фумагали, експерт за сајбер-безбедност и вештачка интелигенција. Тој особено истакна дека рансомверот – софтвер што ги заклучува податоците на жртвата и бара откуп за нивно ослободување – денес може да се изнајмува како услуга во рамки на глобалните криминални екосистеми.

Зошто секогаш заостануваме зад хакерите

Фумагали нагласи дека веќе не е прашање дали ќе се случи напад, туку кога и дали одбраната ќе биде подготвена.

„Секогаш сме зад напаѓачите и реагираме на нападите – напаѓачот е побрз, тие иновираат“, рече тој, додавајќи дека „напаѓачите постојано ја надминуваат одбраната – иновираат побрзо, соработуваат глобално во многу координирани екосистеми и го користат фактот дека на напаѓачот му е доволен само еден успех, додека одбраната мора да ги запре во сите случаи“.

Клин со клин се избива – ВИ агентите ја преземаат и одбраната

Работата во голема мера веќе е автоматизирана, а во наредните години се очекува одбраната од хакери сѐ повеќе да ја преземаат агенти на вештачка интелигенција, специјално обучени за потребите на сајбер-безбедноста.

Тие не само што собираат податоци, туку и ги интерпретираат и разбираат, откривајќи сомнително однесување.

Сепак, Фумагали нагласи дека критичните одлуки и понатаму ги носат луѓето, но и дека луѓето сѐ уште остануваат најслабата алка во синџирот на сајбер-безбедност.

Дмитриј Галов, шеф на глобалниот тим за истражување и анализа во Касперски, истакна дека агентите на вештачка интелигенција ги намалуваат трошоците и за нападите и за одбраната.

Како примери ги наведе масовниот фишинг, развојот на вируси со помош на вештачка интелигенција и автоматизираното собирање податоци.

Најдоброто што компаниите можат да го направат е да размислат

Според истражувањето на Касперски, 99% од анкетираните компании планираат да користат вештачка интелигенција за сајбер-безбедност, иако реалното усвојување на овие технологии во пракса сѐ уште е скромно.

„Најдоброто што компаниите можат да го направат е да размислат“, порача Галов, алудирајќи на расположението во кое ентузијазмот оди пред практичната примена.

Дали ВИ ќе ги замени хакерите

Тој предупреди и дека агентите на вештачка интелигенција претставуваат нова алка во синџирот на снабдување – потпирањето на надворешни ресурси создава поврзан екосистем, но и нови ранливости.

Меѓу конкретните закани ги издвои лажните четботови и вирусите маскирани како алатки за вештачка интелигенција, како лажниот Клод за Виндоус, Мек и Линукс, користен за долгорочна сајбер-шпионажа и собирање чувствителни податоци.

Постојат, вели тој, и напади врз самата вештачка интелигенција, преку таканаречено вметнување на промптови (prompt injection) и труење на содржината (data poisoning).

Агентите на вештачка интелигенција нема да ги заменат напаѓачите, нагласува Галов, туку ќе ги скалираат, односно ќе ги направат нивните напади помасовни и подалекусежни.

Машините не мислат, но сепак дејствуваат – кој е одговорен

Луана Ло Пиколо, виша советничка за технолошко право и управување со вештачка интелигенција, потсети дека машините не мислат, но сепак дејствуваат.

„Ние сме одговорни – организациите и корисниците на системите за вештачка интелигенција. Наша одговорност е да ја имплементираме вештачката интелигенција на одржлив начин“, рече таа.

Таа истакна дека се потребни јасни рамки за управување.

„Потребни ни се рамки за управување што прецизно ќе определат каде делегирањето е прифатливо, каде човечкиот надзор е незаменлив и кој ја сноси одговорноста кога системите стапуваат во интеракција со огромна брзина и обем“, заклучи Луана Ло Пиколо.