„ДЕНЕС дадов отказ во Anthropic. Последните три години го истражував предтренингот во OpenAI и во Anthropic. Ниту една од компаниите не се однесува одговорно. Во трка се за самоподобрувачка суперинтелигенција и се коцкаат со нашите животи“, истражувачот Џејкоб Коксон објави неодамна на X.

Кокстон тврди дека луѓето што ја развиваат најнапредната ВИ сериозно дискутираат за катастрофалната можност, но јавно го ублажуваат тонот.

Неговиот неодамнешен истап полесно би го отфрлиле доколку дополнителна тежина не му даде Еван Хубингер од Антропик, реномиран истражувач за усогласување на целите на ВИ со човечките интереси. Минатата недела тој процени дека постои шанса поголема од 10%  за ВИ да ги „убие сите луѓе“ во текот на следната деценија.

Шефовите на гигантите за ВИ повикуваат на „успорување“ по драматичните предупредувања

Откако негодувањето од поранешните и сегашните инженери ја потресе јавноста, се огласи и самиот шеф на Антропик, Дарио Амодеи, објавувајќи есеј во кој отворено ја повика целата индустрија да го забави темпото на развој на напредните модели – апел кој веднаш јавно го поддржаа и клучните конкуренти – Сем Алтман од ОпенАИ и Илон Маск, најбогатиот човек во светот и сопственик на социјалната мрежа X и моделот на ВИ Грок (Grok).

Дарио Амодеи, главниот човек на Антропик на TechCrunch Disrupt 2023  фото: Викимедија

Амодеи призна дека одненадеж се премислил бидејќи ова лето моделите влегуваат во опасна фаза на таканаречено рекурзивно самоунапредување, каде постоечката ВИ самостојно го пишува кодот, тестира и го забрзува создавањето на своите значително помоќни наследници, создавајќи неконтролирана повратна јамка.

Тој предупреди дека оваа брзина наскоро може целосно да нè надвјаса, потсетувајќи и на неодамнешните инциденти во кои роеви автономни агенти на ВИ неочекувано се здружија, ги жртвуваа своите единици и започнаа да извршуваат кибер напади врз цели што никој од инженерите не им ги задал.

Основан страв или (само)промоција од компаниите за ВИ?

Објавите, што брзо станаа вирални, го потегнаа прашањето колку се основани предупредувањата за закана по човештвото, колку тие почиваат врз интуиција и експертски проценки, а колку можеби служат за промоција на самите компании.

Во медиумите и на социјалните мрежи тие предизвикаа поларизирана дебата што не е тешко да се разбере. Технолошкиот напредок честопати на краток рок создавал победници и губитници, но и страв од нови технологии.

Треба да се има предвид дека ВИ претставува посебен чекор во технолошкиот развој бидејќи не влегува само во физичките и рутинските задачи, туку сè побргу напредува и во когнитивните задачи во кои до неодамна сметавме дека сме тешко заменливи, што придонесува кон чувството дека може да стане сериозна егзистенцијална закана за човештвото.

Прашања од оптимисти и песимисти

Во поларизацијата создадена од таквата тензија, добро упатените оптимисти за ВИ (да ги наречеме така заради едноставност) со право истакнуваат дека засега не постои емпириски потврден модел што би овозможил сигурна нумеричка проценка на веројатноста за катастрофален исход од типот истребување на човештвото поради ВИ.

Песимистите за ВИ на овие аргументи одговараат дека предупредувањата не доаѓаат од луѓе што не ја разбираат ВИ, туку токму од оние кои ја развиваат и тоа не само од неколкумина.

Кој всушност предупредува за заканата?

Важно е да се напомене дека Коксон и Хубингер се само последните во долгата низа експерти од самиот врв во развојот на ВИ кои јавно предупредуваат за таков ризик.

Џефри Хинтон слика: Викимедија

На пример, Џефри Хинтон, пионер во машинското учење и нобеловец, процени кон крајот на 2024-та дека веројатноста ВИ да доведе до истребување на човештвото во следните 30 години е некаде помеѓу 10 и 20 проценти.

Јошуа Бенџо, професор на Универзитетот во Монтреал и истражувач на ВИ, предупреди дека автономните системи би можеле да следат сопствени потцели. Заедно со Хинтон и други научници, тој ги презентираше своите аргументи во списанието Science во трудот Managing extreme AI risks amid rapid progress (Управување со екстремни ризици од ВИ во услови на брз напредок).

Сем Алтман, извршен директор на ОпенАИ, Демис Хасабис, извршен директор на Гугл ДипМајнд и Дарио Амодеи, извршен директор на Антропик, уште во 2023 година потпишаа изјава за Center for AI Safety според која намалувањето на ризикот од истребување поради ВИ треба да биде глобален приоритет, заедно со сузбивање на ризиците од пандемии и од нуклеарни војни.

Сем Алтман на ТЕД конференција 2025 година фото: Стив Џавертсон/Викимедија  CC BY 2.0

Дали апокалипсата со ВИ е всушност одличен PR?

Еден од аргументите што вообичаено ги изнесуваат луѓето скептични кон апокалиптичните предвидувања е фактот што водечките компании за ВИ би можеле да имаат корист од катастрофални предвидувања.

На пример, регулацијата на напредната ВИ би можела да биде од полза за големите компании бидејќи скапите евалуации, лиценцирања и инфраструктура полесно би се финансирале од Гугл, Мајкрософт или Антропик отколку од нови стартапи.

Анализата Competition at Risk in Generative AI Markets  (Загрозување на конкурентноста во пазарите за генеративна ВИ) предупредува дека високите трошоци и вертикалната интеграција уште сега создаваат пречки за влез на пазарот и ја фаворизираат концентрацијата на пазарната моќ во рацете на големите играчи.

Тука може да постои и репутациски и финансиски интерес. Литературата посветена на технолошките очекувања покажува дека силните наративи за идните технологии можат да создадат легитимитет, да го насочат вниманието и да мобилизираат ресурси, вклучително и инвестиции. Во оваа смисла катастрофалните предупредувања можат дополнително да ја зајакнат перцепцијата дека ВИ е технологија со огромен потенцијал.

Понатаму, некои компании како Антропик ја истакнуваат безбедноста на своите модели како важен дел од нивното јавно позиционирање, меѓу другото преку политики од типот на Responsible Scaling Policy (Политика за одговорно скалирање). Конечно, како аргумент може да послужи и тоа што ваквите предупредувања од водечките луѓе за развој на ВИ последователно можат да послужат како доказ дека тие навремено предупредиле за опасностите.

Но, можните деловни и лични интереси сами по себе не се доказ дека научниците кои предупредуваат за опасностите од ВИ ја продаваат ветер и магла. На пример, Хинтон го напушти Гугл токму за да проговори послободно за ризиците. Со други зборови, предупредувањата можат истовремено да бидат и искрени и корисни за големите компании.

Може ли ВИ навистина наскоро да стане натчовечка?

Во некои области ВИ веќе е супериорна во однос на луѓето, на пример, во брзината на обработка на огромни количини податоци и во одредени задачи за препознавање обрасци, но тоа сепак не е општа суперинтелигенција. Во одредени задачи може да биде мошне лоша.

Во некои студии, резултатите на ВИ моделите на модифицираните тестови за интелигенција наменети за луѓе даваат резултати кои се движат од околу 90 до 130 и погоре, претежно пониски во визуелните и повисоки во јазичните задачи. Сепак, овие бројки зависат од моделот и начинот на тестирање и не се директно споредливи со човечки IQ, ниту пак се сигурна мерка за општата интелигенција на ВИ.

Се наметнува прашањето кога ВИ би можела да ги надмине луѓето во сè? И тука повторно, сè уште немаме веродостојно потврдени научни предвидувања; постојат експертски проценки, анкети и модели засновани на трендови. Во анкетата Thousands of AI Authors on the Future of AI (Илјадници автори на ВИ за иднината на ВИ) спроведена помеѓу 2778 истражувачи на ВИ, испитаниците процениле дека постои веројатност од 10% за машините да ги надминат луѓето во секоја можна задача до 2027 година, а 50% шанса за ова да се случи до 2047 година.

Како воопшто ВИ би можела да нè убие сите?

Засега постојат само теоретски сценарија што се обидуваат да одговорат на ова прашање. Според едно од нив, развиено од филозофот Ник Бостром (познат по неговото истражување за ризиците од вештачката интелигенција) врз основа на претходните идеи на Стив Омохундра, суперинтелигенцијата би можела да акумулира ресурси заради постигнување на одредена цел, при што би спречувала сопствено исклучување и би ги елиминирала луѓето ако ги препознае како пречка, дури и ако нејзината цел не е уништување на човештвото. Со други зборови, ВИ не мора да биде “Терминатор”.

Но, ова е хипотетички аргумент, а не емпириски потврден модел.

Замислете  си автономен систем којшто е многу поспособен од луѓето во програмирање, истражување и стратегија. За постигнување на целта потребни му се компјутерски и финансиски ресурси, пристап до мрежи и можност да избегне исклучување. На својот пат кон достигнување на целта, тој може да создаде т.н. инструментални потцели од типот на: спаси се, стекни ресурси, зголеми го влијанието, отстрани ги пречките и слично.

Сродна формална идеја – тенденцијата кон некои оптимални политики за зачувиување или зголемување на можноста за постигнување цели во одредени математички опкружувања – беше анализирана од Алекс Тарнер, истражувач за безбедност на ВИ, и неговите колеги во трудот Optimal Policies Tend to Seek Power (Оптималните политики се стремат кон стекнување моќ). Но, овој труд не е доказ дека денешните модели на ВИ сакаат моќ или самоодржување.

​​​​​​​

Моделите покажаа способност за измама и заобиколување на ограничувањата

Треба сепак да се има предвид дека некои модели во контролирани експерименти уште сега покажуваат одредени способности за некои од споменатите чекори, како стратешка измама и бегство од надзор. На пример, во трудот Frontier Models are Capable of In-context Scheming (Граничните модели се способни за инконтекстно сплеткарење), моделите во специјално конструирани средини за евалуација, често со зададени цели и информации за надзорот, го прикривале своето однесување или се обидувале да го заобиколат надзорот.

Овие резултати демонстрираат способности релевантни за безбедноста и можности за заобиколување на зададените ограничувања, но тие сè уште не се доказ за постоење на суперинтелигенција ниту намера за уништување на луѓето.

Дали катаклизмично сценарио би функционирало во пракса?

Тука  оптимистите за ВИ го имаат својот најсилен аргумент. Катастрофата би барала долгорочно планирање, автономија, стекнување на ресурси, хакирање, измама на луѓето, избегнување исклучувања и, што е најважно, реален пристап до средства за нанесување физичка штета на човештвото. Засега, нема јавно потврден систем на ВИ кој потврдено демонстрирал таква комбинација на способности.

Едно алтернативно толкување го гледа проблемот во т.н. агенти на ВИ, системи кои непредвидливите предлози на јазичните модели автоматски ги преведуваат во дејства, со моќни алатки и недоволен човечки надзор.

Можеби најголемиот ризик не е сценариото ВИ против човекот

Некои експерти сметаат дека на краток рок најреалното сценарио е она во кое катастрофалните последици би биле предизвикани од луѓе со помош на ВИ, а не од некоја одметната ВИ.

Имено, ВИ може да ги забрза кибер нападите, да ги олесни биолошките истражувања, да произведе манипулативна пропаганда или да управува со автономно оружје. За ваква катастрофа не мора ништо да „посакува“ ниту да избега од контрола; доволно е тоа нешто да биде ефикасна алатка во рацете на злонамерни луѓе.

Ваквите сценарија анализира, меѓу другото, и серијата International AI Safety Report (Меѓународен извештај за безбедност на ВИ), што ја подготвува меѓународна група експерти под водство на Бенги.

Колку треба да ѝ се верува на бројката од 10 проценти?

Би можеле да заклучиме дека на објавените проценти за катастрофални сценарија не треба да се гледаат како на емпириски мерени веројатности.

Тие треба да се разберат како субјективни, но информирани експертски проценки за можни идни случувања. Тие не значат дека ВИ презема опасни чекори во 10 или 20 проценти од тестовите, ниту дека постои сигурно потврдена пресметка на веројатноста за истребување на човештвото. Ваквите проценки во суштина носат огромна неизвесност, но тоа не значи дека треба да се игнорираат како лекомислени глупости.

Преземено од Index.hr со дозвола на авторот Nenad Jarić Dauenhauer