Клучниот двигател на филмот е фактот што Рор и неговата сопруга Каролин треба да станат родители и се грижат дали нивното дете ќе живее во ВИ утопија или дистопија.

Филмот не дава дефинитивен одговор бидејќи ниту еден од десетиците стручњаци што учествуваат во него не нуди таков, но нуди одличен материјал за размислување. Има многу што да се научи од него, бидејќи Рор поставува цела низа релевантни прашања. Низ документарецот доминира песимизмот поради едноставното прашање: Чуму сите потенцијали на ВИ ако таа потоа нè уништи?

Што е ВИ?

На почетокот, филмот накратко нѐ потсетува на развојот на интернетот којшто го поврзува целиот свет, но и на првите предупредувања од лидерите на технолошките компании за можните опасности на технологијата. Едно од првите нешта коишто Рор се обидува да ги открие е одговорот на прашањето, што всушност е ВИ?

Филмот вешто покажува дека дури ниту самите експерти не се сигурни, но се согласуваат дека разбирањето на ВИ започнува со разбирањето дека интелигенцијата во суштина претставува препознавање на обрасци.

На системите со ВИ им се прикажани трилиони зборови од милиони документи врз основа на кои големите јазични модели како ChatGPT ‘претпоставуваат’ кој збор треба да дојде следен во реченицата. Ако погоди правилно, ВИ добива мал позитивен импулс, ако погреши – негативен. На крајот се добива систем којшто многу добро го користи јазикот. Но, вештината на препознавање обрасци му овозможува да разбира и извршува многу други задачи.

Појавата на повеќе компании за ВИ кои се приклучуваат кон трката резултираше со забрзани подобрувања на системите, а сè што треба да се направи е да се додадат повеќе податоци и повеќе компјутерска моќ за да им се овозможи да извршуваат сè посложени задачи.

„ВИ не е програмирана од луѓе“

Аџеја Котра (Ajeya Cotra), консултантка за ризици од ВИ, истакнува дека системите со ВИ всушност не се програмирани од луѓе. Во нив се случува нешто што ниту нивните креатори не го разбираат во целост. ВИ ги анализира работите што ѝ се нудат и во тој процес учи да прави многу други работи за коишто не е програмирана. Јошуа Бенџо, еден од пионерите на вештачката интелигенција, вели: „Разбираме многу клучни работи, но немаме јасен увид во тоа зошто одговорите што ги дава се такви какви што се. Ова е проблем бидејќи сме на пат да создадеме машини кои би можеле да станат попаметни од нас и оттаму да имаат многу моќ“.

ВИ ќе ги надмине сите технологии заедно

Соосновачот на ОпенАИ (OpenAI), Илја Сутскевер (Ilya Sutskever), истакнува дека целта на оваа трка е вештачка општа интелигенција ВГИ, којашто во сите когнитивни способности ќе биде подобра од луѓето.

Даниел Кокотајло (Daniel Kokotajlo), истражувач за безбедност на ВИ и поранешен вработен во ОпенАИ, предупредува: „Кога тоа ќе се случи, ќе вработите некој таков ВГИ, а не човек“.

Тој не ќе мора да јаде, да спие, да се одмара, нема да се жали и ќе биде стотици пати поевтин и побрз од човекот на минималец. А бидејќи може да се вгради во роботи, нема да ги автоматизира само интелектуалните задачи, туку и физичките. Накратко, ќе овозможи сите други технолошки достигнувања да се одвиваат побрзо и индустриската револуција да изгледа како зрно грашок, велат ВИ-песимистите во филмот.

Тристан Харис (Tristan Harris), соосновач на Центарот за хумана технологија (Center for Humane Technology – CHT), вели дека ВИ ќе ја надмине моќта на сите други технологии заедно.

Притоа, ВГИ нема да биде крај, туку само почеток после кој нејзиниот развој ќе се забрза експоненцијално, така што ќе стане натчовечка уште во оваа деценија. Уште повеќе, таа ќе стане попаметна од целото човештво.

‘Ќе стане многу добра во манипулирање со луѓето’

Џефри Ладиш (Jeffrey Ladish), директор во Истражувачкиот центар Палисејд (Palisade research), објаснува дека по дефиниција ВИ ќе се стреми кон постојано зголемување на моќта бидејќи тоа е најдобрата стратегија за да се стане способна за извршување на која било задача.

Пионерот во длабокото учење, нобеловецот Џефри Хинтон (Geoffrey Hinton), вели дека ако ВИ стане поинтелигентна од нас, таа „ќе стане извонредно добра во манипулирањето коешто го научила од нас, што значи дека ќе пронајде начини за да ги изманипулира луѓето да прават што и да посака“.

Елизер Јудковски (Eliezer Yudkowsky), истражувач за безбедност на ВИ, забележува дека вештачката интелигенција не е мртва машина: „Таа е паметна, креативна, инвентивна, има квалитети што го прават човечкиот вид опасен. Ако активно не се грижи за нас, ако активно не сака да живееме, ако активно не сака да бидеме живи и слободни, ако наместо тоа активно е заинтересирана за други работи, а ние сме на истата планета, тоа не е ситуација во која ќе преживееме, ако е многу попаметна од нас“.

„Познавам луѓе кои се бават со ризици од ВИ. Тие не очекуваат дека нивните деца ќе дотуркаат до средно школо“

Запрашан за тоа колку луѓе работат на развојот на ВИ, а колку на безбедноста, Конор Лихи (Conor Leahy), соосновач на Конџекчр (Conjecture), проценува дека соодносот е околу 20 000 наспроти помалку од 200. Тој смета дека ВИ претставува „најголем предизвик со кој нашата цивилизација некогаш ќе се соочи“.

Аза Раскин (Aza Raskin), соосновач на CHT, предупредува дека застранувањето на некоја ВИ во суштина би била „последната грешка што некогаш ќе ја направиме“.

Тука Рор почнува да размислува за можните подготовки за опстанок во случај на ВИ-апокалипса. На прашањето дали би имал деца во таков свет, Харис вели дека познава „луѓе кои се бават со ризици од ВИ и кои не очекуваат дека нивните деца ќе дотуркаат до средно школо“.

Причини за оптимизам

Во втората третина од филмот, Рор се обидува да пронајде надеж за себе и за своето семејство, а потоа се вклучува во разговори со пооптимистички експерти. Извршниот директор на NVIDIA, Јенсен Хуанг (Jensen Huang), верува дека „ќе станеме суперлуѓе затоа што имаме супер ВИ“.

Питер Х. Дијамандис (Peter H. Diamandis), основач на Фондацијата X-Prize, смета дека „ова е највозбудливо време да се биде жив. Единственото време што ќе биде повозбудливо е утре“. Питер Ли (Peter Lee) од Мајкрософт вели дека е оптимист „бидејќи голем дел од најинтелигентните луѓе на светот мошне сериозно размислуваат за потенцијалните опасности и штетата што може да ја предизвика ВИ“.

Мустафа Сулејман (Mustafa Suleyman), директор на Мајкрософт ВИ (Microsoft AI), е убеден дека вештачката интелигенција е „алатка што ќе ни овозможи да се соочиме со сите предизвици со кои се соочуваме како вид“.

Тука, соговорниците ги споменуваат, меѓу другото, климатските промени, пандемиите, поевтината храна, заканите од астероиди, одржливата енергија, дизајнот на лекови...

Тоа ќе биде свет во кој децата ќе го добијат најдоброто образование што постои и во кој дури и најсиромашните ќе имаат пристап до најдобрата здравствена заштита. А до средината на 2030-тите, ќе можеме да го поврземе човечкиот мозок со облакот и да излеземе од ерата на недостиг во ерата на изобилство, велат ВИ-оптимистите во документарецот.

Кој е во право?

Рор сега се прашува кој е во право тука – оптимистите или песимистите? Харис смета дека и едните и другите се во право, бидејќи ветувањата на ВИ не можат да се издвојат од нејзините ризици.

Но, проблемот е во тоа што не постои план за спречување на ризиците. А без план, луѓето би можеле да ги изгубат своите работни места, а целото богатство би можело да се сконцентрира во рацете на неколку луѓе.

Влијанието на стимулациите

Кога Рор прашува дали неговиот син за десетина години ќе живее во утопија или ќе биде избришан, Раскин вели дека одговорот „бара разбирање на стимулациите што ќе ја движат оваа технологија и моменталната состојба на работите“.

Накратко, ВИ ќе бара повеќе ресурси од која било друга технологија во минатото. Ќе троши милиони гигавати електрична енергија и тони вода за ладење, а познато е дека раните жртви на технолошките пробиви низ историјата генерално биле најранливите.

ВИ може да го преплави светот со дезинформации и да влијае на исходот од политичките кампањи, што е закана за демократијата.

Па кое е решението? Сѐ да се препушти на довербата во неколку компании коишто ви воделе сметка ВИ да се развива на безбеден начин? На прашањето зошто треба да ви веруваме, шефот на ОпенАИ, Сем Алтман, одговара: „Не треба“.

Џејсон Матени (Jason Matheny), директор на РАНД (RAND), вели дека ова е сон на авторитарните лидери – да имаат ВИ којашто може да се користи за сеприсутен надзор: „Светот што Орвел го замислил во книгата ‘1984’ не е реалистичен без ВИ“.

Зошто не забавиме?

Рор го поставува прашањето тука: зошто не забавиме додека не бидеме сигурни? Соговорниците истакнуваат дека трката ќе ја добие оној којшто е подготвен најмногу да ја жртвува безбедноста.

Меѓу челниците на компаниите постои уверување дека: „Јас морам прв да го направам тоа затоа што во спротивно тоа ќе го стори некој што нема толку добри вредности како мене“.

Таа трка повеќе не е само економска конкуренција, туку и геополитичка. Уште повеќе, некои компании како Гугл веќе се откажаа од одлуката нивната ВИ да не се користи за развој на оружје. ВИ за воени цели веќе развиваат Русија, Кина и низа други земји, а тоа би требало да доведе, меѓу другото, до војување на автомати без суштинско учество на луѓето.

Што велат петмина од лидерите?

Еден од најинтересните делови од филмот е кога Рор се обидува во своето студио да донесе петмина од лидерите на најмоќните компании за ВИ. На повикот позитивно одговориле Алтман, извршниот директор на ОпенАИ, Дарио Амодеј (Dario Amodei), извршниот директор на Антропик (Anthropic) и Демис Хасабис (Demis Hassabis), извршниот директор на Гугл ДипМајнд (Google DeepMind). Марк Закерберг, извршниот директор на Мета, одбил, а Илон Маск најнапред се согласил, а потоа се повлекол.

Запрашан дали би имал деца во свет со ВИ, Алтман одговара дека и тој очекува дете: „Не се плашам од идејата дека децата ќе растат во свет на ВИ... Нашите деца никогаш нема да бидат попаметни од ВИ. Тоа малку ме загрижува, но тоа е реалноста.“

Амодеј истакнува дека „дури и ако во САД и во Европа воведеме закони што би го запреле развојот на ВИ, ќе мора да ги убедиме и Владимир Путин и Си Џинпинг и нивните научни советници“ да го сторат истото. Кога го прашале дали може да вети дека работите нема да тргнат наопаку, Алтман одговара: „Тоа е невозможно.“

Малку надеж за крај

Последните 20-тина минути од филмот се посветени на прашањето што сите можеме да преземеме за да ја спречиме ВИ-апокалипсата. Експертите се согласуваат дека е потребна сериозна меѓународна соработка и дека притисокот на јавноста врз политичарите е клучен.

Ќе биде потребно да се осигураме дека производите да се тестираат и дека истите правила да важат за сите. Тие предупредуваат дека во моментов регулативата за продажба на сендвичи е поголема отколку за ВГИ.

Заклучувајќи, Рор вели: „Големите работи се чинат невозможни пред да се случат. Но, големите работи се случуваат затоа што милиони луѓе презеле мерки за нешто да се случи. Затоа мора да се обидеме. Премногу нешта се во прашање.“

Преземено од Index.hr со дозвола на авторот Nenad Jarić Dauenhauer