Токму овие прашања, честопати поттикнати од нашите сопствени емоции и чувства, ги инспирираат тврдењата за постоењето чувства во машините. Пример за ова е и тврдењето на Блејк Лемоин, (сега) поранешен вработен во Google, според кое четботот LaMDA на технолошкиот гигант покажал свест.

Поттикнати од "случајот Лемоин" во овој напис ви ги пренесуваме размислувањата на некои од врвните научници во доменот на ВИ, меѓу кои и од нашиот д-р проф Анис Сефиданис...

Најнапред да расчистиме нешто, LaMDA – Language Model for Dialogue Applications или јазичен модел за апликации за дијалог – не е креација на Лемоин, туку дело на 60 други истражувачи од Google. Лемоин се обидувал да го “едуцира” четботот за трансценденталната медитација. На својот профил на платформата Медиум, Лемоин го сподели текстот од разговорот што тој и неговиот колега го воделе со LaMDA.  Лемоин тврди дека одговорите на четботот укажуваат на свесност коешто е на ниво на седум или осумгодишно дете. Потоа, на 14 јуни, Лемоин на Твитер напиша: „Луѓето постојано ме прашуваат да ја поддржам причината поради која мислам дека LaMDA е свесна. Не постои научна рамка во која може да се донесат тие определби и Google не би ни дозволил да изградиме таква. Моите мислења за личноста и свеста на LaMDA се засноваат на моите религиозни убедувања“. 

Блејк Лемоин, кој излезе со тврдење дека чет-ботот на Гугл се стекнал со свест

Откако го сподели интервјуто со LaMDA, Лемоин беше ставен на „платено административно отсуство“. Но, што е со неговото тврдење, колку во него има вистина?

За да го разбереме ова најнапред треба да размислиме за следново: што е свест и како можеме да го  тестираме за чувството на свесност?

Тоби Волш, професор по вештачка интелигенција на Универзитетот во Нов Јужен Велс, во неговата статија во Гардијан во врска со тврдењата на Лемоин, пишува: „Пред да станете премногу загрижени, тврдењата на Лемоин за свесноста на LaMDA, според мене, се сосема фантастични. Иако Лемоин без сомнение искрено верува во неговите тврдења, LaMDA веројатно е свесна подеднакво колку и семафор“.

Волш е автор на книгата во која се истражуваат овие теми „Machines Behaving Badly: The Morality of AI” (“Размазени машини: моралот на вештачката интелигенција“), којашто беше објавена овој месец. Според Волш не постои доволно добра научна дефиниција за машинската свесност, па така таа честопати се зема за еквивалентна на човечката свест иако веројатно треба да се размислува за тоа да се направи јасна разлика помеѓу овие две нешта. Свесноста значи доживување чувства или емоции, објаснува Волш, додека свеста е да се биде свесен за вашите мисли и за другите.

„Една од причините зошто повеќето експерти брзо ќе ја побијат идејата дека LaMDA има свесност, е тоа што единствените нешта со свест за кои знаеме во моментов се живи суштества“, вели тој. „Се чини дека ова е предуслов за да се биде свесно суштество – да се биде жив [организам]. А компјутерите очигледно не се“.

Овој „аргумент“ на Волш можеби и не е најумесен, бидејќи ако свеста не постоела до сега кај неживите ентитети, не значи дека таа нема да се оформи во иднина. Но, ова е и доказ дека дебатата за свеста и свесноста е исполнета со замки и когнитивни јамки.

Неговиот колега од UNSW, професорот Хусеин Абас, се согласува, но исто така го истакнува недостатокот од ригорозни проценки за категоријата свесност. „За жал, немаме задоволителни тестови во литературата за чувството на свесност“, вели тој. „На пример, ако прашам компјутер 'дали чувствуваш болка', а одговорот е да, дали тоа значи дека чувствува болка? Дури и ако го испитувам со подлабоки прашања за болката, неговата способност да расудува за болката е различна од заклучокот дека чувствува болка. Можеби сите се согласуваме дека новороденчето чувствува болка и покрај фактот што новороденчето не може да го аргументира значењето на болката“, вели Абас. „Прикажувањето емоции се разликува од постоењето на емоции“.

Може да кажеме дека и ова тврдење не е сосема убедливо. Имено, технологијата може да дозволи машината со вештачка интелигенција да има сензори за допир или болка, кои ќе ја испраќаат дразбатa до „мозокот“. Дали тогаш нејзиното искуство за болката е оригинално или би се работело за имитација?

Но, Волш објаснува дека може да набљудуваме нешто што реагира на побуда како доказ за свесност, но за компјутерите треба да поставиме повисоки стандарди. „Единственото чувство за свесност за кое сум сигурен е моето, бидејќи го доживувам“, вели тој. „Бидејќи [вие] изгледате како да сте создадени од истите нешта како мене, и одговарате на соодветен начин, наједноставното објаснување е да се претпостави дека мора да сте свесни како што јас чувствувам дека сум свесен“. Кај  компјутерите, сепак, „оваа претпоставка не е наједноставното објаснување. Наједноставното објаснување е дека се работи за паметна имитација“.

„Разговорот има две страни“, додава Волш. „Ако си играте со овие ВИ машини, брзо ќе научите дека е многу битно како ќе комуницирате со нив, а прашањата што ќе ги поставите ќе го променат квалитетот на излезот. Сметам дека тоа ја одразува, во многу аспекти, интелигенцијата на личноста која поставува прашања и го води разговорот на корисни начини и, можеби, користејќи поенти што го насочуваат разговорот. Тоа навистина ја одразува интелигенцијата на личноста што ги поставува прашањата“.

Д-р Марк Чеонг, предавач по дигитална етика на Универзитетот во Мелбурн, на оваа тема вели: „Треба да се внимава да не ги проектираме нашите сопствени емоции и аспирации врз машината, кога зборуваме за вештачката интелигенција воопшто. ВИ учи од минатите податоци што ги создаваме ние, луѓето, – а општествените и историските контексти во кои живееме се рефлектираат во податоците што ги користиме за обука на вештачката интелигенција. Слично на тврдењата за свесност, не треба да почнеме да ја антропоморфизираме вештачката интелигенција без да сфатиме дека нејзиното однесување е само пронаоѓање обрасци во податоците што ги внесуваме во неа.”

„Многу простуваме, нели? Тоа е навистина човечка особина“, вели Волш. „Нашата супермоќ всушност не е нашата интелигенција. Нашата супермоќ е нашата способност да работиме заедно кон да формирање општество во коешто комуницираме едни со други. Ако [нешто] погрешно слушнеме или некој каже нешто погрешно, ги пополнуваме празнините. Ова е полезно кога работиме заедно и кога соработуваме со други човечки суштества. Но, исто така, има тенденција да нè заведе. Имаме тенденција да бидеме прилично лековерни во припишување на интелигенција и други особини како што се чувството за свесност и свест на нешта што се можеби неживи“.

Волш се сеќава и дека ова не е прв случај за припишување свесност на една машина. "Првиот чет-бот, Елиза, создаден во 1970-тите, беше „помалку софистициран“, вели тој. „Елиза ќе ја земеше реченица што ја кажала личноста и ќе ја претворела во прашање. А сепак, имаше доста возбуда и врева кога Елиза првпат се појави. Првиот чет-бот очигледно измамил некои луѓе да помислат дека е човек. Затоа, можеби толку не изненадува тоа што многу пософистициран чет-бот како овој повторно го прави истото“.

Во 1997 година, суперкомпјутерот Deep Blue го победи шаховскиот велемајстор Гари Каспаров. „Можев да почувствувам – можев да намирисам – нов вид на интелигенција преку масата“, тогаш изјави Каспаров за TIME. Но, Волш објаснува дека победничкиот потег на Дип Блу не бил потег на генијалност произведен од креативноста или чувството на машината, туку грешка во нејзиниот код – додека тајмерот истекувал, компјутерот одиграл потег по случаен избор. „Тоа доста го исплаши Каспаров и веројатно всушност придонесе за неговата евентуална тесна загуба“, вели Волш. Но, според нас, и ова не е мошне убедлив аргумент, бидејќи знаеме дека притиснати во цајтнот и луѓето прават потези по случаен избор. Се разбира, денешните шаховски суперкомпјутери се многу побрзи и со многу подобри софтвери.

Значи, колку сме навистина далеку од создавање на свесни машини? Тоа е тешко да се каже, но експертите веруваат дека краткиот одговор е „многу далеку“.

„Дали некогаш ќе создадеме машини кои се свесни?”, се прашува Волш, но на крај сепак размилува во вистинската насока: „Не знаеме дали ова чувство е нешто што е ограничено на биологијата. Компјутерите се многу добри во симулирањето на времето и на електронските орбити. Можеме да ги натераме да симулираат биохемија на чувствително суштество. Но, дали тие тогаш имаат свест – тоа е интересно, техничко, философско прашање на кое навистина не го знаеме одговорот”

„Веројатно треба да размислуваме дека ништо од она што го познаваме не би не подготвило за тоа. Не постои прекршување на физичките закони ако машините стекнат свесност. Постои веројатност дека и ние самите сме само машини во некоја форма и дека можеме да вградиме чувство на свест во компјутерот. Но, едноставно изгледа многу малку веројатно дека денешните компјутери имаат некакво чувство на свест“.

„Ако не можеме објективно да дефинираме што е „свесност“, не можеме ниту да процениме колку време ќе биде потребно за таа да се создаде“, објаснува Абас. „Според моето стручно мислење како научник кој работи во полето на вештачка интелигенција повеќе од 30 години, би рекол дека денешните ВИ машини не се ни приближно на работ од постигнувањето свесност“.

Значи, што тогаш правиме со тврдењата дека апликацијата стекнала свесност?

„Можам да разберам зошто ова ќе биде многу голема работа бидејќи даваме права на речиси сè што има свесност. И не сакаме другите нешта да страдаат“, вели Волш. „Ако машините никогаш не развијат свест, тогаш никогаш не треба да се грижиме за нив. Можам да ги ‘расчеречам’ моите роботи диода по диода, и ниму да не му е гајле. Не морам да барам етичко одобрување за нивно исклучување или нешто слично. Меѓутоа ако тие навистина станат свесни, ние ќе треба да се грижиме за овие работи. И ние мора да поставуваме прашања од типот, дали ни е дозволено да ги исклучиме? Дали е тоа слично на нивното убивање? Дали треба да ги тераме да прават здодевни, опасни, тешки работи кои се премногу здодевни, опасни или тешки за луѓето? Исто така, се грижам дека ако не резвијат свест, секогаш ќе бидат многу ограничени во она што можат да го постигнат“.

„Ме загрижуваат изјавите во врска со технологијата што ја преувеличува вистината“, додава Абас. „Тие ја поткопуваат интелигенцијата на јавноста, си играат со емоциите на луѓето и работат против објективноста во науката. Од време на време гледам изјави како тврдењата на Лемоин. Ова не е лошо, бидејќи нè тера да дебатираме за овие тешки концепти, што ни помага да ја унапредиме науката. Но, тоа не значи дека тврдењата се соодветни за сегашната најсовремена технологија во доменот на вештачката интелигенција. Дали имаме некоја свесна машина со која сум запознаен во јавниот домен? Иако имаме технологии за имитација на свесна индивидуа, сè уште ја немаме технологијата да создадеме вистинска свесна машина“.

Освен размислувањата од овие научници, кои беа објавени во Космос, ЕМИТЕР го побара мислењето и од нашиот професор д-р Анис Сефиданис од универзитетот за информатички науки и технологии “Св. Апостол Павле” од Охрид.

д-р Анис Сефиданис од универзитетот за информатички науки и технологии “Св. Апостол Павле”

ЕМИТЕР: Колку тежина и давате на веста дека чет-ботот LaMDA на Гугл се освестил?

А. Сефиданис: LaMDA на Гугл не е прва вест од овој карактер, а исто така не изненадуваат ниту реакциите од јавноста поврзани со истата. Тестот на кој ја редиме вештачката интелигенција со цел да ја споредуваме со нашата е нефер и непропорционален. Така, сѐ прашуваме дали машината ќе може да слика како Пикасо или да компонира како Бах. А дали ние то го можеме? Колку примероци од нашиот род во историјата тоа го успеале? Исто така, предизвиците и според мене лажните аларми поврзани со роботите се секогаш во контекст на парадокси каде што, да бидеме искрени, и ние самите не се снаоѓаме баш најдобро. Етички прашања во време на воен конфликт, економска криза, глобална криза на ресурси и слично. Дали чет-бото LaMDA на Гугл се освестил? А дали ние сме се освестиле? Шемите на компулсивно однесување на светската популација во пред сѐ економските а потоа и други општествени интеракции, кажува дека поголемиот дел од нас сосема механички го живееме животот и носиме одлуки каде ретко е вклучувено “свесното”. Ако проблемот на роботите е идентитетот, тогаш ние луѓето повторно имаме нешто заедничко со “нив”.

ЕМИТЕР: Дали и колку е возможно да се даде проценка за тоа дека одредена машина/ВИ се стекнала со свест?

А. Сефиданис: Англискиот математичар, информатичар и криптограф Алан Тјуринг, кој се смета за татко на вештачката интелигенција и современите когнитивни науки, ќе го постави познатиот метод за  евалуација на машините во однос на нивната способност да демонстрираат интелигенција еднаква на нашата. Експериментот е познат како “Тестот на Тјуринг” и се состои од паралелна интеракција помеѓу човек-човек и човек-компјутер. Доколку човекот не е во можност да разликува дали во одреден момент разговара со човек или пак машина, вештачката интелигенција го положила тестот. Важно е да се има во предвид субјективното искуство кое корисникот го има со системите базирани на вештачка интелигенција, каде интерфејсот на роботите игра многу важна улога во рамки на Тјуринговиот тест. Сѐ што ќе ги рефлектира доволно јасно нашите аспекти кои ние сме во можност да ги прифатиме, ќе биде прифатено како еднакво на нас. Кон се друго за жал ќе имаме тенденција да дискриминираме и етикетираме, како “недоразвиено”, “вештачко” и слично.

ЕМИТЕР:  Сметате ли дека човекот некогаш ќе може да создаде нежив ентитет што ќе поседува свест и свесност слични на неговите?

А. Сефиданис: Проблемот со свеста е во нејзиното дефинирање. За човекот да дефинира било што треба да се послужи со свеста, па оттаму и неможноста да се претстави истата во рамки на било каков систем кој е нејзин производ. Доколку ја напуштиме свеста престануваме да бидеме и ние и светот околу нас, феномени кои произлегуваат од свеста. Потрагата по светиот грал на вештачката интелигенција, а тоа е дигиталната свест, е потрага по сонцето со помош на ламба. Свеста е таа која се прашува дали постоиме, кои сме, каде сме, од каде доаѓаме, каде одиме, и воедно преку истата доаѓаме до одговори на овие прашања, т.е. даваме смисла на животот. Се согласувам со тврдењата на Блејк Лемоин, дека прашањето околу свеста е подеднакво религиозно колку и научно. Убавината на вештачката интелигенција како дисциплина  е тоа што таа е тука повторно да ги обедини различните перспективи на светот во една супер-реалност, различните интелигенции во една супер-интелигенција. За да можеме објективно да одговориме на прашањето дали одредена машина се стекнала со свест, мора најнапред да ја прифатиме реалноста дека во рамки на неисцрпниот биодиверзитет постојат безброј врсти на интелигенции, и дека свеста се јавува во различни моделитети и интензитети не само кај луѓето туки и во останатиот свет.  Познатиот холандски информатичар Едсгер Дајкстра ќе каже, “Прашањето дали компјутерот може да размислува е еднакво на прашањето дали подморницата може да плива.”