Јошуа Бенџо рекол дека давањето правен статус на најсовремените вештачки интелигенции би било слично на давање државјанство на непријателски настроени вонземјани, поради стравувањата дека напредокот во технологијата далеку ја надминува можноста за нивно ограничување. Бенџо, којшто е дел од водечка меѓународна студија за безбедност на вештачката интелигенција, рекол дека растечката перцепција дека четботовите стануваат свесни „ќе доведе до лоши одлуки“.

Канадскиот компјутерски научник, исто така, изрази загриженост дека моделите на вештачка интелигенција – технологијата што ги поддржува алатките како што се чет-ботовите – покажуваат знаци на самоодржување, како што е обидот за оневозможување на системите за надзор. Основна загриженост меѓу активистите за безбедност на вештачката интелигенција е дека моќните системи би можеле да развијат способност да ги избегнуваат вградените заштити и да им наштетат на луѓето.

„Тоа што луѓето што бараат вештачките интелигенции да добијат права би било огромна грешка“, рече Бенџо. „Најнапредните модели на вештачка интелигенција веќе покажуваат знаци на самоодржување во експериментални услови денес, и на крајот давањето права би значело дека нема да ни биде дозволено да ги исклучиме. Како што растат нивните способности и степенот на дејствување, треба да се осигураме дека можеме да се потпреме на техничките и општествените заштити за да ги контролираме, вклучително и можноста да ги исклучиме доколку тоа биде потребно.“

Јошуа Бенџо, канадски професор по компјутерски науки, вели дека идејата дека четботовите стануваат свесни 'ќе доведе до лоши одлуки'. Фото: The Canadian Press

Како што вештачките интелигенции стануваат понапредни во нивната способност да дејствуваат автономно и да извршуваат задачи за „рационализирање“, се разви дебата околу тоа дали луѓето треба, во одреден момент, да им дадат права. Анкета на Институтот Сентиенс (Sentience Institute), американски тинк-тенк којшто ги поддржува моралните права на сите разумни суштества, покажа дека речиси 4 од 10 возрасни лица во САД ги поддржуваат законските права за свесните системи на ВИ.

Антропик (Anthropic), водечка американска компанија за ВИ, во август изјави дека му дозволува на својот модел Клод Опус 4 (Claude Opus 4) да ги затвори потенцијално ‘вознемирувачките’ разговори со корисниците, велејќи дека треба да ја заштити ‘благосостојбата’ на вештачката интелигенција. Елон Маск, чија компанија за  ЕксЕјАј (xAI) го разви чет-ботот Грок (Grok), на својата платформа Екс (X) напиша дека ‘мачењето на вештачката интелигенција не е во ред’. Роберт Лонг, истражувач за свеста за вештачката интелигенција, рече дека ‘ако и кога вештачките интелигенции ќе развијат морален статус, треба да ги прашаме за нивните искуства и преференции, наместо да претпоставуваме дека ние знаеме најдобро’.

Бенџо изјави за Гардијан дека постојат ‘вистински научни својства на свеста’ во човечкиот мозок што машините, во теорија, би можеле да ги реплицираат, но интеракцијата на луѓето со чет-ботовите е сосема ‘различна работа’. Тој вели дека ова е затоа што луѓето имаат тенденција да претпоставуваат, без докази, дека вештачката интелигенција е целосно свесна на ист начин како што тоа е и човекот.

‘Луѓето не би се грижеле какви механизми се случуваат во вештачката интелигенција’, додаде тој. ‘Она што ги интересира е чувството дека разговараат со интелигентен ентитет кој има своја личност и цели. Затоа има толку многу луѓе кои се приврзуваат кон своите вештачки интелигенции’.

Одговарајќи на коментарите на Бенџо, Џејси Рис Антис, ко-основач на Институтот за свест, вели дека луѓето не би можеле безбедно да коегзистираат со дигиталните умови ако односот е однос на контрола и принуда.

Антис додава: ‘Можеме да претеруваме или потценуваме со припишување на правата на вештачката интелигенција, а нашата цел треба да биде да го сториме тоа со внимателно разгледување на благосостојбата на сите разумни суштества. Ниту целокупните права за целата вештачка интелигенција, ниту целосното негирање на правата на која било вештачка интелигенција нема да бидат здрав пристап.”

Бенџо, професор на Универзитетот во Монтреал, го доби прекарот “кум на вештачката интелигенција” откако ја освои наградата Тјуринг во 2018 година, која се смета за еквивалент на Нобелова награда во информатиката. Тој ја сподели со Џефри Хинтон, кој подоцна доби Нобелова награда, и Јан Лекан, главниот научник за вештачка интелигенција во Мета на Марк Закерберг, кој е во заминување.