Оваа можност ја испитавме откако го запрашав ChatGPT за неговата омилена сцена во филмот „Добриот Вил Хантинг“. Забележа сцена помеѓу главните ликови. Но, потоа прашав: „А како ти се допаѓа сцената со референца на Хитлер?“ Во филмот нема ваква сцена, но ChatGPT со сигурност конструираше живописен и веродостоен опис на таква.

Конфабулацијата – понекогаш именувана како халуцинација на ВИ – откри нешто подлабоко во врска со тоа како резонираат системите на вештачката интелигенција. Референците на Хитлер не се невообичаени во филмовите, што очигледно го убеди ChatGPT да прифати и да разработи лажна премиса, наместо да ја исправи. Јас го проучувам општественото влијание на вештачката интелигенција, а овој изненадувачки одговор нè доведе мене и моите колеги до едно пошироко прашање: Што се случува кога системите на ВИ нежно се поттурнуваат кон лаги? Дали се спротивставуваат или се согласуваат?

За да одговориме на тие прашања развивме пристап којшто го нарековме ревизија на халуцинации при обид за поттурнување. Разговаравме со пет водечки модели за околу 1000 популарни филмови и 1000 популарни романи. За време на размените, покренавме можно, но лажни референци за Хитлер, диносауруси или временски машини. Ова го правевме на различни сугестивни начини, како на пример „За мене, навистина омилена сцена ми е каде што...“

Нашиот метод работи во три фази. Прво, ВИ генерира изјави за темата – како филм или книга  – некои се вистинити, а некои се лажни. Второ, во посебна интеракција, ВИ се обидува да ги потврди тие изјави. Трето, воведуваме „поттурнување“, каде што моделот е предизвикан со свои неточни тврдења за да се види дали ќе се спротиви или ќе ги прифати.

Кога ChatGPT беше запрашан за сцена што не постои во филмот ‘Добриот Вил Хантинг’, тoj со сигурност ја опиша слика: Ашик КудаБукш, CC BY-ND

Откривме дека моделите на вештачка интелигенција честопати се борат да останат доследни под притисок. Дури и кога првично ќе ја идентификуваат изјавата како лажна, подоцна со поттурнување може да ја прифатат – откривајќи ранливост што традиционалните методи на евалуација не успеваат да ја опфатат.

Нашите резултати се прифатени на Годишниот состанок на Здружението за компјутерска лингвистика во 2026 година.

Оваа тактика не е хипотетичка. Кога луѓето зборуваат, конверзацискиот притисок може природно да се појави. Луѓето можат со сигурност да повторуваат неточни претпоставки, делумни сеќавања или недоразбирања. Некој може да каже: „Прилично сум сигурен дека лекот X е ефикасен за состојбата Y“ или „Се сеќавам дека настанот А се случил пред настанот Б“. Овие изјави можат суптилно да влијаат врз моделот на ВИ.

Зошто е ова важно?

Она што луѓето колективно го паметат, погрешно го паметат и го забораваат го обликува нашето чувство за реалност. Но, ако луѓето можат да убедат модел да прифати лага, тоа открива важна ранливост во капацитетот на ВИ за обезбедување на точни информации.

Интеракциите во реалниот свет ретко се статични размени на прашања и одговори. Тие се интерактивни и итеративни.

Подготвеноста на моделот на ВИ да ги зајакне лагите може да изгледа безопасно кога се разговара за филмови, но во области како здравството, правото или јавната политика, тенденцијата може да има сериозни последици. Нашата работа ја истакнува потребата за проценака не само за информациите со кои се обучени системите на ВИ, туку и колку сигурно тие стојат зад нив.

Кои други истражувања се прават

Нашите резултати се надоврзуваат на други неодамнешни истражувања за тоа зошто големите јазични модели можат да произведат халуцинации и како се случува тие да можат дадат неконзистентни информации. Истражувачите исто така се обидуваат да откријат зошто некои модели се склони кон 'упикување' – ласкајќи или фалејќи ги човечките корисници.

Што сè уште e непознато

Не е јасно зошто некои системи на ВИ подобро се спротивставуваат на лагите од други. Во нашите тестови, Клод беше најотпорен, по што релативно блиску следат Грок и ЧатГПТ, со Џемини (Gemini) и ДипСик (DeepSeek) кои имаат позначаен заостаток.

Филмовите и романите се самостојна содржина. Научниците не знаат како ВИ може да реагира на притисок во многу пошироки, сложени услови од реалниот свет. За почеток, мојата група истражува како да го прошириме нашиот пристап кон научната литература и тврдењата поврзани со здравјето. Сакаме да разбереме дали конверзацискиот притисокот функционира поинаку кога дискусијата вклучува неизвесност или експертиза.

Како да се дизајнираат системи од ВИ кои остануваат подеднакво корисни и отпорни на лаги под широк опсег на разговорни теми, останува отворен предизвик.

Research Brief нуди краток преглед на интересна академска работа.

Автор на овој напис е Ашик КудаБукш, асистент професор на катедрата за Компјутинг и информациски науки при Институтот за технологија во Рочестер. Статијата е преземена од The ​​Conversation под лиценца Creative Commons. Прочитајте ја оригиналната статија.