Анализата изработена и објавена од Nature предупредува дека десетици илјади научни трудови од 2025 година можеби содржат невалидни или целосно измислени референци, т.н. ‘халуцинации’ од вештачка интелигенција. Ова не е обична грешка. Овој нов вид научен шум претставува  сериозна закана за кредибилитетот на науката.

Грешките во цитирањето не се новост. Во минатото, тие биле резултат на печатни грешки или невнимание. Но, новиот феномен е суштински различен. Вештачката интелигенција не прави случајни печатни грешки, таа создава целосно нови, фиктивни извори. Овие ‘Франкенштајн-цитати’, како што ги нарекуваат некои истражувачи, речиси и да не можат се препознаат и раздвојат од вистинските.

Во основата на проблемот е всушност начинот на којшто ВИ работи. Имено. големите јазични модели што се користат за пишување текстови или научни прегледи се извонредно добри во имитација. Тие учат од огромни количини научна литература и можат да создадат убедливи текстови, вклучително и библиографии. Но, токму тука е и проблемот – тие не ‘знаат’ што е вистина. Наместо тоа, тие предвидуваат што звучи веројатно. Резултатот сe референци што изгледаат реално, но не постојат. Често тие комбинираат вистински автори, реални списанија и убедливи наслови, создавајќи нешто што на прв поглед изгледа сосема легитимно. Еден научник дури открил дека негов труд бил цитиран во област со која никогаш не се занимавал – а референцата, всушност, не постоела.

Според анализата, бројките се загрижувачки. Илјадници, а можеби и преку сто илјади научни трудови би можеле да содржат барем една сомнителна или невалидна референца.

Некои издавачи веќе забележуваат драматични последици. Значителен дел од поднесените трудови се одбиваат поради проблеми со референците и илјадници цитати се означуваат за дополнителна проверка, што е показател дека автоматските алатки сè уште не се доволно сигурни и дека е неопходна човечка контрола.

Иако на прв поглед ова се чини како технички проблем, проблемот сепак не е маргинален туку системски, а последиците можат да бидат далекусежни. Имено, научниот систем се темели на доверба – ако една студија цитира друга, се претпоставува дека цитираната студија навистина постои. Кога оваа основа се нарушува, се доведува во прашање целиот ланец на знаење. Во области како медицината, на пример, погрешните или непостоечки извори можат да доведат до погрешни заклучоци, па дури и животно загрозувачки ситуации за пациентите. Што дополнително отвора и етички прашања – дали истражувачите доволно ги проверуваат своите извори или автоматизацијата го заменува критичкото размислување?

Научната заедница веќе реагира. Издавачите воведуваат алатки за проверка на цитатите, а некои списанија бараат подетална верификација пред објавување на трудот.

Технологијата сама по себе не е доволна. Иронично, истата технологија што го создава проблемот се користи и за негово решавање. Според експертите, клучот за надминување на овој проблемот е комбинација од автоматска проверка на референците, човечка ревизија и преземање на поголема одговорност од страна на авторите.

Феноменот е симптом на една поширока промена. Вештачката интелигенција веќе не е само алатка таа станува активен учесник во создавањето на знаење. Токму затоа, правилата на играта мора да се прилагодат. Во иднина, научната строгост нема да значи само откритие на нешто ново, туку и доказ дека изворите зад тоа откритие навистина постојат.

Зашто во науката, вистината не се темели само на идеи туку и на доверливи траги што водат до нив.