Со напредокот во вештачката интелигенција (ВИ) станува сè потешко да се направи разлика помеѓу вистинските слики, видеа и аудио снимки, и оние што се создадени од алгоритми. Дипфејк видеата (deepfakes) ги претопуваат карактеристиките на една личност или околината со друга, па може да се направи да изгледа како поединци да кажале или направиле работи што не ги направиле (ви текнува на видеото за Цукерберг, нели?). Веќе одамна се предупредува дека оваа технологија може да биде користена како медиумско оружје, за ширење дезинформации, како и целосно лажни 'факти'.

Автентичните фотографии треба да имаат „конзистентна физика“, објаснува Кевин Пимблт, директор на Центарот за извонредност за наука за податоци, вештачка интелигенција и моделирање на Универзитетот во Хал, Велика Британија, „така што рефлексиите што ги гледате во очното јаболко од левата страна треба да бидат многу слични, иако не и идентични, со рефлексиите што се гледаат во десното очно јаболко“. Разликите се навистина суптилни, па за да ги откријат, истражувачите се послужија со техники создадени за анализа на светлината во астрономските слики.

Очите кај дипфејк сликите (лево) имаат неконзистентни обрасци на рефлексија (десно). Слика: Adejumoke Owolabi (CC BY 4.0)

Трудот што во моментов сè уште чека официјална објава, ја формира основата на магистерскиот труд на Адеџумоке Оволаби. Оволаби, научник за податоци од Универзитетот во Хал, Велика Британија, користел вистински слики од Flickr-Faces-HQ Dataset и создал лажни лица користејќи генератор на слики. Олволаби потоа ги анализирал рефлексиите на изворите на светлина во очите на луѓето од сликите служејќи се со две методи за астрономски мерења: CAS системот и Gini индексот. CAS системот ја квантифицира концентрацијата, асиметријата и рамномерноста во распределбата на светлината на објектот. Со децении, оваа техника им овозможува на астрономите, меѓу кои и Пимблт, да ја карактеризираат светлината на екстрагалактичките ѕвезди. Gini индексот, пак, ја мери нееднаквоста во распределбата на светлината кај сликите на галаксиите.

Со споредување на рефлексиите од очното јаболко на поединецот, Оволаби може точно да предвиди дали сликата е лажна, во околу 70% случаи. Исти така, истражувачите открија дека Gini индексот е подобар од CAS системот во забележување на манипулации со сликата.

Брант Робертсон, астрофизичар од Универзитетот во Калифорнија, Санта Круз, го поздрави истражувањето, но укажува дека резултатите може да се користат и во спротивна насока. Имено како што вели тој „ако можете да пресметате метрика што ја квантификува реалноста на една дипфејк слика, исто така можете и да го обучите ВИ моделот за создавање на сѐ подобри дипфејк слики, преку оптимизирање на истата метрика“.

Живу Хуанг, ВИ истражувач од Универзитетот во Саутемптон, Велика Британија, открива дека неговото сопствено истражување не идентификувало неконзистентни светлосни обрасци во очите на дипфејк сликите. Но, „иако специфичната техника на користење на неконзистентни рефлексии во очното јаболко можеби не е широко применлива, таквите техники може да бидат корисни за анализа на суптилни аномалии во осветлувањето, на сенките и на рефлексиите во различни делови на сликата“, смета тој. „Откривањето на недоследности во физичките својства на светлината има потенцијал да ги надополни постоечките методи и да ја подобри севкупната точност во откривањето на дипфејк“.