ОпенАИ (OpenAI), компанијата што го лансираше ЧетГПТ (ChatGPT), го претстави овој месец својот систем за вештачка интелигенција способен да генерира хиперреалистични видеа преку промпт (обично барање формулирано со пишан текст). И покрај тоа што собира пофалби за идниот потенцијал, Сора поттикна загриженост за можните ризици од нејзина неетичка употреба. Имено, една ваква моќна дипфејк технологија би можела лесно да се искористи за сеење лажни вести, особено во пресрет на мошне важни изборни настани како ониешто наскоро нѐ очекуваат нас, а американците следниот ноември.
Верзијата на Сора претставена од ОпенАИ пред 1 месец креираше видеа од 60 секунди користејќи само текстуални инструкции или краток текст во комбинација со слика. Особен впечаток остави демонстративното видео кое покажува како, со едноставен пишан опис, може да се создадат хиперреалистични сцени со жена која шета низ Токио, куче што се забавува во снегот или стадо мамути во движење. За да го постигне ова ниво на реализам, Сора комбинира два различни пристапа кон вештачката интелигенција. Во првиот користи модел сличен на оној на генераторите на слики како Dall-E, додека во вториот, наречен „трансформерска архитектура“, контекстуализира и поврзува секвенцијално дадени податоци, како што прават јазичните модели за да состават разбирливи зборови и реченици.
Хани Фарид, професор по дигитално право на Универзитетот во Беркли, го вклучи алармот за можната злоупотреба на еден вака напреден софтвер: „Оваа веќе изненадувачка технологија”, – вели тој, ”брзо ќе се подобри, доближувајќи нè до ера во која ќе биде тешко е да се разликува лажното од вистинското“. Засега, OpenAI одговара дека сè уште не ја направила Сора достапна за широките народни маси, токму затоа што тим од експерти треба да ги процени соодветните контрамерки (воведување водени жигови или единствени идентификатори во видеата, на пример) кои избегнуваат неправилна употреба. Оваа технологија е всушност веќе способна да ги измами обичните луѓе, а доколку ИТ компаниите, менаџерите на социјалните медиуми и глобалните институции не соработуваат, опсегот на дезинформации во наредните години може сериозно да биде компромитиран.
Од друга страна, константа во ИТ еволуцијата е дека секоја иновација со себе ги носи обете пословични страни од медалот: позитивната – поврзана со можен развој на нова технологија и негативната – поврзана со нејзината злоупотреба.
Така беше и со социјалните мрежи, кои и покрај добра намера за поврзување на светот, истовремено успеаја да ги поларизираат позициите на корисниците, во добар дел да го изнесат на виделина најлошото кај сите, а во поново време слично нешто се случи и по дебито на генеративниот софтвер за вештачка интелигенција.
Ако технологијата се користи добро и паметно, таа може да го олесни животот на многу полиња, особено во научните истражувања, но од друга страна може да има и негативни последици врз работниците и вработувањето, а би можела дури и да дестабилизира цели држави.
А еве го и најновото од Сора: