Рубрика: Информатика
Нови детали од епската сага во OpenAI
Објавено на 23.11.2023 - 15:30

Како што денес јави Ројтерс, целата лавина со четиридневниот егзил на извршниот директор на OpenAI, Сем Алтман, започна со писмо што група вработени го упатила до управниот одбор на компанијата, загрижени поради можно постигнување на нов пробив на полето на ВИ. Според изворите на Ројтерс, писмото предупредува дека моќното откритие би можело да ја загрози иднината на човештвото.

Писмото, за кое досега не се знаеше, и алгоритамот за вештачка интелигенција биле клучни за петочното отпуштање на Алтман, велат изворите на Ројтерс.  Изворите го посочиле писмото како еден од факторите, но управниот одбор веќе имал подолгата листа на замерки за работата на Алтман, меѓу кои се наведува и загриженоста поради комерцијализирање на напредокот пред да се разберат последиците. Од Ројтерс истакнуваат дека, сепак, никој кај нив не видел де факто копија од наведеното писмо и дека за неговото постоење знаат само посредно.

OpenAI, од каде одбиле да ги коментираат наводите, во интерна порака до вработените сепак го признале постоењето на проектот наречен Q* (се изговара Q-Star, или Кју-ѕвезда) и писмото упатено до одборот пред овој викенд. Портпаролот на OpenAI изјавил дека пораката, испратена од долгогодишниот извршен директор Мира Мурати, го предупредила персоналот во врска со одредени медиумски приказни без притоа да ја коментира нивната точност. Некои од вработените веруваат дека Q* може да биде чекор напред во потрагата по она што е познато како општа вештачка интелигенција (artificial general intelligence – AGI), изјавил еден од луѓето за Ројтерс. OpenAI го дефинира AGI како автономни системи што ги надминуваат можностите на луѓето во економски највредните задачи.

Аномимниот извор на Ројтерс неофицијално пренел дека, со оглед на огромните пресметковни ресурси, новиот модел можел автонимно да реши одредени математички проблеми. Иако проблемите биле на ниво на оние наменети за основци, успехот на ваквите тестови кај истражувачите донел приличен оптимизам за идниот успех на Q*. Од Ројтерс велат дека не можеле да добијат независна потврда за можностите на Q* кои истражувачите тврдат дека ги поседува.

Што ова значи? Иако горенаведеното откритие е навидум бенигно и мало, треба да се има предвид дека научниците сметаат дека математиката е граница на генеративниот развој на вештачката интелигенција. Во моментов, генеративната вештачка интелигенција покажува одлични резултати во пишувањето и јазичниот превод  служејќи се со со статистички предвидувања за следниот збор, а одговорите на едно исто зададено прашање може многу да варираат. Но, стекнувањето на способноста за решавање на математички проблеми, каде има само еден точен одговор, имплицира дека вештачката интелигенција би имала поголеми способности за расудување, слични на човечката интелигенција. Оваа способност, како што веруваат истражувачите на вештачката интелигенција, би можела да се примени во нови научни истражувања, на пример. Имено, за разлика од калкулаторот кој може да реши ограничен број операции, AGI може да генерализира, учи и да ги разбира проблемите.

Долго време компјутерските научници дискутираа за опасноста што ја претставуваат високоинтелигентните машини. На пример, дали тие би можеле еден ден да одлучат дека уништувањето на човештвото е во нивен интерес.

Истражувачите, исто така, со црвно ја означија работата на „ВИ-научник“ тим, чиешто постоење го потврдија повеќе извори. Групата, формирана со комбинирање на претходните „Code Gen“ и „Math Gen“, истражувала како да ги оптимизира постоечките модели на вештачка интелигенција за да го подобри нивното расудување и на крајот да врши научна работа.

Алтман ја предводеше изработката на ChatGPT една од најбрзо растечките софтверски апликации во историјата и привлече неопходни инвестиции (и компјутерски ресурси) од Microsoft, со цел да се доближи до AGI. Освен што најави голем број нови алатки на демонстрациите овој месец, Алтман минатата недела на самитот на светските лидери во Сан Франциско наговести дека верува дека е на повидок голем напредок.

Четирипати досега во историјата на OpenAI, последниот пат пред само во неколку недели, бев во собата, кога некако го туркаме превезот на незнаењето назад и границата на откритието напред, и да се постигне тоа е професионална чест на животот“, изјави тој на Самитот за Азиско-пацифичка економска соработка.

Еден ден подоцна, одборот го отпушти Алтман.

 

Извор Ројтерс

Клучни зборови: