RAM меморијата се претвори во нова точка на судир помеѓу локалната ВИ и cloud дата центрите. RAM-от во персоналните компјутери можеби не е најдобро место за ограничените светски количини на DRAM чипови, смета директорот на OpenAI, Сем Алтман. Во интервјуто за Cheeky Pint, тој рече дека од перспектива на глобалната распределба на ресурси „доволно лошо“ е што голема количина меморија стои во компјутерите на корисниците и се користи активно само 5% од времето.
Изјавата на Алтман следеше за време на разговорот за можноста корисниците да ги покренуваат моделите на ВИ локално, на своите компјутери. Според неговото гледиште, во моментот кога понудата на DRAM меморија е сериозно ограничена, многу поефикасно е таа да се концентрира во дата центри каде што може речиси непрекинато да се користи за ВИ задачи. Ваквиот став, се чини има очигледни недостатоци што ЦЕО-то на ОпенАИ (OpenAI) избира да не ги гледа. Имено, локалната ВИ му овозможува на корисникот да го покренува моделот на својот компјутер, без да испраќа податоци на далечни сервери, без да зависи од интернет конекција и, во одредени случаи, без претплата на cloud сервис.
Всушност, аргументот на Алтман многу добро се совпаѓа со деловниот модел на ОпенАИ, чиишто најважни производи работат во дата центри. Од друга страна, колку повеќе корисници можат да извршуваат обработка на AI локално, толку е помала нивната зависност од cloud платформите.
Изјавата доаѓа и во незгоден момент за пазарот на компјутери. Податочните центри за ВИ голтаат огромни количества мемориски чипов, па големата побарувачка ги подига цените на DRAM и HBM меморијата и го зголемува притисокот врз производствените капацитети. (целото интервју за Cheeky Pint е дадено подолу)
Само неколку дена подоцна Алтман отпатува во Јужна Кореја на разговори со раководството на Самсунг токму за идните испораки на меморија за ВИ-инфраструктура.
Неговата пресметка затоа има смисла од аспект на максимално искористување на хардверот: сервер кој непрекинато обработува промптови до ВИ навистина може поинтензивно да ја користи меморијата од домашен компјутер. Но, постои и друга пресметка.
RAM-от во персоналниот компјутер не служи само за ВИ. Тој се користи за обработка на текст, фотографии и видео, цртање, програмирање, виртуелни машини, за гејминг, веб-прелистување, деловни апликации и десетици други задачи. А поседувањето локален хардвер му дава на корисникот и нешто што облакот не може целосно да го замени – контрола над сопствениот компјутер и податоците.
Оттаму изјавата на Алтман отвора многу пошироко прашање од тоа каде RAM-от е „поефикасно“ искористен. Дали иднината на компјутерите ќе се насочи во моќен локален хардвер кој корисникот го поседува или во сѐ пообемно изнајмување на процесорска моќ, меморија и ВИ модели од cloud дата центри, пишува TomsHardware.