Услугата Copilot AI на Microsoft е поставена да работи локално на компјутери. Компанијата, исто така, рече дека за следната генерација на AI компјутерите ќе бидат потребни вградени невронски процесорски единици (NPU) со моќ од преку 40 TOPS (trillion operations per second) – далеку од можностите на кој било кориснички процесор што може да се најде на пазарот.
Од Интел изјавиле дека компјутерите со вештачка интелигенција ќе можат да работат „повеќе елементи на Copilot“ локално. Во моментов, Copilot речиси сè работи во облак, дури и малите барања. Ова создава прилично доцнење во одговорот што може да се толерира ако работата што треба да се изврши е од поголем обем, но не е баш идеално при извршувањето на работа од помал обем. Со локално зголмување на компјутерската пресметковна моќност секако дека таа латентност би се намалила, а потенцијално ќе се подобрат и перформансите и приватноста.
Имаше гласини дека Microsoft бара 40 ТОПС на компјутерите со вештачка интелигенција од следната генерација (заедно со скромни 16 GB RAM). Во моментов, Windows не користи многу NPU, освен за придвижување на видео ефектите од типот заматување на позадината за веб-камерите кај Surface Studio. ChromeOS и macOS ја користат NPU моќта за повеќе функции за обработка на видео и аудио, заедно со OCR, превод, транскрипција во живо и многу повеќе.
Засега, процесор со најголема NPU брзина е Apple M3, кој нуди 18 TOPS низ целата линија (M3, M3 Pro и M3 Ultra). Следни се чиповите за лаптоп Ryzen 8040 и 7040 на AMD, со 16 и 10 ТОПС, додека лаптопот Meteor Lake на Интел исто така достигнува 10 ТОП. Qualcomm може да го понуди првиот процесор што поседува доволно моќ да се справи со Copilot преку Snapdragon X Elite, кој ќе понуди 45 TOPS пресметковна брзина со вештачка интелигенција.
Lunar Lake чиповите на Интел, најавени дека пристигнуваат во 2025 година, ќе се испорачуваат со три пати поголема NPU брзина. Вчера, компанијата претстави 300 нови функции за вештачка интелигенција оптимизирани специјално за нејзината платформа OpenVino. Гигантот најави и AI PC development kit заснован на ASUS NUC Pro ,кој го користи сегашниот Meteor Lake чипсет.