Nvidia скоро пуска на пазара новите суперчипове „Grace Hopper“ с вградени CPU и GPU
Производителят на чипове Nvidia, който стои зад разрастването на моделите с изкуствен интелект (ИИ), представи новият си CPU+GPU чип – Grace Hopper, който ще бъде предвестник на следващото поколение модели с ИИ и чатботове.
Графичните процесори (GPU), които обикновено са предназначени за ускоряване на графичното изобразяване в компютърните игри, имат по-голяма изчислителна мощ от чиповете с централен процесор (CPU). Тъй като графичните процесори могат да извършват множество паралелни изчисления в сравнение с централните процесори, технологичните компании започнаха да ги използват за обучение на разработваните от тях ИИ модели.
Още през 2020 година Nvidia представи своя чип A100, използван от компаниите за обучение на първите итерации на техните разговорни чатботове и генератори на изображения. Само за няколко години обаче, чиповете H100 Hopper се превърнаха в ключови компоненти на центровете за данни, които захранват популярни чатботове като ChatGPT на OpenAI. Сега компанията представи чудовищен чип с вградени CPU и GPU.
Какво представляват чиповете Grace Hopper на Nvidia?
Според прессъобщение, Nvidia е създала новия си чип като е комбинирала платформата си за графични процесори Hopper с платформата за процесори Grace (и двете са кръстени на Грейс Хопър, пионер в компютърното програмиране). Двата чипа са свързани с помощта на технологията за свързване NVLink „chip-to-chip/чип-към-чип“ (C2C) на Nvidia.
Наречен GH200, суперчипът има 528 графични тензорни ядра, които могат да поддържат 480 GB оперативна памет на процесора и 96 GB оперативна памет на графичния процесор. Пропускателната способност на паметта на графичния процесор на GH200 е 4 TB в секунда, което е два пъти повече в сравнение с чиповете A100.
Суперчипът може да се похвали и с кохерентен интерфейс на паметта със скорост 900 GB/s, който е 7 пъти по-бърз от най-новото поколение PCIe, достъпно едва тази година. Наред с работата с целия софтуер на Nvidia, като например HPC SDK, Nvidia AI и Omniverse, GH200 има 30 пъти по-висока обща пропускателна способност на паметта в сравнение с чиповете A100.
За какво ще се използват чиповете Grace Hopper?
Nvidia, която е на път да се превърне в компания за трилиони долари, очаква чиповете GH200 да се използват за приложения с изкуствен интелект и високопроизводителни изчисления (HPC). На този етап можем само да си представим, че с тази превъзходна технология ще се създават по-бързи и по-точни ИИ модели и чатботове.
Компанията също така планира да ги използва за изграждането на нов екзафлопов суперкомпютър, способен да изпълнява 1018 операции с плаваща запетая в секунда (FLOPS). 256 от чиповете GH200 ще бъдат събрани заедно, за да функционират като един голям графичен процесор и ще разполагат със 144 TB споделена памет, около 500 пъти повече от тази на A100.
„Генеративният изкуствен интелект бързо трансформира бизнеса, разкрива нови възможности и ускорява откритията в здравеопазването, финансите, бизнес услугите и много други индустрии. С производството на суперчиповете Grace Hopper производителите по света скоро ще осигурят ускорената инфраструктура, от която предприятията се нуждаят, за да създават и внедряват генеративният ИИ, които използват техните уникални собствени данни.“
каза Иън Бък, вицепрезидент по ускорителните изчисления в NVIDIA, в съобщение за пресата
Глобалните хиперскалатори и суперкомпютърни центрове в САЩ и Европа ще получат достъп до захранваните с GH200 системи по-късно тази година, се допълва в съобщението.
