Фабрика за ИИ или център за данни: каква е разликата?

Отговаря Стивън Карлини, главен застъпник за изкуствения интелект и центровете за данни и вицепрезидент в Schneider Electric.

Онова, което днес наричаме „център за данни“, се разви значително за кратко време. Първо се появиха компютърните зали, след това така наречените „ферми от сървъри“, които по-късно се разклониха в различни форми като колокационни центрове, телекомуникационни или carrier hotel центрове за данни. В средата и края на първото десетилетие на 21 в. се наложиха облачните изчисления, а най-големите центрове за данни днес се наричат „хайпърскейл“ (hyperscale). Всички тези термини описват различни форми на център за данни, който IBM определя като „физическо помещение, сграда или съоръжение, където се помещава ИТ инфраструктура за създаване, изпълнение и предоставяне на приложения и услуги. То също така съхранява и управлява данните, свързани с тези приложения и услуги.“

Но както често се случва в нашата бързо развиваща се индустрия, се появява нов термин, който набира популярност. С 65% от всички нови центрове за данни, изграждани с цел обслужване на приложения с изкуствен интелект (ИИ), най-новото наименование за съвременните центрове за данни е „фабрики за ИИ“ – термин, който се чува все по-често.

Какво е фабрика за ИИ? Най-просто казано, това е фабрика, която произвежда цифрови резултати и изводи от център за данни. По същество това е център за данни, посветен на целия жизнен цикъл на приложенията с ИИ – от обучението, през настройката, до извеждането на резултати.

Нов поглед към центровете за данни

Според NVIDIA „фабриките за ИИ се използват не просто да съхраняват и обработват данни — те създават интелигентност в мащаб, като превръщат сурови данни в решения в реално време.“ Тази гледна точка предлага нов начин за възприемане на центровете за данни — не само като инфраструктура, а като източник на стойност чрез резултатите, които генерират.

Фабриката за ИИ обхваща целия жизнен цикъл на изкуствения интелект — като се започне с обучението на модел, премине се през неговото фино настройване и се завърши с прилагането му в реални ситуации. Макар че досега вниманието беше насочено основно към обучението, истинската стойност на ИИ се проявява, когато моделът се прилага на практика. Именно тогава той започва да действа по-автономно - използва натрупаните знания, за да прави прогнози, решава сложни задачи и изпълнява конкретни действия. Следващата вълна в развитието на ИИ са оптимизирани работни натоварвания, които се изпълняват многократно върху нови данни. Именно в тази фаза компаниите очакват да възвърнат значителните си инвестиции в изкуствен интелект.

Изкуственият интелект се развива от т.нар. „еднократен ИИ“, базиран на големи езикови модели, към много по-усъвършенствани системи, които изискват значително повече изчислителна мощ. Например при мащабиране след обучение, когато моделите се донастройват за конкретни реални приложения, нуждите от изчислителни ресурси могат да бъдат до 30 пъти по-големи в сравнение с традиционните модели, използвани за прилагане на знанията. Още по-взискателен е процесът на т.нар. „дълго мислене“, който позволява напреднали приложения като агентен ИИ или физически ИИ. Този подход използва итеративно разсъждение, за да решава сложни задачи, и може да изисква до 100 пъти повече изчислителна мощ от стандартните модели.

С оглед на появата на тези нови модели е напълно логично повечето компании да се стремят техните фабрики за ИИ да бъдат възможно най-производителни и устойчиви във времето, за да отговорят на експоненциалния растеж на изкуствения интелект. Къде ще се намират фабриките за ИИ? В началото те ще бъдат част от центровете за данни на големите интернет компании и новите облачни доставчици. С времето ще започнат да се появяват все по-често в колокационни съоръжения, а в бъдеще — и в локалната инфраструктура на предприятията.

Решение за захранване и охлаждане за всяка еволюция на ИИ

И така, какво представлява една фабрика за ИИ? Това е център за данни, който поддържа целия жизнен цикъл на изкуствения интелект и ще продължи да създава ценни резултати и решения за дълго време напред. Следващото предизвикателство, което трябва да вземем предвид, е фактът, че традиционните центрове за данни срещат сериозни затруднения при поддръжката на фабрики за ИИ. Те често не са проектирани да се справят с високите изисквания за изчислителна мощност, енергия и охлаждане, които съвременните модели изкуствен интелект изискват.

Много от съществуващите центрове за данни не са проектирани да поддържат високите нива на електрозахранване и охлаждане, които изискват фабриките за ИИ. Сървърите, оптимизирани за изкуствен интелект, могат да достигнат до 132 kW консумация на електроенергия на един ИТ шкаф (например NVIDIA GB200 NVL72 AI), а през следващата година тази стойност може да нарасне до 240 kW на шкаф. Вече се разработват и решения за ИТ шкафове с мощност до 1 мегават (1MW) — нещо немислимо за традиционните центрове за данни.

Използването на референтни дизайни, които съдържат подробности за използваните материали, електрически схеми, специални архитектурни разположения и технически спецификации, ще даде по-добро разбиране за това какво е необходимо, за да се осигури ефективно захранване и охлаждане на фабриките за ИИ.

Schneider Electric работи съвместно с NVIDIA и предоставя референтни дизайни за всяко ново поколение GPU, включително за модела NVIDIA GB200/300 NVL72, който достига 132 kW на ИТ шкаф.

С развитието на фабриките за ИИ към реално прилагане и внедряване на изкуствен интелект Schneider Electric ще подкрепи тази еволюция с иновативни решения за захранване и охлаждане.

Вижте още:

• Проучване на IWG и ARUP показва, че хибридната работа може да повиши производителността с 11%, като потвърждава и надгражда съществуващите...