Jak zwiększyć liczbę tokenów generowanych przez AI nawet o 30%?

Firmy Vertiv i NVIDIA przedstawiły nową koncepcję budowy fabryk AI, łączącą szybkie konfigurowanie i wirtualną weryfikację gotowych projektów referencyjnych z wykorzystaniem infrastruktury przygotowywanej w fabryce Vertiv. Celem jest skrócenie czasu od rozpoczęcia projektu do uruchomienia infrastruktury zdolnej do obsługi produkcyjnych obliczeń sztucznej inteligencji.

Według modelu opracowanego przez firmy rozwiązanie to może zwiększyć o nawet 30 proc. łączną liczbę tokenów wygenerowanych w ciągu pierwszych 12 miesięcy, przy tej samej zainstalowanej mocy obliczeniowej. Koncepcja ta została już zastosowania przez firmę Polar Data Centers, która wykorzystuje prefabrykowaną infrastrukturę w pierwszym etapie budowy centrum danych AI o mocy 41 MW na norweskim półwyspie Herøya.

Operatorom fabryk AI samo zapewnienie mocy obliczeniowej nie wystarcza. Tradycyjna realizacja inwestycji wymaga często osobnego projektowania i stopniowej integracji systemów zasilania, chłodzenia oraz infrastruktury obiektu. Zwiększa to złożoność całego przedsięwzięcia oraz wprowadza ryzyko opóźnień. Vertiv i NVIDIA proponują rozpoczynanie prac od gotowych projektów referencyjnych fabryk AI, które można dostosować do wymagań klienta i lokalizacji, poddać walidacji w środowisku wirtualnym, a następnie wykorzystać jako podstawę do przygotowania infrastruktury już w fabryce.

Nawet do 10 razy szybsze projektowanie i walidacja na podstawie projektów referencyjnych

Dzięki nawiązanej przez firmy Vertiv i NVIDIA współpracy zespoły projektowe mogą korzystać z gotowych projektów referencyjnych fabryk AI oraz dostosowywać je we wspólnym środowisku wirtualnym do konkretnych wymagań dotyczących mocy obliczeniowej, zasilania, chłodzenia i infrastruktury obiektu. Rozwiązanie łączy projekt referencyjny NVIDIA Vera Rubin DSX AI Factory z narzędziem NVIDIA Omniverse DSX Blueprint, wirtualnymi zasobami SimReady firmy Vertiv obejmującymi systemy zasilania i chłodzenia oraz wykorzystującą agentów AI platformą 3DEXPERIENCE firmy Dassault Systèmes.

Zamiast opracowywać zintegrowany projekt infrastruktury od podstaw, zespoły mogą dostosować sprawdzone rozwiązania do wymagań inwestycji, a następnie zweryfikować je wirtualnie pod kątem zgodności, wzajemnych zależności i ograniczeń technicznych. W zamodelowanym scenariuszu czas potrzebny na przejście od określenia wymagań do skonfigurowania i zweryfikowania rozwiązania skraca się z około 30 dni do nawet trzech, czyli dziesięciokrotnie.

Vertiv udostępnia również modele urządzeń zasilających i chłodzących w formacie SimReady OpenUSD w bibliotece SimReady Central Library na platformie Hugging Face. Inżynierowie mogą wyszukiwać i ponownie wykorzystywać zweryfikowane modele urządzeń w technologii digital twin fabryk AI. Ogranicza to czas przygotowania zasobów oraz ułatwia porównywanie wariantów infrastruktury na etapie projektowania.

Infrastruktura zbudowana w fabryce może być wdrażana nawet o 50 proc. szybciej

Po zatwierdzeniu konfiguracji fabryki AI przez klienta, Vertiv prowadzi znaczną część montażu, integracji i testów we własnym zakładzie produkcyjnym, zanim rozwiązanie trafi do miejsca docelowego. Oferta prefabrykowanych systemów obejmuje budowane hybrydowo moduły centrów danych Vertiv OneCore, zapewniające integrację zasilania, klimatyzacji i dodatkowej infrastruktury, a także prefabrykowany, instalowany nad szafami serwerowymi system infrastruktury wysokiej gęstości Vertiv SmartRun, przeznaczony do dystrybucji energii elektrycznej, chłodzenia cieczą, prowadzenia sieci i zarządzania przestrzenią IT.

Przeniesienie większej części prac poza teren inwestycji ogranicza poziom skomplikowania montażu i integracji wykonywanych w centrum danych. W założonym scenariuszu czas wdrożenia infrastruktury zbudowanej jeszcze w fabryce skraca się z ok. 90 do 45 dni, czyli nawet o 50 proc.

Połączenie szybszego konfigurowania i walidacji ustawień z procesem prefabrykacji skraca łączny czas tych etapów z około 120 do 48 dni. Dzięki temu infrastruktura może rozpocząć pracę 10 tygodni wcześniej, co pozwala uzyskać do 30 proc. więcej wygenerowanych tokenów w ciągu pierwszego roku od rozpoczęcia projektu, bez zwiększania zainstalowanej mocy obliczeniowej.

Polar Data Centers wdraża fabrykę AI na norweskim półwyspie Herøya

W swoim kampusie na półwyspie Herøya w Norwegii firma Polar Data Centers wykorzystuje model wdrażania infrastruktury przygotowywanej w fabryce. Rozwiązanie zastosowano w pierwszej fazie wieloetapowej budowy centrum danych AI o mocy 41 MW, którego docelowa moc ma wynieść 100 MW. Przeniesienie znacznej części montażu, integracji i testów do fabryki wpłynęło na ograniczenie złożoności prac wykonywanych na miejscu w nowym centrum danych i przyspieszyło udostępnianie infrastruktury przeznaczonej do obliczeń o wysokiej gęstości, chłodzonych cieczą. Vertiv dostarcza prefabrykowane moduły zasilania i chłodzenia, infrastrukturę instalowaną nad szafami serwerowymi Vertiv SmartRun oraz rozwiązanie Vertiv SmartMod. Całość zarządzana jest za pomocą oprogramowania Vertiv Unify.

– W fabryce AI zwrot z inwestycji zależy od liczby wygenerowanych tokenów. Każdy dzień poświęcony na konfigurowanie infrastruktury lub integrację systemów oznacza utracone moce produkcyjne, których nie da się później odzyskać – uważa Giordano Albertazzi, dyrektor generalny Vertiv. – O powodzeniu decyduje to, jak szybko operatorzy mogą przejść od określenia wymagań do uruchomienia infrastruktury obsługującej rzeczywiste obciążenia AI. Gotowe projekty referencyjne, które można szybko skonfigurować i walidować, w połączeniu z prefabrykacją pozwalają ograniczyć złożoność inwestycji i przyspieszyć wdrożenie, a przez to umożliwiają wcześniejsze uruchomienie mocy obliczeniowej. Polar Data Centers pokazuje, jak zastosować to podejście w rzeczywistym projekcie na dużą skalę.

– Klienci oceniają nas przede wszystkim na podstawie tego, jak szybko udostępniamy im gotową infrastrukturę – mówi Andy Hayes, dyrektor generalny Polar Data Centers. – W Herøya prefabrykowane rozwiązania Vertiv pomagają nam opanować złożoność wdrażania systemów zasilania, chłodzenia i infrastruktury przestrzeni IT dla obliczeń o wysokiej gęstości. Dzięki temu możemy realizować inwestycje według bardziej uporządkowanego i powtarzalnego modelu, zachowując jednocześnie elastyczność niezbędną do spełnienia wymagań klientów.