Intel wciąż rośnie w siłę w Gdańsku. Jaka będzie przyszłość polskiego oddziału giganta?
Na kampusie Intela w Gdańsku trwa budowa IGK6 - zgodnie z numeracją - szóstego już budynku w polskim centrum badawczo - rozwojowym korporacji zatrudniającym w tym miejscu obecnie ok. 3800 pracowników i osoby pracujące kontraktowo.
W nowych laboratoriach, których powstanie zwiększy powierzchnię badawczą korporacji w Gdańsku o 50 proc., inżynierowie realizować będą projekty dotyczące sztucznej inteligencji (AI), uczenia maszynowego, pojazdów autonomicznych czy bezpieczeństwa przechowywania danych.
Na niespełna rok przed otwarciem nowych przestrzeni Intel zaprosił dziennikarzy z całej Polski, przede wszystkim z mediów branżowych, do zwiedzania kampusu, uchylając rąbka tajemnicy prowadzonych w Gdańsku badań i wyposażenia laboratoriów.
Nad czym pracują specjaliści z Intela?
Specjalizacją Intel Technology Poland jest przede wszystkim rozwijanie oprogramowania. Gdańscy “software`owcy” pracują obecnie m.in. przy dwóch projektach dotyczących AI.
Pierwszy z nich to akcelerator Gaudi 2 (następca Gaudi 1) przyspieszający trening sztucznej inteligencji, który trafić ma na rynek pod koniec br. Jest to o tyle ważne, że AI to technologia, która dotyczy praktycznie każdego z nas. Sztuczną inteligencją znajdziemy m.in. w samochodach autonomicznych, ale też w asystencie Google lub Alexie od Amazonu. Wszędzie tam stosuje się sieci neuronowe w praktyce.
Zgodnie z badaniami rynku przeprowadzonymi przez Research and Markets w lipcu 2021 roku, do 2026 aż jedna trzecia serwerów w centrach danych na całym świecie wykonywać będzie pracę związaną z sieciami neuronowymi: trenowaniem ich lub wykorzystywaniem.
30 procent w kontekście całego świata to ogrom. Największym problemem dla firm i instytucji wykorzystujących AI jest koszt treningu. Wytrenowanie od zera do pełnej skuteczności modelu GPT-3 służącego do przetwarzania języka naturalnego, czyli takiego, który analizuje ludzką mowę i tekst, aby wydobyć z nich znaczenie, kosztuje kilka milionów dolarów i tygodnie pracy setek maszyn trenujących. Nadchodzący akcelerator Gaudi 2, będzie dużo bardziej zaawansowaną technologią, które pozwala znacznie ograniczyć czas i koszty takiego treningu.
Sztuczna inteligencja. Co potrafi Gaudi 2
Testowany obecnie w gdańskim labie prototyp platformy zawierającej osiem akceleratorów Gaudi 2 osiąga tempo uczenia 40 tys. obrazów na sekundę stosując model ResNet-50, co jest absolutnym rekordem świata i na tę chwilę żadne inne rozwiązanie nie pozwala na osiąganie takiej wydajności.
Trenowanie sieci neuronowych przy wsparciu Gaudiego wymaga zastosowania dwóch platform programistycznych. Aktualnie wspierane są frameworki TensorFlow od Google i pyTorch od Facebooka. Inżynierowie z Gdańska uczestniczą w pracach mających na celu integrację akceleratora Gaudi z tymi frameworkami w taki sposób, aby dla końcowych użytkowników użycie akceleratora było proste i intuicyjne. Po stronie Intela oznacza to konieczność implementacji i wsparcia nowego urządzenia bezpośrednio wewnątrz tych frameworków, translację struktur danych oraz obliczeń do postaci bezpośrednio obsługiwanych przez Gaudiego oraz przez cały zestaw komponentów software, takich jak sterownik jądra systemu operacyjnego, biblioteki obsługujące interfejsy sieciowe, kompilatory oraz wiele innych.
Pierwsza generacja Gaudiego wykorzystywana jest do przyspieszania nauki dwóch rodzajów sieci neuronowych. Pierwsza z nich skupia się na wykrywaniu i klasyfikacji obrazów, także wideo. Druga to NLP (Natural Language Processing), czyli sieci analizujące i przetwarzające język. Ich zadaniem może być wyłapanie słów kluczowych z zadanego tekstu, albo oszacowanie, czy recenzja napisana przez użytkownika ma wydźwięk pozytywny czy negatywny.
OpenVINO - optymalizacja sieci
Projektem, którego celem także jest optymalizacja AI, ale z zupełnie innej - bo software`owej- strony jest OpenVINO. To narzędzie skupia się na dodatkowej optymalizacji już wytrenowanych sieci, ponieważ dla użytkownika każde skrócenie czasu wnioskowania (interferencji) AI jest na wagę złota. Sieci afiliacyjne, takie jak Google, Facebook i inne masowe giganty, każdą milisekundę pracy przeliczają na dolary. Dlatego szuka się pomocnych rozwiązań, które mogą skrócić czas.
Do takich pomocników należy właśnie darmowe oprogramowanie OpenVINO, które ma tę dodatkową zaletę, że pozwala użytkownikom modeli wytrenowanych na różnych frameworkach zwiększyć ich wydajność w swoich aplikacjach uruchamianych na sprzęcie Intela (CPU, GPU i innych). Inżynierowie w gdańskim centrum badawczo-rozwojowym w pracach nad OpenVINO dążą do tego, że bez względu na zastosowany do treningu framework, optymalizacja i późniejsza interferencja będzie przebiegać maksymalnie efektywnie z wykorzystaniem aktualnie posiadanego sprzętu.
Z rozmów z inżynierami wynika, że największym wyzwaniem dla programistów nie jest matematyka związana z optymalizacją grafu, lecz taka nad nim praca, by przy okazji zmiany jego kształtu nie obniżyć trafności wnioskowania (accuracy) wytrenowanej już przecież wcześniej sieci. O jakim wyzwaniu mowa? Klienci nie dopuszczają spadku precyzji modeli o więcej niż 0,1 proc., a jednocześnie oczekują przyspieszenia tempa reakcji sieci o więcej niż 5 procent - dopiero wtedy uznają inwestycję w oprogramowanie OpenVINO za opłacalną.
W zaciszu labów IGK6
Praca w centrach badawczo - rozwojowych giganta informatycznego (gdańskie R&D Center Intela jest największe w Europie) toczy się przede wszystkim w zaciszu laboratoriów (labów). Sformułowanie “zacisze” szczególnie pasuje do laboratoriów audio, których jest na kampusie kilka, różnego rodzaju, a wraz z oddaniem do użytku IGK6 przybędzie jeszcze jedno. Do ich wnętrz nie dochodzi absolutnie żaden dźwięk z zewnątrz, ponieważ takie przestrzenie buduje się w technologii box in the box (pudełko w pudełku) – w gotowym pomieszczeniu biurowym buduje się dodatkowe ściany obłożone jeszcze warstwą wygłuszającą odizolowaną akustycznie tzw. pływającą podłogę. Na tej podłodze stawia się dodatkowe ściany, a na nich dodatkowy sufit. Wnętrze adaptuje się za pomocą specjalnych paneli, żeby uzyskać oczekiwany czas pogłosu, odpowiedni dla rodzaju eksperymentów lub testów.
Lab w IGK6 będzie dwukrotnie większym następcą jednego z obecnych laboratoriów audio. Pracuje się tutaj z użyciem nagranych w realnym świecie dźwięków (odgłosy miasta, lotniska, stacji kolejowej, jadących samochodów, rozmów itp.), tworzących pejzaż dźwiękowy (soundscape) odtwarzany przy kontrolowanym pogłosie. Po co? M.in. by trenować sprawność sieci neuronowych. Testuje się rozpoznawanie mowy i wykrywanie kluczowych wyrażeń (speech recognition i key phrase detection). Z głośnika umieszczonego w ustach „mieszkającego” na stałe fantoma, zwanego pieszczotliwie przez pracowników Ricardo, płyną słowa w dowolnym języku, w zależności od potrzeb (zna wszystkie wiodące ludzkie języki, a inżynierowie mogą też dostarczyć mu próbki bardziej egzotycznych narzeczy). Używając różnego tła dźwiękowego i sterując pogłosem, można sprawdzić choćby, ile czasu minie od wypowiedzenia frazy przez Ricardo do zrozumienia jej po stronie sieci zlokalizowanej w chmurze oraz jaka jest skuteczność rozpoznawania mowy. W audio labie przeprowadzane są też finalne oceny gotowego produktu.
Wchodząc do audio labu ma się wrażenie wstąpienia do przytulnej, wygłuszonej sypialni. Czas pogłosu w tym pomieszczeniu w zależności od ustawienia ruchomych paneli na ścianach i ew. demontażu podłogi waha się od 200 do 350 milisekund. W audiolabie w IKG6 będzie można sterować czasem pogłosu od 100 milisekund aż do kilku sekund (akustyka od poziomu komory bezechowej do wnętrza gotyckiego kościoła).
Drugi audiolab, do którego zajrzeliśmy to pełna komora bezechowa, jest całkowicie pozbawiony pogłosu. Dzieje się tak ponieważ wszystkie ściany, sufit i podłoga są pokryte ustrojami akustycznymi, w kształcie piramid i graniastosłupów, wypełnionymi akustyczną wełną mineralną o dużym współczynniku pochłaniania dźwięku.
Takie warunki akustyczne wykorzystywane są do bardzo precyzyjnego testowania przetworników dźwięku: mikrofonów i głośników. W przypadku labu Intela, sprawdza się w nim przede wszystkim przetworniki zamontowane już w laptopach.
Choć Intel sam nie produkuje laptopów, to blisko współpracuje z firmami, które umieszczają ich procesory i technologie w swoich produktach. Centrum R&D w Gdańsku zajmuje się integracją różnego rodzaju algorytmów w urządzeniu służących m.in. do rozpoznawania mowy, poszczególnych fraz, odszumiania tła. Laboratoria audio pełnią także rolę badawczą – to tutaj testowane są nowe technologie i algorytmy przetwarzania dźwięku. Stanowią też wsparcie dla producentów laptopów w przypadku problemów z jakością dźwięku lub skutecznością rozpoznawania mowy.
Megalaby - 200 km przewodów, 1,4 megawatów, 90 dB
Największe laby Intela w Gdańsku zwane z racji swej wielkości megalabami, powstały w 2017 i na przełomie 2018 i 2019 roku w dwóch skrzydłach IGK1 - najstarszego budynku na kampusie. Łączna powierzchnia obu rozdzielonych od siebie drzwiami pomieszczeń wynosi 1,6 tys. mkw. Długość przewodów, które trzeba było położyć, by rozprowadzić sieć w tylko jednym z nich, wynosi ponad 200 km, a ciężar okablowania to ok. 15 ton.
Moc, która jest doprowadzana do zasilania pracującego tu przez 24 godziny na dobę i przez cały rok wynosi ok 1,3 - 1,4 MW. Kolejne inwestycje tylko zwiększą zapotrzebowanie na energię – dodając laby budowane aktualnie w IGK6 oraz przewidywane 3,5 megawata dla powstającego labu dla kart graficznych dadzą łącznie siedem megawatów potrzebnej energii. Dla porównania, jest to moc potrzebna do zasilenia sporego osiedla składającego się z około 700 domów jednorodzinnych. Warto zaznaczyć, że akurat to “spore osiedle” od kilku lat zasilane jest w 100 proc. z odnawialnych źródeł energii.
Aktualnie w megalabie dalsze testy prowadzone są na akceleratorach Gaudi 1, a także sieć neuronowa, której zadaniem jest lepsze zarządzanie pamięcią podręczną dysków Intel Optane. Ogromna liczba urządzeń pozwala na sprawdzanie działania różnych modeli sieci neuronowych, aby mieć gwarancję, że kolejne wersje wydawanego oprogramowania wykonują obliczenia poprawnie – oznacza to, że takie testy trwają nieprzerwanie przez całą dobę, siedem dni w tygodniu. Dodatkowo inżynierowie używają tego sprzętu również do codziennej pracy np. przy implementacji wsparcia dla kolejnych modeli sieci neuronowych lub optymalizacji zwiększających wydajność trenowania modeli.
W obu pomieszczeniach jest w sumie kilkanaście tysięcy portów połączeń sieciowych. Hałas tworzony przez wentylatory tysięcy podłączonych do nich serwerów i platform testowych sięga ponad 90 dB i trudno go znieść bez wygłuszających słuchawek.
Banino Village - coraz większa automatyzacja, praca na odległość
Wysoki poziom automatyzacja pracy w gdańskim Intelu sprawia, że inżynierowie rzadko bywają w tym nasyconym decybelami labie. Dzięki wypracowanej, skomplikowanej infrastrukturze testowej, na odległość można realizować większość zadań, takich jak: sterowanie zdalne zworkami, wgrywanie różnych wersji BIOSu, ściąganie logów z płyt, generowanie ramek do tych płyt. Wszystko zostało oparte o stworzoną w gdańskim R&D specjalną płytkę, która integruje w sobie wiele urządzeń. Płytka została nazwana Banino Village, od nazwy miejscowości położonej niedaleko od siedziby Intela w Gdańsku. Jak wyjaśnił inżynier, firma ma tradycję nadawania nazw swoim produktom w oparciu o nazwy geograficzne. Ta płytka przerosła wszelkie wiązane z nią oczekiwania, a automatyzacja labu znacznie dzięki niej przyspieszyła. Banino Village zyskało ogromną popularność w całej firmie tam, gdzie w projektach konieczna jest zaawansowana zdalna kontrola i sterowanie płytami. Od 2014 roku zainstalowano 13 tys. takich urządzeń w oddziałach Intela w Meksyku, Stanach, Chinach, Indiach, na Kostaryce...
Dodatkowo wzrost poziomu automatyzacji pociągnął za sobą kolejną zmianę - wertykalizację “umeblowania” labu, choć sam proces zaczął się jeszcze w połowie poprzedniej dekady. Pierwotnie około 80 procent mebli w labach stanowiły stoły laboratoryjne, przy których krzątała się spora liczba osób. Po wprowadzeniu większej automatyzacji pracy, zajmują one jedynie 12 procent powierzchni, przez co uzyskano dodatkową przestrzeń dla szaf labowych. Upakowanie szaf w gdańskim labie jest wzorcowe, jeśli chodzi o laby oparte o płyty open chassis. W ilości systemów na metr kwadratowy Gdańsk jest nie do pobicia.
