Najszybszy superkomputer na świecie pobił rekord sztucznej inteligencji

Na zachodnim wybrzeżu Ameryki najbardziej wartościowe firmy na świecie starają się, aby sztuczna inteligencja mądrzejszy. Google i Facebook przechwala się eksperymentami z użyciem miliardów zdjęć i tysięcy wydajnych procesorów. Ale w końcu ubiegłego roku projekt, w wschodniej części stanu Tennessee dyskretnie przekroczyła skalę każdej firmowej laboratorium sztucznej inteligencji. I on był pod administracją rządu stanów ZJEDNOCZONYCH.

Rządowy superkomputer USA bije rekordy

W rekordowym projekcie uczestniczył najszybszy na świecie superkomputer Summit, znajdujący się w Narodowym laboratorium Oak Ridge. Maszyna ta otrzymała koronę w czerwcu ubiegłego roku, sprowadzając USA tytuł pięć lat później, kiedy lista na czele Chiny. W ramach projektu badania klimatu gigantyczny komputer uruchomił dotycząca uczenia się, który płynął szybciej, niż kiedykolwiek wcześniej.

"Szczyt", zajmuje powierzchnię równą dwóm korty tenisowe, funkcjonował w tym projekcie, ponad 27 000 potężnych procesorów graficznych. Użył ich moc do nauki algorytmów głębokiego uczenia się, w tej samej technologii, która leży w oparciu o zaawansowanej sztucznej inteligencji. W procesie głębokiego uczenia algorytmy wykonują ćwiczenia z prędkością miliard miliardów operacji na sekundę, znanej w суперкомпьютерных kręgach jak экзафлоп.

"Wcześniej głęboka nauka nigdy nie osiągnie takiego poziomu wydajności", mówi Прабхат, kierownik grupy badawczej w państwowym naukowo-obliczeniowej centrum badań energetycznych w laboratorium Narodowego w imieniu Lawrence ' a w Berkeley. Jego grupa współpracowała z badaczami w siedzibie "Szczytu", w Narodowym laboratorium Oak Ridge.

Jak można się domyślić, trening SI najpotężniejszego w świecie komputera koncentruje się na jednym z największych problemów na świecie — zmiany klimatu. Firmy technologiczne uczą algorytmy rozpoznawania twarzy lub znaki drogowe; rządowe naukowcy nauczyli się je rozpoznawać warunki pogodowe jak cyklony według podziału modeli, które kurczą się stuletnie prognozy atmosfery Ziemi w trzy godziny. (Nie jest jasne, co prawda, ile energii затребовал projekt i jak dużo węgla było wyrzucone w powietrze w tym procesie).

Eksperyment Summit ma znaczenie dla przyszłości sztucznej inteligencji i klimatologii. Projekt wykazuje potencjał naukowy adaptacji głębokiego uczenia się do суперкомпьютерам, które tradycyjnie modelują procesy fizyczne i chemiczne, takie jak wybuchy jądrowe, czarne dziury lub nowe materiały. To również pokazuje, że uczenie maszynowe może korzystać z większej mocy obliczeniowej — jeśli jesteś w stanie ją znaleźć — i zapewnić przełomy w przyszłości.

"nie wiedzieliśmy, że można to zrobić w takiej skali, dopóki nie zrobili to", mówi Раджат Монга, dyrektor techniczny w Google. On i inni "гугловцы" pomagali projektu, dostosowując oprogramowanie uczenia maszynowego TensorFlow open source firmy do gigantycznych rozmiarów Summit.

Większość pracy w skalowania głębokiego szkolenia odbyły się w centrach przetwarzania danych firm internetowych, gdzie serwery pracują wspólnie nad problemami, rozdzielając je, bo znajdują się stosunkowo разобщенно, a nie są połączone w jeden gigantyczny komputer. Superkomputery samo jak Summit mają inną architekturę z wyspecjalizowanych szybkie połączeniami, связывающими ich tysiące procesorów w jeden system, który może działać jako całość. Do niedawna przeprowadzono stosunkowo niewiele prac dotyczących adaptacji uczenia maszynowego do pracy z tego typu sprzętem.

Монга mówi, że praca w adaptacji TensorFlow do wielkości Summit będzie również wspierać wysiłki Google w celu rozszerzenia jej wewnętrznych systemów sztucznej inteligencji. Inżynierowie firmy Nvidia również wziął udział w tym projekcie, upewniając się, że dziesiątki tysięcy procesorów graficznych Nvidia w tym aucie działają bez zarzutu.

Wyszukiwanie sposobów użycia większej mocy obliczeniowej algorytmów głębokiej nauki odegrał ważną rolę w obecnym rozwoju technologii. Ta sama technologia, którą wykorzystuje do rozpoznawania głosu Siri i samochody Waymo do odczytu znaków drogowych, stała się użyteczna w 2012 roku, po tym, gdy naukowcy przystosowali ją do pracy na procesorach graficznych Nvidia.

W analizie, opublikowanym w maju ubiegłego roku, naukowcy z OpenAI, research institute w San Francisco, w oparciu Илоном Маском, szacują, że ilość mocy obliczeniowej w największych publicznych eksperymentach z maszyny szkoleniem podwaja się co około 3,43 miesiąca od 2012 roku; oznaczałoby to 11-krotny wzrost w ciągu roku. Taka progression pomogła bota z Alphabet pokonać mistrzów w trudnych stacjonarnych i grach wideo, a także przyczyniła się do znacznego zwiększenia dokładności tłumacza Google.

Google i inne firmy obecnie tworzą nowe rodzaje układów dostosowanych pod AI, aby kontynuować ten trend. Google twierdzi, że "strąki" z ciasno ułożonych tysiącami jej żetonów AI — dubbing тензорные procesory, lub TPU — mogą zapewnić 100 petaflopów mocy obliczeniowej, co stanowi jedną dziesiątą od prędkości osiągniętej przez Summit.

Wkład projektu Summit w nauce o klimacie pokazuje, jak SI gigantycznej skali może ulepszać nasz zrozumienie przyszłych warunków pogodowych. Kiedy naukowcy generują ponad stuletnie prognoz pogody, czytanie odebranej prognozy staje się wyzwaniem."Wyobraź sobie, że masz film na YouTube, który idzie 100 lat. Nie ma możliwości znalezienia wszystkich kotów i psów w tym filmie ręcznie", mówi Прабхат. Zazwyczaj do automatyzacji tego procesu jest używane oprogramowanie, jednak nie całkowicie. Wyniki "Szczytu" wykazały, że uczenie maszynowe może zrobić to o wiele lepiej, co powinno pomóc w przewidywaniu burzy oddziaływań w rodzaju powodzi.

Według Michaela Pritcharda, profesora uniwersytetu Kalifornijskiego w Irvine, uruchomienie głębokiego uczenia się na superkomputerach — jest to stosunkowo nowa idea, która pojawiła się w dogodnym czasie dla badaczy klimatu. Spowolnienie tempa udoskonalenia tradycyjnych procesorów doprowadziło do tego, że inżynierowie zaczęli wyposażać superkomputery rosnącą liczbą chipem, aby wydajność rosła bardziej stabilnie. "Nadszedł moment, kiedy już nie można zwiększyć moc obliczeniową w normalny sposób", mówi Pritchard.

To przesunięcie zaczął tradycyjne modelowanie w ślepy zaułek, a więc musiałem się dostosować. To także otwiera drzwi do użycia siły głębokiej nauki, która w naturalny sposób nadaje się do chipem. Możliwe, że będziemy mieli lepsze wyobrażenie o przyszłości naszego klimatu.

A jak by używali ten superkomputer? Powiedz .