Co dzieje się ze sztuczną inteligencją? Analiza 16 625 prac w ciągu ostatnich 25 lat

Praktycznie wszystko, co słyszysz o sztucznej inteligencji dzisiaj dzieje się dzięki głębokiej nauki. Ta kategoria algorytmów działa ze statystykami, aby znaleźć prawidłowości w danych, i pokazała się niezwykle potężny w symulacji ludzkich umiejętności, takich jak nasza zdolność widzieć i słyszeć. W bardzo wąskim zakresie może nawet naśladować naszą zdolność rozumowania. Takie algorytmy obsługuje wyszukiwania Google, wiadomości rss Facebook, mechanizm rekomendacji Netflix, a także tworzą takie branże, jak opieka zdrowotna i edukacja.

Jak rozwija się głębokie szkolenie

Mimo, że głębokie szkolenia praktycznie w pojedynkę явило sztuczna inteligencja społeczeństwa, ono stanowi tylko niewielką lampę błyskową w historycznej zadaniu ludzkości odtworzyć własny intelekt. Ono było na czele tych poszukiwań mniej, niż kilkanaście lat. Jeśli oddalić całą historię tej dziedzinie, łatwo zrozumieć, że wkrótce i ona może odejść.

"Gdyby w 2011 roku ktoś napisał, że głębokie szkolenia znajdzie się na pierwszych stronach gazet i czasopism przez kilka, my takie: wow, no i zioło palisz", mówi Pedro Домингос, profesor informatyki z Uniwersytetu Waszyngtona i autor książki ‘The Master Algorithm’.

Według jego słów, nagłe wzloty i upadki różnych metod długi czas charakteryzowali badania w dziedzinie AI. Każdy dziesięcioleciu obserwuje się gorąca rywalizacja między różnymi pomysłami. Następnie, od czasu do czasu, przełącznik kliknie i całą społeczność zaczyna zajmować się czymś jednym.

Nasi koledzy z MIT Technology Review te треволнения i starty. W tym celu zwrócili się do jednej z największych baz danych otwartych prac naukowych, znanej jako arXiv. Oni ładują się migawki z zaledwie 16 625 artykułów, dostępnych w dziale "sztuczna inteligencja" do 18 listopada 2018 roku i tropili słowa, wymienione przez te lata, aby zobaczyć, jak rozwijała się ta dziedzina.

Dzięki ich analizie, ujawniło się trzy główne trendy: przesunięcie w kierunku uczenia maszynowego w końcu lat 90-tych — i na początku 2000, wzrost popularności sieci neuronowych, który rozpoczął się na początku 2010-x, i wzrost szkolenia z posiłkami w ciągu ostatnich kilku lat.

Najpierw Jednak kilka zastrzeżeń. Po pierwsze, sekcja arXiv z AI sięga 1993 roku, a termin "sztuczna inteligencja" odnosi się do 1950 roku, więc sama baza danych jest tylko ostatnie rozdziały historii tej dziedzinie. Po drugie, dokumenty dodane do bazy każdego roku, stanowią tylko część pracy, która odbywa się w tej dziedzinie w tej chwili. Tym nie mniej, arXiv oferuje doskonałe źródło do wykrywania niektórych dużych badań trendów i dla tego, żeby zobaczyć przeciąganie liny między różnymi идейными obozami.

Paradygmat uczenia maszynowego

Największa zmiana, która naukowcy odkryli, to odejście od systemów opartych na wiedzy, na początku 2000 roku. Takie systemy komputerowe oparte są na założeniu, że można zakodować całą wiedzę ludzkości w systemie zasad. Zamiast tego, naukowcy zwrócili się do maszynowej uczenia się — kategorii nadrzędnej algorytmów, w tym głębokie szkolenia.

Wśród 100 wymienionych słów, związane z systemami na bazie wiedzy — "logika", "ograniczenia" i "zasada" — słabsze. A związane z uczeniem maszynowym — "dane", "sieć", "wydajność" — rosły większe od innych.

Powodem tej zmiany pogody jest bardzo prosta. W latach 80-tych systemy oparte na wiedzy, zdobyć popularność wśród fanów, dzięki falę wokół ambitnych projektów, którzy próbowali odtworzyć w maszynach zdrowy rozsądek. Ale kiedy te projekty odwrócił, naukowcy do czynienia z dużym problemem: trzeba było zakodować zbyt wiele zasad, aby system mógł zrobić coś pożytecznego. To doprowadziło do wzrostu kosztów i znacznie zwolnił bieżące procesy.

Odpowiedzią na ten problem było uczenie maszynowe. Zamiast tego, aby wymagać od ludzi ręcznego kodowania setek tysięcy przepisów, ten podejście programuje maszyny do automatycznego pobierania tych zasad ze stosu danych. Dokładnie tak samo ten obszar zrezygnowała z systemów opartych na wiedzy, i zwróciła się do doskonalenia, uczenia maszynowego.

Boom нейросетей

W ramach nowego paradygmatu uczenia maszynowego przejście do głębokiego uczenia doszło nie raz. Zamiast tego, jak wykazała analiza kluczowych pojęć, naukowcy przetestowali wiele metod w dodatku do sieciom neuronowym sieci, podstawowych mechanizmów głębokiego uczenia się. Wśród innych popularnych metod zostały байесовские sieci, metoda wektorów nośnych i ewolucyjne algorytmy, wszystkie one wykorzystują różne podejścia do wyszukiwania wzorców w danych.

Na przestrzeni lat 1990-tych i 2000-ych między tymi metodami istniała stabilna konkurencja. Następnie, w 2012 roku, ogromny przełom doprowadził do kolejnej zmiany pogody. Podczas corocznego konkursu ImageNet, powołanego akcelerator postęp w dziedzinie widzenia komputerowego, badacz w imieniu Geoffrey Hinton wraz ze swoimi kolegami z Uniwersytetu w Toronto osiągnął najlepszą dokładność w rozpoznawaniu obrazów z dokładnością do nieco ponad 10%.

Technika głębokiej nauki, którą wykorzystał, zrodził nową волную badań — najpierw w społeczności wizualizerów, a następnie i poza jego granicami. Ponieważ coraz więcej naukowców zaczynał używać jej dla osiągnięcia spektakularnych wyników, popularność tej techniki, wraz z popularnością sieci neuronowych, ostrowzrosła.

Wzrost szkolenia z posiłkami

Analiza wykazała, że po kilku latach rozkwitu głębokiej nauki, nastąpiła trzecia i ostatnia zmiana w badaniach AI.

Oprócz różnych metod uczenia maszynowego, istnieją trzy różne rodzaje: szkolenie kontrolowane, niekontrolowane i z posiłkami. Kontrolowane szkolenie, które obejmuje podawanie samochodem zaznaczonych danych, stosowany jest najczęściej, a także ma najwięcej zastosowań praktycznych na dzień dzisiejszy. Jednak w ciągu ostatnich kilku lat szkolenia z posiłkami, która naśladuje proces uczenia się zwierząt za pomocą "kija i marchewki", kary i nagrody, doprowadziło do szybkiego wzrostu wzmianek w pracach.

Sama idea nie jest nowa, ale wiele lat nie pracowała. "Specjaliści kontrolujący uczenia się śmialiśmy się z specjalistami ds. szkoleń z posiłkami", mówi Домингос. Ale, jak i z głęboką nauką, jeden punkt zwrotny nagle wyprowadził metoda na pierwszy plan.

W Tym momencie nastąpił w październiku 2015 roku, kiedy AlphaGo od przeszkolony z posiłkami, pokonał mistrza świata w starożytnej grze roku. Wpływ na badawcza społeczność natychmiastowym.

Następne dziesięć lat

Analiza MIT Technology Review zapewnia tylko najnowszy wycisk konkurencji wśród pomysłów, które charakteryzują badania nad AI. Jednak ilustruje zmienność dążenia do duplikacji inteligencji. "Ważne jest, aby zrozumieć, że nikt nie wie, jak rozwiązać ten problem", mówi Домингос.

Wiele metod, które były używane przez 25 lat, pojawiły się mniej więcej w tym samym czasie w 1950 roku, i nie mogli dopasować wyzwań i sukcesów każdej dekady. Sieci neuronowe, na przykład, osiągnęły swój szczyt w latach 60-tych i trochę w latach 80-tych, ale o mało nie umarli, zanim na nowo odnaleźć swoją popularność, dzięki głębokiemu uczenia się.

Każde dziesięciolecie, innymi słowy, widział dominację innych urządzeń: sieci neuronowe w latach 50-tych i 60-tych, różne symboliczne próby w latach 70-tych, systemy oparte na wiedzy w latach 80-tych, байесовские sieci w latach 90-tych, oporowe wektory w zerowych i нейросети ponownie w 2010-tych.

2020-f nie będą się niczym różnić, mówi Домингос. A więc epoka głębokiego uczenia się może wkrótce się skończyć. Ale co będzie dalej — stara metoda w nowej chwale lub zupełnie nowy paradygmat — to przedmiot zaciętych sporów w społeczności.

"Jeśli odpowiesz na to pytanie", mówi Домингос, "chcę opatentować odpowiedź".

Aby złapać wiadomości sztucznej inteligencji za ogon .