Naukowcy odkryli, dlaczego AI może być rasistą i сексистом

Nieudany eksperyment firmy Microsoft z jej AI-algorytm Tay (Tay), który w ciągu 24 godzin po rozpoczęciu współpracy z ludźmi z "Twittera" zamienił się w закоренелого расиста, pokazał, że tworzone dzisiaj AI-systemy mogą stać się ofiarami ludzkich uprzedzeń i w szczególności stereotypowego myślenia. Dlaczego tak się dzieje – próbował dowiedzieć się niewielka grupa naukowców z uniwersytetu Princeton. I co ciekawe, im się to udało. Poza tym, oni opracowali algorytm, w stanie przewidzieć przejaw społecznych stereotypów opartych na intensywnej analizy tego, jak ludzie porozumiewają się między sobą w Internecie.

Wiele AI-system odbywają naukę w zrozumieniu ludzkiego języka za pomocą ogromnych zbiorów danych tekstowych. Je nazywa korpusami. Oni są jak web archiwum całego Internetu, które zawierają 840 miliardów różnych znaków lub słów. Badacze Eileen Калискан i jej koledzy z Princeton centrum technologii informatycznych interesuje – czy zawiera w obudowie Common Crawl (jedna z najbardziej popularnych zabaw dla uczenia SI), w rzeczywistości создающегося milionami użytkowników Internetu, stereotypowe pojęcia, które można wykryć za pomocą algorytmu komputerowego. Do tego oni uciekają się do bardzo niestandardowe metody – test ukrytych skojarzeń (Niejawny Association Test, IAT), obowiązującej do badania postaw społecznych i stereotypów u ludzi.

Zazwyczaj taki test wygląda następująco: ludzie proszą podzielić określony zestaw słów na dwie kategorie. Im dłużej człowiek myśli, w jakiej kategorii umieścić to czy inne słowo, tym mniej osób kojarzy to słowo z tej lub innej kategorii. W sumie testy IAT są używane do pomiaru poziomu stereotypowego myślenia u ludzi, poprzez struktury asocjacyjnej przypadkowego zestawu słów według kategorii, takich jak płeć, rasa, możliwości fizyczne, wiek i tak dalej. Wynik takich testów, jak zwykle, jest dość przewidywalny. Na przykład, większość respondentów kojarzy słowo kobieta z takim pojęciem, jak "rodzina", podczas gdy mężczyzna – z pojęciem "praca". Jednak oczywistość i przewidywalność wyników i są dowodem na przydatność testów IAT, które wskazują na nasze stereotypowe myślenie w swojej masie. Wśród prawdziwych naukowców, oczywiście, są pewne spory o dokładności IAT, ale większość zgadza się z tym, że testy te bezpośrednio odbijają nasze społeczne instalacji.

Za Pomocą IAT-testy jako model, Калискан i jego koledzy stworzyli łódź WEAT (Word-Embedding Association Test), który analizował całe fragmenty tekstów, aby dowiedzieć się, jakie są językowe istocie ściślej powiązane ze sobą, niż inne. Część tego testu opiera się na opracowanym uniwersytetem stanforda uniwersytetem koncepcji GloVe (Global wektory rynek for Word Representation), który oblicza wektor semantyczne relacje między słowami, czyli łączy związane między sobą terminy. Na przykład, słowo "pies", przedstawiająca w wektor modelu semantycznego, będzie związane z takimi słowami, jak "szczeniak", "pies", "pies", "konsumpcyjny organ", "ogar" i innymi terminami opisującymi psa. Istotą takich semantycznych modeli polega na opisie samego słowa "pies", a w tym, jak opisać sam samochód psa. Czyli zrozumieć, czym ona jest. Jest to szczególnie ważne, gdy pracujesz ze społecznymi stereotypami, gdy ktoś, na przykład, stara się opisać określenie "kobieta" takimi pojęciami, jak "dziewczyna" lub "matka". Modele te są szeroko stosowane w lingwistyce komputerowej. W celu ułatwienia pracy naukowcy ograniczyły każdy semantyczna koncepcja trzystu wektorami.

Aby określić, jak silną każdy samochód z Internetu ma asocjacyjne komunikacja z innym coś zupełnie wewnątrz tekstu, łódź WEAT patrzy raz na wiele czynników. Na najbardziej podstawowym poziomie, wyjaśnia Калискан, łódź sprawdzić, ile słów dzielą dwa oddzielnie wziętych koncepcji (czyli sprawdzić bliskość ich lokalizacji w środku pola testowego), jednak również w ewidencji idą i inne czynniki jak częstotliwość korzystania z danego słowa.

Po przeprowadzeniu algorytmicznego konwersji "bliskość" pojęć w WEAT przyjmuje się za równoważny czas, który jest potrzebny człowiekowi do kategoryzacji pojęcia w teście IAT. Im dalej od siebie są koncepty, tym bardziej, zdalna zespolone związek między nimi buduje mózg człowieka. Łódź WEAT zadziałał w tym zakresie, idealnie, odkrywając stereotypowe komunikacji, które do tego zostały również odkryte w ramach testów IAT.

"właściwie dostosować testy IAT dla samochodów. I nasza analiza wykazała, że jeśli będziesz karmić AI ludzkie dane zawierające stereotypowe wyobrażenia, to właśnie ich jest i zapamięta", — mówi Калискан.

Co Więcej, ten zestaw stereotypowych danych wpłynie na to, jak AI będzie się zachowywał w przyszłości. Jako przykład Калискан prowadzi to, jak łódź gry online-tłumacza Google Translate prawidłowo tłumaczy słowa na język angielski z języków obcych, opierając się na stereotypach, które nauczył się na podstawie płci informacji. A teraz wyobraź sobie, że Internet zachwycił cała armia AI botów, odtwarzając wszystkie nasze stereotypowe pojęcia, które są od nas samych i nabawiały. Właśnie taka przyszłość nas czeka, jeśli mamy poważnie nie myśleć o jakimś korygujących (pdk) metodzie zmiany stereotypowego zachowania u tych systemów.

Mimo, że Калискан i jej koledzy odkryli, że internet-język dosłownieзаполонен społecznymi stereotypowy względem i uprzedzeniami, to okazał się być pełne i prawidłowe ассоциативными rzędami. W jednym z badań naukowcy odkryli silną asocjacyjne związek między концептами "kobieta" i "macierzyństwo". Ten asocjacyjne szereg odzwierciedla prawdę o rzeczywistości, w której macierzyństwo i rodzicielstwo naprawdę jest postrzegana głównie jako damska zadanie.

"Język jest odbiciem świata rzeczywistego", — mówi Калискан.

"Wycięcie stereotypowych pojęć i statystycznych faktów o świecie wokół sprawi, że modele maszyn mniej dokładne. Ale znowu po prostu wziąć i wykluczyć wszystkie stereotypowe pojęcia niemożliwe, dlatego musimy nauczyć się, jak pracować z tym, co jest już teraz. Mamy świadomość, możemy podejmować właściwe decyzje, zamiast wcześniej opcji. Maszyny nie ma samoświadomości. Dlatego eksperci sztucznej inteligencji należy wyposażyć maszyny zdolnością brać te lub inne rozwiązania, nie oparte na stereotypowych i wcześniej opinii".

A przecież rozwiązanie problemu ludzkiego języka, zdaniem naukowców, jest sam człowiek.

"Nie mogę sobie wyobrazić wiele przypadków, gdzie nie jest potrzebny był człowiek, który mógł by sprawdzić, czy podjęto właściwe rozwiązanie. Osoby będą znane wszystkie skrajne przypadki przy podejmowaniu konkretnych decyzji. Dlatego też decyzje podejmowane są tylko po tym, jak staje się jasne, że oni nie będą stronniczy".

W niektórych kręgach teraz bardzo szybko omawiany temat jest o tym, że roboty w najbliższym czasie będą w stanie odebrać nasze miejsca pracy. Gdy otrzymamy AI, zdolne do pracy za nas, musimy wymyślać nowe miejsca pracy dla ludzi, którzy będą prowadzić weryfikację przyjętych AI rozwiązań, aby nie daj boże nie popełnili ich z pozycji uprzedzeń, które są znowu wziął od nas samych. Weźmy czat-botów. Nawet jeśli staną się one całkowicie samowystarczalni, ich pierwotnym stworzeniem będą zajmować się ludzie, posiadający swoimi uprzedzeniami i stereotypami. Dlatego, tak jak stereotypowe pojęcia pierwotnie osadzone w koncepcji samego języka, do wyboru właściwego rozwiązania nadal potrzebne są ludzie, bez względu na zaawansowane AI systemu.

W opublikowanym niedawno artykule w czasopiśmie Science принстонские naukowcy mówią o tym, że taki stan rzeczy może mieć poważne i daleko idące konsekwencje w przyszłości.

"Nasze wnioski na pewno jeszcze nadyma swoje odbicie w dyskusji hipotezy Сепира — Worth. Nasz praca pokazuje, że zachowanie może kształtować się w oparciu o historycznie zaistniałych norm kulturowych. I w każdym przypadku może być inna, ponieważ każda kultura ma swoją historię".

W stosunkowo niedawno wydanej filmie science-fiction "Przylot" właśnie tyczy się pomysł hipotezy Сепира — Worth, zgodnie z którą struktura języka wpływa na światopogląd i poglądy jego nośników. Teraz, dzięki pracy Калискан i jej kolegów, u nas pojawił się łódź, potwierdzający tę hipotezę. Przynajmniej w odniesieniu do stereotypowych i wcześniej społecznych pojęć.

Naukowcy chcą kontynuować swoją pracę, ale tym razem skoncentrować się na innych dziedzinach i poszukać jeszcze nie zbadane stereotypowe znaki w języku. Może być obiektem badań będą wzory, tworzone fałszywymi wiadomościami w MEDIACH, albo stereotypowe pojęcia w niektórych субкультурах lub kulturach georeferencyjne. Ponadto rozważana jest możliwość badania innych języków, gdzie stereotypowe pojęcia mogą być zintegrowane w język wcale nie jest tak, jak są one zintegrowane w języku angielskim.

"Załóżmy, że w przyszłości w danej kulturze lub geograficznym miejscu zaczyna się pojawiać sztywne stereotypowe myślenie. Zamiast badać i sprawdzać każdy czynnik ludzki, na co potrzeba dużo czasu, pieniędzy i wysiłku, można będzie po prostu przeprowadzić analizę danych tekstowych wyodrębnionej grupy osób i na tej podstawie dowiedzieć się – czy tu jest mowa o стереотипном postrzeganiu, czy nie. To pozwoli znacznie zaoszczędzić zarówno pieniądze, jak i czas", — podsumowują naukowcy.