Ludzie nie ufają AI. Jak to naprawić?

Sztuczna inteligencja już może przepowiadać przyszłość. Policja używa go, aby sporządzenia karty, odblaskowe, kiedy i gdzie może się zdarzyć przestępstwo. Lekarze używają go do prognozowania, gdy u pacjenta może się zdarzyć, udar mózgu lub zawał serca. Naukowcy nawet starają się dać AI wyobraźni, aby mógł on przewidzieć nieoczekiwane zdarzenia.

Wiele decyzji w naszym życiu wymagają dobrych prognoz i agenci SI prawie zawsze lepiej radzą sobie z nimi, niż ludzie. Jednak dla wszystkich tych osiągnięć technologicznych nam nadal brakuje pewności w prognozach, które daje sztuczna inteligencja. Ludzie nie są przyzwyczajeni do polegania na AI i wolą zaufać ekspertom w obliczu ludzi, nawet jeśli te eksperci się mylą.

Jeśli chcemy, aby sztuczna inteligencja niósł korzyść ludziom, musimy nauczyć się ufać mu. W tym celu musimy zrozumieć, dlaczego ludzie tak uparcie nie chcą zaufać AI.

Zaufaj lekarzowi Robota

Próba IBM przedstawić суперкомпьютерную program lekarzy-onkologów (Watson for Oncology) stała się porażką. AI obiecał dostarczyć wysokiej jakości zalecenia dotyczące leczenia 12 rodzajów nowotworów, na które przypada 80% przypadków na świecie. Do tej pory ponad 14 000 pacjentów otrzymywali zalecenia na podstawie obliczeń.

Ale kiedy lekarze po raz pierwszy do czynienia z Watson, znaleźli się w bardzo trudnej sytuacji. Z jednej strony, jeśli Watson dawał wskazówki co do leczenia, co jest zgodne z ich własnymi opiniami, lekarze nie widzieli ogromny wartości w zaleceniach AI. Superkomputer po prostu powiedział im to, co już wiedzieli, zalecenia te nie zmieniły rzeczywistego leczenia. To, być może, dawał lekarzom spokój i pewność w swoich decyzjach. Ale IBM jeszcze nie udowodnił, że Watson naprawdę zwiększa odsetek przeżycia z nowotworem.

Z drugiej strony, jeśli Watson dawał wskazówki, które rozchodziły się z opinią ekspertów, lekarze zawarli, że Watson niekompetentny. I maszyna nie potrafiła wytłumaczyć, dlaczego jej leczenie powinno zadziałać, bo jej algorytmy uczenia maszynowego były zbyt skomplikowane, aby mogli je zrozumieć ludzi. Odpowiednio, to doprowadziło do jeszcze większego braku zaufania, i wielu lekarzy po prostu zignorować zalecenia AI, powołując się na własne doświadczenie.

W wyniku naczelny medyczny partner IBM Watson — MD Anderson Cancer Center — niedawno poinformował o rezygnacji z programu. Duńska szpital poinformował także, że rezygnuje z programu po tym, jak odkryła, że lekarze-onkolodzy nie zgadzasz się z Watson w dwóch przypadkach z trzech.

Problem cancer Watson był w tym, że lekarze mu nie ufali. Zaufanie ludzi często zależy od naszego zrozumienia tego, jak myślą inni ludzie, i własnego doświadczenia, budującego zaufanie do ich opinii. To tworzy psychologiczne poczucie bezpieczeństwa. AI z drugiej strony, stosunkowo nowa i niezrozumiałe dla ludzi rzecz. On podejmuje decyzje, na podstawie złożonego systemu analizy w celu identyfikacji potencjalnych ukrytych trendów i słabych sygnałów wynikających z dużych ilości danych.

Nawet jeśli można go wyjaśnić technicznym językiem, proces podejmowania decyzji AI, jak zwykle, zbyt skomplikowany, aby go mogli zrozumieć większość ludzi. Współpraca z czymś, czego nie rozumiemy, może wywołać alarm i stworzyć poczucie utraty kontroli. Wielu ludzi po prostu nie zdają sobie sprawy, jak i z czym działa AI, bo to dzieje się gdzieś za parawanem, w tle.

Z tego samego powodu są one ostrzejsze подмечают przypadki, kiedy SI myli: pamiętaj algorytm Google, który klasyfikuje kolorowych ludzi jak goryle; чатбот Microsoft, który stał się nazistą mniej niż jeden dzień; samochód Tesla, pracujący w trybie autopilota, w wyniku którego doszło do wypadku ze skutkiem śmiertelnym. Te złe przykłady otrzymałeś nieproporcjonalnie dużą uwagę mediów, podkreślając porządku obrad tego, że nie możemy polegać na technologii. Usługa uczenie maszynowe nie jest na 100% wiarygodny, częściowo dlatego, że jego projektują ludzie.

Podział społeczeństwa?

Uczucia, które powoduje, że sztuczna inteligencja, sięgają głęboko w naturę człowieka. Niedawno naukowcy przeprowadzili eksperyment, w trakcie którego ankietowanych osób, oglądany filmy o sztucznej inteligencji (fantastyczne), na temat automatyzacji w życiu codziennym. Okazało się, że niezależnie od tego, AI w filmie jest przedstawiony w pozytywnym lub negatywnym duchu, proste przeglądanie filmowej prezentacji naszego technologicznego przyszłości polaryzuje relacje uczestników. Optymistami są jeszcze bardziej optymistyczne, a sceptycy zamykają się jeszcze bardziej.

Mówi o tym, że ludzie są uprzedzeni do AI, począwszy od własnych rozważań, jest głęboko zakorzeniona tendencja uprzedzeń potwierdzenia: tendencja szukać lub interpretować informacje w taki sposób, aby potwierdzić wcześniej istniejącej koncepcji. Ponieważ AI coraz częściej przywoływany w mediach, to może przyczynić się do głębokiego podziału społeczeństwa, podziału między tymi, którzy korzystają z AI, i tymi, którzy go odrzucają. Przeważająca grupa ludzi może uzyskać dużą przewagę lub handicap.

Trzy wyjścia z kryzysu zaufania AI

Na szczęście mamy myśli na temat tego, jak poradzić sobie z zaufaniem do AI. Jedno tylko posiadanie doświadczenia w pracy z AI może znacznie poprawić stosunek ludzi do tej technologii. Istnieją również dowody, wskazujące na to, że im częściej korzystasz z niektórych technologii (np. Internet), tym więcej imufasz.

Inne rozwiązanie może polegać na tym, by otworzyć "czarna skrzynka" algorytmów uczenia maszynowego i ich praca jest bardziej przejrzysty. Firmy takie jak Google, Airbnb i Twitter, już publikują raporty przejrzystości publicznych zapytań i ujawniania informacji. Taka praktyka w systemach AI pomaga ludziom uzyskać właściwe zrozumienie tego, jak algorytmy podejmują decyzje.

Badania pokazują, że zaangażowanie ludzi w proces podejmowania decyzji AI również zwiększyć stopień zaufania i pozwoli AI uczyć się na doświadczeniu ludzkim. Badania wykazały, że ludzie, którym podawano możliwość lekko zmodyfikować algorytm, czuć wielką satysfakcję z efektów jego pracy, wydaje się, że z poczucia wyższości i możliwości wpływania na przyszły wynik.

Nie Musimy rozumieć skomplikowaną wewnętrzną pracę systemów sztucznej inteligencji, ale jeśli dać ludziom choć trochę informacji i kontroli nad tym, jak systemy te są realizowane, mieli więcej zaufania i chęci do podjęcia AI w codzienne życie.