L'intelligenza artificiale non è così intelligente, come si e Elon Musk pensa

Nel mese di marzo 2016 un algoritmo informatico AlphaGo società DeepMind in grado di conquistare Se Седолем, in quel momento il miglior giocatore del mondo del complesso logica. Questo evento è stato uno di quei momenti nella storia tecnologica del settore, il quale a suo tempo inossidabile e la vittoria del computer Deep Blue di IBM sopra il campione del mondo di scacchi Garry Kasparov, e la vittoria del supercomputer Watson dalla stessa IBM nel quiz per gli studiosi Pericolo nel 2011.

Eppure, nonostante queste vittorie, per quanto spettacolari siano, qui il discorso in misura maggiore tratta di algoritmi di addestramento e l'utilizzo di grossa potenza di calcolo, piuttosto che sulla reale intelligenza artificiale. L'ex professore di robotica del Mit Rodney Brooks, uno dei fondatori della società iRobot, e più tardi Rethink Robotics, dice che la pratica dell'algoritmo di gioco in un complesso strategico puzzle – questo non è l'intelligenza. Almeno non così come lo vediamo per l'uomo.

L'Esperto spiega che per quanto forte AlphaGo né si mostrò quando si esegue il suo compito, in realtà egli non è in grado né di altro. Inoltre, è configurato in modo che può giocare in th solo in standard campo 19 x 19. In un'intervista al portale TechCrunch Brooks ha detto, come ha recentemente avuto la possibilità di chiacchierare con un team di DeepMind e scoprire altro interessante dettaglio. Alla domanda su cosa sarebbe successo, cambia gli organizzatori sanità dimensione del bordo ° e aumentando il suo fino a 29 x 29 cellule, la squadra AlphaGo detto che anche un leggero cambiamento del campo di gioco ha portato al fatto che «ci è giunta la fine».

«penso che la gente vede quanto bene algoritmo si riordina bene con un compito, e, a quanto pare, ci credono, che è in grado così di svolgere efficacemente altri. Ma il fatto è che lui non può», — ha commentato Brooks.

Ruvido intelligenza

Nel mese di maggio di quest'anno in un'intervista Дэвину Колдвею all'evento TechCrunch Disrupt Kasparov ha sottolineato che lo sviluppo di un computer, in grado di giocare a scacchi a livello mondiale, è una cosa, ma molto altro ancora chiamare così il computer pulito intelligenza artificiale, così come non lo è. È solo una macchina, che mette tutta la sua potenza di calcolo per la soluzione di un problema con cui era abituata a gestire meglio.

«Nel gioco degli scacchi macchina vincono a causa della possibilità di una profonda elaborazione di calcolo. Essi possono diventare completamente invincibile in presenza di un enorme database, molto veloci hardware e più logico algoritmi. Tuttavia, essi sono privi di comprensione. Essi non riconoscono strategiche modelli. Le macchine sono obiettivi», — ha detto Kasparov.

Gil Pratt, direttore generale di Toyota Institute, dipartimento di Toyota, si occupano di questioni e progetti legati all'intelligenza artificiale e il suo uso in casa robot e droni automobili, anche partecipato a un'intervista a TechCrunch nell'ambito della manifestazione Robotics Session. A suo parere, la paura che sentiamo da una vasta gamma di persone, tra cui, elon musk, ha recentemente presenta intelligenza artificiale «una minaccia esistenziale per l'umanità», può essere guidato da non più di quelli антиутопичными descrizioni del mondo, che ci offre una storia di fantascienza.

«i Nostri attuali sistemi di apprendimento approfondito bravi nell'esecuzione dei loro compiti solo in quanto siamo loro stessi hanno creato. Ma in realtà sono abbastanza узкоспециализированы e крошечны portata. Quindi credo sia importante ogni volta in un contesto di questo tema parlare e poi, quanto sono bravi e quanto sono in realtà inefficaci. E anche allora, come siamo lontani dal momento in cui questi sistemi saranno in grado di iniziare a rappresentare la minaccia di cui parla Elon Musk e gli altri», — ha commentato Pratt.

Brooks, a sua volta, su TechCrunch Robotics Session ha sottolineato che tra le persone in generale c'è la tendenza a pensare che se un algoritmo è in grado di far fronte con il compito di «x-men», a quanto pare, la stessa intelligente come un uomo.

«penso che il motivo per cui le persone, tra cui Ilona Maschera, commettono questo errore, è il seguente. Quando vediamo una persona molto buono regga suo compito, ci rendiamo conto che ha un'elevata competenza in questa materia. Mi sembra che lo stesso modello le persone stanno cercando di applicare e di apprendimento automatico. E questo è l'errore principale», — dice Brooks.

Il Capo della società di Facebook Mark Zuckerberg ha tenuto domenica scorsa la trasmissione, nel corso della quale è anche intervenuto per criticare i commenti, elon musk, chiamandoli «piuttosto irresponsabile». Secondo Zuckerberg, l'IA sarà in grado di migliorare notevolmente la nostra vita. Musk, che a sua volta ha deciso di non rimanere in silenzio e ha risposto di Hitler, che la «comprensione limitata» di AI. Il tema non è ancora chiuso, e Musk ha promesso un po ' più tardi in modo più dettagliato rispondere a un attacco da parte di colleghi del settore IT.

A proposito, Musk non sono l'unico che ritiene che AI può sopportare una potenziale minaccia. Il fisico Stephen Hawking e il filosofo Nick Bostrom anche esprimono le loro preoccupazioni circa il potenziale di penetrazione di intelligenza artificiale in stile di vita dell'umanità. Ma, molto probabilmente, si parla di più генерализированном intelligenza artificiale. Quello che studiano in tali laboratori, come Facebook AI Research, DeepMind e Maluuba, piuttosto che sul più узкоспециализированном IA, i primi rudimenti di cui possiamo vedere oggi.

Brooks osserva inoltre che molti dei critici anche AI non lavorano in questo settore, eha suggerito che queste persone semplicemente non si rendono conto di quanto difficile è la ricerca di una soluzione di ogni singola attività in questo campo.

«In realtà le persone, nella convinzione IA una minaccia esistenziale, non così tanto. Stephen Hawking, l'astrofisico britannico e astronomo Martin rees... e un altro paio di persone. L'ironia è che la maggior parte di loro condividono una caratteristica – che non hanno nemmeno operano nel settore dell'intelligenza artificiale», — ha detto Brooks.

«Per quelli di noi che lavorano con l'IA, è evidente quanto sia difficile è ottenere il funzionamento di qualcosa a livello di prodotto finito».

un'idea Sbagliata IA

Parte del problema deriva ancora dal fatto, che noi chiamiamo tutto questo «intelligenza artificiale». La verità è che questa «intelligenza» non è l'intelligenza umana, che nei manuali e lessicali dizionari di solito è descritto come «la capacità di apprendimento, la comprensione e l'adattabilità a nuove situazioni».

Pascal Kaufman, direttore generale Starmind, una startup che offre assistenza ad aziende in uso collettivo dell'intelligenza umana nella ricerca di soluzioni di problemi in materia di commercio, nel corso degli ultimi 15 anni ha studiato la neurobiologia. Il cervello umano e computer, osserva Kaufman, funzionano in modo diverso, e sarebbe evidente un errore loro confronto.

«l'Analogia – il cervello funziona come un computer molto pericoloso e vale la pena di ostacolo al progresso dello sviluppo di AI», — dice Kaufman.

L'Esperto ritiene, inoltre, che non faremo progressi nella comprensione dell'intelligenza umana, se è da considerare in termini di tecnologia.

«Questo è un equivoco che gli algoritmi funzionano come il cervello umano. Alla gente piacciono gli algoritmi, e quindi pensano che il cervello può essere descritta con il loro aiuto. Io credo che questo è sbagliato», — aggiunge Kaufman.

Se qualcosa va storto

Ci sono molti esempi in cui IA-algoritmi si trovano ad essere non così intelligente, come siamo abituati a pensare a loro. E uno, forse, il più palma d'oro a cannes può servire AI-algoritmo di Tay (Tay), creato dal team di sviluppo AI sistemi Microsoft e rilasciato sotto il controllo dello scorso anno. Ci sono voluti meno di un giorno per girare un bot in un vero e proprio razzista. Gli esperti dicono che questo può accadere con qualsiasi IA-sistema, quando le offrono cattivi esempi da seguire. Nel caso di Tay, è venuto sotto l'influenza di razzismo e di altri abusivi lessicali forme di parola. E così come era stato programmato sulla «formazione» e «specchio comportamento», presto fuori controllo i ricercatori.

All'interno ha diffuso gli specialisti di ricerca presso la Cornell e Вайомингского università è stato stabilito che è molto facile da ingannare gli algoritmi, formati per l'identificazione di immagini digitali. Gli esperti hanno scoperto che l'immagine che si presentava come «скремблированная non ha alcun senso» per le persone, l'algoritmo è definito come l'immagine di qualche quotidiano dell'oggetto genere di «scuolabus».

Secondo un articolo pubblicato dal MIT Tech Review e описывавшей questo progetto, non è ben chiaro il motivo per cui si può ingannare così che hanno fatto i ricercatori. Che è riuscito a capire e ' che la gente ha imparato a riconoscere, che prima di loro è mai autosufficiente immagine, o una strana immagine. Algoritmi, a sua volta, analizzando i pixel sono più facili da manipolare e ingannare.

Per quanto riguarda autogestiti auto, qui è tutto molto più difficile. Ci sono alcune cose che una persona capisce, quando si prepara ad affrontare le situazioni. Macchina per questo educare sarà molto difficile. In un lungo articolo, pubblicato in una delle auto blog Rodney Brooks nel gennaio di quest'anno, sono riportati alcuni esempi di tali situazioni, tra cui quella in cui viene descritto come un veicolo senza pilota si avvicina al fondo stradale cartello di «Stop», si trova vicino al passaggio pedonale in città, all'inizio della quale ci sono e comunicano un adulto con un bambino.

L'Algoritmo, molto probabilmente, sarà configurato per attendere il passaggio dei pedoni attraverso la strada. Ma che, se questi pedoni e non ha intenzione di attraversare la strada, così come sono in attesa, per esempio, lo scuolabus? Il conducente-un uomo in questo caso potrei farci vedere i pedoni, che in risposta potrebbe sventolare la mano, segnalando che lo può passare. Drone stesso veicolo in una tale situazione può solo rimanere bloccati saldamente, a tempo indeterminato in attesa di trasporto di persone attraverso la strada, perché l'algoritmo non ha la comprensione di tali umani unici segnali, scrive Brooks.

Ognuno di questi esempi ci mostra quanto lontano dobbiamo ancora progredire nello sviluppo di algoritmi di intelligenza artificiale. Quanto saranno in grado di avere successo, gli sviluppatori generalizzata IA – è un'altra questione. Ci sono cose che l'uomo è in grado di gestire facilmente, tuttavia, per l'apprendimento dell'algoritmo sarà una vera e propria tortura. Perché? Perché noi esseri umani non sono limitati nella nostra formazione specifici di attività.