«Une leçon amère»: le scientifique a déclaré que 70 ans dans le domaine de la recherche de l'IA ont été dépensés presque en vain

La Plus grande leçon à tirer de 70 ans de recherche de l'IA, réside dans le fait que les méthodes de calcul, finalement, sont plus efficaces et avec une grande marge. L'ultime raison est la loi de Moore. Ou plutôt, sa synthèse: de la poursuite, exponentielle, de l'avilissement de calcul des processeurs. À propos de cette «amère leçon», a déclaré Richard Sutton, canadien informaticien. La suite de la première personne.

Pourquoi la recherche de l'intelligence artificielle ont été dans l'impasse de 70 ans?

La Plupart des études sur l'intelligence artificielle ont été menées comme si de calcul disponibles à l'agent, ont été constants (et dans ce cas l'utilisation des connaissances humaines, il serait l'un des seuls moyens d'améliorer les performances). Mais après un peu — beaucoup plus que vous avez besoin pour un projet de recherche — devient disponible beaucoup plus de calculs. À la recherche d'améliorations qui peuvent aider à court terme, les scientifiques tentent d'exploiter au maximum les connaissances humaines dans ce domaine, mais la seule chose qui a de la valeur à long terme est d'accélération de l'abandon de l'utilisation de l'informatique. Ces deux aspects ne doivent pas aller à l'encontre de l'autre, mais dans la pratique, vont. Le temps passé sur l'un d'eux, n'est du temps perdu à l'autre. Il ya psychologiques engagement à investir dans l'un ou l'autre approche. Mais à l'approche, basée sur la connaissance de l'homme, a tendance à compliquer les méthodes de telle manière qu'ils deviennent de moins en moins appropriés pour l'utilisation des avantages des méthodes utilisant des calculs.

Conclusion: il faut rejeter la tentative de résoudre le problème de l'IA «de tête», parce que le temps va passer et elle décide beaucoup plus rapide et plus facile grâce à l'augmentation de la puissance de calcul

A beaucoup d'exemples où les chercheurs en IA tardivement comprenaient cette amère leçon. Sera instructif d'examiner quelques-unes des plus remarquables exemples.

Dans l'ordinateur d'échecs techniques, les vainqueurs de champion du monde Kasparov en 1997, fondées sur un massif, la recherche profonde. Alors à lui avec anxiété se rapportaient la plupart des chercheurs d'échecs informatique, qui ont utilisé des méthodes basées sur la compréhension de la personne de la structure particulière du jeu d'échecs. Quand de plus simple, basé sur la recherche de l'approche avec un matériel spécial et le logiciel s'est avéré beaucoup plus efficace, les chercheurs, отталкивающиеся de la compréhension humaine du jeu d'échecs, n'ont pas reconnu la défaite. Ils ont dit: «cette fois, l'approche de la force brutale, peut-être, et a gagné, mais il ne deviendra pas une stratégie commune et bien sûr, les gens ne jouent pas aux échecs de cette façon. Ces scientifiques voulaient que les méthodes basées sur l'aspect humain de la contribution, vaincu et très déçus, quand ce n'est pas arrivé.

Conclusion: simple puissance brute de calcul prendra son, tôt ou tard,

Un modèle de progrès dans la recherche a été repéré dans l'ordinateur siècle, un délai de 20 ans. À l'origine d'énormes efforts ont été faits pour éviter de recherche, en utilisant la connaissance humaine ou les caractéristiques du jeu, mais tous ces efforts ont été inutiles ou même pire, une fois la recherche appliqué efficacement et à une grande échelle. Aussi était-il important d'utiliser la formation dans le processus de l'auto-jeu, pour apprendre le sens de la valeur de la fonction (comme dans de nombreux autres jeux, et même dans les échecs, que la formation n'a pas joué un grand rôle dans le programme de 1997, qui a battu le champion du monde). Apprendre le jeu avec soi-même, de la formation dans l'ensemble, c'est comme la recherche, qui permet d'appliquer de vastes étendues de calcul. La recherche et la formation sont les deux plus importants de la classe de technicien, utilisent d'énormes quantités de calculs dans la recherche de l'IA. Dans l'informatique, comme dans les échecs, les efforts des chercheurs ont porté sur l'utilisation de la compréhension humaine (pour utiliser moins de recherche), et ce n'est que beaucoup plus tard a été fait beaucoup plus de succès, grâce à l'utilisation de la recherche et de la formation.

Conclusion: recherche et de formation, подпитанные la puissance de calcul, dépassent de loin les tentatives de résoudre le problème de «l'approche non standard de la pensée»

Dans le domaine de la reconnaissance vocale dans les années 1970 a organisé un concours, sponsorisé par le DARPA. Les participants représentaient une variété de méthodes, qui ont utilisé les avantages de la connaissance humaine — la connaissance des mots ou phonèmes, vocal humain digestif et ainsi de suite. De l'autre côté des barricades ont été plus de nouvelles méthodes, de statistiques, de par sa nature et effectuent plus de calculs, sur la base de modèles cachés de Markov (HMM). Et encore une fois, les méthodes statistiques ont gagné des méthodes basées sur la connaissance de l'homme. Cela conduit à des changements majeurs dans l'ensemble du traitement du langage naturel, peu à peu внедряющимся pendant des décennies, jusqu'à ce que finalement les statistiques et les calculs n'ont commencé à dominer dans ce domaine. La récente hausse d'une formation approfondie dans le domaine de la reconnaissance de la parole est la dernière étape de cette série de la direction. Les méthodes d'apprentissage profond encore moins s'appuient sur la connaissance humaine et utilisent encore plus de calculs, ainsi que de la formation sur les énormes kits d'échantillons, et donnent de superbes système de reconnaissance vocale.

Richard Sutton, canadien informaticien

Comme dans les jeux, les scientifiques ont toujours essayé de créer un système qui continuera à travailler comme ils le représentaient dans leurs têtes, ils ont essayé de mettre cette connaissance à leurs systèmes— mais tout cela est parti d'extrême improductif, les scientifiques ont tout simplement passé du temps, jusqu'à ce que — en raison de la loi de Moore — deviennent accessibles de plus en plus massive de calcul et de trouver une belle application.

Conclusion: une seule et même erreur se répète depuis des décennies

Similaire peinture a été dans le domaine de la vision par ordinateur. Les premières méthodes ont été perçus comme la recherche de certains tracés, les cylindres généralisés, ou a l'aide de capacités de SIFT (grand-invariant de transformation des signes). Mais aujourd'hui, tout cela est jeté dans la fournaise. Modernes réseau de neurones avec une profonde formation utilisent uniquement la notion de convolution et de certains invariants et de travailler beaucoup mieux.

C'Est une grande leçon.

Dans n'importe quel domaine nous arrêter, nous sommes partout continuons à faire les mêmes erreurs. À voir, et à surmonter efficacement, il faut comprendre pourquoi ces erreurs sont si attrayants, Nous devons apprendre une leçon amère, que la construction de ce que nous pensons, en s'écartant de plus, comme nous le pensons, ne fonctionne pas à long terme. La leçon amère, basé sur l'histoire de l'observation montre que: 1) les chercheurs en IA souvent essayé d'intégrer la connaissance de ses agents; 2) il a toujours contribué à court terme et a apporté des scientifiques de la satisfaction; 3) mais dans le long terme, tout le monde se couchait dans une impasse et ralentit les progrès; 4) les perturbateurs progrès est inévitable venu avec l'application de l'opposé d'une approche basée sur la mise à l'échelle de calcul au détriment de la recherche et de la formation. Le succès a été amer goût et n'est pas souvent усваивался entièrement, parce que c'est un succès de l'informatique, et le succès n'est pas centré sur la personne d'approches.

à partir De cette amère leçon à apprendre une chose: le pouvoir immense des méthodes d'usage général, les méthodes, qui continuent d'évoluer avec la croissance de calcul, même lorsque les calculs deviennent très grandes. Les deux méthodes qui semblent, à l'échelle des arbitrairement par conséquent, la recherche et la formation.

La Deuxième chose qu'il faut tirer de cette amère leçon est que le contenu réel de l'esprit extrêmement et inutilement complexe; nous devrions cesser d'essayer de trouver des moyens simples à comprendre le contenu de l'esprit, semblable à de simples moyens de la compréhension de l'espace, des objets, de multiples agents ou de symétrie. Ils font tous partie arbitrairement complexes du monde extérieur. Nous n'avons pas la peine d'essayer de projeter d'eux, parce que leur complexité infinie; nous devons construire sur un méta-méthodes, qui peuvent trouver et attraper cet arbitraire de la complexité. Ces méthodes peuvent trouver des bonnes approximations, mais la recherche doit être effectuée nos méthodes, et non pas nous. Nous avons besoin d'agents de l'IA, qui peuvent l'ouvrir, comme nous, et ne pas contenir ce que nous avons découvert. La construction de nos découvertes ne fait que compliquer le processus de découverte et de recherche.

Conclusion: il faut faire confiance à l'informatique, et de ne pas essayer de calquer humaines de la réflexion et de la tentative d'expliquer les méthodes complexes d'ouverture et de recherche de simples schémas; dans le long terme fonctionne pas la première et pas la dernière.

Discuter de la leçon amère des chercheurs de l'IA est possible .