![\"Resume](\"https:\/\/www.oezratty.net\/wordpress\/wp-content\/Resume-IA-symbolique.jpg\" "\\"Resume")
<\/a><\/p>\nEt comme inaugur\u00e9 dans l\u2019article pr\u00e9c\u00e9dent sur la French Tech, je vous r\u00e9sume ces pages en 7 points synth\u00e9tiques. Le d\u00e9bat peut commencer ! Je me dois aussi de pr\u00e9ciser que ce genre d\u2019article est le r\u00e9sultat, non pas d\u2019une quelconque expertise, mais de questionnements, puis de d\u00e9couvertes de l\u2019\u00e9tat de l\u2019art en consultant des ressources ouvertes sur Internet et en s\u2019appuyant sur quelques discussions sporadiques avec des sp\u00e9cialistes.<\/p>\n
Symbolisme et connexionnisme<\/strong><\/p>\n Lors des d\u00e9buts de l\u2019IA comme science \u00e0 la fin des ann\u00e9es 1950 et pendant les ann\u00e9es 1960, les deux approches se valaient.<\/p>\n Les symbolistes comprenaient tout un tas de chercheurs travaillant sur la r\u00e9solution de th\u00e9or\u00e8mes comme Herbert Gelernter <\/strong>(cr\u00e9ateur d\u2019un syst\u00e8me de d\u00e9monstration de th\u00e9or\u00e8mes g\u00e9om\u00e9triques en 1959), Allen Newell <\/strong>et Herbert Simon <\/strong>(inventeurs du General Problem Solver en 1957), John McCarthy <\/strong>(inventeur de l\u2019appellation d\u2019intelligence artificielle en 1955 ainsi que du langage LISP en 1958), James Slagles <\/strong>(concepteur du premier syst\u00e8me expert, SAINT, de traitement de formules math\u00e9matiques, en 1961), Thomas Evans <\/strong>(et son programme ANALOGY de 1963 qui pouvait r\u00e9soudre des probl\u00e8mes de tests de QI) et aussi les Fran\u00e7ais Alain Colmerauer <\/strong>et Philippe Roussel <\/strong>(inventeurs du langage Prolog en 1972). Il s\u2019agissait des d\u00e9buts des tentatives d\u2019\u00e9muler le raisonnement humain dans des machines.<\/p>\n Dans le camp des connexionnistes, on avait surtout Frank Rosenblatt <\/strong>avec ses perceptrons, les pr\u00e9misses des r\u00e9seaux de neurones d\u2019aujourd\u2019hui. Leurs limitations techniques soulev\u00e9es en 1969 par Marvin Minsky coupl\u00e9es aux faibles capacit\u00e9s mat\u00e9rielles disponibles les emp\u00each\u00e8rent de percer avant le 21e si\u00e8cle.<\/p>\n La dichotomie entre connexionnistes et symbolistes pris d\u2019autres appellations s\u00e9mantiquement voisines, comme celle s\u00e9parant les neats<\/strong> des scruffies<\/strong>, litt\u00e9ralement \u201csoign\u00e9s vs d\u00e9braill\u00e9s\u201d, formul\u00e9e par l\u2019Am\u00e9ricain Robert Schank <\/strong>pendant les ann\u00e9es 1970.<\/p>\n Les neats s\u2019appuient sur de la logique formelle et l\u2019exploitation de connaissances existantes pour r\u00e9soudre des probl\u00e8mes, la base \u00e9tant la logique aristot\u00e9lienne. Les scruffies utilisent des m\u00e9thodes plus empiriques bas\u00e9es sur l\u2019observation et l\u2019exploitation des sens, sur des m\u00e9thodes statistiques, sur la reconnaissance de formes et ce qui est devenu le machine learning.<\/p>\n Les d\u00e9bats des ann\u00e9es 1970 portaient notamment sur les m\u00e9rites compar\u00e9s des deux approches dans le traitement du langage. Pouvait-on faire avancer le domaine en d\u00e9crivant une structure formelle du langage ou avec des m\u00e9thodes plus empiriques bas\u00e9es sur l\u2019analyse de textes ? Les 10 derni\u00e8res ann\u00e9es ont clairement donn\u00e9 l\u2019avantage aux m\u00e9thodes empiriques du deep learning et leurs m\u00e9thodes probabilistes.<\/p>\n L\u2019opposition entre symbolisme et connexionnisme porte aussi sur le fait que les approches symboliques sont documentables et prouvables tandis que les approches connexionnistes seraient empiriques et pas forc\u00e9ment d\u00e9montrables. D\u2019o\u00f9 le d\u00e9bat qui a court en ce moment sur l\u2019explicabilit\u00e9 des algorithmes, ou plut\u00f4t sur leur inexplicabilit\u00e9, relative \u00e0 l\u2019approche connexionniste exploit\u00e9e dans les r\u00e9seaux de neurones et dans le deep learning. De nombreux travaux de recherche contemporains visent \u00e0 rendre le deep learning explicable, ou tout du moins d\u00e9corticable. C\u2019est m\u00eame une priorit\u00e9 des projets d\u2019IA financ\u00e9s par la DARPA aux USA, sous l\u2019appellation XIA, pour Explainable IA (exemple ci-dessous <\/em>pour la reconnaissance d\u2019images).<\/p>\n L\u2019autre appellation courante de l\u2019IA symbolique <\/strong>est la GOFAI pour Good Old Fashion AI<\/em>. D\u2019un point de vue pratique, elle s\u2019appuie notamment sur des moteurs de r\u00e8gles et de faits, qui permettent notamment, mais pas seulement, de cr\u00e9er des syst\u00e8mes experts ou de faire de la programmation par contraintes. Au m\u00eame titre que l\u2019IA il y a une dizaine d\u2019ann\u00e9e, l\u2019appellation de syst\u00e8me expert est devenue un gros mot, \u00e9vit\u00e9 par une bonne partie des sp\u00e9cialistes de l\u2019IA.<\/p>\n La terminologie de ce domaine int\u00e8gre les notions de logiques d\u2019ordre z\u00e9ro, du premier ordre (dite calcul des pr\u00e9dicats) et second ordre qui sont li\u00e9es \u00e0 la complexit\u00e9 des probl\u00e8mes logiques \u00e0 r\u00e9soudre au niveau d\u2019objets et d\u2019ensembles d\u2019objets. Essayer d\u2019en comprendre les tenants et aboutissants g\u00e9n\u00e8re un beau mal de cr\u00e2ne !<\/p>\n On peut aussi y associer le concept de logique floue <\/strong>de Lotfi Zadeh, \u00e9labor\u00e9e dans les ann\u00e9es 1960, m\u00eame si celui-ci pr\u00e9sente la particularit\u00e9 d\u2019\u00eatre associable aussi bien \u00e0 du raisonnement formel et \u00e0 du machine learning (cf. Fuzzy Logic in Machine Learning<\/a> de Eyke H\u00fcllermeier, 2017).<\/p>\n L\u2019IA symbolique exploite la manipulation logique de symboles. Ces op\u00e9rations servent \u00e0 r\u00e9pondre \u00e0 des questions de logique formelle pour r\u00e9soudre des probl\u00e8mes associant des r\u00e8gles, faits et raisonnements connus du savoir humain. Les solveurs exploitent des m\u00e9thodes de cha\u00eenage arri\u00e8re ou de cha\u00eenage avant pour trouver la solution \u00e0 des probl\u00e8mes logiques. On parle aussi de logique d\u00e9ductive et explicite. Les syst\u00e8mes de raisonnement non monotoniques servent de leur c\u00f4t\u00e9 \u00e0 r\u00e9soudre des probl\u00e8mes complexes pour lesquels l\u2019information disponible est incompl\u00e8te ou changeante. Ce sont des domaines de recherche assez abscons et encore plus difficiles \u00e0 appr\u00e9hender que les r\u00e9seaux de neurones !<\/p>\n Du c\u00f4t\u00e9 de l\u2019industrie, l\u2019IA symbolique a connu son heure de gloire pendant les ann\u00e9es 1980 avec la mode des syst\u00e8mes experts, qui servaient notamment \u00e0 cr\u00e9er des solutions de maintenance ou de r\u00e9solution de probl\u00e8mes complexes. Puis ce fut le d\u00e9clin, explicable par l\u2019inad\u00e9quation de ces m\u00e9thodes pour le traitement du langage qui \u00e9tait et est toujours un grand champ de recherche de l\u2019IA, et aussi parce qu\u2019il \u00e9tait difficile de collecter et structurer les r\u00e8gles du savoir humain.<\/p>\n Pour Marvin Minsky dans Logical\u00a0 vs Analogical or Symbolic vs Connectionist or Neat vs Scruffy<\/a> publi\u00e9 en 1991 (19 pages), les m\u00e9thodes symboliques manquaient de souplesse \u00e0 force de vouloir absolument \u00eatre prouvables ! Depuis une dizaine d\u2019ann\u00e9es, les syst\u00e8mes experts sont des \u201cRBMS\u201d pour Rules Based Management Systems et int\u00e9gr\u00e9s dans les syst\u00e8mes d\u2019aide \u00e0 la d\u00e9cision d\u2019entreprises. A l’\u00e9chelle du grand public, c’est du marketing et du branding de poussi\u00e8re rang\u00e9e sous le tapis !<\/p>\n Pour sa part, l\u2019IA connexionniste <\/strong>d\u00e9compose les probl\u00e8mes en sous-\u00e9l\u00e9ments connect\u00e9s entre eux. Elle exploite par biomim\u00e9tisme des neurones biologiques et le fonctionnement empirique et exp\u00e9rimental de la nature. La discipline a connu une renaissance depuis une vingtaine d\u2019ann\u00e9es avec les r\u00e9seaux convolutionnels, le deep learning et notamment, son application dans le traitement du langage et de la vision. Elle met en place des techniques parall\u00e9lisant les probl\u00e8mes et utilisant de la logique inductive mais peu explicitable.<\/p>\n Les solutions d\u2019IA connexionnistes exploitant de gros volumes de donn\u00e9es cherchent notamment \u00e0 d\u00e9couvrir les r\u00e8gles implicites contenues dans les donn\u00e9es, par exemple pour reconna\u00eetre la nature des objets pr\u00e9sents dans une image. Le connexionnisme mis en \u0153uvre dans les r\u00e9seaux de neurones et le deep learning est assimilable \u00e0 des m\u00e9thodes probabilistes. Lorsque ses solutions donnent un r\u00e9sultat, il n\u2019est pas formel mais exprim\u00e9 le plus souvent sous la forme d\u2019un pourcentage de v\u00e9racit\u00e9. Ainsi, un chat n\u2019est jamais reconnu formellement dans une image, mais avec un pourcentage de 90% ou plus. Le pourcentage est acceptable lorsqu\u2019il est inf\u00e9rieur aux erreurs humaines, voir nettement inf\u00e9rieur \u00e0 ces erreurs quand il s’agit de syst\u00e8mes critiques comme la conduite autonome.<\/p>\n Il en va de m\u00eame pour la traduction d\u2019une phrase, qui est d\u2019ailleurs souvent approximative car elle repose aussi sur des approches \u00e9galement probabilistes. Si les donn\u00e9es qui alimentent ces outils ne repr\u00e9sentent pas bien l\u2019espace du possible, leurs r\u00e9ponses pourront \u00eatre inexactes ou, tout du moins, statistiquement ambig\u00fces ou biais\u00e9es.<\/p>\n Certaines m\u00e9thodes connexionnistes permettent d\u2019extraire des r\u00e8gles explicites de contenus. C\u2019est le cas dans le traitement du langage qui peut extraire des r\u00e8gles ou des donn\u00e9es structur\u00e9es contenues dans des textes.<\/p>\n L\u2019ajustement \u00e0 l\u2019entra\u00eenement des param\u00e8tres des neurones dans un r\u00e9seau de deep learning permet de g\u00e9n\u00e9rer de bons r\u00e9sultats, comme pour l\u2019\u00e9tiquetage d\u2019objets dans des images (ou “labellisation”, qui est un anglicisme, ou “tagging” en anglais). Leur inexplicabilit\u00e9 tient \u00e0 ce que l\u2019\u00e9tiquetage n\u2019est pas facilement d\u00e9composable en r\u00e8gles et sous-r\u00e8gles compr\u00e9hensibles par l\u2019Homme. Les r\u00e8gles d\u2019un r\u00e9seau de neurones sont d\u00e9duites empiriquement des donn\u00e9es d\u2019entra\u00eenement et sont enfouies dans ses param\u00e8tres !<\/p>\n Dans les r\u00e9seaux convolutifs (ou convolutionnels), ces r\u00e8gles sont r\u00e9parties dans des filtres et des couches de neurones qui peuvent contenir des milliards de param\u00e8tres num\u00e9riques. Ces filtres qui \u00e9voluent pendant la phase d\u2019entra\u00eenement des r\u00e9seaux ont une forme qui n\u2019est g\u00e9n\u00e9ralement pas reconnaissable par l\u2019\u0153il humain. On peut le constater dans l\u2019exemple ci-dessus <\/em>de cette \u00e9volution pendant la phase d\u2019entra\u00eenement sur les cinq couches d\u2019un r\u00e9seau convolutionnel.<\/p>\n Pour en savoir plus sur ce d\u00e9bat historique entre connexionnisme et symbolisme, vous pourrez vous r\u00e9f\u00e9rer \u00e0 Artificial Intelligence : Connectionist and Symbolic Approaches<\/a>, de Ron Sun, publi\u00e9 en 2000 (17 pages). Il positionne bien le d\u00e9bat, m\u00eame si le document date d\u2019avant le tsunami actuel du deep learning. Vous pouvez aussi consulter cette belle histoire de l\u2019IA pr\u00e9-deep learning de Nils Nillson, Quest for Artificial Intelligence<\/a>, de 2010 (707 pages, en particulier des pages 199 \u00e0 207, 285 \u00e0 303, 485 \u00e0 469).<\/p>\n Google Trends de l\u2019IA<\/strong><\/p>\n Dans une analyse temporelle exploitant l\u2019historique des recherches sur Google via Google Trends, on peut observer l\u2019\u00e9volution de l\u2019int\u00e9r\u00eat pour ces diff\u00e9rentes techniques. Dans le monde (en bas), le machine learning a pris le dessus de l\u2019IA et du deep learning. Les syst\u00e8mes experts sont tr\u00e8s bas, m\u00eame il y a plus de 10 ans, leur p\u00e9riode dor\u00e9e s\u2019\u00e9tant \u00e9teinte \u00e0 la fin des ann\u00e9es 1980. En France, l\u2019appellation d\u2019intelligence artificielle a toujours eu le dessus sur les autres. Je me rappelle pourtant qu\u2019il y a moins de 10 ans, l\u2019IA \u00e9tait mal vue, c\u2019\u00e9tait un truc de loser !<\/p>\n Comme toutes les donn\u00e9es, celles-ci pr\u00e9sentent peut-\u00eatre un biais. La population utilisant Internet en 2004 n\u2019avait pas la m\u00eame distribution qu\u2019aujourd\u2019hui. Le nombre d\u2019Internautes est pass\u00e9 de moins d\u2019un milliard de personnes en 2004 \u00e0 plus de 3,5 milliards en 2018.<\/p>\n Quand le symbolisme exploite le connexionnisme<\/strong><\/p>\n Dans le traitement du langage, l\u2019IA connexionniste peut servir \u00e0 identifier des r\u00e8gles pr\u00e9sentes dans les textes et dans les donn\u00e9es et l\u2019IA symbolique peut ensuite les exploiter pour aider \u00e0 d\u00e9cortiquer un probl\u00e8me complexe et prendre une d\u00e9cision. La nature et la vie humaine fonctionnent de la sorte.<\/p>\n Nous les humains proc\u00e9dons souvent par t\u00e2tonnement pour trouver la bonne m\u00e9thode pour r\u00e9soudre tel ou tel probl\u00e8me de la vie comme pour trouver un travail, exercer un m\u00e9tier, communiquer, \u00e9duquer ses enfants ou encore faire fonctionner son ordinateur. On apprend aussi par transmission de r\u00e8gles. C\u2019est d\u2019ailleurs le r\u00f4le des religions comme des lois, des constitutions ou de l\u2019\u00e9ducation dans l\u2019organisation de la vie humaine.<\/p>\n Par analogie, pour entreprendre, on peut apprendre par la lecture (symbolisme) ou par l\u2019exp\u00e9rience (connexionnisme). Les deux sont compl\u00e9mentaires. Les livres et le savoir formalis\u00e9 permettent de gagner du temps en \u00e9vitant de faire trop d\u2019erreurs par l\u2019exp\u00e9rience, comme avec les fameux pivots des startups. L\u2019exp\u00e9rience permet d\u2019explorer l\u2019inconnu qui est le propre de l\u2019innovation. Dans les startups, le savoir d\u00e9j\u00e0 collectivement acquis porte sur les fondamentaux connus comme la cr\u00e9ation d\u2019une \u00e9quipe, la structuration d\u2019une id\u00e9e, d\u2019un business plan et d\u2019une approche marketing. Le savoir \u00e0 cr\u00e9er est li\u00e9 \u00e0 la confrontation de la nouveaut\u00e9 au march\u00e9. Ce dernier est difficile \u00e0 mod\u00e9liser au pr\u00e9alable parce qu\u2019il est trop complexe et impr\u00e9visible malgr\u00e9 le meilleur des bons sens.<\/p>\n De m\u00eame, on n\u2019apprend pas aux enfants en bas \u00e2ge \u00e0 traverser la rue en les laissant y aller au hasard en esp\u00e9rant qu\u2019ils ne se fassent pas \u00e9craser et que les adultes d\u00e9couvrent par l\u2019observation les erreurs des enfants (connexionnisme puis apprentissage par renforcement). On transmet donc aux enfants les r\u00e8gles apprises consistant \u00e0 regarder des deux c\u00f4t\u00e9s de la route, \u00e0 traverser sur les passages pi\u00e9tons et \u00e0 respecter les feux. Cela permet de gagner du temps et de sauver des vies (symbolisme) !<\/p>\n La question se pose aussi pour ce qui est des fameux dilemmes des v\u00e9hicules autonomes qui font l\u2019objet de d\u00e9bats sur le r\u00f4le de l\u2019IA. En cas d\u2019accidents in\u00e9vitables, doivent-ils \u00e9craser une vingtaine de repris de justice ou la maman avec son enfant ? Il s\u2019agit d\u2019un jugement moral qui ne peut \u00eatre r\u00e9gl\u00e9 que par des r\u00e8gles (symbolisme). On peut \u00e9ventuellement faire voter des citoyens ou leurs repr\u00e9sentants pour d\u00e9cider de la r\u00e8gle \u00e0 appliquer (une forme de connexionnisme). Mais le nombre de cas possibles peut \u00eatre tr\u00e8s \u00e9lev\u00e9, rendant la formalisation difficile. Heureusement, les chances que cela puisse arriver sont bien rares.<\/p>\n La connaissance humaine symbolique est faite d\u2019accumulation de faits et r\u00e8gles, parfois collect\u00e9es laborieusement et sur une longue dur\u00e9e. Un peu comme lorsque les chasseurs cueilleurs ont d\u00fb apprendre \u00e0 distinguer les baies, fruits et champignons tueurs de ceux qui \u00e9taient comestibles. L\u2019exploitation de r\u00e8gles connues est th\u00e9oriquement plus \u00e9conome que leur recherche exp\u00e9rimentale permanente lorsqu\u2019elles sont d\u00e9j\u00e0 connues. Ce qui rappelle parfois que les m\u00e9thodes de machine learning d\u2019analyse de donn\u00e9es sont parfois \u00e0 ranger dans la cat\u00e9gorie des marteaux pour \u00e9craser des mouches, quand leurs r\u00e9sultats rel\u00e8vent d\u2019un savoir commun d\u00e9j\u00e0 acquis. Au minimum, cependant, elles permettent de quantifier les r\u00e9sultats.<\/p>\n Le connexionnisme humain sert donc \u00e0 traiter les flux de l\u2019apprentissage tandis que le symbolisme exploite le stock de connaissances et expertises acquises, qu\u2019il peut int\u00e9grer dans les raisonnements, m\u00eame si ceux-ci sont tr\u00e8s empiriques et d\u2019une rationalit\u00e9 limit\u00e9e par les \u00e9motions et autres pulsions. Comment apprend-on ? Soit de mani\u00e8re symbolique, en apprenant directement des r\u00e8gles connues, soit en observant le monde et en d\u00e9duisant des r\u00e8gles de l\u2019observation et l\u2019exp\u00e9rimentation.<\/p>\n L\u2019apprentissage passe aussi par l\u2019action. Un enfant apprend \u00e0 tenir une fourchette en t\u00e2tonnant. Il d\u00e9forme son cerveau, plus pr\u00e9cis\u00e9ment son cervelet, via l’apprentissage qui a pour effet de modifier les relations entre les neurones. C\u2019est une forme de connexionnisme.<\/p>\n Le machine learning est connexionniste parce qu\u2019il permet d\u2019identifier des r\u00e8gles ou des patterns dans les donn\u00e9es. Ainsi, dans une base de clients bien document\u00e9e, on va pouvoir identifier ceux des param\u00e8tres descriptifs qui permettent de pr\u00e9dire leur comportement. Le machine learning non supervis\u00e9 peut servir \u00e0 distinguer des segments clients et leurs caract\u00e9ristiques, ou les param\u00e8tres discriminants. Les marketeurs vont ensuite relier cette information nouvelle \u00e0 leur savoir formel.<\/p>\n M\u00eame chez IBM <\/strong>qui est assez connexionniste dans l\u2019ensemble, l\u2019approche cognitiviste consiste \u00e0 extraire des r\u00e8gles de textes via du deep learning appliqu\u00e9 au traitement du langage puis \u00e0 les exploiter dans des syst\u00e8mes symboliques et de la logique formelle. Le sch\u00e9ma ci-dessus vient de la pr\u00e9sentation \u201cAI for Complex Situations: Beyond Uniform Problem Solving<\/a>\u201d de Michael Witbrock du Cognitive Computing Research d\u2019IBM (2017). Il s\u2019agit donc bien d\u2019une fusion des approches connexionnistes et symboliques.<\/p>\n Dans un autre style, la startup franco-am\u00e9ricaine Cosmo Tech<\/strong> associe machine learning, symbolisme, mod\u00e9lisation de syst\u00e8mes complexes avec un langage sp\u00e9cifique (CoSML) et simulation pour cr\u00e9er des solutions d\u2019entreprises.<\/p>\n Nous sommes en pleine \u00e8re connexionniste<\/strong><\/p>\n Le renouveau relativement r\u00e9cent de l\u2019IA est li\u00e9 \u00e0 l\u2019approche connexionniste, avec le boom des r\u00e9seaux de neurones et du deep learning depuis au moins 2006. Cette vague a relanc\u00e9 des mythes nombreux autour des risques de l\u2019IA, souvent li\u00e9s \u00e0 l\u2019image que l\u2019on s\u2019en fait au travers de la science-fiction dystopique.<\/p>\n Une partie de ces mythes viennent d\u2019une incompr\u00e9hension de ce que font les solutions \u00e0 base de deep learning. Elles ne raisonnent pas et n\u2019appliquent pas de logique formelle, tout du moins pour l\u2019instant. Le deep learning ne comprend pas ni ne r\u00e9fl\u00e9chit. Il ne g\u00e8re pas de repr\u00e9sentation globale des connaissances. Il a une m\u00e9moire limit\u00e9e \u00e0 la d\u00e9tection de formes. Il g\u00e9n\u00e8re une vision math\u00e9matique et probabilistique du monde, y compris dans le traitement du langage qui est r\u00e9alis\u00e9 en transformant les mots et phrases en vecteurs et en faisant des calculs de distance entre vecteurs pour identifier des mots ou phrases voisins, mais sans en comprendre le sens.<\/p>\n De m\u00eame, ce que l\u2019on appelle par abus de langage apprentissage automatique n\u2019est pas du raisonnement, m\u00eame en mode dit non supervis\u00e9. Dans le machine learning, le \u201cnon supervis\u00e9\u201d n\u2019est pas non plus le versant \u201cautomatique\u201d du \u201csupervis\u00e9\u201d. Le machine learning supervis\u00e9 sert \u00e0 classifier des objets ou \u00e0 faire des pr\u00e9dictions en s\u2019appuyant sur des donn\u00e9es qui sont d\u00e9j\u00e0 \u00e9tiquet\u00e9es par la nature ou par des humains, comme les noms d\u2019objets pr\u00e9sents dans des images. Tandis que le machine learning non supervis\u00e9 sert \u00e0 faire de la segmentation automatique et \u00e0 d\u00e9terminer des param\u00e8tres discriminants de segmentation (cf. le sch\u00e9ma ci-dessus <\/em>qui r\u00e9sume cela).<\/p>\n Quant \u00e0 l\u2019apprentissage par renforcement, il ajuste les param\u00e8tres d\u2019un syst\u00e8me comme les param\u00e8tres d\u2019un r\u00e9seau de neurones en fonction de la r\u00e9action du monde ext\u00e9rieur \u00e0 son fonctionnement. On peut l\u2019exploiter pour apprendre \u00e0 un robot \u00e0 manipuler des pi\u00e8ces par t\u00e2tonnement, comme l\u2019enfant qui apprend \u00e0 marcher\u2026 en formant \u00e9tape par \u00e9tape les bonnes liaisons dans son cervelet, le coprocesseur de mouvement du cerveau des mammif\u00e8res.<\/p>\n D\u2019o\u00f9 vient cette mode connexionniste ? De la conjonction connue entre algorithmes, abondance de capteurs et donn\u00e9es et de puissance machine. Les solutions de deep learning sont devenues plus efficaces dans leur domaine (langage, vision) que les m\u00e9thodes formelles ant\u00e9rieures qui \u00e9taient trop laborieuses.<\/p>\n Le cas des r\u00e9seaux convolutionnels qui servent \u00e0 d\u00e9tecter des objets dans les images est int\u00e9ressant. La d\u00e9tection porte sur la d\u00e9tection de formes de bas niveau, puis de formes de niveau interm\u00e9diaire comprenant les formes du niveau du dessous, puis de relations entre les formes de plus haut niveau et de classes d\u2019objets. Ces r\u00e9seaux pr\u00e9sentent l\u2019inconv\u00e9nient de ne pas trop se soucier de la position des formes interm\u00e9diaires dans les images.<\/p>\n Malgr\u00e9 ces d\u00e9fauts, ils fonctionnent relativement bien pour des usages courants et qui plus est, en exploitant des images d\u2019assez basse r\u00e9solution, souvent inf\u00e9rieure \u00e0 224×224 pixels. La raison ? Les limitations machine et notamment les capacit\u00e9s m\u00e9moire des GPU qui ne peuvent pas emmagasiner suffisamment\u00a0 de param\u00e8tres des ces r\u00e9seaux de neurones pendant les phases d\u2019entra\u00eenement. Aujourd\u2019hui, la m\u00e9moire la plus proche d\u2019un GPU Nvidia de la s\u00e9rie Volta, au standard HBM2, a une capacit\u00e9 de 16 Go.<\/p>\n D\u2019o\u00f9 l\u2019int\u00e9r\u00eat des \u201ccapsule networks<\/a>\u201d, invent\u00e9s par Geoff Hinton de l\u2019Universit\u00e9 de Toronto et Google, et dont les travaux ont \u00e9t\u00e9 publi\u00e9s en d\u00e9cembre 2017 ! C\u2019est du tout neuf ! Ils tiennent compte des d\u00e9fauts des r\u00e9seaux convolutionnels et int\u00e8grent la notion de positionnement relatif des formes d\u00e9tect\u00e9es dans les images, via des vecteurs. C\u2019est une mani\u00e8re d\u2019ajouter un peu de structuration aux m\u00e9thodes de d\u00e9tection, sans ajouter de sens pour autant.<\/p>\n L\u2019enjeu de l\u2019AGI<\/strong><\/p>\n Suivant l\u2019effet de mode du moment, le Rapport de la Mission Villani <\/strong>fait la part belle au deep learning et aux m\u00e9thodes connexionnistes. L\u2019approche symbolique semble y \u00eatre mise en sourdine. C\u2019est un peu li\u00e9 au background du chercheur en IA qui faisait partie de la Mission Villani, Marc Schoenauer, Directeur de Recherche \u00e0 l\u2019INRIA. C\u2019est en fait un sp\u00e9cialiste des approches \u00e9volutionnaires qui consistent, pour r\u00e9soudre un probl\u00e8me, \u00e0 cr\u00e9er un grand nombre de solutions alternatives puis \u00e0 les comparer pour choisir la meilleure, en quelque sorte, du darwinisme logiciel acc\u00e9l\u00e9r\u00e9. C\u2019est une voie compl\u00e9mentaire \u00e0 celle du connexionnisme.<\/p>\n De m\u00eame, l\u2019IA symbolique et le raisonnement automatique sont assez maigrement repr\u00e9sent\u00e9s dans la feuille de route de l\u2019INRIA de 2016 (Cf Intelligence artificielle, d\u00e9dis actuels et l\u2019action d\u2019Inria<\/a>, 82 pages). On en trouve au laboratoire IRIT de Toulouse ainsi qu\u2019au LIRIS du CNRS \u00e0 Lyon et probablement plein d\u2019autres laboratoires fran\u00e7ais que je ne connais pas.<\/p>\n Pourtant, en prenant du recul, on peut se demander si l\u2019enjeu n\u2019est que dans le deep learning. Les d\u00e9bats font toujours rage pour savoir si l\u2019on r\u00e9ussira un jour \u00e0 cr\u00e9er une intelligence artificielle g\u00e9n\u00e9rale (AGI) rivalisant avec le c\u00f4t\u00e9 g\u00e9n\u00e9raliste de l\u2019intelligence humaine, mais restant rationnelle, ce qui n’est pas toujours le cas de cette derni\u00e8re. Quelle forme scientifique prend cette qu\u00eate ? C\u2019est en fait probablement un m\u00e9lange des approches connexionnistes et symboliques. A l\u2019instar de la m\u00e9thode des ensembles qui est utilis\u00e9e dans le machine learning et qui associe les r\u00e9sultats de plusieurs m\u00e9thodes pour en tirer le meilleur, par moyenne ou moyenne pond\u00e9r\u00e9e.<\/p>\n On peut r\u00e9examiner la dimension \u00e9thique du Rapport Villani au travers de ce prisme entre connexionnisme et symbolisme. Les solutions connexionnistes \u00e9tant moins explicables que les solutions symboliques, elles g\u00e9n\u00e8rent des inqui\u00e9tudes plus fortes. D\u2019o\u00f9 les nombreuses recherches sur l\u2019explicabilit\u00e9 des algorithmes du deep learning. Les r\u00e8gles symboliques sont plus claires, comme les fameuses lois de la robotique d\u2019Asimov.<\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n