AccueilMes livresAjouter des livres
Découvrir
LivresAuteursLecteursCritiquesCitationsListesQuizGroupesQuestionsPrix BabelioRencontresLe Carnet
Citations sur Quand la machine apprend (5)

La quête de la machine intelligente est motivée par le désir de nous connaître nous-mêmes. Les recherches sur l'IA et sur le cerveau s'enrichissent mutuellement.
Commenter  J’apprécie          10
Je termine mon doctorat en juin 1987 et je soutiens ma thèse à l’université Pierre-et-Marie-Curie (aujourd’hui rebaptisée Sorbonne Université) sur des béquilles : je me suis cassé la cheville en avril en expérimentant un nouveau mode de propulsion à voile sur sable ! Geoff Hinton est dans mon jury, ainsi que Maurice Milgram, Françoise Fogelman-Soulié, Jacques Pitrat (un des piliers de la recherche en IA symbolique en France) et Bernard Angéniol (directeur d’un groupe de recherche à Thomson-CSF). Un mois plus tard, je rejoins Geoff à Toronto, avec ma femme et notre bébé qui a maintenant 1 an. Mon épouse accepte de mettre sa carrière de pharmacienne entre parenthèses et d’élever notre fils pendant notre séjour outre-Atlantique qui, pensons-nous, ne doit pas durer plus d’un an…

J’ai entraîné avec moi un ami, Léon Bottou, un étudiant rencontré début 1987 alors qu’il était en dernière année de l’École polytechnique. Il s’était pris d’intérêt pour les réseaux de neurones et avait décidé de faire son stage de fin d’études avec moi, se gardant bien de dire à la direction de l’école que je n’étais pas encore docteur ! J’avais déjà le projet d’écrire un nouveau logiciel pour créer et entraîner des réseaux de neurones. Il s’agit d’un simulateur piloté par un interprète Lisp (un langage de programmation particulièrement flexible et interactif). Je demande à Léon de réaliser cet interprète Lisp, ce qu’il fait en trois semaines ! Notre collaboration est facilitée par le fait que nous possédons le même type d’ordinateur personnel : un Amiga de la société Commodore. À la différence des PC et Mac de l’époque, les Amiga ont des propriétés similaires aux stations de travail Unix répandues dans les départements d’informatique outre-Atlantique : on les programme en langage C avec le compilateur gcc et l’éditeur de texte Emacs. J’écris ma thèse sur mon Amiga avec le système de traitement de texte pour informaticiens LaTeX. Nous échangeons nos bouts de programmes à distance en connectant nos Minitel à nos Amiga…
Commenter  J’apprécie          00
Parmi mes premiers enchantements, je me souviens du compte rendu d’un débat au colloque de Cerisy sur l’inné et l’acquis, que je découvre en 1980. Le linguiste Noam Chomsky y affirmait qu’il existe dans le cerveau des structures préétablies qui permettent d’apprendre à parler. Le psychologue du développement Jean Piaget défendait, lui, l’idée que tout s’apprend, y compris une partie des structures, et que l’acquisition du langage se fait par étapes, au fur et à mesure de la construction de l’intelligence. L’intelligence serait donc le résultat d’un apprentissage fondé sur les échanges avec l’extérieur. L’idée me séduit, et je me demande comment elle peut être appliquée à la machine. D’éminents scientifiques participent à ce débat, notamment Seymour Papert. Dans cet ouvrage, il chante les louanges du perceptron, qu’il décrit comme une machine simple capable d’apprendre des tâches complexes.

[ L'ouvrage en question est : Théories du langage, théories de l’apprentissage : le débat entre Jean Piaget et Noam Chomsky, débat recueilli par Maximo Piatelli-Palmarini, Centre Royaumont pour une science de l’homme, Seuil, « Points », 1979. ]
Commenter  J’apprécie          00
Au chapitre « Le fameux sens commun » [qui manque cruellement à l’IA]
Si vous lui dites ‘Alexa, j’ai laissé tomber mon téléphone dans la baignoire’, elle ne saura pas que votre téléphone a pris de l’eau. Alexa aurait besoin d’un peu de bon sens, c’est-à-dire d’une certaine connaissance du fonctionnement du monde et de ses contraintes physiques. P 305
.
Quand nous apprenons à conduire sur une route bordée par un ravin sur la droite, nous savons, par notre modèle du monde, que si nous tournons le volant vers la droite, la voiture ira vers le ravin, et notre connaissance de la gravité nous permet de prédire qu’elle fera une vilaine chute. Nul besoin d’essayer. C’est ce modèle-là qui fait défaut pour l’instant aux machines. P309
Commenter  J’apprécie          00
Nous avons pris 3,5 milliards d’images d’Instagram et nous avons entraîné un réseau de neurones à prédire les hashtags que les gens ajoutent. Nous avons ainsi fait une liste des 17 000 hashtags les plus souvent tapés, et nous entraînons le réseau à prédire quels sont les hashtags parmi les 17 000 qui sont susceptibles d’être retenus pour une image particulière.
.
[ ] Les 17 000 hashtags recouvrent presque tout l’espace de concepts contenus dans les images. Une fois le réseau entraîné, on enlève la dernière couche [de neurones] (celle qui produit les hashtags), et on la remplace par une autre couche que l’on entraîne sur une tâche qui nous intéresse. Par exemple détecter des images violentes ou pornographiques pour les filtrer. P292
Commenter  J’apprécie          00




    Lecteurs (91) Voir plus



    Quiz Voir plus

    Retrouvez le bon adjectif dans le titre - (5 - essais )

    Roland Barthes : "Fragments d'un discours **** "

    amoureux
    positiviste
    philosophique

    20 questions
    869 lecteurs ont répondu
    Thèmes : essai , essai de société , essai philosophique , essai documentCréer un quiz sur ce livre

    {* *}