>
Critique de coconut
Ce livre est une réponse plutôt optimiste aux déclarations anxiogènes d'un certain nombre de scientifiques, tels que Stéphane Hawkins mettant en garde : « l'intelligence artificielle pourrait conduire à l'extinction de la race humaine », mise en garde renouvelée par un certain nombre de chercheurs et d'industriels puissants comme Elon Musk, l'inventeur de « Paypal » ou Bill Gates, l'inventeur de « Microsoft ». Toutes les conceptions catastrophistes proposées par ces scientifiques reposent sur « l'anticipation d'un événement brutal, imminent, majeur et pourtant inéluctable » qui serait en passe de bouleverser le monde et l'existence humaine.
Cet événement inéluctable a un nom : c'est la « singularité technologique ». Ce serait, en fait, une sorte d'emballement des machines, qui croîtraient, se multiplieraient, s'autoengendreraient. Cette singularité technologique a été inventée par la science-fiction, dans les romans de Vernor Vinge. Celui-ci a d'ailleurs fini par théoriser le concept dans un essai intitulé « The coming technological singularity » publié en 1993. Selon Vernor Vinge, d'ici à 2023, l'être humain s'hybridera avec des machines et deviendra un « cyborg ». Seuls survivront les hommes qui seront munis de machines. le terme de « singularité » est emprunté aux mathématiques et correspond à « un objet, un point, une valeur ou un cas particulier, mal défini et qui, en cela, apparaît critique ».
L'idée de cette « singularité technologique » repose sur la loi de Moore, émise en 1965. Cette loi définit la progression de la technologie de la façon suivante : doublement des capacités des microprocesseurs (capacité de stockage de l'information) tous les 18 mois, associée à la diminution du coût des processeurs, de moitié, tous les 18 mois. Cette loi conduit à une courbe exponentielle, vérifiable depuis 1959.
Toutefois, dans les différents scénarios proposés par les scientifiques, la question de la date de l'advenue de la « singularité » fait polémique. Quant à l'auteur, il considère que cette courbe est en train de se tasser et qu'il est impossible de considérer que la progression des découvertes technologiques sera constante. En effet, on constate des périodes de l'Histoire pendant lesquelles la technique a subi une stagnation, voire une régression. Selon lui, le progrès est « convulsif » et fonctionne par à-coups. Il n'y a pas lieu, non plus, de penser que les évolutions en matière de technologie sont calquées sur celles de la nature. Par ailleurs, si les Gafa, et en particulier Ray Kurzweil, directeur de l'ingénierie chez Google appliquent la « Loi de Moore » à l'ensemble de la vie, et annoncent par conséquent la disparition de l'espèce humaine, il est possible de lui rétorquer que les disparitions d'espèces, même massives sont aussi importantes que l'arrivée de nouvelles espèces, souvent en concomitance avec de nouvelles donnes environnementales (exemple : les mammifères ont proliféré après la disparition des dinosaures…)
L'appellation « intelligence artificielle » est née en 1955. Ce sont deux mathématiciens, John Mc Carthy et Marvin Minsky qui l'ont inventée à partir d'expériences visant à simuler sur des ordinateurs les différentes facultés cognitives humaines et animales. Ce projet part du principe que la nature peut s'écrire en langage mathématique. D'autres chercheurs, Watson et Crick, découvreurs de l'ADN, ramènent l'étude du vivant à des mécanismes chimiques.
Actuellement, une grande partie de l'IA porte sur l'apprentissage automatique. Les approches sont nombreuses et diverses « les réseaux de neurones formels, les algorithmes génétiques, la construction d'arbres de décision, les k plus proches voisins, l'apprentissage bayésien, les machines à noyaux, les séparateurs à vastes marges (support vector machines, SVM en anglais), l'apprentissage profond (deep learning en anglais)….
Evidemment, les machines sont alimentées par une masse de données (big data) sans précédent dans l'Histoire. A titre de comparaison, le web actuel stocke l'équivalent d'un demi-milliard de fois les informations contenues dans la BNF ! le risque est, bien sûr, que les machines se mettent à se reprogrammer elles-mêmes et à avoir des comportements incohérents ou difficiles à anticiper. Toutefois, les machines ne sont pas capables de modifier « le langage dans lequel s'expriment leurs mécanismes d'apprentissage et les connaissances qu'elles construisent ».
Mais, le rapport à la Singularité qu'entretiennent les chercheurs anxieux est de l'ordre de la gnose : un système de pensée philosophico-religieux qui se fonde sur une révélation intérieure, permettant d'accéder aux choses divines réservé aux seuls initiés et permettant de saisir les mystères menant au salut. Les gnostiques, en effet, pensaient qu'il existait deux dieux : le vrai Dieu, caché, et le faux Dieu, démiurge qui a créé un univers artificiel auquel il nous fait croire. Pour s'arracher à cette croyance, il faut détenir la connaissance, seule capable de mener au vrai Dieu. Mais cette connaissance n'est pas rationnelle, elle est de l'ordre de la Révélation. Cet arrachement se fait par une rupture, ne laissant aucune place au retour en arrière. le but est de trouver le Dieu authentique avec lequel nous ne ferons qu'un. On voit l'analogie avec la « croyance » en la Singularité : l'Intelligence Artificielle permet de compiler toutes les connaissances dans tous les domaines de la science afin de percer les secrets de l'Univers, l'anticipation de la Singularité repose sur des récits de science –fiction davantage que sur des analyses scientifiques. Par ailleurs on se retrouve dans la même logique d'opposition entre matière et spiritualité, puisque les chercheurs envisagent un monde dans lequel l'esprit humain sera téléchargé dans des machines et dissocié de son corps faillible et mortel.
Pourtant, la science nous montre dans de nombreux domaines que les phénomènes sont plus complexes qu'ils ne le paraissent (c'est le cas de la météorologie, des sciences du climat, de l'économie, de la politique…). Les mathématiques sont incompétentes à l'analyse de tous les phénomènes, notamment ceux qui sont produits par des humains… En définitive, la Singularité « peut » advenir, mais elle n'adviendra pas avec certitude. Alors pourquoi ces mises en garde alarmistes ? D'une manière générale, les catastrophes attirent le public. le commerce des catastrophes jalonne l'histoire des hommes. Cependant, ce commerce est ici dangereux et immoral. Dangereux parce que la croyance en la Singularité détoure le regard d'autres catastrophes aussi probables que cette dernière, mais immoral parce que ce sont les chercheurs les plus réputés, les industriels les plus immenses de notre époque qui nous effraient alors que face à eux, à leur notoriété et à leur pouvoir, nous sommes particulièrement naïfs !
Il est quand même assez paradoxal que ce soient justement les inventeurs de cette technologie avancée, voire leurs responsables, qui nous mettent en garde contre le danger des technologies qu'ils ont eux-mêmes développées et crées ! le font-ils parce que devenus ce qu'ils sont devenus sur la planète, ils seraient fascinés par leur propre démesure ; le font-ils, même inconsciemment, dans une stratégie de communication aux retombées mercantiles et destinées à accroître encore leurs empires ? Quoiqu'il en soit ils jouent les « pompiers pyromanes » ! Ce qui est certain, c'est que peu à peu, ils se substituent aux Etats, dans de nombreux domaines car ils se montrent plus compétents et plus riches qu'eux. Ainsi, dans le domaine de la sécurité (reconnaissance faciale par ex.), dans le domaine de l'éducation (partenariat Education Nationale et Microsoft en France, par ex), dans le domaine de la santé (avec tous les instruments connectés que l'on peut porter, par ex.), ils gagnent du terrain et font perdre aux gouvernements leur souveraineté.
L'Intelligence Artificielle ne mènera pas obligatoirement à l'extinction de l'humanité mais il est souhaitable de rester vigilant.
Cet événement inéluctable a un nom : c'est la « singularité technologique ». Ce serait, en fait, une sorte d'emballement des machines, qui croîtraient, se multiplieraient, s'autoengendreraient. Cette singularité technologique a été inventée par la science-fiction, dans les romans de Vernor Vinge. Celui-ci a d'ailleurs fini par théoriser le concept dans un essai intitulé « The coming technological singularity » publié en 1993. Selon Vernor Vinge, d'ici à 2023, l'être humain s'hybridera avec des machines et deviendra un « cyborg ». Seuls survivront les hommes qui seront munis de machines. le terme de « singularité » est emprunté aux mathématiques et correspond à « un objet, un point, une valeur ou un cas particulier, mal défini et qui, en cela, apparaît critique ».
L'idée de cette « singularité technologique » repose sur la loi de Moore, émise en 1965. Cette loi définit la progression de la technologie de la façon suivante : doublement des capacités des microprocesseurs (capacité de stockage de l'information) tous les 18 mois, associée à la diminution du coût des processeurs, de moitié, tous les 18 mois. Cette loi conduit à une courbe exponentielle, vérifiable depuis 1959.
Toutefois, dans les différents scénarios proposés par les scientifiques, la question de la date de l'advenue de la « singularité » fait polémique. Quant à l'auteur, il considère que cette courbe est en train de se tasser et qu'il est impossible de considérer que la progression des découvertes technologiques sera constante. En effet, on constate des périodes de l'Histoire pendant lesquelles la technique a subi une stagnation, voire une régression. Selon lui, le progrès est « convulsif » et fonctionne par à-coups. Il n'y a pas lieu, non plus, de penser que les évolutions en matière de technologie sont calquées sur celles de la nature. Par ailleurs, si les Gafa, et en particulier Ray Kurzweil, directeur de l'ingénierie chez Google appliquent la « Loi de Moore » à l'ensemble de la vie, et annoncent par conséquent la disparition de l'espèce humaine, il est possible de lui rétorquer que les disparitions d'espèces, même massives sont aussi importantes que l'arrivée de nouvelles espèces, souvent en concomitance avec de nouvelles donnes environnementales (exemple : les mammifères ont proliféré après la disparition des dinosaures…)
L'appellation « intelligence artificielle » est née en 1955. Ce sont deux mathématiciens, John Mc Carthy et Marvin Minsky qui l'ont inventée à partir d'expériences visant à simuler sur des ordinateurs les différentes facultés cognitives humaines et animales. Ce projet part du principe que la nature peut s'écrire en langage mathématique. D'autres chercheurs, Watson et Crick, découvreurs de l'ADN, ramènent l'étude du vivant à des mécanismes chimiques.
Actuellement, une grande partie de l'IA porte sur l'apprentissage automatique. Les approches sont nombreuses et diverses « les réseaux de neurones formels, les algorithmes génétiques, la construction d'arbres de décision, les k plus proches voisins, l'apprentissage bayésien, les machines à noyaux, les séparateurs à vastes marges (support vector machines, SVM en anglais), l'apprentissage profond (deep learning en anglais)….
Evidemment, les machines sont alimentées par une masse de données (big data) sans précédent dans l'Histoire. A titre de comparaison, le web actuel stocke l'équivalent d'un demi-milliard de fois les informations contenues dans la BNF ! le risque est, bien sûr, que les machines se mettent à se reprogrammer elles-mêmes et à avoir des comportements incohérents ou difficiles à anticiper. Toutefois, les machines ne sont pas capables de modifier « le langage dans lequel s'expriment leurs mécanismes d'apprentissage et les connaissances qu'elles construisent ».
Mais, le rapport à la Singularité qu'entretiennent les chercheurs anxieux est de l'ordre de la gnose : un système de pensée philosophico-religieux qui se fonde sur une révélation intérieure, permettant d'accéder aux choses divines réservé aux seuls initiés et permettant de saisir les mystères menant au salut. Les gnostiques, en effet, pensaient qu'il existait deux dieux : le vrai Dieu, caché, et le faux Dieu, démiurge qui a créé un univers artificiel auquel il nous fait croire. Pour s'arracher à cette croyance, il faut détenir la connaissance, seule capable de mener au vrai Dieu. Mais cette connaissance n'est pas rationnelle, elle est de l'ordre de la Révélation. Cet arrachement se fait par une rupture, ne laissant aucune place au retour en arrière. le but est de trouver le Dieu authentique avec lequel nous ne ferons qu'un. On voit l'analogie avec la « croyance » en la Singularité : l'Intelligence Artificielle permet de compiler toutes les connaissances dans tous les domaines de la science afin de percer les secrets de l'Univers, l'anticipation de la Singularité repose sur des récits de science –fiction davantage que sur des analyses scientifiques. Par ailleurs on se retrouve dans la même logique d'opposition entre matière et spiritualité, puisque les chercheurs envisagent un monde dans lequel l'esprit humain sera téléchargé dans des machines et dissocié de son corps faillible et mortel.
Pourtant, la science nous montre dans de nombreux domaines que les phénomènes sont plus complexes qu'ils ne le paraissent (c'est le cas de la météorologie, des sciences du climat, de l'économie, de la politique…). Les mathématiques sont incompétentes à l'analyse de tous les phénomènes, notamment ceux qui sont produits par des humains… En définitive, la Singularité « peut » advenir, mais elle n'adviendra pas avec certitude. Alors pourquoi ces mises en garde alarmistes ? D'une manière générale, les catastrophes attirent le public. le commerce des catastrophes jalonne l'histoire des hommes. Cependant, ce commerce est ici dangereux et immoral. Dangereux parce que la croyance en la Singularité détoure le regard d'autres catastrophes aussi probables que cette dernière, mais immoral parce que ce sont les chercheurs les plus réputés, les industriels les plus immenses de notre époque qui nous effraient alors que face à eux, à leur notoriété et à leur pouvoir, nous sommes particulièrement naïfs !
Il est quand même assez paradoxal que ce soient justement les inventeurs de cette technologie avancée, voire leurs responsables, qui nous mettent en garde contre le danger des technologies qu'ils ont eux-mêmes développées et crées ! le font-ils parce que devenus ce qu'ils sont devenus sur la planète, ils seraient fascinés par leur propre démesure ; le font-ils, même inconsciemment, dans une stratégie de communication aux retombées mercantiles et destinées à accroître encore leurs empires ? Quoiqu'il en soit ils jouent les « pompiers pyromanes » ! Ce qui est certain, c'est que peu à peu, ils se substituent aux Etats, dans de nombreux domaines car ils se montrent plus compétents et plus riches qu'eux. Ainsi, dans le domaine de la sécurité (reconnaissance faciale par ex.), dans le domaine de l'éducation (partenariat Education Nationale et Microsoft en France, par ex), dans le domaine de la santé (avec tous les instruments connectés que l'on peut porter, par ex.), ils gagnent du terrain et font perdre aux gouvernements leur souveraineté.
L'Intelligence Artificielle ne mènera pas obligatoirement à l'extinction de l'humanité mais il est souhaitable de rester vigilant.
