anonymat de masse

Supposons que la bombe ait été utilisée.

Il serait déplacé de parler encore ici d’ "acte". Le processus qui aboutirait à un tel fait compterait en fin de compte tant de médiations, il serait si peu transparent, il se composerait de tant d’étapes intermédiaires et ferait intervenir tant d’instances – sans qu’aucune ne soit plus décisive que les autres – que pour finir tout le monde aurait fait quelque chose mais personne n’aurait "fait" cela. En fin de compte, personne n’aurait rien fait.

Pour écarter tout risque d’un ultime sursaut de la conscience, on a construit des êtres sur lesquels rejeter la responsabilité, c’est-à-dire des machines à oracles, des consciences-automates électroniques [...]. [...]

Quand bien même il n’y aurait pas de robots, la complexité de l’organisation moderne à elle seule, le fait que cette chose monstrueuse soit le résultat d’un travail mille fois divisé et médiatisé, suffirait à en faciliter l’exécution. Cela semble paradoxal. Ce n’est pourtant pas un paradoxe parce que les innombrables procédures organisationnelles, en consommant beaucoup d’énergie, affaiblissent ou épuisent les énergies morales contraires, et remplissent ainsi une fonction analogue à celle des résistances électriques.

En outre, lorsqu’une organisation est au travail, l’idée d’une moralité de l’action est automatiquement remplacée par celle d’un parfait fonctionnement. [...] Chacun des innombrables travailleurs spécialisés intégrés au processus considérant exclusivement la tâche qu’il doit accomplir et n’étant lui-même considéré comme consciencieux que dans la mesure où il accomplit consciencieusement la tâche dont il est chargé, il n’y a pas pour lui matière à la moindre considération morale. Autrement dit, s’il n’y a pas là pour lui la moindre perspective d’immoralité, c’est parce qu’il n’a pas de "perspective" du tout. [...]

Et comme il ne sait pas comment sa tâche se combine avec celle des autres, il ne peut prendre conscience du fait que la somme des tâches spécialisées et consciencieusement accomplies pourrait se révéler une monstrueuse absence de conscience morale. [...]

Rien ne peut donc contrecarrer la production et l’utilisation de la bombe : ce sont le grand nombre des participants et la complexité de l’appareil qui empêchent d’empêcher.

Auteur: Anders Günther Stern

Info: Dans "L'obsolescence de l'homme", trad. de l'allemand par Christophe David, éditions Ivrea, Paris, 2002, pp. 272-274

[ responsabilité diluée ] [ ignorance ] [ totalitarisme ] [ pions ]

rapports humains

On lutte contre sa propre superficialité, son manque de profondeur, pour essayer d'arriver devant autrui sans attente irréaliste, sans cargaison de préjugés, d'espoirs, d'arrogance ; on ne veut pas faire le tank, on laisse son canon, ses mitrailleuses et son blindage ; on arrive devant autrui sans le menacer, on marche pieds nus sur ses dix orteils au lieu d'écraser la pelouse sous ses chenilles ; on arrive l'esprit ouvert, pour l'aborder d'égal à égal, d'homme à homme, comme on disait jadis. Et, avec tout ça, on se trompe à tous les coups. Comme si on n'avait pas plus de cervelle qu'un tank. On se trompe avant même de rencontrer les gens, quand on imagine la rencontre avec eux ; on se trompe quand on est avec eux ; et puis quand on rentre chez soi, et qu'on raconte la rencontre à quelqu'un d'autre, on se trompe de nouveau. Or, comme la réciproque est généralement vraie, personne n'y voit que du feu, ce n'est qu'illusion, malentendu qui confine à la farce. Pourtant, comment s'y prendre dans cette affaire si importante - "les autres" - qui se vide de toute la signification que nous lui supposons et sombre dans le ridicule, tant nous sommes mal équipés pour nous représenter le fonctionnement intérieur d'autrui et ses mobiles cachés ? Est-ce qu'il faut pour autant que chacun s'en aille de son côté, s'enferme dans sa tour d'ivoire, isolée de tout bruit, comme les écrivains solitaires, et fasse naître les gens à partir des mots, pour postuler ensuite que ces êtres de mots sont plus vrais que les vrais, que nous massacrons tous les jours par notre ignorance ? Le fait est que comprendre les autres n'est pas la règle dans la vie. L'histoire de la vie, c'est se tromper sur leur compte, encore et encore, encore et toujours, avec acharnement et, après y avoir bien réfléchi, se tromper à nouveau. C'est même comme ça qu'on sait qu'on est vivant : on se trompe. Peut-être que le mieux serait de renoncer à avoir tort ou raison sur autrui, et continuer, rien que pour la balade. Mais si vous y arrivez, vous... alors vous avez de la chance.

Auteur: Roth Philip

Info: Pastorale américaine, Gallimard, p. 47

[ illusion ]

nom-du-père

Le père n’est pas simplement le générateur. Il est aussi celui qui possède de droit la mère, et, en principe, en paix. Sa fonction est centrale dans la réalisation de l’Œdipe, et conditionne l’accession du fils – qui est aussi une fonction, et corrélative de la première – au type de la virilité. Que se passe-t-il si un certain manque s’est produit dans la fonction formatrice du père ?

Le père a pu avoir effectivement un certain mode de relation tel que le fils prend bien une position féminine, mais ce n’est pas par crainte de la castration. [fils délinquants ou psychotiques qui prolifèrent à l’ombre d’une personnalité paternelle de caractère exceptionnel, avec de l’unilatéral et du monstrueux]. [...]

Supposons que cette situation comporte précisément pour le sujet l'impossibilité d'assumer la réalisation du signifiant père au niveau symbolique. Que lui reste-t-il ? Il lui reste l'image à quoi se réduit la fonction paternelle. C'est une image qui ne s'inscrit dans aucune dialectique triangulaire, mais dont la fonction de modèle, d'aliénation spéculaire, donne tout de même au sujet un point d'accrochage, et lui permet de l’appréhender sur le plan imaginaire.

Si l’image captatrice est démesurée, si le personnage en question se manifeste simplement dans l’ordre de la puissance et non dans celui du pacte, c’est une relation de rivalité qui apparaît, l’agressivité, la crainte, etc. Dans la mesure où le rapport reste sur le plan imaginaire, duel et démesuré, il n'a pas la signification d'exclusion réciproque que comporte l'affrontement spéculaire, mais l'autre fonction, qui est celle de la capture imaginaire. L'image prend en elle-même et d'emblée la fonction sexualisée, sans avoir besoin d'aucun intermédiaire, d'aucune identification à la mère ni à qui que ce soit. Le sujet adopte alors cette position intimidée que nous observons chez le poisson ou le lézard. La relation imaginaire s’instaure toute seule, sur un plan qui n’a rien de typique, qui est déshumanisant, parce qu’il ne laisse pas place à la relation d’exclusion réciproque qui permet de fonder l’image du moi sur l’orbite que donne le modèle de l’autre, plus achevé.

L'aliénation est ici radicale, elle n'est pas liée à un signifié néantisant […] mais à un anéantissement du signifiant. Cette véritable dépossession primitive du signifiant, il faudra que le sujet en porte la charge et en assume la compensation […] par une série d’identifications purement conformistes à des personnages qui lui donneront le sentiment de ce qu'il faut faire pour être un homme.

C’est ainsi que la situation peut se soutenir longtemps, que des psychotiques vivent compensés, ont apparemment les comportements ordinaires considérés comme normalement virils, et tout d’un coup, mystérieusement, Dieu sait pourquoi, se décompensent. Qu’est-ce qui rend soudainement insuffisantes les béquilles imaginaires qui permettaient au sujet de compenser l’absence du signifiant ?

Auteur: Lacan Jacques

Info: Dans le "Séminaire, Livre III", "Les psychoses", éditions du Seuil, 1981, pages 324 à 326

[ réel-symbolique-imaginaire ] [ entrée en psychose ] [ psychanalyse ]

psychanalyse

Le transfert est déjà en puissance analyse de la suggestion, il est lui-même la possibilité de l’analyse de la suggestion, il est articulation seconde de ce qui, dans la suggestion, s’impose purement et simplement au sujet. En d’autres termes, la ligne d’horizon sur laquelle la suggestion se base est là, au niveau de la demande, celle que fait le sujet à l’analyste par le seul fait qu’il est là.

Cette demande n’est pas sans variété. [...] Mais quelle importance cela a-t-il de savoir la place de la demande ?  - puisque l’analyste, même s’il ne répond pas à la demande, d’être seulement institué, y répond, ce qui est constitutif de tous les effets de suggestion.

[...] Le transfert est ici conçu comme la prise du pouvoir de l’analyste sur le sujet, comme le lien affectif qui fait le sujet dépendre de lui, et dont il est légitime que nous usions pour qu’une interprétation passe. [...] Pour appeler les choses par leur nom, c’est parce que le patient est arrivé à bien nous aimer que nos interprétations sont ingurgitées. Nous sommes sur le plan de la suggestion. Or, bien entendu, Freud n’entend pas se limiter à cela.

On nous dit – Oui, c’est simple, nous allons analyser le transfert, vous verrez, ça fait tout à fait s’évanouir le transfert. [...] Considérer que l’on se distingue de celui qui prend appui sur son pouvoir sur le patient pour faire passer l’interprétation, donc qui suggère, en ceci que l’on va analyser cet effet de pouvoir, qu’est-ce d’autre que de renvoyer la question à l’infini ? – puisque c’est encore à partir du transfert que l’on analysera le fait que le sujet ait accepté l’interprétation. Il n’y a aucune possibilité de sortir par cette voie du cercle infernal de la suggestion. Or, nous supposons justement qu’autre chose est possible. C’est donc que le transfert est autre chose que l’usage d’un pouvoir.

Le transfert est déjà en lui-même un champ ouvert, la possibilité d’une articulation signifiante autre et différente de celle qui enferme le sujet dans la demande [...] C’est quelque chose d’articulé qui est en puissance au-delà de ce qui s’articule sur le plan de la demande, où vous trouverez la ligne de la suggestion. [...]

S’il y a transfert, c’est très précisément pour que cette ligne supérieure [horizon du transfert] soit maintenue sur un autre plan que sur celui de la suggestion, à savoir qu’elle soit visée, non pas comme quelque chose à quoi ne répond aucune satisfaction de la demande, mais comme une articulation signifiante en tant que telle. [...]

Vous me direz – Quelle est l’opération qui fait que nous les maintenons distinctes ? Notre opération est justement abstinente ou abstentionniste. Elle consiste à ne jamais ratifier la demande comme telle.

Auteur: Lacan Jacques

Info: Dans le "Séminaire, Livre V", "Les formations de l'inconscient (1957-1958)", éditions du Seuil, 1998, pages 427 à 429

[ défini ] [ inconscient ] [ problèmes ]

humaine syntonisation

À la suite de Bernard d’Espagnat qui a proposé une interprétation permettant de résoudre les problèmes soulevés par la théorie des états relatifs d’Everett, j’ai développé une position, le solipsisme convivial, qui s’intègre dans le cadre de la théorie de la décohérence. Cette position suppose qu’on refuse de se placer dans le cadre du réalisme empirique pragmatique. Bien que défendant par ailleurs une position différente qu’il serait trop long de détailler ici, je me placerai ici dans le cadre du réalisme métaphysique.

La décohérence est alors le mécanisme qui explique l’apparence classique pour nous d’une réalité qui demeure essentiellement quantique, c’est-à-dire enchevêtrée. Le solipsisme convivial fait entrer l’observateur lui-même dans le grand système. Le raisonnement que nous avons décrit conduit alors à considérer que l’observateur est aussi dans un état enchevêtré avec le système, l’appareil et l’environnement. Du point de vue de la réalité profonde (et non de l’apparence de cette réalité pour nous), seule une fonction d’ondes globale superposée "existe". Dans cette fonction d’ondes, les différents résultats possibles de mesure sont présents et sont corrélés ainsi que tous les états correspondants de l’observateur. La décohérence intervient et permet de régler un certain nombre de problèmes que nous n’avons pas eu la possibilité d'évoquer : quelle est la grandeur mesurée par exemple, ce qui a pour effet de résoudre la difficulté que nous avons signalée à propos de l’interprétation d’Everett. Le solipsisme convivial consiste alors à considérer que la conscience de l’observateur est "accrochée" à l’une des branches de la fonction d’ondes ne lui permettant d’observer que la partie classique correspondante. La conscience joue en quelque sorte le rôle d’un filtre ne permettant de voir qu’une partie de la fonction d’ondes globale.

Une définition précise de ce processus permet de montrer que les prédictions habituelles de la mécanique quantique sont respectées malgré le fait que la fonction d’ondes n’est jamais rigoureusement réduite. Le point surprenant est alors que rien n’oblige deux observateurs différents à être accrochés à la même branche. Pour une mesure donnée, un observateur peut être accroché à la branche donnant le résultat A alors qu’un autre le sera à la branche donnant le résultat B. Comment peut-il en être ainsi alors qu’on sait que deux observateurs de la même expérience sont ”en général” d’accord sur le résultat ? La raison en est que la communication entre observateurs est elle-même un processus de mesure et que le mécanisme d’accrochage garantit la cohérence des observations pour un observateur.

Supposons qu’André a observé le résultat A et Bernard le résultat B. Les deux observations ne sont que l’accrochage de la conscience d’André et de Bernard à leur branche propre de la fonction d’ondes globale qui contient les deux possibilités. Si André demande à Bernard ce qu’il a vu, l’interaction entre André et Bernard qui en résulte contient la totalité des possibilités, donc à la fois une branche où Bernard répond A et une branche où Bernard répond B. La fonction d’ondes d’André sera après l’interaction avec Bernard dans un état enchevêtré contenant les deux réponses mais la conscience d’André s’accrochera à la branche correspondant à la réponse cohérente avec son observation précédente, il entendra donc Bernard répondre A conformément à son attente. C’est la raison pour laquelle cette interprétation porte le nom de solipsisme convivial : chaque observateur vit dans son monde qui peut être totalement différent de celui des autres, mais il n’existe aucun moyen de se rendre compte des désaccords et les observateurs sont en parfait accord. Ceci fournit une nouvelle explication de l’intersubjectivité : il n’y a aucun moyen de constater un désaccord.

Signalons pour terminer une conséquence étrange sur l’indéterminisme de la mécanique quantique. La fonction d’ondes de l’Univers évolue de manière parfaitement déterministe par l'équation de Schrödinger, seul le mécanisme d’accrochage tire au sort la branche à laquelle chaque observateur s’accroche. Ce n’est donc plus Dieu qui joue aux dés, c’est l’homme, mais avec le constat étrange que deux joueurs peuvent voir le même dé tomber sur une face différente. 

Auteur: Zwirn Hervé

Info: Mécanique quantique et connaissance du réel.

[ prospective scientifique ]

réversibilité

La gravité quantique pourrait inverser causes et effets.

Toute théorie de la gravité quantique va devoir se colleter avec des trucs temporels bizarres.

Vous avez probablement entendu parler du chat de Schrödinger, ce  malheureux félin, dans une boîte, où il est simultanément vivant et mort jusqu'à ce que la boîte soit ouverte pour révéler son état réel. Maintenant, faites-vous une idée du temps de Schrödinger, une situation dans laquelle un événement peut être simultanément la cause et l'effet d'un autre événement. 

Un tel scénario pourrait être inévitable dans la théorie de la gravité quantique, domaine encore flou d'une physique qui cherche à combiner la théorie de la relativité générale d'Albert Einstein avec les mécanismes de la mécanique quantique. Dans un nouvel article, des scientifiques créent un mélange des deux en imaginant des vaisseaux spatiaux près d'une énorme planète dont la masse ralentit le temps. Ils en concluent que les vaisseaux pourraient se retrouver dans un état où la causalité est inversée : Tel événement pourrait finir par causer un autre événement qui s'est produit avant le premier. 

"On peut imaginer ce genre de scénario dans l'ordre temporel, où la cause et l'effet sont en superposition, inversés ou non", a déclaré le co-auteur de l'étude, Igor Pikovski, physicien au Center for Quantum Science and Engineering du Stevens Institute of Technology, dans le New Jersey. "C'est quelque chose qui devrait normalement se produire une fois que nous aurons une théorie complète de la gravité quantique".

Le temps quantique

La célèbre expérience de pensée du chat de Schrödinger demande à un spectateur d'imaginer une boîte contenant un chat et une particule radioactive qui, une fois désintégrée, tuera le malheureux félin. En vertu du principe de superposition quantique, la survie ou la mort du chat est tout aussi probable jusqu'à ce qu'elle soit mesurée - ainsi, jusqu'à ce que la boîte soit ouverte, le chat est simultanément vivant et mort. En mécanique quantique, la superposition signifie qu'une particule peut exister dans plusieurs états en même temps, tout comme le chat de Schrödinger. 

Cette nouvelle expérience de pensée, publiée le 21 août dans la revue Nature Communications, combine le principe de superposition quantique avec la théorie de la relativité générale d'Einstein. Selon la relativité générale, la masse d'un objet géant peut ralentir le temps. Ce phénomène est bien établi et mesurable, a déclaré M. Pikovski ; un astronaute en orbite autour de la Terre verra le temps s'écouler un tout petit peu plus vite que son jumeau sur la planète. (C'est aussi pourquoi tomber dans un trou noir serait une expérience très graduelle). 

Ainsi, si un vaisseau spatial futuriste se trouve à proximité d'une planète massive, son équipage ressentira le temps comme un peu plus lent que les personnes situées dans un autre vaisseau spatial stationné plus loin. Ajoutez à ça un peu de mécanique quantique et vous pouvez imaginer une situation dans laquelle cette planète est superposée simultanément près et loin des deux vaisseaux spatiaux. 

Le temps devient bizarre

Dans ce scénario de superposition de deux vaisseaux qui expérimentent le temps sur des lignes temporelles différentes, la cause et l'effet peuvent devenir bizarres. Par exemple, supposons que les vaisseaux doivent effectuer une mission d'entraînement au cours de laquelle ils se tirent dessus et s'esquivent mutuellement, en sachant parfaitement à quel moment les missiles seront lancés et intercepteront leurs positions. S'il n'y a pas de planète massive à proximité qui perturbe l'écoulement du temps, c'est un exercice simple. En revanche, si cette planète massive est présente et que le capitaine du vaisseau ne tient pas compte du ralentissement du temps, l'équipage pourrait être en retard pour esquiver et être détruit. 

Avec une telle planète en superposition, simultanément proche et lointaine, il serait impossible de savoir si les vaisseaux esquivent trop tard et se détruisent mutuellement ou s'ils s'écartent et survivent. Qui plus est, la cause et l'effet pourraient être inversés, selon M. Pikovski. Bref il faut imaginer deux événements liés par la causalité

"A et B peuvent s'influencer mutuellement dans un état de superposition, mais dans un cas, A est avant B et inversément, explique M. Pikovski. Ce qui signifie que A et B sont simultanément la cause et l'effet l'un de l'autre. Heureusement pour les équipages, sans doute très confus, de ces vaisseaux spatiaux imaginaires, dit Pikovski, ils auraient un moyen mathématique d'analyser les transmissions de l'autre pour confirmer qu'ils sont dans un état de superposition.

Évidemment, dans la vie réelle c'est très différent. Mais l'expérience de pensée pourrait avoir des implications pratiques pour l'informatique quantique, même sans élaborer une théorie complète de cette dernière, a déclaré M. Pikovski. En utilisant les superpositions dans les calculs, un système d'informatique quantique pourrait évaluer simultanément un processus en tant que cause et en tant qu'effet. 

"Les ordinateurs quantiques pourraient être en mesure de l'utiliser pour des calculs plus efficaces", a-t-il déclaré.

Auteur: Internet

Info: https://www.livescience.com/. Stephanie Pappas Le 28 août 2019

[ nanomonde ] [ coexistence ]

linguistique de masse

L'intelligence artificielle travaille-t-elle en anglais ? 

Des scientifiques de l’EPFL ont montré que les grands modèles de langage semblent utiliser l’anglais en interne même lorsqu’ils sont sollicités dans une autre langue, ce qui pourrait avoir des conséquences en termes de biais linguistiques et culturels.

Les grands modèles de langage (LLM), tels que ChatGPT d’Open AI et Gemini de Google, ont conquis le monde et surprennent par leur capacité à comprendre les utilisatrices et utilisateurs et à leur répondre avec un discours en apparence naturel.

Bien qu’il soit possible d’interagir avec ces LLM dans n’importe quelle langue, ces derniers sont entraînés avec des centaines de milliards de paramètres textuels, principalement en anglais. Certaines personnes ont émis l’hypothèse qu’ils effectuaient la majeure partie de leur traitement interne en anglais et traduisaient ensuite dans la langue cible au tout dernier moment. Mais il y avait peu de preuves de cela, jusqu’à aujourd’hui.

Tests de Llama

Des chercheuses et chercheurs du Laboratoire de science des données (DLAB) de la Faculté informatique et communications de l’EPFL ont étudié le LLM open source Llama-2 (grand modèle de langage IA développé par Meta) pour essayer de déterminer quelles langues étaient utilisées à quels stades de la chaîne informatique.

" Les grands modèles de langage sont entraînés pour prédire le mot suivant. Pour cela, ils font correspondre chaque mot à un vecteur de nombres, c’est-à-dire à un point de données multidimensionnel. Par exemple, l’article le se trouvera toujours exactement à la même coordonnée fixe des nombres ", explique le professeur Robert West, responsable du DLAB.

" Les modèles enchaînent environ 80 couches de blocs de calcul identiques, chacun transformant un vecteur qui représente un mot en un autre vecteur. À la fin de cette séquence de 80 transformations, on obtient un vecteur représentant le mot suivant. Le nombre de calculs est déterminé par le nombre de couches de blocs de calcul. Plus il y a de calculs, plus votre modèle est puissant et plus le mot suivant a de chances d’être correct. "

Comme l’explique la prépublication intitulée Do Llamas Work in English? On the Latent Language of Multilingual Transformers, Robert West et son équipe ont forcé le modèle à répondre après chaque couche chaque fois qu’il essayait de prédire le mot suivant au lieu de le laisser effectuer les calculs à partir de ses 80 couches. Ils ont ainsi pu voir quel mot le modèle aurait prédit à ce moment-là. Ils ont mis en place différentes tâches telles que demander au modèle de traduire une série de mots français en chinois.

" Nous lui avons donné un mot français, puis la traduction en chinois, un autre mot français et la traduction en chinois, etc., de sorte que le modèle sache qu’il est censé traduire le mot français en chinois. Idéalement, le modèle devrait donner une probabilité de 100% pour le mot chinois. Mais lorsque nous l’avons forcé à faire des prédictions avant la dernière couche, nous avons remarqué que la plupart du temps, il prédisait la traduction anglaise du mot français, bien que l’anglais n’apparaisse nulle part dans cette tâche. Ce n’est qu’au cours des quatre ou cinq dernières couches que le chinois est en fait plus probable que l’anglais ", affirme Robert West.

Des mots aux concepts

Une hypothèse simple serait que le modèle traduit la totalité de l’entrée en anglais et la traduit à nouveau dans la langue cible juste à la fin. Mais en analysant les données, les chercheuses et chercheurs sont parvenus à une théorie bien plus intéressante.

Dans la première phase des calculs, aucune probabilité n’est attribuée à l’un ou l’autre mot. Selon eux, le modèle s’attache à résoudre les problèmes d’entrée. Dans la seconde phase, où l’anglais domine, les chercheuses et chercheurs pensent que le modèle se trouve dans une sorte d’espace sémantique abstrait où il ne raisonne pas sur des mots isolés mais sur d’autres types de représentations qui concernent davantage des concepts, sont universels dans toutes les langues et représentent plus un modèle du monde. C’est important car, pour bien prédire le mot suivant, le modèle doit en savoir beaucoup sur le monde et l’un des moyens d’y parvenir est d’avoir cette représentation des concepts.

" Nous supposons que cette représentation du monde en termes de concepts est biaisée en faveur de l’anglais, ce qui serait très logique car les données utilisées pour entraîner ces modèles sont à environ 90% en anglais. Ils cartographient les mots en entrée à partir d’un espace de mots superficiel, dans un espace de signification plus profond avec des représentations de la façon dont ces concepts sont liés les uns aux autres dans la réalité – et les concepts sont représentés de la même manière que les mots anglais, plutôt que les mots correspondants dans la langue d’entrée réelle ", déclare Robert West.

Monoculture et biais

Cette domination de l’anglais amène à se poser la question suivante: " est-ce important "? Les chercheuses et chercheurs pensent que oui. D’après de nombreuses recherches, les structures qui existent dans le langage influencent la manière dont nous construisons la réalité et les mots que nous employons sont profondément liés à la façon dont nous pensons le monde. Robert West suggère de commencer à étudier la psychologie des modèles de langage en les traitant comme des êtres humains et, dans différentes langues, en les interrogeant, en les soumettant à des tests de comportement et en évaluant leurs biais.

" Je pense que cette recherche a vraiment touché un point sensible, car les gens s’inquiètent de plus en plus de ce genre de problème de monoculture potentielle. Les modèles étant meilleurs en anglais, bon nombre de chercheuses et chercheurs étudient aujourd’hui la possibilité d’introduire un contenu en anglais et de le traduire dans la langue souhaitée. D’un point de vue technique, cela pourrait fonctionner, mais je pense que nous perdons beaucoup de nuances, car ce que vous ne pouvez pas exprimer en anglais ne sera pas exprimé ", conclut Robert West.

Auteur: Internet

Info: https://actu.epfl.ch/news/l-intelligence-artificielle-travaille-t-elle-en--2/#:~:text=Les%20chercheuses%20et%20chercheurs%20pensent%20que%20oui.,dont%20nous%20pensons%20le%20monde.

[ anglocentrisme ] [ spécificités des idiomes ] [ homme-machine ] [ symboles univers ] [ ethnocentrisme ]

homme-animal

Comment les pieuvres changent de couleur
Le morphing, c'était amusant. Rappelez-vous dans Terminator 2 les effets d'infographie qui permettaient au mauvais Terminator de prendre la forme et le visage de toute personne qu'il rencontrait ? La transformation à l'écran violait les règles non écrites de ce qui était prétendument possible de voir et procurait un plaisir profond et déchirant quelque part le fond du cerveau du spectateur. On pouvait presque sentir nos machines neurales se briser et se recoller les unes aux autres.
Dommage que l'effet soit devenu un cliché. De nos jours, on regarde une annonce télévisée ou un film de science-fiction et une voix intérieure dit : "Ho hum, juste un autre morph." Cependant, il y a un clip vidéo que je montre souvent aux élèves et à mes amis pour leur rappeler, ainsi qu'à moi-même, les effets de la transformation anatomique. Cette vidéo est tellement choquante que la plupart des téléspectateurs ne peuvent bien l'apprécier la première fois qu'ils la voient - alors ils demandent à la voir encore et encore et encore, jusqu'à ce que leur esprit se soit suffisamment adapté pour l'accepter.

La vidéo a été tournée en 1997 par mon ami Roger Hanlon alors qu'il faisait de la plongée sous-marine au large de l'île Grand Cayman. Roger est chercheur au Laboratoire de biologie marine de Woods Hole ; sa spécialité est l'étude des céphalopodes, une famille de créatures marines comprenant les poulpes, les calmars et les seiches. La vidéo est tournée alors qu'il nage vers le haut pour examiner un banal rocher recouvert d'algues en suspension. Soudain, étonnamment, un tiers de la roche et une masse enchevêtrée d'algues se transforme et révèle ce qu'elle est vraiment : les bras ondulants d'une pieuvre blanche brillante. Pour se protéger la créature projette de l'encre sur Roger et s'élance au loin, laissant Roger et le spectateur bouches bées.
La vedette de cette vidéo, Octopus vulgaris, est l'une des nombreuses espèces de céphalopodes capables de se métamorphoser, tout comme la pieuvre mimétique et la seiche géante australienne. Le truc est si bizarre qu'un jour j'ai suivi Roger dans l'un de ses voyages de recherche, juste pour m'assurer qu'il ne maquillait pas ça avec des trucages sophistiqués. À cette époque, j'étais accro aux céphalopodes. Mes amis ont dû s'adapter à mon obsession ; ils se sont habitués à mes fulgurances sur ces créatures. Je ne peux plus me résoudre à manger de calamars. En ce qui me concerne, les céphalopodes sont les créatures intelligentes les plus étranges sur Terre. Elles offrent le meilleur exemple de la façon dont des extraterrestres intelligents (s'ils existent) pourraient ètre vraiment différents de nous, et comment ils pourraient nous narguer avec des indices sur l'avenir potentiel de notre propre espèce.

Le morphing chez les céphalopodes fonctionne un peu de la même façon que dans l'infographie. Deux composantes sont impliquées : un changement dans l'image ou la texture visible sur la surface d'une forme et un changement dans la forme sous-jacente elle-même. Les "pixels" de la peau d'un céphalopode sont des organes appelés chromatophores. Ceux-ci peuvent se dilater et se contracter rapidement, et chacun est rempli d'un pigment d'une couleur particulière. Lorsqu'un signal nerveux provoque l'expansion d'un chromatophore rouge, le "pixel" devient rouge. Une série de mouvements nerveux provoque un déplacement de l'image - une animation - qui apparaît sur la peau du céphalopode. Quant aux formes, une pieuvre peut rapidement disposer ses bras pour en former une grande variété, comme un poisson ou un morceau de corail, et peut même soulever des marques sur sa peau pour ajouter de la texture.
Pourquoi se transformer pareillement ? L'une des raisons est le camouflage. (La pieuvre de la vidéo essaie probablement de se cacher de Roger.) Un autre est pour manger. Un des clips vidéo de Roger montre une seiche géante poursuivant un crabe. La seiche est principalement à corps mou, le crabe à armure. À l'approche de la seiche, le crabe, d'allure médiévale, prend une posture machiste, agitant ses griffes acérées vers le corps vulnérable de son ennemi.

La seiche répond avec une performance psychédélique bizarre et ingénieuse. Des images étranges, des couleurs luxueuses et des vagues successives d'éclairs ondulent et filigranes sur sa peau. C'est si incroyable que même le crabe semble désorienté ; son geste menaçant est remplacé un instant par un autre qui semble exprimer "Heuuuuh ?" C'est à ce moment que la seiche frappe entre les fissures de l'armure.
Elle utilise l'art pour chasser ! Chez certains ingénieurs chercheurs cette même manoeuvre s'appelle "esbroufer". Éblouissez votre financier potentiel avec une démonstration de votre projet, puis foncez avant que la lueur ne s'estompe.
En tant que créatures intelligentes, les céphalopodes sont peut-être les plus "étranges" que nous connaissions ; voyez-les comme une répétition générale pour le jour lointain où nous pourrions rencontrer des ET's intelligents. Les chercheurs sur les céphalopodes adorent partager les dernières nouvelles sur les pieuvres intelligentes ou les histoires émouvantes de seiches qui impliquent souvent des évasions téméraires hors des aquariums. Dans une autre vidéo de Roger, une pieuvre sur un récif corallien traverse une dangereuse étendue ouverte entre les têtes de corail. L'animal prend la posture, le dessin et la coloration d'une tête de corail, puis se tient debout comme sur sur ses orteils en pointe et se déplace lentement en terrain découvert. Les seules choses qui bougent sont les bout des bras ; le reste de l'animal semble immobile. Mais voici la partie la plus intelligente : En eau peu profonde à midi, par une journée ensoleillée et agitée, les ombres intenses et la lumière balayent tout. Non seulement le "rocher en mouvement" les imite, mais il veille à ne pas dépasser la vitesse de ces effets lumineux, pleinement conscient de son apparence dans des conditions changeantes.

En tant que chercheur qui étudie la réalité virtuelle, je peux vous dire exactement quelle émotion m'envahit lorsque je regarde les céphalopodes se transformer : la jalousie. La réalité virtuelle, un environnement informatique et graphique immersif dans lequel un humain peut "entrer" et se transformer en diverses choses, n'est que pâle approximation de l'expérience. Vous pouvez avoir un corps virtuel, ou avatar, et faire des choses comme examiner vos mains ou vous regarder dans un miroir virtuel. D'ailleurs certains des premiers avatars expérimentaux étaient en fait aquatiques, dont un qui permettait à une personne d'habiter le corps d'un homard.

Le problème, c'est que pour se transformer, les humains doivent concevoir des avatars dans les moindres détails à l'avance. Nos outils logiciels ne sont pas encore assez flexibles pour nous permettre, en réalité virtuelle, de nous imaginer sous différentes formes. Pourquoi le voudrions-nous ? Considérez les avantages existants de notre capacité à créer des sons avec notre bouche. Nous pouvons faire de nouveaux bruits et imiter les bruits existants, spontanément et instantanément. Mais quand il s'agit de communication visuelle, nous sommes paralysés. Nous pouvons mimer, nous pouvons apprendre à dessiner et à peindre, ou utiliser des logiciels de conception graphique par ordinateur. Mais nous ne pouvons pas produire des images à la vitesse à laquelle nous pouvons les imaginer.

Nos capacités vocales font partie de ce qui a permis à notre espèce de développer via le langage parlé. De même, notre capacité à dessiner des images - ainsi que les structures cérébrales nécessaires - était pré-adaptative au langage écrit. Supposons que nous ayons la capacité de nous transformer à volonté : Quel genre de langage pourrait rendre cela possible ? Serait-ce la même vieille conversation, ou serions-nous capables de nous "dire" des choses nouvelles les uns aux autres ?

Par exemple, au lieu de dire "J'ai faim ; allons chasser le crabe", vous pourriez simuler votre propre transparence pour que vos amis puissent voir votre estomac vide, ou vous transformer en jeu vidéo sur la chasse au crabe pour que vous et vos compatriotes puissiez vous entraîner un peu avant la chasse réelle. J'appelle ça une communication post symbolique. Certaines personnes pensent que la capacité de morphing ne ferait que vous donner un nouveau dictionnaire qui correspondrait aux mêmes vieilles idées, avec des avatars à la place des mots, alors que d'autres, dont moi, pensent qu'il y aura des différences fondamentales.
Il y a une autre façon d'y penser. Si les céphalopodes évoluent un jour pour devenir des créatures intelligentes et développer des civilisations, que pourraient-elles faire de cette capacité à se transformer ? Serions-nous capables de communiquer avec elles ? Peut-être offrent-elles un substitut utile à la réflexion sur une façon dont les extraterrestres intelligents, où qu'ils soient, pourraient un jour se présenter à nous. En essayant de développer de nouvelles façons de communiquer en utilisant le morphing dans la réalité virtuelle, nous faisons au moins un peu pour nous préparer à cette possibilité. Nous, les humains, pensons beaucoup de nous-mêmes en tant qu'espèce ; nous avons tendance à supposer que la façon dont nous pensons est la seule façon de penser. Peut-être devrions-nous y réfléchir à deux fois.

Auteur: Lanier Jaron

Info: http://discovermagazine.com, April 02, 2006

[ prospective ]

autodétermination

Le (non-)rôle de la conscience
Le biologiste François Jacob a utilisé à propos de notre cerveau, une image admirable : le cerveau humain est conçu, dit-il, comme une brouette sur laquelle aurait été greffé un moteur à réaction. Par cette image frappante, il attirait notre attention sur le fait que notre cerveau n’est pas constitué comme une machine d’une seule pièce. Il y a en son centre, le cerveau reptilien, appelé ainsi parce qu’il possède déjà la même structure chez le reptile, et le cerveau des mammifères s’est construit comme une couche additionnelle, absolument distincte : le cortex est d’une autre nature que le cerveau reptilien. Lequel est celui des sens, de la réaction immédiate, celui du réflexe, de l’affect, comme s’expriment les psychologues.

Le cortex s’est spécialisé dans le raisonnement, dans la réflexion rationnelle, l’enchaînement des arguments, le calcul mathématique, tout ce qui est de l’ordre des symboles, et il est greffé sur ce cerveau reptilien qui est lui d’une nature purement instinctive, ce qui fait que nous réagirons par l’enthousiasme ou par la peur devant ce que notre cerveau-cortex aura déterminé de faire. Les plus beaux exemples dans ce domaine, ce sont bien sûrs les traders qui nous les proposent. Ceux d’entre mes lecteurs qui connaissent des traders savent que le jour où ils ont gagné beaucoup d’argent ils sont dans les restaurants et les bars des beaux quartiers, ils fument de gros cigares et boivent beaucoup, alors que les jours où ils ont perdu des sommes impressionnantes, on les voit beaucoup moins : ils sont à la maison, ils essaient de dormir et ont pris des cachets pour tenter d’y parvenir.

Une autre caractéristique de notre cerveau, c’est que la conscience que nous avons de ce que nous faisons, cette conscience n’a pas véritablement été conçue comme un instrument qui nous permette de prendre des décisions. Quand les psychologues sont allés expérimenter, dans les années 1960, autour de la question de la volonté, ils ont fait la découverte sidérante que la volonté apparaît dans le cerveau après qu’a été réalisé l’acte qu’elle est censée avoir déterminé. La représentation de la volonté que nous allons poser un acte, n’intervient en fait qu’une demi-seconde après que l’acte a été posé, alors que l’acte lui-même a pu être réalisé un dixième de seconde seulement après l’événement qui en a été le véritable déclencheur.

Le psychologue qui a découvert cela est Américain et son nom est Benjamin Libet (1916-2007). La première hypothèse qu’il a émise, quand les faits lui sont apparus dans toute leur clarté, a été d’imaginer qu’il existait un mécanisme dans le cerveau qui permet à une information de remonter le temps. Son explication première n’a pas été que "volonté" est un mot dénotant un processus illusoire, une mésinterprétation de notre propre fonctionnement, mais que la volonté devait bien – comme nous l’imaginons spontanément parce que les mots de la langue nous le suggèrent fermement – décider des choses que nous allons accomplir, et que la seule explication possible était que la volonté remonte dans le temps pour poser les actes que nous supposons qu’elle détermine, seule manière de rendre compte du décalage d’une demi-seconde observé.

Il n’y a donc pas comme nous l’imaginions avant la découverte de l’inconscient, une conscience décidant de tous nos actes, à l’exception des actes réflexes. Il n’y a pas non plus, comme Freud l’avait imaginé, deux types d’actes : les uns déterminés par la conscience et les autres par l’inconscient, il n’y a – du point de vue décisionnel – qu’un seul type d’actes, déterminés par l’inconscient, la seule différence étant que certains apparaissent dans le "regard" de la conscience (avec une demi-seconde de retard sur l’acte posé), et certains non.

Dans l’article où je proposais pour la première fois une théorie complète de la conscience tenant compte des découvertes de Libet, j’écrivais : "la conscience est un cul-de-sac auquel des informations parviennent sans doute, mais sans qu’il existe un effet en retour de type décisionnel. C’est au niveau de l’affect, et de lui seul, que l’information affichée dans le regard de la conscience produit une rétroaction mais de nature "involontaire", automatique" (Jorion 1999 : 179). Je suggérais alors de remplacer, pour souligner les implications de la nouvelle représentation, le mot "conscience" par "imagination", et le mot "inconscient", par "corps", pour conclure alors que toutes nos décisions sont en réalité prises par notre corps mais que certaines d’entre elles (celles que nous avions l’habitude d’attribuer à notre "volonté") apparaissent à notre imagination : "En réalité, la prise de décision, la volonté, a été confiée au corps et non à l’imagination" (ibid. 185).

Il restait à comprendre pourquoi le regard de la "conscience" est apparu dans l’évolution biologique. L’explication – en parfait accord avec les observations de Libet – est qu’il s’agit d’un mécanisme nécessaire pour que nous puissions nous constituer une mémoire (adaptative) en associant à nos percepts, les affects qu’ils provoquent en nous, et ceci en dépit du fait que les sensations en provenance de nos divers organes des sens (nos "capteurs"), parviennent au cerveau à des vitesses différentes (ibid. 183-185).

Les observations de Libet, et la nouvelle représentation de nos prises de décision qui en découle, ont d’importantes conséquences pour nous, et en particulier quand nous voulons reconstruire sur un nouveau mode la manière dont nous vivons. Il faut que nous tenions compte du fait que notre conscience arrive en réalité toujours quelque temps après la bataille.

Il y a des gens heureux : ceux dont la conscience constate avec délice les actes qui ont été posés par eux. Il n’y a pas chez eux de dissonance, il n’y a pas de contradiction : nous sommes satisfaits de constater notre comportement tel qu’il a eu lieu. Et c’est pour cela que l’affect n’est pas trop déçu de ce qu’il observe. L’affect réagit bien entendu : soit il cautionne ce qu’il peut observer comme étant à l’œuvre, soit il est déçu quand il constate le résultat. On peut être honteux de ce qu’on a fait. Nous pouvons nous retrouver parfaitement humiliés par les actes qui ont été posés par nous : par ce que la conscience constate après la bataille. En voici un exemple : je me trouve dans le studio de FR 3, pour l’émission "Ce soir (ou jamais !)", et la personne invitée pour la partie musicale en fin d’émission, c’est Dick Rivers, et je lui dis : "C’est formidable, cette époque où vous chantiez avec Les chaussettes noires !", et il me répond : "En réalité, le nom de mon groupe, c’était Les chats sauvages". J’étais tellement humilié d’avoir commis une pareille bévue ! Il s’agit là d’un exemple excellent de dissonance, et ma conscience qui intervenait avec une demi-seconde de retard était extrêmement gênée de devoir être confrontée au triste sire que j’étais.

Bien sûr, nous sommes devenus très forts dans notre manière de vivre avec une telle dissonance : nous réalisons des miracles en termes d’explications après-coup de notre propre comportement. J’écoute parfois, comme la plupart d’entre nous, des conversations dans le métro ou dans le bus où une dame explique à l’une de ses amies à quel point elle était maître des événements : "Elle m’a dit ceci, et tu me connais, je lui ai répondu du tac-au-tac cela, et tu aurais dû voir sa tête…". Nous sommes très forts à produire des récits autobiographiques où nous intégrons l’ensemble des éléments qui font sens dans une situation, après coup. Plusieurs concepts de la psychanalyse renvoient aux différentes modalités de nos "rattrapages après la bataille", quand la conscience constate les dégâts que nous avons occasionnés par nos actes et tente de "faire avec" : la psychanalyse parle alors d’élaboration secondaire, de rationalisation, de déni, de dénégation, etc.

Pourquoi est-ce important d’attirer l’attention sur ces choses ? Parce que nous contrôlons beaucoup moins de manière immédiate ce que nous faisons que nous ne le laissons supposer dans les représentations que nous en avons. Dans celles-ci, nos comportements sont fortement calqués sur ce qu’Aristote appelait la cause finale : les buts que nous nous assignons. Bien sûr, quand nous construisons une maison, nous définissons les différentes étapes qui devront être atteintes successivement et nous procédons de la manière qui a été établie. Nous avons la capacité de suivre un plan et un échéancier, de manière systématique, mais la raison n’est pas, comme nous le supposons, parce que nous procédons pas à pas, d’étape en étape, mais plutôt parce que nous avons posé la réalisation de la tâche comme un "souci" projeté dans l’avenir, souci dont l’élimination nous délivrera et nous permettra… de nous en assigner de nouveaux. Encore une fois, c’est l’inconscient ou, si l’on préfère, le corps, qui s’en charge. J’écrivais dans le même article : "Wittgenstein s’est souvent interrogé quant à la nature de l’intention. Il se demande par exemple, "‘J’ai l’intention de partir demain’ – Quand as-tu cette intention ? Tout le temps : ou de manière intermittente ?" (Wittgenstein 1967 : 10). La réponse à sa question est en réalité "tout le temps dans le corps et de manière intermittente dans l’imagination"" (ibid. 189).

Mais dans nos actes quotidiens, dans la façon dont nous réagissons aux autres autour de nous, parce que nous vivons dans un univers entièrement social, il faut que nous prenions conscience du fait que nous avons beaucoup moins de maîtrise immédiate sur ce que nous faisons que nous ne l’imaginons le plus souvent, une maîtrise beaucoup plus faible que ce que nous reconstruisons par la suite dans ces discours autobiographiques que nous tenons : dans ces discours de rationalisation, d’autojustification faudrait-il dire, que nous produisons à l’intention des autres. Il faut bien dire que, sachant comment eux-mêmes fonctionnent, ils n’y croient pas en général. Et nous en sommes les seules dupes.

Auteur: Jorion Paul

Info: 7 avril 2012, dans Notre cerveau : conscience et volonté, "Le secret de la chambre chinoise", L’Homme 150, avril-juin 1999 : 177-202, Wittgenstein, Ludwig, Zettel, Oxford, Basil Blackwell, 1967

[ illusion ]

homme-machine

Un pas de géant pour une machine à jouer aux échecs

Le succès stupéfiant d’AlphaZero, un algorithme d’apprentissage profond, annonce une nouvelle ère de la compréhension – une ère qui, en ce qui concerne les humains, qui pourrait ne pas durer longtemps. Début décembre, des chercheurs de DeepMind, la société d’intelligence artificielle appartenant à la société mère de Google, Alphabet Inc. ont diffusé une dépêche depuis les zones avancées du monde des échecs.

Un an plus tôt, le 5 décembre 2017, l’équipe avait stupéfié ce monde des échecs en annonçant AlphaZero, un algorithme d’apprentissage machine qui maîtrisait non seulement les échecs mais aussi le shogi, ou échecs japonais, et le Go. L’algorithme a commencé sans aucune connaissance des jeux hormis leurs règles de base. Il a ensuite joué contre lui-même des millions de fois et a appris par essais et erreurs. Il a suffi de quelques heures pour que l’algorithme devienne le meilleur joueur, humain ou ordinateur, que le monde ait jamais vu.

Les détails des capacités d’AlphaZero et de son fonctionnement interne ont maintenant été officiellement examinés par des pairs et publiés dans la revue Science ce mois-ci. Le nouvel article aborde plusieurs critiques graves à l’égard de l’allégation initiale (entre autres choses, il était difficile de dire si AlphaZero jouait l’adversaire qu’il s’était choisi, une entité computationnelle nommée Stockfish, en toute équité). Considérez que ces soucis sont maintenant dissipés. AlphaZero ne s’est pas amélioré davantage au cours des douze derniers mois, mais la preuve de sa supériorité s’est bien renforcée. Il fait clairement montre d’un type d’intellect que les humains n’ont jamais vue auparavant, et que nous allons avoir à méditer encore longtemps.

Les échecs par ordinateur ont fait beaucoup de chemin au cours des vingt dernières années. En 1997, le programme de jeu d’échecs d’I.B.M., Deep Blue, a réussi à battre le champion du monde humain en titre, Garry Kasparov, dans un match en six parties. Rétrospectivement, il y avait peu de mystère dans cette réalisation. Deep Blue pouvait évaluer 200 millions de positions par seconde. Il ne s’est jamais senti fatigué, n’a jamais fait d’erreur de calcul et n’a jamais oublié ce qu’il pensait un instant auparavant.

Pour le meilleur et pour le pire, il a joué comme une machine, brutalement et matériellement. Il pouvait dépasser M. Kasparov par le calcul, mais il ne pouvait pas le dépasser sur le plan de la pensée elle-même. Dans la première partie de leur match, Deep Blue a accepté avec avidité le sacrifice d’une tour par M. Kasparov pour un fou, mais a perdu la partie 16 coups plus tard. La génération actuelle des programmes d’échecs les plus forts du monde, tels que Stockfish et Komodo, joue toujours dans ce style inhumain. Ils aiment à capturer les pièces de l’adversaire. Ils ont une défense d’acier. Mais bien qu’ils soient beaucoup plus forts que n’importe quel joueur humain, ces "moteurs" d’échecs n’ont aucune réelle compréhension du jeu. Ils doivent être instruits explicitement pour ce qui touche aux principes de base des échecs. Ces principes, qui ont été raffinés au fil de décennies d’expérience de grands maîtres humains, sont programmés dans les moteurs comme des fonctions d’év

aluation complexes qui indiquent ce qu’il faut rechercher dans une position et ce qu’il faut éviter : comment évaluer le degré de sécurité du roi, l’activité des pièces, la structure dessinée par les pions, le contrôle du centre de l’échiquier, et plus encore, comment trouver le meilleur compromis entre tous ces facteurs. Les moteurs d’échecs d’aujourd’hui, inconscients de façon innée de ces principes, apparaissent comme des brutes : extrêmement rapides et forts, mais sans aucune perspicacité.

Tout cela a changé avec l’essor du machine-learning. En jouant contre lui-même et en mettant à jour son réseau neuronal au fil de son apprentissage, AlphaZero a découvert les principes des échecs par lui-même et est rapidement devenu le meilleur joueur connu. Non seulement il aurait pu facilement vaincre tous les maîtres humains les plus forts – il n’a même pas pris la peine d’essayer – mais il a écrasé Stockfish, le champion du monde d’échecs en titre par ordinateur. Dans un match de cent parties contre un moteur véritablement impressionnant, AlphaZero a remporté vingt-huit victoires et fait soixante-douze matchs nuls. Il n’a pas perdu une seule partie.

Le plus troublant, c’est qu’AlphaZero semblait être perspicace. Il a joué comme aucun ordinateur ne l’a jamais fait, intuitivement et magnifiquement, avec un style romantique et offensif. Il acceptait de sacrifier des pions et prenait des risques. Dans certaines parties, cela paralysait Stockfish et il s’est joué de lui. Lors de son attaque dans la partie n°10, AlphaZero a replacé sa reine dans le coin du plateau de jeu de son propre côté, loin du roi de Stockfish, pas là où une reine à l’offensive devrait normalement être placée.

Et cependant, cette retraite inattendue s’avéra venimeuse : peu importe comment Stockfish y répondait, ses tentatives étaient vouées à l’échec. C’était presque comme si AlphaZero attendait que Stockfish se rende compte, après des milliards de calculs intensifs bruts, à quel point sa position était vraiment désespérée, pour que la bête abandonne toute résistance et expire paisiblement, comme un taureau vaincu devant un matador. Les grands maîtres n’avaient jamais rien vu de tel. AlphaZero avait la finesse d’un virtuose et la puissance d’une machine. Il s’agissait du premier regard posé par l’humanité sur un nouveau type prodigieux d’intelligence.

Lorsque AlphaZero fut dévoilé pour la première fois, certains observateurs se sont plaints que Stockfish avait été lobotomisé en ne lui donnant pas accès à son livre des ouvertures mémorisées. Cette fois-ci, même avec son livre, il a encore été écrasé. Et quand AlphaZero s’est handicapé en donnant dix fois plus de temps à Stockfish qu’à lui pour réfléchir, il a quand même démoli la bête.

Ce qui est révélateur, c’est qu’AlphaZero a gagné en pensant plus intelligemment, pas plus vite ; il n’a examiné que 60 000 positions par seconde, contre 60 millions pour Stockfish. Il était plus avisé, sachant ce à quoi on devait penser et ce qu’on pouvait ignorer. En découvrant les principes des échecs par lui-même, AlphaZero a développé un style de jeu qui "reflète la vérité profonde" du jeu plutôt que "les priorités et les préjugés des programmeurs", a expliqué M. Kasparov dans un commentaire qui accompagne et introduit l’article dans Science.

La question est maintenant de savoir si l’apprentissage automatique peut aider les humains à découvrir des vérités similaires sur les choses qui nous tiennent vraiment à coeur : les grands problèmes non résolus de la science et de la médecine, comme le cancer et la conscience ; les énigmes du système immunitaire, les mystères du génome.

Les premiers signes sont encourageants. En août dernier, deux articles parus dans Nature Medicine ont exploré comment l’apprentissage automatique pouvait être appliqué au diagnostic médical. Dans l’un d’entre eux, des chercheurs de DeepMind se sont associés à des cliniciens du Moorfields Eye Hospital de Londres pour mettre au point un algorithme d’apprentissage profond qui pourrait classer un large éventail de pathologies de la rétine aussi précisément que le font les experts humains (l’ophtalmologie souffre en effet d’une grave pénurie d’experts à même d’interpréter les millions de scans ophtalmologiques effectués chaque année en vue d’un diagnostic ; des assistants numériques intelligents pourraient apporter une aide énorme).

L’autre article concernait un algorithme d’apprentissage machine qui décide si un tomodensitogramme (CT scan) d’un patient admis en urgence montre des signes d’un accident vasculaire cérébral (AVC), ou d’une hémorragie intracrânienne ou encore d’un autre événement neurologique critique. Pour les victimes d’AVC, chaque minute compte ; plus le traitement tarde, plus le résultat clinique se dégrade. (Les neurologistes ont ce sombre dicton: "time is brain"). Le nouvel algorithme a étiqueté ces diagnostics et d’autres diagnostics critiques avec une précision comparable à celle des experts humains – mais il l’a fait 150 fois plus rapidement. Un diagnostic plus rapide pourrait permettre aux cas les plus urgents d’être aiguillés plus tôt, avec une vérification par un radiologiste humain.

Ce qui est frustrant à propos de l’apprentissage machine, cependant, c’est que les algorithmes ne peuvent pas exprimer ce qu’ils pensent. Nous ne savons pas pourquoi ils marchent, donc nous ne savons pas si on peut leur faire confiance. AlphaZero donne l’impression d’avoir découvert quelques principes importants sur les échecs, mais il ne peut pas partager cette compréhension avec nous. Pas encore, en tout cas. En tant qu’êtres humains, nous voulons plus que des réponses. Nous voulons de la perspicacité. Voilà qui va créer à partir de maintenant une source de tension dans nos interactions avec ces ordinateurs.

De fait, en mathématiques, c’est une chose qui s’est déjà produite depuis des années. Considérez le problème mathématique du "théorème des quatre couleurs", qui défie de longue date les cerveaux des mathématiciens. Il énonce que, sous certaines contraintes raisonnables, toute carte de pays contigus puisse toujours être coloriée avec seulement quatre couleurs, en n’ayant jamais deux fois la même couleur pour des pays adjacents.

Bien que le théorème des quatre couleurs ait été prouvé en 1977 avec l’aide d’un ordinateur, aucun humain ne pouvait vérifier toutes les étapes de la démonstration. Depuis lors, la preuve a été validée et simplifiée, mais il y a encore des parties qui impliquent un calcul de force brute, du genre de celui employé par les ancêtres informatiques d’AlphaZero qui jouent aux échecs. Ce développement a gêné de nombreux mathématiciens. Ils n’avaient pas besoin d’être rassurés que le théorème des quatre couleurs était vrai ; ils le croyaient déjà. Ils voulaient comprendre pourquoi c’était vrai, et cette démonstration ne les y a pas aidés.

Mais imaginez un jour, peut-être dans un avenir pas si lointain, où AlphaZero aura évolué vers un algorithme de résolution de problèmes plus général ; appelez-le AlphaInfinity. Comme son ancêtre, il aurait une perspicacité suprême : il pourrait trouver de belles démonstrations, aussi élégantes que les parties d’échecs qu’AlphaZero jouait contre Stockfish. Et chaque démonstration révélerait pourquoi un théorème était vrai ; l’AlphaInfinity ne vous l’enfoncerait pas juste dans la tête avec une démonstration moche et ardue.

Pour les mathématiciens et les scientifiques humains, ce jour marquerait l’aube d’une nouvelle ère de perspicacité. Mais ça ne durera peut-être pas. Alors que les machines deviennent de plus en plus rapides et que les humains restent en place avec leurs neurones fonctionnant à des échelles de temps de quelques millisecondes, un autre jour viendra où nous ne pourrons plus suivre. L’aube de la perspicacité humaine peut rapidement se transformer en crépuscule.

Supposons qu’il existe des régularités ou des modèles plus profonds à découvrir – dans la façon dont les gènes sont régulés ou dont le cancer progresse ; dans l’orchestration du système immunitaire ; dans la danse des particules subatomiques. Et supposons que ces schémas puissent être prédits, mais seulement par une intelligence bien supérieure à la nôtre. Si AlphaInfinity pouvait les identifier et les comprendre, cela nous semblerait être un oracle.

Nous nous assiérions à ses pieds et écouterions attentivement. Nous ne comprendrions pas pourquoi l’oracle a toujours raison, mais nous pourrions vérifier ses calculs et ses prédictions par rapport aux expériences et aux observations, et confirmer ses révélations. La science, cette entreprise de l’homme qui le caractérise par-dessus tout, aurait réduit notre rôle à celui de spectateurs, bouches bées dans l’émerveillement et la confusion.

Peut-être qu’un jour, notre manque de perspicacité ne nous dérangerait plus. Après tout, AlphaInfinity pourrait guérir toutes nos maladies, résoudre tous nos problèmes scientifiques et faire arriver tous nos autres trains intellectuels à l’heure avec succès. Nous nous sommes assez bien débrouillés sans trop de perspicacité pendant les quelque 300.000 premières années de notre existence en tant qu’Homo sapiens. Et nous ne manquerons pas de mémoire : nous nous souviendrons avec fierté de l’âge d’or de la perspicacité humaine, cet intermède glorieux, long de quelques milliers d’années, entre un passé où nous ne pouvions rien appréhender et un avenir où nous ne pourrons rien comprendre.

Auteur: Strogatz Steven

Info: Infinite Powers : How Calculus Reveals the Secrets of the Universe, dont cet essai est adapté sur le blog de Jorion

[ singularité ]