citation s'appliquant à ce logiciel

Attention ce texte implique plusieurs pensées croisées.

Comme chacun sait, nous sommes formatés par notre éducation, l'environnement et ainsi de suite. Un peu comme les phrases, chapitres... livres...  peuvent être les niveaux d'échelles qui structurent les mots et la pensée de nos langages et de la littérature.

Comment en sortir ? Ensemble peut-être.

En termes de "réflexion personnelle commune" il semble que l'humain est, de manière générale, limité au niveau de la phrase ou de la formule. Tout simplement parce que la survie le demande. Dans l'action animale le cause-effet de la situation se passe vite, trop vite pour que l'individu isolé puisse développer sa réflexion.

Maintenant les hommes, touchons du bois, sont semble-t'il passés au-delà de l'individu et de sa survie immédiate. Ils ont pris le temps de réfléchir, ils développent ; voilà les philosophes et... le langage. Et, grâce à Internet, il est devenu possible de le faire de manière collective. Même si d'aucuns avancent que le langage, forcément anthropocentrique, nous éloigne de fait de la nature matrice source, ce que nous pensons aussi.

Qu'est-ce alors qu'une intelligence ensemble ? Carl Friedrich von Weizsäcker donne un début de réponse.

"La raison pratique sert la perception de ses propres intérêts, La raison théorique profonde celle de l'intérêt général."

Au départ de cette compilation FLP nous nous intéressions aux formules courtes (disons 5 mots en moyenne). Ensuite sont venus des extraits plus longs plus "littéraires", un peu comme l'a écrit Claudio Magris :

"L'Histoire dit les événements, la sociologie décrit les processus, la statistique fournit les chiffres, mais c'est la littérature qui les fait toucher du doigt, là où ils prennent corps et sang dans l'existence des hommes."

C'est ainsi que le langage écrit, témoignage par les mots de la réalité humaine, est maintenant mis en "réflexivité collective" via les "likes" et autres remarques que proposent d'innombrables web spots. Avec ce site nous tentons donc d'aller un peu plus loin puisque nous faisons en sorte qu'il se nourrisse de citations (étiquetées) par les surfeurs, ajouts modérés avant leur publication.

Aussi, développement supplémentaire, les participants inscrits peuvent lier certaines citations, ce qui permet souvent de comparer différentes formulations de la même idée (équation ?) et de ses varations.

Plus avant FLP offre la possibilité de développer des "chaines", ("Oh les beaux enfants") et même des chaines collectives. Voilà comment les choses avancent depuis plusieurs années.

Résultat évident à ce stade de cette expérience collective : "Plus une pensée courte est populaire, plus elle tient de l'axiome. Plus elle est longue, plus elle témoigne de la singularité de son auteur." 

Récapitulons :

Les formules/extraits sont tagués sur deux niveaux :

1) tag-chapitre, "catégorie" supposé être le plus généraliste, ce qui est déjà délicat à définir ! Il y a déjà ici une piste que nous allons développer pour le tag chapitre "catégorie" : établir sa pertinence via une auto-modération des participants. Nous y reviendrons.

2) tag simple, qui précise et oriente.

Ici aussi tout un chacun peut demander à modifier un étiquetage dont la pertinence pourra être discutée via une modération pyramidale.

3) les auteurs sont intégrés à la base de donnée avec 6 paramètres séparés (qui rendent "plus intelligente" la BD" et permettent de préciser une recherche)

A ce stade des "Fils de la pensée" on incitera le participant a déjà s'amuser à faire des recherches en combinant tags, auteurs, longueurs, périodes historiques, etc., ce qui est déjà énorme et complexe, mais surtout lui donnera une idée de comment "répond" le système.

Il faut aussi savoir qu'il y eut rapidement besoin d'améliorer l'indexage, ce qui amena à créer des tags/concepts moins imprécis : fond-forme, causes-effets, homme-machine, femmes-hommes, théorie-pratique, etc. Et aussi ensuite d'utiliser des mots/tags qui n'existent pas en français, nommés et recensés ici comme "intraduisibles".

Malgré tout, même précisé, un mot-tag reste porteur de plusieurs sens (terme-carrefour, métonymie) et peut signifier tout et son contraire en fonction du contexte et de l'agencement des phrases.

Apparraissent alors ce que nous nommons "méta-tags", une troisième catégorie, un peu à l'image du terme "Livre" dans la hiérarchie d'une bibliothèque, apparitions répétées de certaines combinaisons de tags. Combinaisons qui délimitent mieux une réflexion dont le champ est précisé, s'affinant, quand tout va bien, au sens philosophique du terme, avec les collaborations des participants.

Ainsi s'est établie une liste de doublons ou de triplettes de tags-mots-concepts, pistes qui se sont dessinées par répétition des passages (sont-ils des équations ) . En voici quelques exemples.

mort - omniprésence

conclure - illusion

amour - temps

mauvaise nouvelle - efficacité

survie - éthique

musique - langage

réconfort - ordre

enfance - imagination

protéger - affaiblir

être humain - quête

lecture - miroir

non-voyant - témoignage

femmes-par-femmes - amour etc., etc...

Exemples de triplettes :

complexité - vie - bouillonnement

humain - animal - particulier

réveil - naitre - réintégration

mentir - fuite - beaux-arts

motivation - transgression - jeunesse etc., etc...

On pourra bien évidemment complexifier à loisir tout ce qui précède mais il vaut mieux faire ici une pause. Il semble que c'est d'abord en se mettant d'accord via une modération (des participants actuellement, pyramidale bientôt ?) sur la moins mauvaise pertinence des mots-tags-chapitres d'une formule-citation, que nous établirons une base commune, un peu plus solide et moins aléatoire, pour avancer.

Pour l'instant ce sont les chaines et, dans une moindre mesure, les citations liées, qui clarifient un peu plus un mot-idée-concept - ou une phrase.

Ensuite, une fois ce groupe de réflexion collective mis en place, pourra peut-être venir le temps d'établir des "méta-tags" selon des critères à définir. Mais là nous sommes dans de la musique d'avenir. Concluons par trois questions dont les réponses, possibles sujets-chaines au sein même d'un telle tentative de réflexion collective, nous semblent importantes.

- Peut-on mélanger et structurer nos pensées et nos échelles de pensées "ensemble" sans faire ressortir de froides et imbéciles statistiques d'une société de consommation productiviste ?

- Comment éviter que la technologie ne conduise l'homme à se spécialiser dans l'humain, mais au contraire à l'aider à développer sa sagesse-tolérance et son ouverture aux autres espèces vivantes pour qu'il tente de trouver une plus juste place dans la réalité ?

- Avec la disparition du travail, comment conserver une motivation forte chez les individus si la problématique de survie immédiate disparaît ?

Auteur: Mg

Info: 2012, 2013, 2014, 2015, 2016, 2017, 2021, 2022

[ quête ] [ classification ] [ structuration ] [ taxinomie ] [ ranger ] [ taxonomie ] [ langage consensus vs singularités biologiques ] [ objectivités vs subjectivités ]

solipsisme astral

Question : Bonjour à tous, quelqu'un a-t'il déjà rencontré son moi supérieur en SHC?

Denis Cottard
Sous toute réserve, ma compréhension de ce phénomène consiste à penser notre réalité comme un iceberg dont la partie émergée est le conscient. La partie immergée la plus conséquente est plongée dans le champ énergétique, mais à différents niveaux de celui-ci, ce qui fait qu'on peut se rencontrer à différents niveaux suivant le type d'accordage vibratoire qu'on opère et cet autre moi sera doté d'une apparence reconnaissable, d'une conscience, d'un savoir plus ou moins large et d'une capacité à l'exprimer différente. A certains de ces niveaux, notre moi participe à des réalités, disons, plus collectives et donc, peut être en possession d'informations et de compréhension que notre moi conscient ignore totalement. Durant le temps de la mise en présence, un partage ou une fusion momentanée des états de vie peut s'opérer ; mais à moins d'y être préparé et de s'organiser des mots clefs pour s'en souvenir lorsqu'on ne sera plus dans cet état, la mémoire s'en va comme s'en va la mémoire du rêve. Plus l'expérience se fera dans un niveau vibratoire éloigné du niveau conscient plus difficile en sera la mémorisation. Malgré tout, si on note tout de suite ces mots clefs, une partie de l'expérience peut être remémorée. Suffisamment en tout cas pour que l'expérience puisse être reproduite de plus en plus volontairement. C'est déconcertant de constater que notre moi puisse se prolonger à des niveaux insoupçonnés et même y agir sans que le conscient soit de la partie. Le fait de se rencontrer peut être considéré comme une invitation à participer davantage consciemment à ces niveaux d'implication.
(...)
Cette difficulté de mémorisation est liée au fait qu'en s'éloignant du niveau vibratoire de notre veille commune, le support de la pensée s'apparente de moins en moins au langage parce que de plus en plus en accès "direct" au réel. On ne se situe plus dans le concept ou dans l'interprétation du perçu, on est face au perçu lui-même, en toute évidence. Ce qui fait que où que se porte notre regard nous est renvoyé un potentiel signifiant quasi-infini puisque rien ne se cache, tout se lit à livre ouvert, c'est voir pour ce que c'est : voir c'est savoir. Cela nous amène à un niveau de compréhension qu'il n'est pas du tout évident de ramener à notre niveau de conscience habituel, pour le ranger dans notre stock de petites boîtes que sont tous ces concepts qu'on utilise couramment et qui nous maintiennent dans une perception pour le moins étriquée de l'existence.
(...)
Je reviens sur le caractère déconcertant - le mot est faible - de constater que notre moi puisse percevoir et agir à des niveaux dont le conscient n'a pas la moindre idée. Nous faisons de notre moi conscient, le nec plus ultra de nos outils, alors qu'il est en fait le plus primitif de tous et que son utilité première c'est de nous permettre de percevoir les dangers et nous permettre de courir plus vite pour y échapper. Tout ce qu'il échafaude peut se rapporter à cet instinct de survie. Tout ce qu'il conçoit fabrique, choisit... peut se rapporter à ce besoin de sécurité, et tant qu'il ne se sera pas découvert une autre dimension d'existence, l'homme continuera de se créer un monde toujours plus complexe mais toujours dominé par ceux qui lui semblent les plus forts, car c'est le réflexe (inconscient) du faible que de chercher la protection de plus fort que lui. Aujourd'hui, ces plus forts sont de toute évidence ceux qui semblent comprendre quelque chose à l'économie, quand l'écrasante majorité de la population qui n'a toujours pas compris ce qu'est l'argent demeure néanmoins pétrifiée par l'idée d'en manquer ou d'en vouloir plus.

Olivier Raimbault
@Denis Cottard : Ce que tu veux dire pourrait-il être résumé entre un moi qui serait celui de l'âme (ou du Soi) et un moi, le nôtre, celui qui écrit ces mots, qui est dans l'ego ou disons le mental ordinaire ? Donc il y a des ponts entre, ou il n'y en a pas. Il y a des transferts, ou il n'y en a pas. Il y a des imprégnations ou pas. Et les liaisons entre ces polarités créent ses états vibratoires, intermédiaires et nombreux, créent aussi nos singularités, nos coefficients de conscience.

Denis Cottard
@Olivier Raimbault : En fait dans ce genre d'expérience qui ressemble fort aux SHC, c'est ce mental ordinaire qui, se met à sortir de son contexte vibratoire habituel (Raoult parlerait d'eco-système), comme dans une bulle en fait et qui est amené à constater d'autres niveaux d'existence de lui-même qu'il ne soupçonnait pas. C'est juste le différentiel vibratoire qui provoque la théâtralisation sous la forme d'un autre soi. A mon sens, ce n'est pas de ponts dont il s'agit, puisqu'il n'y a toujours qu'un seul et même bonhomme, mais dont la réalité ne s'étend ni dans l'espace, ni dans le temps, mais dans la vibration. Le passage d'un état à l'autre est progressif, un peu comme au scanner, l'opérateur en jouant sur la fréquence de résonance parvient à mettre en évidence des tissus par degré de mollesse ou de dureté, mais il n'y a toujours qu'un seul bonhomme allongé dans l'appareil. Je prend un autre exemple : nous nous considérons généralement comme un système autonome , relativement fermé, capable de se mouvoir en toute liberté. Mais en adoptant le point de vue de l'air, on se rend compte qu'on est totalement ouvert puisque c'est même le rôle du sang que de véhiculer l'oxygène (de l'air) à chacune de nos cellules. Du point de vue des micro organismes, dès qu'on sort du corps de notre mère, nous sommes colonisés parce que nous ne sommes pas viables sans ces micro organismes. Tout cela, ce sont des points de vue qui sont plus ou moins étonnants, dérangeants, en fonction de notre culture, qui va sélectionner une infime poignée de point de vue pour fabriquer l'image que l'on a de soi. Notre conscience pensante, elle ne joue pas avec des signaux qui lui viennent de l'extérieur, elle joue avec l'infime poignée de points de vue qu'elle a sélectionnée. Contrairement à ce que nous croyons, nous ne sommes en prise directe qu'avec la façon dont nous nous représentons le monde. Donc, le transfert n'a pas lieu d'être puisque ça ne va pas d'un récipient A à un récipient B, il n'y a qu'un seul récipient, appelons-le, le Graal, si on veut (!), quand notre mental prend conscience de ces autres niveaux de réalités de lui-même, il va juste, soit oublier très vite parce qu'il ne sait rien en faire, ou au contraire, accepter qu'ils fassent partie de lui-même, et c'est là que des informations qui généralement font partie du lot des trucs qu'existent pas, deviennent des points de vue acceptés, donc utiles, et à ce titre ; ils font grandir notre compréhension des choses, élargissent le panel, la sélection. La plupart des gens ne tiennent compte que des informations qui leur viennent de leur sens, mais imagine que tu sois branché sur un niveau de toi qui perçois peu ou prou le champ d'énergie dans lequel on baigne : tu vas percevoir des choses avant qu'elles ne deviennent des faits. C'est intéressant à mon sens.

Olivier Raimbault
@Denis Cottard : je comprends très bien. C'est exactement ce que j'ai essayé de synthétiser. Le différentiel est tel qu'il peut donner l'impression d'un autre soi mais si le différentiel se réduit ou s'apprivoise par l'expérience et l'habitude, il n'y a plus d'autre soi. Il y a bien des échanges, transferts, équilibrages, quand bien même ça serait un seul moi vibrant différemment. Je pense que nous nous élaborons couramment dans une zone très restreinte de nous-mêmes, que nous pensons être le tout avant de découvrir, dans le meilleur des cas, qu'elle n'est qu'une zone, et petite.

Denis Cottard
@Olivier Raimbault : oui tout à fait !!!

Auteur: Cottard Denis

Info: Sur la groupe FB de Marc Auburn, explorateurs du réel, question du 24 juin 2020

[ incarnation ] [ point de singularité ] [ corps causal ] [ niveaux vibratoires ]

homme-machine

Un pas de géant pour une machine à jouer aux échecs

Le succès stupéfiant d’AlphaZero, un algorithme d’apprentissage profond, annonce une nouvelle ère de la compréhension – une ère qui, en ce qui concerne les humains, qui pourrait ne pas durer longtemps. Début décembre, des chercheurs de DeepMind, la société d’intelligence artificielle appartenant à la société mère de Google, Alphabet Inc. ont diffusé une dépêche depuis les zones avancées du monde des échecs.

Un an plus tôt, le 5 décembre 2017, l’équipe avait stupéfié ce monde des échecs en annonçant AlphaZero, un algorithme d’apprentissage machine qui maîtrisait non seulement les échecs mais aussi le shogi, ou échecs japonais, et le Go. L’algorithme a commencé sans aucune connaissance des jeux hormis leurs règles de base. Il a ensuite joué contre lui-même des millions de fois et a appris par essais et erreurs. Il a suffi de quelques heures pour que l’algorithme devienne le meilleur joueur, humain ou ordinateur, que le monde ait jamais vu.

Les détails des capacités d’AlphaZero et de son fonctionnement interne ont maintenant été officiellement examinés par des pairs et publiés dans la revue Science ce mois-ci. Le nouvel article aborde plusieurs critiques graves à l’égard de l’allégation initiale (entre autres choses, il était difficile de dire si AlphaZero jouait l’adversaire qu’il s’était choisi, une entité computationnelle nommée Stockfish, en toute équité). Considérez que ces soucis sont maintenant dissipés. AlphaZero ne s’est pas amélioré davantage au cours des douze derniers mois, mais la preuve de sa supériorité s’est bien renforcée. Il fait clairement montre d’un type d’intellect que les humains n’ont jamais vue auparavant, et que nous allons avoir à méditer encore longtemps.

Les échecs par ordinateur ont fait beaucoup de chemin au cours des vingt dernières années. En 1997, le programme de jeu d’échecs d’I.B.M., Deep Blue, a réussi à battre le champion du monde humain en titre, Garry Kasparov, dans un match en six parties. Rétrospectivement, il y avait peu de mystère dans cette réalisation. Deep Blue pouvait évaluer 200 millions de positions par seconde. Il ne s’est jamais senti fatigué, n’a jamais fait d’erreur de calcul et n’a jamais oublié ce qu’il pensait un instant auparavant.

Pour le meilleur et pour le pire, il a joué comme une machine, brutalement et matériellement. Il pouvait dépasser M. Kasparov par le calcul, mais il ne pouvait pas le dépasser sur le plan de la pensée elle-même. Dans la première partie de leur match, Deep Blue a accepté avec avidité le sacrifice d’une tour par M. Kasparov pour un fou, mais a perdu la partie 16 coups plus tard. La génération actuelle des programmes d’échecs les plus forts du monde, tels que Stockfish et Komodo, joue toujours dans ce style inhumain. Ils aiment à capturer les pièces de l’adversaire. Ils ont une défense d’acier. Mais bien qu’ils soient beaucoup plus forts que n’importe quel joueur humain, ces "moteurs" d’échecs n’ont aucune réelle compréhension du jeu. Ils doivent être instruits explicitement pour ce qui touche aux principes de base des échecs. Ces principes, qui ont été raffinés au fil de décennies d’expérience de grands maîtres humains, sont programmés dans les moteurs comme des fonctions d’év

aluation complexes qui indiquent ce qu’il faut rechercher dans une position et ce qu’il faut éviter : comment évaluer le degré de sécurité du roi, l’activité des pièces, la structure dessinée par les pions, le contrôle du centre de l’échiquier, et plus encore, comment trouver le meilleur compromis entre tous ces facteurs. Les moteurs d’échecs d’aujourd’hui, inconscients de façon innée de ces principes, apparaissent comme des brutes : extrêmement rapides et forts, mais sans aucune perspicacité.

Tout cela a changé avec l’essor du machine-learning. En jouant contre lui-même et en mettant à jour son réseau neuronal au fil de son apprentissage, AlphaZero a découvert les principes des échecs par lui-même et est rapidement devenu le meilleur joueur connu. Non seulement il aurait pu facilement vaincre tous les maîtres humains les plus forts – il n’a même pas pris la peine d’essayer – mais il a écrasé Stockfish, le champion du monde d’échecs en titre par ordinateur. Dans un match de cent parties contre un moteur véritablement impressionnant, AlphaZero a remporté vingt-huit victoires et fait soixante-douze matchs nuls. Il n’a pas perdu une seule partie.

Le plus troublant, c’est qu’AlphaZero semblait être perspicace. Il a joué comme aucun ordinateur ne l’a jamais fait, intuitivement et magnifiquement, avec un style romantique et offensif. Il acceptait de sacrifier des pions et prenait des risques. Dans certaines parties, cela paralysait Stockfish et il s’est joué de lui. Lors de son attaque dans la partie n°10, AlphaZero a replacé sa reine dans le coin du plateau de jeu de son propre côté, loin du roi de Stockfish, pas là où une reine à l’offensive devrait normalement être placée.

Et cependant, cette retraite inattendue s’avéra venimeuse : peu importe comment Stockfish y répondait, ses tentatives étaient vouées à l’échec. C’était presque comme si AlphaZero attendait que Stockfish se rende compte, après des milliards de calculs intensifs bruts, à quel point sa position était vraiment désespérée, pour que la bête abandonne toute résistance et expire paisiblement, comme un taureau vaincu devant un matador. Les grands maîtres n’avaient jamais rien vu de tel. AlphaZero avait la finesse d’un virtuose et la puissance d’une machine. Il s’agissait du premier regard posé par l’humanité sur un nouveau type prodigieux d’intelligence.

Lorsque AlphaZero fut dévoilé pour la première fois, certains observateurs se sont plaints que Stockfish avait été lobotomisé en ne lui donnant pas accès à son livre des ouvertures mémorisées. Cette fois-ci, même avec son livre, il a encore été écrasé. Et quand AlphaZero s’est handicapé en donnant dix fois plus de temps à Stockfish qu’à lui pour réfléchir, il a quand même démoli la bête.

Ce qui est révélateur, c’est qu’AlphaZero a gagné en pensant plus intelligemment, pas plus vite ; il n’a examiné que 60 000 positions par seconde, contre 60 millions pour Stockfish. Il était plus avisé, sachant ce à quoi on devait penser et ce qu’on pouvait ignorer. En découvrant les principes des échecs par lui-même, AlphaZero a développé un style de jeu qui "reflète la vérité profonde" du jeu plutôt que "les priorités et les préjugés des programmeurs", a expliqué M. Kasparov dans un commentaire qui accompagne et introduit l’article dans Science.

La question est maintenant de savoir si l’apprentissage automatique peut aider les humains à découvrir des vérités similaires sur les choses qui nous tiennent vraiment à coeur : les grands problèmes non résolus de la science et de la médecine, comme le cancer et la conscience ; les énigmes du système immunitaire, les mystères du génome.

Les premiers signes sont encourageants. En août dernier, deux articles parus dans Nature Medicine ont exploré comment l’apprentissage automatique pouvait être appliqué au diagnostic médical. Dans l’un d’entre eux, des chercheurs de DeepMind se sont associés à des cliniciens du Moorfields Eye Hospital de Londres pour mettre au point un algorithme d’apprentissage profond qui pourrait classer un large éventail de pathologies de la rétine aussi précisément que le font les experts humains (l’ophtalmologie souffre en effet d’une grave pénurie d’experts à même d’interpréter les millions de scans ophtalmologiques effectués chaque année en vue d’un diagnostic ; des assistants numériques intelligents pourraient apporter une aide énorme).

L’autre article concernait un algorithme d’apprentissage machine qui décide si un tomodensitogramme (CT scan) d’un patient admis en urgence montre des signes d’un accident vasculaire cérébral (AVC), ou d’une hémorragie intracrânienne ou encore d’un autre événement neurologique critique. Pour les victimes d’AVC, chaque minute compte ; plus le traitement tarde, plus le résultat clinique se dégrade. (Les neurologistes ont ce sombre dicton: "time is brain"). Le nouvel algorithme a étiqueté ces diagnostics et d’autres diagnostics critiques avec une précision comparable à celle des experts humains – mais il l’a fait 150 fois plus rapidement. Un diagnostic plus rapide pourrait permettre aux cas les plus urgents d’être aiguillés plus tôt, avec une vérification par un radiologiste humain.

Ce qui est frustrant à propos de l’apprentissage machine, cependant, c’est que les algorithmes ne peuvent pas exprimer ce qu’ils pensent. Nous ne savons pas pourquoi ils marchent, donc nous ne savons pas si on peut leur faire confiance. AlphaZero donne l’impression d’avoir découvert quelques principes importants sur les échecs, mais il ne peut pas partager cette compréhension avec nous. Pas encore, en tout cas. En tant qu’êtres humains, nous voulons plus que des réponses. Nous voulons de la perspicacité. Voilà qui va créer à partir de maintenant une source de tension dans nos interactions avec ces ordinateurs.

De fait, en mathématiques, c’est une chose qui s’est déjà produite depuis des années. Considérez le problème mathématique du "théorème des quatre couleurs", qui défie de longue date les cerveaux des mathématiciens. Il énonce que, sous certaines contraintes raisonnables, toute carte de pays contigus puisse toujours être coloriée avec seulement quatre couleurs, en n’ayant jamais deux fois la même couleur pour des pays adjacents.

Bien que le théorème des quatre couleurs ait été prouvé en 1977 avec l’aide d’un ordinateur, aucun humain ne pouvait vérifier toutes les étapes de la démonstration. Depuis lors, la preuve a été validée et simplifiée, mais il y a encore des parties qui impliquent un calcul de force brute, du genre de celui employé par les ancêtres informatiques d’AlphaZero qui jouent aux échecs. Ce développement a gêné de nombreux mathématiciens. Ils n’avaient pas besoin d’être rassurés que le théorème des quatre couleurs était vrai ; ils le croyaient déjà. Ils voulaient comprendre pourquoi c’était vrai, et cette démonstration ne les y a pas aidés.

Mais imaginez un jour, peut-être dans un avenir pas si lointain, où AlphaZero aura évolué vers un algorithme de résolution de problèmes plus général ; appelez-le AlphaInfinity. Comme son ancêtre, il aurait une perspicacité suprême : il pourrait trouver de belles démonstrations, aussi élégantes que les parties d’échecs qu’AlphaZero jouait contre Stockfish. Et chaque démonstration révélerait pourquoi un théorème était vrai ; l’AlphaInfinity ne vous l’enfoncerait pas juste dans la tête avec une démonstration moche et ardue.

Pour les mathématiciens et les scientifiques humains, ce jour marquerait l’aube d’une nouvelle ère de perspicacité. Mais ça ne durera peut-être pas. Alors que les machines deviennent de plus en plus rapides et que les humains restent en place avec leurs neurones fonctionnant à des échelles de temps de quelques millisecondes, un autre jour viendra où nous ne pourrons plus suivre. L’aube de la perspicacité humaine peut rapidement se transformer en crépuscule.

Supposons qu’il existe des régularités ou des modèles plus profonds à découvrir – dans la façon dont les gènes sont régulés ou dont le cancer progresse ; dans l’orchestration du système immunitaire ; dans la danse des particules subatomiques. Et supposons que ces schémas puissent être prédits, mais seulement par une intelligence bien supérieure à la nôtre. Si AlphaInfinity pouvait les identifier et les comprendre, cela nous semblerait être un oracle.

Nous nous assiérions à ses pieds et écouterions attentivement. Nous ne comprendrions pas pourquoi l’oracle a toujours raison, mais nous pourrions vérifier ses calculs et ses prédictions par rapport aux expériences et aux observations, et confirmer ses révélations. La science, cette entreprise de l’homme qui le caractérise par-dessus tout, aurait réduit notre rôle à celui de spectateurs, bouches bées dans l’émerveillement et la confusion.

Peut-être qu’un jour, notre manque de perspicacité ne nous dérangerait plus. Après tout, AlphaInfinity pourrait guérir toutes nos maladies, résoudre tous nos problèmes scientifiques et faire arriver tous nos autres trains intellectuels à l’heure avec succès. Nous nous sommes assez bien débrouillés sans trop de perspicacité pendant les quelque 300.000 premières années de notre existence en tant qu’Homo sapiens. Et nous ne manquerons pas de mémoire : nous nous souviendrons avec fierté de l’âge d’or de la perspicacité humaine, cet intermède glorieux, long de quelques milliers d’années, entre un passé où nous ne pouvions rien appréhender et un avenir où nous ne pourrons rien comprendre.

Auteur: Strogatz Steven

Info: Infinite Powers : How Calculus Reveals the Secrets of the Universe, dont cet essai est adapté sur le blog de Jorion

[ singularité ]

homme-machine

Comment l'IA comprend des trucs que personne ne lui lui a appris

Les chercheurs peinent à comprendre comment les modèles d'Intelligence artificielle, formés pour perroquetter les textes sur Internet, peuvent effectuer des tâches avancées comme coder, jouer à des jeux ou essayer de rompre un mariage.

Personne ne sait encore comment ChatGPT et ses cousins ​​de l'intelligence artificielle vont transformer le monde, en partie parce que personne ne sait vraiment ce qui se passe à l'intérieur. Certaines des capacités de ces systèmes vont bien au-delà de ce pour quoi ils ont été formés, et même leurs inventeurs ne savent pas pourquoi. Un nombre croissant de tests suggèrent que ces systèmes d'IA développent des modèles internes du monde réel, tout comme notre propre cerveau le fait, bien que la technique des machines soit différente.

"Tout ce que nous voulons faire avec ces systèmes pour les rendre meilleurs ou plus sûrs ou quelque chose comme ça me semble une chose ridicule à demander  si nous ne comprenons pas comment ils fonctionnent", déclare Ellie Pavlick de l'Université Brown,  un des chercheurs travaillant à combler ce vide explicatif.

À un certain niveau, elle et ses collègues comprennent parfaitement le GPT (abréviation de generative pretrained transformer) et d'autres grands modèles de langage, ou LLM. Des modèles qui reposent sur un système d'apprentissage automatique appelé réseau de neurones. De tels réseaux ont une structure vaguement calquée sur les neurones connectés du cerveau humain. Le code de ces programmes est relativement simple et ne remplit que quelques pages. Il met en place un algorithme d'autocorrection, qui choisit le mot le plus susceptible de compléter un passage sur la base d'une analyse statistique laborieuse de centaines de gigaoctets de texte Internet. D'autres algorithmes auto-apprenants supplémentaire garantissant que le système présente ses résultats sous forme de dialogue. En ce sens, il ne fait que régurgiter ce qu'il a appris, c'est un "perroquet stochastique", selon les mots d'Emily Bender, linguiste à l'Université de Washington. Mais les LLM ont également réussi à réussir l'examen pour devenir avocat, à expliquer le boson de Higgs en pentamètre iambique (forme de poésie contrainte) ou à tenter de rompre le mariage d'un utilisateurs. Peu de gens s'attendaient à ce qu'un algorithme d'autocorrection assez simple acquière des capacités aussi larges.

Le fait que GPT et d'autres systèmes d'IA effectuent des tâches pour lesquelles ils n'ont pas été formés, leur donnant des "capacités émergentes", a surpris même les chercheurs qui étaient généralement sceptiques quant au battage médiatique sur les LLM. "Je ne sais pas comment ils le font ou s'ils pourraient le faire plus généralement comme le font les humains, mais tout ça mes au défi mes pensées sur le sujet", déclare Melanie Mitchell, chercheuse en IA à l'Institut Santa Fe.

"C'est certainement bien plus qu'un perroquet stochastique, qui auto-construit sans aucun doute une certaine représentation du monde, bien que je ne pense pas que ce soit  vraiment de la façon dont les humains construisent un modèle de monde interne", déclare Yoshua Bengio, chercheur en intelligence artificielle à l'université de Montréal.

Lors d'une conférence à l'Université de New York en mars, le philosophe Raphaël Millière de l'Université de Columbia a offert un autre exemple à couper le souffle de ce que les LLM peuvent faire. Les modèles avaient déjà démontré leur capacité à écrire du code informatique, ce qui est impressionnant mais pas trop surprenant car il y a tellement de code à imiter sur Internet. Millière est allé plus loin en montrant que le GPT peut aussi réaliser du code. Le philosophe a tapé un programme pour calculer le 83e nombre de la suite de Fibonacci. "Il s'agit d'un raisonnement en plusieurs étapes d'un très haut niveau", explique-t-il. Et le robot a réussi. Cependant, lorsque Millière a demandé directement le 83e nombre de Fibonacci, GPT s'est trompé, ce qui suggère que le système ne se contentait pas de répéter ce qui se disait sur l'internet. Ce qui suggère que le système ne se contente pas de répéter ce qui se dit sur Internet, mais qu'il effectue ses propres calculs pour parvenir à la bonne réponse.

Bien qu'un LLM tourne sur un ordinateur, il n'en n'est pas un lui-même. Il lui manque des éléments de calcul essentiels, comme sa propre mémoire vive. Reconnaissant tacitement que GPT seul ne devrait pas être capable d'exécuter du code, son inventeur, la société technologique OpenAI, a depuis introduit un plug-in spécialisé -  outil que ChatGPT peut utiliser pour répondre à une requête - qui remédie à cela. Mais ce plug-in n'a pas été utilisé dans la démonstration de Millière. Au lieu de cela, ce dernier suppose plutôt que la machine a improvisé une mémoire en exploitant ses mécanismes d'interprétation des mots en fonction de leur contexte -  situation similaire à la façon dont la nature réaffecte des capacités existantes à de nouvelles fonctions.

Cette capacité impromptue démontre que les LLM développent une complexité interne qui va bien au-delà d'une analyse statistique superficielle. Les chercheurs constatent que ces systèmes semblent parvenir à une véritable compréhension de ce qu'ils ont appris. Dans une étude présentée la semaine dernière à la Conférence internationale sur les représentations de l'apprentissage (ICLR), le doctorant Kenneth Li de l'Université de Harvard et ses collègues chercheurs en intelligence artificielle, Aspen K. Hopkins du Massachusetts Institute of Technology, David Bau de la Northeastern University et Fernanda Viégas , Hanspeter Pfister et Martin Wattenberg, tous à Harvard, ont créé leur propre copie plus petite du réseau neuronal GPT afin de pouvoir étudier son fonctionnement interne. Ils l'ont entraîné sur des millions de matchs du jeu de société Othello en alimentant de longues séquences de mouvements sous forme de texte. Leur modèle est devenu un joueur presque parfait.

Pour étudier comment le réseau de neurones encodait les informations, ils ont adopté une technique que Bengio et Guillaume Alain, également de l'Université de Montréal, ont imaginée en 2016. Ils ont créé un réseau de "sondes" miniatures pour analyser le réseau principal couche par couche. Li compare cette approche aux méthodes des neurosciences. "C'est comme lorsque nous plaçons une sonde électrique dans le cerveau humain", dit-il. Dans le cas de l'IA, la sonde a montré que son "activité neuronale" correspondait à la représentation d'un plateau de jeu d'Othello, bien que sous une forme alambiquée. Pour confirmer ce résultat, les chercheurs ont inversé la sonde afin d'implanter des informations dans le réseau, par exemple en remplaçant l'un des marqueurs noirs du jeu par un marqueur blanc. "En fait, nous piratons le cerveau de ces modèles de langage", explique Li. Le réseau a ajusté ses mouvements en conséquence. Les chercheurs ont conclu qu'il jouait à Othello à peu près comme un humain : en gardant un plateau de jeu dans son "esprit" et en utilisant ce modèle pour évaluer les mouvements. Li pense que le système apprend cette compétence parce qu'il s'agit de la description la plus simple et efficace de ses données pour l'apprentissage. "Si l'on vous donne un grand nombre de scripts de jeu, essayer de comprendre la règle qui les sous-tend est le meilleur moyen de les comprimer", ajoute-t-il.

Cette capacité à déduire la structure du monde extérieur ne se limite pas à de simples mouvements de jeu ; il apparaît également dans le dialogue. Belinda Li (aucun lien avec Kenneth Li), Maxwell Nye et Jacob Andreas, tous au MIT, ont étudié des réseaux qui jouaient à un jeu d'aventure textuel. Ils ont introduit des phrases telles que "La clé est dans le coeur du trésor", suivies de "Tu prends la clé". À l'aide d'une sonde, ils ont constaté que les réseaux encodaient en eux-mêmes des variables correspondant à "coeur" et "Tu", chacune avec la propriété de posséder ou non une clé, et mettaient à jour ces variables phrase par phrase. Le système n'a aucun moyen indépendant de savoir ce qu'est une boîte ou une clé, mais il a acquis les concepts dont il avait besoin pour cette tâche."

"Une représentation de cette situation est donc enfouie dans le modèle", explique Belinda Li.

Les chercheurs s'émerveillent de voir à quel point les LLM sont capables d'apprendre du texte. Par exemple, Pavlick et sa doctorante d'alors, l'étudiante Roma Patel, ont découvert que ces réseaux absorbent les descriptions de couleur du texte Internet et construisent des représentations internes de la couleur. Lorsqu'ils voient le mot "rouge", ils le traitent non seulement comme un symbole abstrait, mais comme un concept qui a une certaine relation avec le marron, le cramoisi, le fuchsia, la rouille, etc. Démontrer cela fut quelque peu délicat. Au lieu d'insérer une sonde dans un réseau, les chercheurs ont étudié sa réponse à une série d'invites textuelles. Pour vérifier si le systhème ne faisait pas simplement écho à des relations de couleur tirées de références en ligne, ils ont essayé de le désorienter en lui disant que le rouge est en fait du vert - comme dans la vieille expérience de pensée philosophique où le rouge d'une personne correspond au vert d'une autre. Plutôt que répéter une réponse incorrecte, les évaluations de couleur du système ont évolué de manière appropriée afin de maintenir les relations correctes.

Reprenant l'idée que pour remplir sa fonction d'autocorrection, le système recherche la logique sous-jacente de ses données d'apprentissage, le chercheur en apprentissage automatique Sébastien Bubeck de Microsoft Research suggère que plus la gamme de données est large, plus les règles du système faire émerger sont générales. "Peut-être que nous nous constatons un tel bond en avant parce que nous avons atteint une diversité de données suffisamment importante pour que le seul principe sous-jacent à toutes ces données qui demeure est que des êtres intelligents les ont produites... Ainsi la seule façon pour le modèle d'expliquer toutes ces données est de devenir intelligent lui-même".

En plus d'extraire le sens sous-jacent du langage, les LLM sont capables d'apprendre en temps réel. Dans le domaine de l'IA, le terme "apprentissage" est généralement réservé au processus informatique intensif dans lequel les développeurs exposent le réseau neuronal à des gigaoctets de données et ajustent petit à petit ses connexions internes. Lorsque vous tapez une requête dans ChatGPT, le réseau devrait être en quelque sorte figé et, contrairement à l'homme, ne devrait pas continuer à apprendre. Il fut donc surprenant de constater que les LLM apprennent effectivement à partir des invites de leurs utilisateurs, une capacité connue sous le nom d'"apprentissage en contexte". "Il s'agit d'un type d'apprentissage différent dont on ne soupçonnait pas l'existence auparavant", explique Ben Goertzel, fondateur de la société d'IA SingularityNET.

Un exemple de la façon dont un LLM apprend vient de la façon dont les humains interagissent avec les chatbots tels que ChatGPT. Vous pouvez donner au système des exemples de la façon dont vous voulez qu'il réponde, et il obéira. Ses sorties sont déterminées par les derniers milliers de mots qu'il a vus. Ce qu'il fait, étant donné ces mots, est prescrit par ses connexions internes fixes - mais la séquence de mots offre néanmoins une certaine adaptabilité. Certaines personnes utilisent le jailbreak à des fins sommaires, mais d'autres l'utilisent pour obtenir des réponses plus créatives. "Il répondra mieux aux questions scientifiques, je dirais, si vous posez directement la question, sans invite spéciale de jailbreak, explique William Hahn, codirecteur du laboratoire de perception de la machine et de robotique cognitive à la Florida Atlantic University. "Sans il sera un meilleur universitaire." (Comme son nom l'indique une invite jailbreak -prison cassée-, invite à  moins délimiter-verrouiller les fonctions de recherche et donc à les ouvrir, avec les risques que ça implique) .

Un autre type d'apprentissage en contexte se produit via l'incitation à la "chaîne de pensée", ce qui signifie qu'on demande au réseau d'épeler chaque étape de son raisonnement - manière de faire qui permet de mieux résoudre les problèmes de logique ou d'arithmétique en passant par plusieurs étapes. (Ce qui rend l'exemple de Millière si surprenant  puisque le réseau a trouvé le nombre de Fibonacci sans un tel encadrement.)

En 2022, une équipe de Google Research et de l'École polytechnique fédérale de Zurich - Johannes von Oswald, Eyvind Niklasson, Ettore Randazzo, João Sacramento, Alexander Mordvintsev, Andrey Zhmoginov et Max Vladymyrov - a montré que l'apprentissage en contexte suit la même procédure de calcul de base que l'apprentissage standard, connue sous le nom de descente de gradient". 

Cette procédure n'était pas programmée ; le système l'a découvert sans aide. "C'est probablement une compétence acquise", déclare Blaise Agüera y Arcas, vice-président de Google Research. De fait il pense que les LLM peuvent avoir d'autres capacités latentes que personne n'a encore découvertes. "Chaque fois que nous testons une nouvelle capacité que nous pouvons quantifier, nous la trouvons", dit-il.

Bien que les LLM aient suffisamment d'angles morts et autres défauts pour ne pas être qualifiés d'intelligence générale artificielle, ou AGI - terme désignant une machine qui atteint l'ingéniosité du cerveau animal - ces capacités émergentes suggèrent à certains chercheurs que les entreprises technologiques sont plus proches de l'AGI que même les optimistes ne l'avaient deviné. "Ce sont des preuves indirectes que nous en sommes probablement pas si loin", a déclaré Goertzel en mars lors d'une conférence sur le deep learning à la Florida Atlantic University. Les plug-ins d'OpenAI ont donné à ChatGPT une architecture modulaire un peu comme celle du cerveau humain. "La combinaison de GPT-4 [la dernière version du LLM qui alimente ChatGPT] avec divers plug-ins pourrait être une voie vers une spécialisation des fonctions semblable à celle de l'homme", déclare Anna Ivanova, chercheuse au M.I.T.

Dans le même temps, les chercheurs s'inquiètent de voir leur capacité à étudier ces systèmes s'amenuiser. OpenAI n'a pas divulgué les détails de la conception et de l'entraînement de GPT-4, en partie du à la concurrence avec Google et d'autres entreprises, sans parler des autres pays. "Il y aura probablement moins de recherche ouverte de la part de l'industrie, et les choses seront plus cloisonnées et organisées autour de la construction de produits", déclare Dan Roberts, physicien théoricien au M.I.T., qui applique les techniques de sa profession à la compréhension de l'IA.

Ce manque de transparence ne nuit pas seulement aux chercheurs, il entrave également les efforts qui visent à comprendre les répercussions sociales de l'adoption précipitée de la technologie de l'IA. "La transparence de ces modèles est la chose la plus importante pour garantir la sécurité", affirme M. Mitchell.

Auteur: Musser Georges

Info: https://www.scientificamerican.com,  11 mai 2023. *algorithme d'optimisation utilisé dans l'apprentissage automatique et les problèmes d'optimisation. Il vise à minimiser ou à maximiser une fonction en ajustant ses paramètres de manière itérative. L'algorithme part des valeurs initiales des paramètres et calcule le gradient de la fonction au point actuel. Les paramètres sont ensuite mis à jour dans la direction du gradient négatif (pour la minimisation) ou positif (pour la maximisation), multiplié par un taux d'apprentissage. Ce processus est répété jusqu'à ce qu'un critère d'arrêt soit rempli. La descente de gradient est largement utilisée dans la formation des modèles d'apprentissage automatique pour trouver les valeurs optimales des paramètres qui minimisent la différence entre les résultats prédits et les résultats réels. Trad et adaptation Mg

[ singularité technologique ] [ versatilité sémantique ]