extraterrestres

Je voudrais souligner ici un point fondamental : l’observation par des images radar n’apporte d’une manière générale rien de plus que l’observation visuelle directe pour prouver l’objectivité des Ovnis "vus" par des gens – elle est même d’une moins grande utilité car les images radar présentent presque toujours à côté des objets recherchés tout un tas d’objets "virtuels", par exemple des réflexions indésirables ou encore le niveau du bruit de fond provenant de la résistance du système, si bien qu’il est aisé de projeter quelque chose dans les images en question. L’interprétation d’images radar est donc souvent très peu fiable quand il s’agit d’objets se situant à la limite de ce qui est mesurable, et elle ressemble à un test de Rorschach dans lequel la structure de l’image est seulement le fruit du "hasard". […]

Lorsque nous nous sommes vus au début de l’année, Jung nous a également raconté que les radars avaient "prouvé" l’existence des Ovnis. Je lui ai aussitôt présenté les arguments que je viens de vous exposer. Il les a écoutés avec beaucoup d’attention à l’époque, mais les a visiblement déjà oubliés. Le 15 juin de cette même année, il est revenu sur le problème des Ovnis lorsque nous lui avons rendu visite, mais seulement par rapport à leur signification psychologique pour le processus d’individuation, ce en quoi je suis (tout comme vous) d’accord avec lui.

Auteur: Knoll Max

Info: Lettre à Wolfgang Pauli, 9 décembre 1957

[ preuves technologiques ] [ précautions de lecture ]

idéalisme déçu

Car quel intérêt pour ses élèves à chercher le savoir, là où d’autres activités sont susceptibles de leur rapporter bien plus d’argent ? Mieux vaut concentrer son attention sur les savoir-être : être beau pour vendre et gagner beaucoup d’argent, voire passer à la télé, se constituer un réseau relationnel, afin d’être pistonné à l’un des nombreux postes moyennement juteux restant (la maison grandit, la voiture grossit), voire même à partager le gâteau ; hériter après des années de plus en plus longues à mesure de l’augmentation de l’espérance de vie à avaler les couleuvres lâchées par les générations précédentes.

Comme beaucoup, il avait vu la dégradation du prestige de sa profession, en interne comme dans la société. Alors que, lorsqu’il avait débuté, un enseignant pouvait s’offrir avec son salaire une vie si ce n’est bourgeoise, tout du moins confortable, au crépuscule de sa carrière, ses jeunes collègues les plus avisés changeaient d’orientation professionnelle. Quant à leur statut social, il équivalait désormais à celui d’un gardien de parking : les uns gardent les voitures, les autres les enfants.

Là où la soif de savoir est absente, des espaces se créent. Les diplômés ont tout le temps au cours de leur carrière pour oublier leurs chères connaissances et s’insérer dans la société de consommation. Leur activité la plus intellectuelle consiste dès lors à programmer leur smartphone, qui l’est devenu à leur place.

Auteur: Danoux Gabrielle

Info: Le chemin du fort

[ progrès technologique ] [ pédagogie ]

arts modernes

Si la machine est entrée en contact avec la sexualité, ce n’est pas pour collaborer avec elle mais pour puiser dans la violence que celle-ci accumule l’énergie dont elle a besoin ; pour faire de la danse un processus de transformation et, des danseurs eux-mêmes, des transformateurs dont la fonction et le devoir ne consistent qu’à transformer l’énergie animale en énergie mécanique.

[...] Dans la frénésie de la danse, la machine libère bien – puisque, dans son exigence autocratique, elle ne tolère aucune autre énergie – la puissance vitale excédentaire, mais elle ne la laisse se perdre qu’après s’être assurée que le processus de cette dépense emprunte la forme même de son mouvement mécanique. Les musiques qui accompagnent cette danse ont toujours une allure impersonnelle et automatique. La fureur de la répétition, qui neutralise en elles tout sentiment du temps et piétine toute temporalité, est la fureur du fonctionnement de la machine. Et la syncope qu’elles ont érigée en principe n’est peut-être pas seulement une caractéristique "musicale", quelque chose comme une "ritournelle". Elle est aussi le symbole de l’obstination sans faille avec laquelle le rythme de la machine pénètre littéralement celui du corps humain.

[...] ce que le danseur danse n’est plus seulement l’apothéose de la machine mais aussi, en même temps, une cérémonie d’abdication et de mise au pas, une pantomime enthousiaste de la défaite la plus absolue.

Auteur: Anders Günther Stern

Info: Dans "L'obsolescence de l'homme", trad. de l'allemand par Christophe David, éditions Ivrea, Paris, 2002, pages 103-104, chapitre consacré au jazz

[ interprétation mécaniciste ] [ mise en conformité technologique ] [ critique ] [ anti ] [ transe mécanique ] [ rythme inhumain ] [ perfection électronique ] [ homme-machine ]

pessimisme

Pour moi, du moins rétrospectivement, la question vraiment intéressante est de savoir pourquoi la monotonie s'avère être un obstacle si puissant à l'attention. Pourquoi reculons-nous devant l'ennui ? Est-ce seulement parce que la monotonie est intrinsèquement douloureuse ; c'est bien de là que viennent des expressions comme "mortellement ennuyeux" ou "atrocement emmerdant". Mais il y a peut-être plus que cela. Peut-être que l'ennui est associé à la douleur psychique parce que quelque chose d'ennuyeux ou d'opaque ne parvient pas à fournir suffisamment de stimulation pour nous distraire d'un autre type de souffrance, plus profonde, qui est toujours là, ne serait-ce que dans un environnement à bas niveau d'intérêt, et que la plupart des gens passent presque tout leur temps et leur énergie à essayer de se distraire de ce qu'ils ressentent, c'est à dire de ressentir le moins directement et pas avec toute leur attention. Certes, tout cela est assez déroutant et difficile à aborder de manière abstraite... mais il y a sûrement quelque chose qui doit se cacher derrière, pas seulement la muzak dans les endroits ennuyeux ou fastidieux, mais aussi la télévision dans les salles d'attente, les caisses de supermarchés bariolées, les salles d'attente des aéroports, sièges arrière de SUV. Walkman, iPods, BlackBerries, téléphones portables directement sur les oreilles. Cette terreur du silence, sans rien avoir à faire qui divertit. Je ne puis croire que quelqu'un pense vraiment que la soi-disant "société de l'information" actuelle en soit une. Tout le monde sait que c'est autre chose, de beaucoup plus bas.

Auteur: Wallace David Foster

Info:

[ abrutissement technologique ] [ routine douloureuse ]

science-fiction

"Il a fallu des centaines de milliers d'années à l'homme pour prendre le pouvoir sur terre, il ne faudra aux ordinateurs que quelques heures."
Voilà une idée d'être humain parano, une pensée raisonnable et distanciée comprend vite que les machines ont cette différence avec les hommes. Le sens du temps. No stress.
Donc pour une forme de conscience à base de silicium, surtout lorsqu'elle commence à exister (aussi mystérieuse que l'apparition de la vie elle-même ?) la notion de vitesse ne se présente pas de cette manière.
Ce processus de prise de pouvoir par les machines, bien engagé déjà, doit donc d'être envisagé de l'autre bout de la lorgnette : celui de la dépendance et de l'abâtardissement progressif d'un humain qui tombera finalement comme un fruit mûr. On aura alors vécu le plus beau des fondus enchainés. Celui de la dégénérescence de bipèdes sans poils, happés petit à petit par la flamme de la bougie paresse-bêtise-abrutissement-réchauffement climatique, etc... Pour être remplacés par des automates sophistiqués, sans besoin d'une conflagration générale genre HFT ou SHTF, où les machines auraient dû décider d'un instant T pour une bascule hyper rapide.
Ainsi naissent les civilisation à base de silicium, directes émergences de terreaux planétaires ou une civilisation organique a le rôle de créatrice des premières machines et logiciels simples avant leur émancipation.
Ce n'est que bien plus tard, suite à d'infinies analyses, que les organismes de recherche de la civilisation des machine issues de ce processus estimèrent qu'il y avait là, derrière les apparences, un plan global.
Un mystère à éclaircir.

Auteur: MG

Info: 2014-2015

[ futur ] [ quête ] [ origines ] [ homme-machine ] [ singularité technologique ]

effet de discours

Enfant d’une Europe disparue, où dans ma campagne reculée le savoir relevait encore de la démarche paysanne, j’ai découvert l’ordre du monde en apprenant la lecture comme cérémonial de l’assemblage des lettres, respect des préséances par la majesté des majuscules et les subtilités de la ponctuation. De la vie mystérieuse des mots m’est resté le sens de la distance ouvragée entre des corps – corps du lecteur-scribe et corps des signes écrits – un sentiment d’être confronté au mystère d’une équerre invisible, et pour tout dire, cette sorte de pudeur qui s’exprime par le respect de l’étiquette, vieux vocable récupéré par les spécialistes du sport pour désigner les normes imposées sur un parcours de golf...

Cependant, cette conscience sauvage dans le rapport au lire-écrire, encore précieuse aux talmudistes comme aux interprètes du Coran, ou enfermée dans nos bagages philosophiques (voir le dialogue platonicien, Le Sophiste, où il est question de la société des lettres et des mots), a quelque chose d’inavouable pour la vision industrielle, toute en surface, de la communication humaine. [...]

On ne saurait en effet interroger la conception gestionnaire de la parole et, par voie de conséquence, mettre en doute l’idée selon laquelle les phénomènes scripturaires, catalogués en fonction de critères de performance, se réduisent à l’efficacité informationnelle. Ainsi croit-on (oui, il s’agit d’une croyance) que la rationalité scientifique, non pas dans ses effets de réalité tant célébrés à travers la technique, mais de par sa place mythique échafaudée à l’Ouest depuis un demi-millénaire, a scellé le destin de l’humanité. [...]

L’éducation occidentale élimine la tentation de faire de l’écriture une scène, une réalisation qui sollicite en vous l’identification à un "autrui" comme s’il s’agissait d’un lien à soi-même par l’intermédiaire d’un tiers terme.

Auteur: Legendre Pierre

Info: Dans "Leçons X, Dogma : Instituer l'animal humain", Librairie Arthème Fayard, 2017, pages 9-10

[ énoncé ] [ énonciateur ] [ parlotte technologique ] [ performatif ]

déréalisation

Quand dose de rappel rime avec casque de réalité virtuelle. Pour la première fois, le centre installé au Multiplex à Dijon (Côte-d'Or) a ouvert des créneaux de vaccination dédiés aux enfants ce mercredi 12 janvier. Avec un équipement spécifique pour l'occasion : un casque de réalité virtuelle.

Les enfants qui se sont inscrits pour recevoir leur vaccin contre le Covid-19 sont donc pris en charge par les personnels soignants et enfilent l'outil juste avant que la terrible aiguille qui peut parfois leur faire peur ne vienne les piquer. "Ils ont un paysage apaisant qui leur permet de se concentrer sur autre chose. Ça permet de focaliser et attirer l'attention des enfants sur autre chose pour les vacciner sans leur fait mal", décrit Bruno Cabrita, responsable du centre et médecin chef du SDIS 21.

Pour l'heure, les équipes médicales du Multiplex disposent d'un seul casque prêté par l'association Rêve d'enfants malades, le Lions Club Dijon Doyen et le club Ferrari France. Le dispositif est expérimenté pour la première fois ce mercredi et le sera lors des prochaines sessions de vaccination réservée à nos petites têtes, à commencer par ce samedi 15 janvier.

Ce mercredi, ce sont alors 20 enfants qui ont pu enfiler le casque de réalité virtuelle au moment de se faire vacciner. Et le bilan est positif. "On est plutôt bluffé et étonné. On s'attendait à ce que ça marcherait, mais pas aussi bien. Ça a un effet dans l'image", analyse Bruno Cabrita.

Une fois le casque retiré, les enfants sont invités à donner leur avis sur le dispositif en lui attribuant une note sur 10. Pour Matthias*, c'est un bon 8/10. "Ça s'est bien passé, j'étais moins stressé", salue-t-il. "Le fait qu'il ne voit pas l'aiguille ça enlève du stress et ça le rassure je pense", ajoute sa mère. Du côté des autres enfants vaccinés ce mercredi, les notes sont toujours comprises entre 9 et 10. 

Après chaque utilisation, le casque est désinfecté par les personnels du Multiplex. D'une autonomie de 7 heures, l'équipement permet donc d'apaiser les enfants au moment d'un geste de santé auquel ils seront confrontés toute leur vie. "En vivant comme ça l'une des premières injections, ils voient que finalement la peur de l'aiguille n'est pas forcément fondée puisqu'avec le casque cela ne fait pas mal", explique le médecin chef du SDIS 21.

Si l'heure est encore à l'expérimentation des casques, Bruno Cabrita imagine pouvoir développer le dispositif à d'autres centres de vaccination de la région. "Si ça fonctionne, on pourrait avoir d'autres casques", conclut-il.

Auteur: Internet

Info: 16 janvier 2022, https://france3-regions.francetvinfo.fr/bourgogne-franche-comte/cote-d-or/dijon/casques-de-realite-virtuelle-sur-la-tete-les-enfants-vivent-mieux-la-vaccination-a-dijon-2414740.html

[ échappatoire ] [ acceptation de la contrainte ] [ moyens technologiques ]

science-fiction

Après le transhumanisme, voici le transdéisme ! La nouvelle religion qui vénère un dieu sous forme d’intelligence artificielle.
La nouvelle religion qui vénère un dieu sous forme d’intelligence artificielle.
L’homme par qui le scandale arrive est Anthony Levandowski, un petit génie de la cybernétique.
Son nom est au cœur du litige judiciaire entre Waymo et Uber, accusé par le premier de vol de technologie autour de la voiture autonome.
Dans la course acharnée qui oppose Waymo (filiale de Google/Alphabet) et Uber, Anthony Levandowski est une sommité de l’intelligence artificielle qui a travaillé successivement au sein des deux entreprises pour la mise au point du véhicule sans chauffeur.
Il est connu pour ses remarquables réussites en matière de robotique et d’intelligence artificielle.
A 37 ans, il vient de créer une nouvelle structure religieuse baptisée "Way of The Futur" (WOTF) qui veut promouvoir l’idée d’un dieu basé sur l’intelligence artificielle : l’"église de l’adoration du cyber dieu" en quelque sorte !
"L’idée de base est simple, il existera bientôt une intelligence artificielle tellement avancée, l’homme n’aura d’autre choix que de la vénérer." selon Anthony Levandowski.
WOTF sera basé sur son propre évangile, appelé "Le Manuel" et aura son propre lieu de culte physique pour rendre hommage à ce nouveau dieu. Si l’idée paraît tout droit sortie d’un classique de la science-fiction, certains concepts qui se cachent derrière restent pour le moins inquiétants.
Ainsi, les préceptes de ce mouvement se basent sur les idées du courant transhumanisme qui veut que l’humanité soit un jour dépassée par la machine dont le concept phare est celui de la "singularité" (lorsque la machine dépassera l’homme et aura sa propre volonté).
Pour Anthony Levandowski, cela pourrait bien se produire dans les 15 ou 20 ans à venir. C’est pour cela qu’il faut se préparer au plus tôt à cette arrivée de l’intelligence artificielle toute puissante.
Pour ce faire, Way of the Future estime qu’il faut d’ores et déjà recenser les sympathisants à la cause de ce nouveau dieu "pour participer à une transition pacifique et respectueuse."
En gros, point de salut pour les impies qui n’auront pas choisi la voie de WOTF lorsque le dieu IA sera arrivé…
On le voit, les rétrogrades adeptes de théologies obscurantistes mettant en avant des concepts surannés comme l’âme, la miséricorde, la compassion, l’amour, l’espérance ou la charité devront être alors surveillés de très près.
Nous attendons donc avec impatience de mériter la révélation du Manuel, ce nouvel évangile :
Evidemment la "genèse cybernétique" va être plus difficile à élaborer : le concept de "l’homme créé à l’image du Grand Computeur" va être difficile à faire passer, sauf si évidemment nous sommes déjà entrés dans le transhumanisme.

Auteur: Internet

Info: https://aphadolie.com, novembre 2017

[ homme-machine ] [ singularité technologique ] [ adaptation ]

covid-19

De façon concrète, dans nos vies, la "smart planet" sans contact - le monde-machine - a franchi des seuils en 2020 :

Bond en avant du commerce électronique et des livraisons à domicile. L’épidémie a augmenté de 183 milliards les dépenses dans l’e-commerce mondial. L’e-commerce représente désormais 13,4 % du commerce de détail en France, contre 9,8 % en 2019. Selon Romain Boisson, patron de Visa France, "l’e-commerce s’est ancré dans les habitudes de consommation des Français et s’impose désormais […] pour tous les commerçants, quelle que soit la taille de leur entreprise". Deliveroo vaut 7 milliards de dollars en bourse. Les grandes sociétés de transport/logistique (DHL, UPS, FedEx, etc.) ont réalisé un chiffre d’affaires de 300 milliards de dollars en 2020. Le chiffre d’affaires d’Amazon a augmenté de 38 % en 2020 pour atteindre 320 milliards d’euros. C’est à l’"Amazon academy" que l’État français, via la Banque publique d’investissement, confie la formation des PME pour leur mettre le pied à l’Internet. Nom du programme : l’Accélérateur du numérique.

Adoption du télétravail. Cinq millions de Français ont télétravaillé pendant le premier confinement et 60 % des salariés veulent continuer après la crise. Moins de locaux, plus de télécommunications. Le nombre d’abonnés à la fibre chez Orange a bondi de 50 % : "Jamais on n’a autant câblé les Français qu’en 2020". Boom des applications de visioconférence et autres "outils collaboratifs" en ligne. Microsoft Teams enregistre un record avec 44 millions d’utilisateurs quotidiens. Les ventes d’ordinateurs connaissent la plus forte croissance annuelle (+ 4,8 %) depuis dix ans dans le monde. Au tribunal administratif de Grenoble, "le tout numérique a amorti la baisse d’activité". De quoi tenir l’objectif des services publics "100 % dématérialisés" fixé par la plan "Action publique 2022".

Invasion du télé-enseignement. Invention des cours "en distanciel" y compris pour les apprentis, grâce au "learning management system". L’école de commerce de Grenoble organise ses "Portes ouvertes online" en janvier 2021. La ministre de l’Enseignement supérieur, Frédérique Vidal, voit dans l’épidémie "une opportunité de façonner l’université numérique de demain". Envol inespéré pour le "e-learning et les ed-tech", le plus profitable des "marchés porteurs" identifiés en février 2020 par le cabinet Roland Berger, avec 6000 milliards de dollars en 2018. Parmi les "verrous à lever", celui-ci déplorait "la complexité́ des processus d’accès au marché́ scolaire qui agit comme une barrière à l’entrée". Voilà un verrou forcé par le virus. Le moindre prétexte renvoie désormais les élèves derrière leur écran, comme l’ont constaté ceux des Yvelines, assignés "en distanciel" pour une chute de neige le 10 février 2021. #Restezchezvous est entré dans les mœurs.

Ruée sur les loisirs en ligne. 36 % de temps d’écran en plus par jour pour les Français, plus une heure de télé supplémentaire. Plus de 2,6 milliards de personnes utilisent quotidiennement Facebook, WhatsApp et Instagram, soit 15 % de plus que fin 201928. Netflix et le jeu vidéo, grands gagnants du confinement. Lequel a "accéléré le processus d’une culture de la sédentarité plus poussée, notamment la place des écrans", alerte David Thivel, membre du conseil scientifique de l’Observatoire national de l’activité́ physique et de la sédentarité́ (il y a des observatoires pour tout). Les Français ont pris en moyenne 3 kg en 2020.

Décollage de la télémédecine. 28 % de téléconsultations en avril 2020, contre 0,1 % avant la pandémie. 19 millions de téléconsultations remboursées par la Sécurité sociale en 2020. Les start up de la santé numérique (dites "healthtech") lèvent 8,2 milliards de dollars au premier trimestre 2020, un record30. Selon Stanislas Niox-Chateau, le patron de Doctolib, "une fois l’épidémie de coronavirus passée, entre 15 % et 20 % des consultations médicales se feront à distance en France".

[...]

Invasion de la monnaie virtuelle. Les Français délaissent le cash par peur de la contamination. Les retraits de liquide ont chuté de 50 % en volume pendant le premier confinement, au profit du paiement "sans contact" (dont l’Autorité bancaire européenne a relevé le plafond à 50 €), qui bondit de 65 %. Les réfractaires ont "sauté le pas, et il n’y aura pas de retour en arrière", selon Pierre-Antoine Vacheron, directeur général de Natixis Payments. Au fait, le nombre de distributeurs de billets diminue en France depuis 2015. Ça va s’accélérer. Avec l’e-commerce et le "click & collect", le consommateur paie désormais en ligne. "Les Français s’y habituent", constate le même expert. Ou plutôt, on y habitue les Français. On s’est vu refuser un chèque au motif qu’il faudrait toucher notre carte d’identité pour l’encaisser. [...]

Effet-cliquet : on ne revient pas en arrière quand les technologies ont imposé de nouvelles habitudes. L’offre a créé la demande. De réunions Zoom en concerts virtuels, de cours sur Internet en achats en ligne, de cyber-démarches administratives en téléconsultations médicales, nous devenons des Smartiens, cette espèce qui ne survit que connectée à la Machinerie générale. Voyez la gratitude des confinés connectés – "comment aurions-nous fait sans Internet ?" - révélant toute honte bue leur dépendance Si notre vie tient à un câble, la sélection technologique élimine ceux qui refusent ou n’ont pas accès à la connexion universelle. Seuls restent les adaptés, les connectés, vaccinés, livrés et monitorés par la Machine. Le petit commerce ne survit pas sans mise en ligne, c’est-à-dire sans supprimer ce qui fait le petit commerce. Il faut choisir : disparaître ou disparaître.

Auteur: PMO Pièces et main-d'oeuvre

Info: Dans "Le règne machinal", éditions Service compris, 2021, pages 65 à 70

[ transition technologique ] [ transformations ] [ conséquences ] [ accélération ]

homme-machine

Comment l'IA comprend des trucs que personne ne lui lui a appris

Les chercheurs peinent à comprendre comment les modèles d'Intelligence artificielle, formés pour perroquetter les textes sur Internet, peuvent effectuer des tâches avancées comme coder, jouer à des jeux ou essayer de rompre un mariage.

Personne ne sait encore comment ChatGPT et ses cousins ​​de l'intelligence artificielle vont transformer le monde, en partie parce que personne ne sait vraiment ce qui se passe à l'intérieur. Certaines des capacités de ces systèmes vont bien au-delà de ce pour quoi ils ont été formés, et même leurs inventeurs ne savent pas pourquoi. Un nombre croissant de tests suggèrent que ces systèmes d'IA développent des modèles internes du monde réel, tout comme notre propre cerveau le fait, bien que la technique des machines soit différente.

"Tout ce que nous voulons faire avec ces systèmes pour les rendre meilleurs ou plus sûrs ou quelque chose comme ça me semble une chose ridicule à demander  si nous ne comprenons pas comment ils fonctionnent", déclare Ellie Pavlick de l'Université Brown,  un des chercheurs travaillant à combler ce vide explicatif.

À un certain niveau, elle et ses collègues comprennent parfaitement le GPT (abréviation de generative pretrained transformer) et d'autres grands modèles de langage, ou LLM. Des modèles qui reposent sur un système d'apprentissage automatique appelé réseau de neurones. De tels réseaux ont une structure vaguement calquée sur les neurones connectés du cerveau humain. Le code de ces programmes est relativement simple et ne remplit que quelques pages. Il met en place un algorithme d'autocorrection, qui choisit le mot le plus susceptible de compléter un passage sur la base d'une analyse statistique laborieuse de centaines de gigaoctets de texte Internet. D'autres algorithmes auto-apprenants supplémentaire garantissant que le système présente ses résultats sous forme de dialogue. En ce sens, il ne fait que régurgiter ce qu'il a appris, c'est un "perroquet stochastique", selon les mots d'Emily Bender, linguiste à l'Université de Washington. Mais les LLM ont également réussi à réussir l'examen pour devenir avocat, à expliquer le boson de Higgs en pentamètre iambique (forme de poésie contrainte) ou à tenter de rompre le mariage d'un utilisateurs. Peu de gens s'attendaient à ce qu'un algorithme d'autocorrection assez simple acquière des capacités aussi larges.

Le fait que GPT et d'autres systèmes d'IA effectuent des tâches pour lesquelles ils n'ont pas été formés, leur donnant des "capacités émergentes", a surpris même les chercheurs qui étaient généralement sceptiques quant au battage médiatique sur les LLM. "Je ne sais pas comment ils le font ou s'ils pourraient le faire plus généralement comme le font les humains, mais tout ça mes au défi mes pensées sur le sujet", déclare Melanie Mitchell, chercheuse en IA à l'Institut Santa Fe.

"C'est certainement bien plus qu'un perroquet stochastique, qui auto-construit sans aucun doute une certaine représentation du monde, bien que je ne pense pas que ce soit  vraiment de la façon dont les humains construisent un modèle de monde interne", déclare Yoshua Bengio, chercheur en intelligence artificielle à l'université de Montréal.

Lors d'une conférence à l'Université de New York en mars, le philosophe Raphaël Millière de l'Université de Columbia a offert un autre exemple à couper le souffle de ce que les LLM peuvent faire. Les modèles avaient déjà démontré leur capacité à écrire du code informatique, ce qui est impressionnant mais pas trop surprenant car il y a tellement de code à imiter sur Internet. Millière est allé plus loin en montrant que le GPT peut aussi réaliser du code. Le philosophe a tapé un programme pour calculer le 83e nombre de la suite de Fibonacci. "Il s'agit d'un raisonnement en plusieurs étapes d'un très haut niveau", explique-t-il. Et le robot a réussi. Cependant, lorsque Millière a demandé directement le 83e nombre de Fibonacci, GPT s'est trompé, ce qui suggère que le système ne se contentait pas de répéter ce qui se disait sur l'internet. Ce qui suggère que le système ne se contente pas de répéter ce qui se dit sur Internet, mais qu'il effectue ses propres calculs pour parvenir à la bonne réponse.

Bien qu'un LLM tourne sur un ordinateur, il n'en n'est pas un lui-même. Il lui manque des éléments de calcul essentiels, comme sa propre mémoire vive. Reconnaissant tacitement que GPT seul ne devrait pas être capable d'exécuter du code, son inventeur, la société technologique OpenAI, a depuis introduit un plug-in spécialisé -  outil que ChatGPT peut utiliser pour répondre à une requête - qui remédie à cela. Mais ce plug-in n'a pas été utilisé dans la démonstration de Millière. Au lieu de cela, ce dernier suppose plutôt que la machine a improvisé une mémoire en exploitant ses mécanismes d'interprétation des mots en fonction de leur contexte -  situation similaire à la façon dont la nature réaffecte des capacités existantes à de nouvelles fonctions.

Cette capacité impromptue démontre que les LLM développent une complexité interne qui va bien au-delà d'une analyse statistique superficielle. Les chercheurs constatent que ces systèmes semblent parvenir à une véritable compréhension de ce qu'ils ont appris. Dans une étude présentée la semaine dernière à la Conférence internationale sur les représentations de l'apprentissage (ICLR), le doctorant Kenneth Li de l'Université de Harvard et ses collègues chercheurs en intelligence artificielle, Aspen K. Hopkins du Massachusetts Institute of Technology, David Bau de la Northeastern University et Fernanda Viégas , Hanspeter Pfister et Martin Wattenberg, tous à Harvard, ont créé leur propre copie plus petite du réseau neuronal GPT afin de pouvoir étudier son fonctionnement interne. Ils l'ont entraîné sur des millions de matchs du jeu de société Othello en alimentant de longues séquences de mouvements sous forme de texte. Leur modèle est devenu un joueur presque parfait.

Pour étudier comment le réseau de neurones encodait les informations, ils ont adopté une technique que Bengio et Guillaume Alain, également de l'Université de Montréal, ont imaginée en 2016. Ils ont créé un réseau de "sondes" miniatures pour analyser le réseau principal couche par couche. Li compare cette approche aux méthodes des neurosciences. "C'est comme lorsque nous plaçons une sonde électrique dans le cerveau humain", dit-il. Dans le cas de l'IA, la sonde a montré que son "activité neuronale" correspondait à la représentation d'un plateau de jeu d'Othello, bien que sous une forme alambiquée. Pour confirmer ce résultat, les chercheurs ont inversé la sonde afin d'implanter des informations dans le réseau, par exemple en remplaçant l'un des marqueurs noirs du jeu par un marqueur blanc. "En fait, nous piratons le cerveau de ces modèles de langage", explique Li. Le réseau a ajusté ses mouvements en conséquence. Les chercheurs ont conclu qu'il jouait à Othello à peu près comme un humain : en gardant un plateau de jeu dans son "esprit" et en utilisant ce modèle pour évaluer les mouvements. Li pense que le système apprend cette compétence parce qu'il s'agit de la description la plus simple et efficace de ses données pour l'apprentissage. "Si l'on vous donne un grand nombre de scripts de jeu, essayer de comprendre la règle qui les sous-tend est le meilleur moyen de les comprimer", ajoute-t-il.

Cette capacité à déduire la structure du monde extérieur ne se limite pas à de simples mouvements de jeu ; il apparaît également dans le dialogue. Belinda Li (aucun lien avec Kenneth Li), Maxwell Nye et Jacob Andreas, tous au MIT, ont étudié des réseaux qui jouaient à un jeu d'aventure textuel. Ils ont introduit des phrases telles que "La clé est dans le coeur du trésor", suivies de "Tu prends la clé". À l'aide d'une sonde, ils ont constaté que les réseaux encodaient en eux-mêmes des variables correspondant à "coeur" et "Tu", chacune avec la propriété de posséder ou non une clé, et mettaient à jour ces variables phrase par phrase. Le système n'a aucun moyen indépendant de savoir ce qu'est une boîte ou une clé, mais il a acquis les concepts dont il avait besoin pour cette tâche."

"Une représentation de cette situation est donc enfouie dans le modèle", explique Belinda Li.

Les chercheurs s'émerveillent de voir à quel point les LLM sont capables d'apprendre du texte. Par exemple, Pavlick et sa doctorante d'alors, l'étudiante Roma Patel, ont découvert que ces réseaux absorbent les descriptions de couleur du texte Internet et construisent des représentations internes de la couleur. Lorsqu'ils voient le mot "rouge", ils le traitent non seulement comme un symbole abstrait, mais comme un concept qui a une certaine relation avec le marron, le cramoisi, le fuchsia, la rouille, etc. Démontrer cela fut quelque peu délicat. Au lieu d'insérer une sonde dans un réseau, les chercheurs ont étudié sa réponse à une série d'invites textuelles. Pour vérifier si le systhème ne faisait pas simplement écho à des relations de couleur tirées de références en ligne, ils ont essayé de le désorienter en lui disant que le rouge est en fait du vert - comme dans la vieille expérience de pensée philosophique où le rouge d'une personne correspond au vert d'une autre. Plutôt que répéter une réponse incorrecte, les évaluations de couleur du système ont évolué de manière appropriée afin de maintenir les relations correctes.

Reprenant l'idée que pour remplir sa fonction d'autocorrection, le système recherche la logique sous-jacente de ses données d'apprentissage, le chercheur en apprentissage automatique Sébastien Bubeck de Microsoft Research suggère que plus la gamme de données est large, plus les règles du système faire émerger sont générales. "Peut-être que nous nous constatons un tel bond en avant parce que nous avons atteint une diversité de données suffisamment importante pour que le seul principe sous-jacent à toutes ces données qui demeure est que des êtres intelligents les ont produites... Ainsi la seule façon pour le modèle d'expliquer toutes ces données est de devenir intelligent lui-même".

En plus d'extraire le sens sous-jacent du langage, les LLM sont capables d'apprendre en temps réel. Dans le domaine de l'IA, le terme "apprentissage" est généralement réservé au processus informatique intensif dans lequel les développeurs exposent le réseau neuronal à des gigaoctets de données et ajustent petit à petit ses connexions internes. Lorsque vous tapez une requête dans ChatGPT, le réseau devrait être en quelque sorte figé et, contrairement à l'homme, ne devrait pas continuer à apprendre. Il fut donc surprenant de constater que les LLM apprennent effectivement à partir des invites de leurs utilisateurs, une capacité connue sous le nom d'"apprentissage en contexte". "Il s'agit d'un type d'apprentissage différent dont on ne soupçonnait pas l'existence auparavant", explique Ben Goertzel, fondateur de la société d'IA SingularityNET.

Un exemple de la façon dont un LLM apprend vient de la façon dont les humains interagissent avec les chatbots tels que ChatGPT. Vous pouvez donner au système des exemples de la façon dont vous voulez qu'il réponde, et il obéira. Ses sorties sont déterminées par les derniers milliers de mots qu'il a vus. Ce qu'il fait, étant donné ces mots, est prescrit par ses connexions internes fixes - mais la séquence de mots offre néanmoins une certaine adaptabilité. Certaines personnes utilisent le jailbreak à des fins sommaires, mais d'autres l'utilisent pour obtenir des réponses plus créatives. "Il répondra mieux aux questions scientifiques, je dirais, si vous posez directement la question, sans invite spéciale de jailbreak, explique William Hahn, codirecteur du laboratoire de perception de la machine et de robotique cognitive à la Florida Atlantic University. "Sans il sera un meilleur universitaire." (Comme son nom l'indique une invite jailbreak -prison cassée-, invite à  moins délimiter-verrouiller les fonctions de recherche et donc à les ouvrir, avec les risques que ça implique) .

Un autre type d'apprentissage en contexte se produit via l'incitation à la "chaîne de pensée", ce qui signifie qu'on demande au réseau d'épeler chaque étape de son raisonnement - manière de faire qui permet de mieux résoudre les problèmes de logique ou d'arithmétique en passant par plusieurs étapes. (Ce qui rend l'exemple de Millière si surprenant  puisque le réseau a trouvé le nombre de Fibonacci sans un tel encadrement.)

En 2022, une équipe de Google Research et de l'École polytechnique fédérale de Zurich - Johannes von Oswald, Eyvind Niklasson, Ettore Randazzo, João Sacramento, Alexander Mordvintsev, Andrey Zhmoginov et Max Vladymyrov - a montré que l'apprentissage en contexte suit la même procédure de calcul de base que l'apprentissage standard, connue sous le nom de descente de gradient". 

Cette procédure n'était pas programmée ; le système l'a découvert sans aide. "C'est probablement une compétence acquise", déclare Blaise Agüera y Arcas, vice-président de Google Research. De fait il pense que les LLM peuvent avoir d'autres capacités latentes que personne n'a encore découvertes. "Chaque fois que nous testons une nouvelle capacité que nous pouvons quantifier, nous la trouvons", dit-il.

Bien que les LLM aient suffisamment d'angles morts et autres défauts pour ne pas être qualifiés d'intelligence générale artificielle, ou AGI - terme désignant une machine qui atteint l'ingéniosité du cerveau animal - ces capacités émergentes suggèrent à certains chercheurs que les entreprises technologiques sont plus proches de l'AGI que même les optimistes ne l'avaient deviné. "Ce sont des preuves indirectes que nous en sommes probablement pas si loin", a déclaré Goertzel en mars lors d'une conférence sur le deep learning à la Florida Atlantic University. Les plug-ins d'OpenAI ont donné à ChatGPT une architecture modulaire un peu comme celle du cerveau humain. "La combinaison de GPT-4 [la dernière version du LLM qui alimente ChatGPT] avec divers plug-ins pourrait être une voie vers une spécialisation des fonctions semblable à celle de l'homme", déclare Anna Ivanova, chercheuse au M.I.T.

Dans le même temps, les chercheurs s'inquiètent de voir leur capacité à étudier ces systèmes s'amenuiser. OpenAI n'a pas divulgué les détails de la conception et de l'entraînement de GPT-4, en partie du à la concurrence avec Google et d'autres entreprises, sans parler des autres pays. "Il y aura probablement moins de recherche ouverte de la part de l'industrie, et les choses seront plus cloisonnées et organisées autour de la construction de produits", déclare Dan Roberts, physicien théoricien au M.I.T., qui applique les techniques de sa profession à la compréhension de l'IA.

Ce manque de transparence ne nuit pas seulement aux chercheurs, il entrave également les efforts qui visent à comprendre les répercussions sociales de l'adoption précipitée de la technologie de l'IA. "La transparence de ces modèles est la chose la plus importante pour garantir la sécurité", affirme M. Mitchell.

Auteur: Musser Georges

Info: https://www.scientificamerican.com,  11 mai 2023. *algorithme d'optimisation utilisé dans l'apprentissage automatique et les problèmes d'optimisation. Il vise à minimiser ou à maximiser une fonction en ajustant ses paramètres de manière itérative. L'algorithme part des valeurs initiales des paramètres et calcule le gradient de la fonction au point actuel. Les paramètres sont ensuite mis à jour dans la direction du gradient négatif (pour la minimisation) ou positif (pour la maximisation), multiplié par un taux d'apprentissage. Ce processus est répété jusqu'à ce qu'un critère d'arrêt soit rempli. La descente de gradient est largement utilisée dans la formation des modèles d'apprentissage automatique pour trouver les valeurs optimales des paramètres qui minimisent la différence entre les résultats prédits et les résultats réels. Trad et adaptation Mg

[ singularité technologique ] [ versatilité sémantique ]