homme-animal

Des chercheurs japonais ont eu la brillante idée de confronter des pigeons à des photographies de tableaux de grands maîtres, comme Monet et Picasso. Et les oiseaux sont parvenus à différencier les toiles cubistes des impressionnistes.

On prend souvent les oiseaux pour des animaux plutôt stupides. Pourtant, comme le montre cette étude, les pigeons peuvent différencier un tableau de Monet de celui de Picasso. Ce n'est malgré tout qu'une piètre prestation à côté des corvidés (corbeaux, pies, geais...) capables de résoudre des tâches très complexes. Des corneilles se servent d'outils tandis que les pies se reconnaissent dans le miroir. 

Pourquoi obliger des pigeons à contempler une toile de maître ? L'idée des scientifiques de l'université Keio, au Japon, paraît complètement délirante. Pour preuve, cette recherche leur a valu un prix : le fameux IgNobel de psychologie en 1995.  

Monet et Picasso figurent parmi les peintres les plus célèbres. Le premier est devenu le fer de lance de l'impressionnisme, dont l'un des tableaux le plus célèbre, Impression soleil levant, a donné le nom au mouvement pictural. Celui-ci se caractérise par des scènes quotidiennes mises en image d'une manière personnelle, sans rétablir la stricte vérité du paysage mais en mettant en lumière la beauté et la surprise de la nature.

Il tranche nettement avec le cubisme, apparu quelques décennies plus tard, sous le pinceau de deux génies, Georges Braque et Pablo Picasso. Ce courant en termine avec le réalisme et y préfère la représentation de la nature par des formes étranges et inconnues.

Une simple éducation picturale permet à n'importe quel être humain de différencier les deux mouvements. Mais qu'en est-il des pigeons ? 

Ce n'est pas tout à fait avec cette idée que des chercheurs de l'université de Keiro, au Japon, se sont lancés dans une expérience troublante, à savoir si ces oiseaux à la mauvaise réputation pouvaient différencier un Monet d'un Picasso. Ils souhaitaient simplement étudier la discrimination visuelle chez ces volatiles et tester leur perception du monde. Les résultats sont livrés dans Journal of the Experimental Analysis of Behaviour daté de mars 1995.

L’étude : les pigeons sont-ils impressionnistes ou cubistes ?

Pour le bon déroulement de l'expérience, les scientifiques disposaient de pigeons dits "naïfs", c'est-à-dire que leurs sujets n'avaient jamais suivi des études d'art appliqué. Il fallait donc les trouver. Malgré la difficulté de la tâche, huit cobayes ont participé aux tests.

Les oiseaux étaient classés en deux groupes. Dans l'un d'eux, les quatre volatiles recevaient des graines de chanvre (la plante à partir de laquelle on tire le cannabis) dès qu'une peinture de Monet apparaissait, mais rien face à une œuvre de Pablo Picasso. Bien évidemment, le même renforcement positif existait pour les quatre autres pigeons, cette fois quand on les confrontait à une toile du maître cubiste. Les scientifiques ont eu la gentillesse d'éviter les pièges et de choisir des peintures caractéristiques de chaque courant pictural.

La deuxième partie est intéressante car elle vise à généraliser le concept. Ainsi on confrontait nos nouveaux critiques d'art à des tableaux de leur maître préféré qu'ils n'avaient encore jamais vus. Les volatiles ne se sont pas laissé impressionner et ont de suite compris le stratagème. En appuyant du bec sur une touche située devant eux, ils pouvaient manifester leur choix et être récompensés le cas échéant.

Quasiment aucune erreur dès le premier essai. De même pour les suivants. Mieux, les adeptes du cubisme réclamaient à manger quand ils voyaient un tableau de Georges Braque tandis que les autres appuyaient frénétiquement sur le bouton à la vue d'un tableau de Cézanne ou Renoir, deux autres impressionnistes. 

Enfin, l'épreuve ultime. Qu'est-ce que ça donne si on met Monet et Picasso la tête à l'envers ? Cette fois, il faut reconnaître que les résultats sont plus mitigés. Si l'expérience n'a pas affecté les performances des pigeons cubistes, il n'en a pas été de même pour l'autre groupe, incapable d'y voir les œuvres pour lesquelles ils avaient tant vibré.

Les auteurs de ce travail suggèrent alors que leurs cobayes à plumes impressionnistes reconnaissaient dans les toiles des objets réels et devenaient incompétents quand leur univers était représenté à l'envers. De l'autre côté, les fans de Pablo Picasso s'habituaient à discriminer des formes inédites, qui le restaient même retournées. La preuve que les pigeons maîtrisent eux aussi l'art de la catégorisation. 

L’œil extérieur : de l'intérêt de l’art chez les pigeons

Certes, cette découverte ne révolutionnera pas le monde mais en dit davantage sur les performances cognitives des pigeons. Après tout, il n'y a pas que notre intelligence qui compte ! Voyons-le comme une manière de sortir de l'anthropocentrisme, même si le parallèle avec l'être humain se fait toujours.

Cette recherche s'inscrit surtout dans un contexte où les oiseaux étaient testés dans leur sensibilité à l'art. Car si ce travail focalise son attention sur les génies de la peinture, d'autres scientifiques avaient affirmé en 1984 que ces mêmes animaux pouvaient différencier du Bach et du Stravinsky (évidemment, on parle de musique). D'autres études (tout aussi passionnantes...) montrent la façon dont les scientifiques ont habitué les pigeons à l'image de Charlie Brown, un personnage de bande dessiné inventé en 1950.

Est-ce vraiment mieux ? La seule différence est qu'à cette époque, les prix IgNobel n'existaient pas encore...

Auteur: Internet

Info: https://www.futura-sciences.com/, Janlou Chaput, juin 2012

[ vision ] [ identification de modèles ] [ cognition ]

intrications

Les scientifiques qui étudient le cerveau ont découvert que cet organe opère simultanément jusqu'à 11 dimensions différentes, créant des structures multivers qui présentent "un monde que nous n'avions jamais imaginé".

En utilisant un système mathématique avancé, les chercheurs ont pu montrer des structures architecturales qui apparaissent lorsque le cerveau doit traiter l'information, avant de se désintégrer et disparaitre. Leurs résultats, publiés dans la revue Frontiers in Computational Neuroscience, révèlent les processus extrêmement complexes impliqués dans la création de structures neuronales, ce qui pourrait aider à expliquer pourquoi le cerveau est si difficile à comprendre et à associer sa structure à sa fonction.

L'équipe, dirigée par des scientifiques de l'EPFL en Suisse, effectuait des recherches dans le cadre du projet Blue Brain, une initiative visant à créer une reconstruction biologiquement détaillée du cerveau humain. En travaillant d'abord sur les cerveaux des rongeurs, l'équipe a utilisé des simulations de supercalculateurs pour étudier les interactions complexes dans différentes de ses régions. Dans cette dernière étude, les chercheurs ont pu approfondir les structures du réseau neuronal du cerveau en utilisant la topologie algébrique - un système utilisé pour décrire des réseaux avec des espaces et des structures en constante évolution.

C'est la première fois que cette branche des mathématiques est appliquée aux neurosciences. "La topologie algébrique est comme un télescope et un microscope en même temps. Elle peut zoomer dans les réseaux pour trouver des structures cachées - les arbres dans la forêt - et voir les espaces vides - les clairières - tout en même temps", précise Kathryn Hess. Dans l'étude, les chercheurs ont effectué de multiples tests sur le tissu cérébral virtuel pour découvrir des structures cérébrales qui n'apparaitraient jamais par hasard. Ils ont ensuite effectué les mêmes expériences sur des tissus cérébraux réels afin de confirmer leurs résultats virtuels. Ils ont découvert que lorsqu'on présente un stimulus au tissu virtuel, des groupes de neurones forment une clique. Chaque neurone se connecte à tous les autres neurones de manière très spécifique pour produire un objet géométrique précis. Plus il y a de neurones dans une clique, plus les dimensions sont élevées. Dans certains cas, les chercheurs ont découvert des cliques avec jusqu'à 11 dimensions différentes.

Les structures s'assemblent en des enceintes qui forment des trous à haute dimension que l'équipe a nommé cavités. Une fois que le cerveau a traité l'information, la clique et la cavité disparaissent.

Multivers du cerveau. "L'apparition de ces cavités high-dimensionnelles lorsque le cerveau traite des informations signifie que les neurones du réseau réagissent aux stimuli d'une manière extrêmement organisée", a déclaré l'un des chercheurs, Ran Levi. "C'est comme si le cerveau réagit à un stimulus en construisant puis en rasant une tour de blocs multidimensionnels, en commençant par des tiges (1D), des planches (2D), puis des cubes (3D), puis des géométries plus complexes avec 4D, 5D, etc. La progression de l'activité à travers le cerveau ressemble à un château de sable multidimensionnel qui se matérialise hors du sable puis se désintègre ", a-t-il déclaré. Henry Markram, directeur de Blue Brain Project, avance que les résultats pourraient aider à expliquer pourquoi le cerveau est si difficile à comprendre. "Les mathématiques appliquées habituellement aux réseaux d'étude ne peuvent pas détecter les structures et les espaces à grande dimension que nous voyons maintenant clairement", a-t-il déclaré. "Nous avons découvert un monde que nous n'avions jamais imaginé. Il y a des dizaines de millions de ces objets, même dans un petit segment du cerveau, à travers sept dimensions. Dans certains réseaux, nous avons même trouvé des structures allant jusqu'à onze dimensions". Les résultats indiquent que le cerveau traite les stimuli en créant ces cliques et cavités complexes, de sorte que la prochaine étape sera de savoir si notre capacité à effectuer des tâches compliquées nécessite ou non la création de ces structures multidimensionnelles.

Dans une interview par courrier électronique avec Newsweek, Hess dit que la découverte nous rapproche de la compréhension d' "un des mystères fondamentaux de la neuroscience: le lien entre la structure du cerveau et la façon dont elle traite l'information". En utilisant la topologie algébrique l'équipe a pu découvrir "la structure hautement organisée cachée dans les modèles de tir apparemment chaotiques des neurones, une structure qui était invisible jusqu'à ce que nous l'examinions avec ce filtre mathématique particulier". Hess dit que les résultats suggèrent que lorsque nous examinons l'activité du cerveau avec des représentations à faible dimension, nous n'observons que l'activité réelle qui se déroule. Cela signifie que nous pouvons voir des informations, mais pas l'image complète. "Alors, dans un sens, nos découvertes peuvent expliquer pourquoi il a été si difficile de comprendre la relation entre la structure et la fonction du cerveau", explique-t-elle.  

"Le schéma de réponse stéréotypique que nous avons découvert indique que le circuit répond toujours aux stimuli en construisant une séquence de représentations géométriques commençant dans des dimensions faibles et en ajoutant des dimensions progressivement plus élevées, jusqu'à ce que l'accumulation s'arrête soudainement et s'effondre: une signature mathématique pour les réactions à stimuli. "Pour le travail futur, nous avons l'intention d'étudier le rôle de la plasticité - le renforcement et l'affaiblissement des connexions en réponse aux stimuli - avec les outils de topologie algébrique. La plasticité est fondamentale pour le processus mystérieux d'apprentissage, et nous espérons que nous pourrons donner un nouvel aperçu de ce phénomène", a-t-elle ajouté.

Auteur: Internet

Info: https://www.newsweek.com/brain-structure-hidden-architecture-multiverse-dimensions-how-brain-works-6243006/12/17 by Hannah Osborne - Ici FLP regrette sa volonté réitérée de ne pas insérer d'images dans les textes. Elles sont ici très parlantes.

[ simultanéïté ] [ réfléchir ] [ réflexion humaine modélisée ]

homme-machine

Sciences-Po vient d’interdire l’usage de ChatGPT, l’application qui permet à tous les empêchés de la plume ou du clavier de produire en un temps record des textes bourrés d’idées reçues — de crainte sans doute, que l’on ne distingue pas les produits de l’Intelligence Artificielle et ceux de nos futurs énarques.

David Cayla, un économiste qui ne dit pas que des âneries, s’est fendu d’un tweet ravageur dès qu’il a appris que Sciences-Po avait décidé d’interdire à ses élèves l’usage de ChatGPT. "La stricte interdiction de #ChatGPT à Sciences Po révèle que cette école se sent menacée par une IA qui est capable de construire de belles phrases à partir de tout sujet, sans comprendre de quoi elle parle, et en faisant régulièrement des erreurs grossières." Et toc.

Rappel des faits pour ceux qui sortent à peine de leur grotte d’hibernation. Chloé Woitier, journaliste Tech au Figaro, vous explique en direct live ce qu’est cette application : la capacité à générer du texte — sans grand souci d’originalité et avec une capacité réelle d’erreurs grandioses — à partir de cohortes de mots et de phrases mis en mémoire. En fait, il s’agit de ce que l’on appelle en rhétorique un texte-centon, fabriqué à partir de collages de citations. Vous en avez un joli exemple ici.

Une chance pour les tire-au-flanc

Rien de nouveau — si ce n’est la capacité à produire un résultat de façon quasi instantanée. Voilà qui nous arrange bien, se disent déjà les élèves peu besogneux qui s’aperçoivent à 7 heures du matin qu’ils ont une dissertation-maison à rendre à 10 heures. En gros, le résultat vaut une petite moyenne.

Laurence Plazanet, professeur de littérature à l’université de Clermont-Auvergne, note que "nourri de la vaste littérature disponible sur la toile, littérature qu’il remâche suivant des algorithmes statistiques et probabilistes aptes à se reprogrammer eux-mêmes, dit-on, selon des procédures que cessent de maîtriser leurs programmeurs initiaux, ChatGPT patauge dans le prêt-à-penser." Et d’ajouter : "Pas un instant ce robot éclairé ne pense."

Intelligence artificielle, un oxymore

Comprenons bien que ces deux mots, "intelligence artificielle", sont ce que l’on appelle en stylistique un oxymore — une contradiction en soi. Comme "obscure clarté", "nuit blanche", "homme fidèle" ou "femme intelligente"…  

(C’étaient les exemples que je citais en cours pour expliquer l’oxymore. Protestations immédiates des uns et des autres, comme vous l’imaginez, mais du coup, par l’exemple provocateur, la notion s’ancrait dans les mémoires.)

Ce qu’il y a d’intelligent dans la machine y a été mis par des hommes. Lorsqu’un ordinateur vous bat aux échecs, c’est que vous êtes moins fort que la cohorte de grands maîtres qui l’ont programmé — ce qui est assez logique.

Que Sciences-Pipeau s’en émeuve est en revanche très inquiétant — et très drôle : les grandes intelligences qui nourriront les ministères et parviendront peut-être un jour au sommet (pensez, François Hollande, Ségolène Royal, Dominique de Villepin appartenaient à la même promo de l’ENA) se sentent menacées par un robot qui mécaniquement débite des platitudes. "Faut vous dire, Monsieur, que chez ces gens-là, on n’pense pas, Monsieur, on n’pense pas", chantait Brel. La machine à débiter des lieux communs, dont Flaubert s’est si ardemment moqué dans le discours du sous-préfet (c’est dans Madame Bovary) vous est désormais accessible.

Des inquiétudes injustifiées

ChatGPT n’est pas capable de rédiger une dissertation crédible. Un enseignant un peu rodé repère immédiatement les copiés-collés que les étudiants pressés vont cueillir sur le Net (c’est simple, il n’y a soudain plus de fautes d’orthographe), et ne met pas cinq secondes pour en identifier la source.  

Il est encore moins capable de rédiger une thèse — le plus simple étant d’aller copier une thèse déjà écrite : en 2013 déjà une ministre allemande a été déchue de son doctorat (rendu 33 ans auparavant) parce qu’il avait été pompé sur un travail antérieur. Deux ans auparavant c’était le ministre de la Défense, Karl-Theodor zu Guttenberg, qui s’était vu dénoncé pour un plagiat similaire dans sa thèse de Droit. 

Et ChatGPT ne saurait pas non plus écrire un roman original. Ne vous avisez pas de le lui demander : au pire, il vous arrivera ce qui est arrivé jadis à Thierry Ardisson, dont le nègre indélicat est allé chercher un récit des années 1930 pour Pondichéry, un roman publié en 1994. Et les héritiers de l’auteur véritable ont porté plainte. Ardisson m’avait confié dans les coulisses d’une émission qu’il avait été "con" de ne pas vérifier. Mais en 1994 c’était moins facile qu’aujourd’hui, où tout se sait à la vitesse de la Toile.

La rumeur de la rue Saint-Guillaume

Que la rumeur d’un robot doué d’une vraie intelligence ait si vite enthousiasmé les commentateurs et effrayé les enseignants témoigne de notre candeur et de notre incapacité à comprendre ce qui fait l’originalité d’un travail. Ou, plus inquiétant, de notre aspiration à la paresse.

Rassurons-nous : HAL 9000 (ou Carl 500, dans la version française, pour Cerveau analytique de Recherche et de Liaison), l’ordinateur rebelle de 2001 l’Odyssée de l’espace, n’est pas pour demain.

Une preuve ? J’ai demandé à ChapGPT de répondre à cette question simple : l’IA va-t-elle remplacer l’intelligence humaine ? Et le robot m’a répondu : 

"Non, l’IA ne remplacera pas complètement l’intelligence humaine. L’IA est un outil qui peut être utilisé pour augmenter les capacités humaines et faciliter certaines tâches, mais elle ne peut pas remplacer la conscience, la créativité et l’empathie qui sont uniques à l’intelligence humaine." Plus plat, tu meurs. On dirait de l’Annie Ernaux. 

Et le fait est que si vous supprimez de votre conversation "la conscience, la créativité et l’empathie", vous êtes bon pour être un parfait étudiant de Sciences-Po, un parfait énarque en devenir, et très probablement un excellent président de la République. 

Auteur: Brighelli Jean-Paul

Info: https://www.causeur.fr, 31 janv 2023. ChatGPT, la Grande Peur de Sciences-Pipeau

[ vacheries ] [ bêtise inconstitutionnelle ] [ élites formatées ]

rationalisme

... L’étouffement de la contemplation représente la fin de la mystique, de la métaphysique, de l’esthétique qui sont le sommet et la floraison de la culture. La civilisation actuelle asservit la science et les arts en processus industriel et technique. Nous en voyons l’exemple dans la conception culturelle du communisme soviétique. C’est une crise culturelle profonde. L’avenir de l’homme dépend de son désir de se libérer, ne serait-ce que pour un instant, pour prendre conscience de soi et de sa vie, pour tourner ses regards vers le ciel. L’idée du travail et d’une société laborieuse est vraiment une grande idée parfaitement chrétienne. La contemplation aristocratique de l’élite privilégiée affranchie de la coopération au travail était trop souvent une fausse contemplation, et c’est pourquoi elle a peu de chance de reprendre sa place dans l’avenir. Mais chaque travailleur, chaque homme, en général, a ses moments de concentration intérieure, d’oraison et d’actions de grâce, de contemplation esthétique ou autre. Contemplation et action peuvent et doivent se rejoindre, seule leur union affirme et fortifie l’intégrité de la personne humaine. En se dépensant entièrement en action temporelle, l’homme se vide et la source d’énergie spirituelle en lui tarit. Dans son acceptation courante, l’activité n’est plus au service du prochain selon l’Évangile, mais plutôt au service des idoles. Le cycle liturgique de la vie religieuse représente l’alliance originale de la contemplation et de l’action, l’homme peut y puiser force et énergie.

Nous assistons à la transformation fatale de la personne, image de l’Être suprême, en un être absorbé par le collectif évoluant dans le temps et réclamant une activité accélérée. L’homme est un être créateur, mais la civilisation moderne lui demande une activité qui signifie une négation de sa nature humaine. L’acte créateur présuppose l’alliance de l’action et de la contemplation. Leur distinction même est relative, l’esprit étant essentiellement un élément actif et dynamique agissant encore dans la contemplation. Nous abordons ici le dernier problème de la situation spirituelle du monde contemporain, celui de l’homme en tant que problème religieux. La crise que nous traversons est celle de l’homme dont l’avenir est devenu problématique. Cette crise, il faut lui donner une interprétation spirituelle du dedans du christianisme. Ce n’est qu’ainsi qu’on saura comprendre la portée de ce qui se passe. La notion chrétienne de l’homme, que l’humanisme a gardée intacte, est ébranlée par la civilisation moderne. Le christianisme est fondé sur le mythe humano-divin théandrique, je n’use pas du mot mythe dans un sens qui l’opposerait à la réalité ; au contraire, le mythe correspond mieux à la réalité spirituelle que le concept, le mythe de Dieu et de l’homme, de la ressemblance divine dans l’homme, et de l’incarnation du Fils de Dieu. De là dérive la dignité de l’homme, mais l’homme déchu assimilait péniblement la révélation chrétienne dans sa plénitude et la doctrine humano-divine trop peu développée n’était pas assez actualisée dans la vie. C’est la raison pour laquelle un humanisme, à base chrétienne, fut inévitable. Une évolution commença fatalement, celle de la destruction du mythe chrétien intégral. On rejeta d’abord Dieu de ce mythe, restait toujours l’homme, son concept chrétien, comme nous le trouvons dans la pensée de L. Feuerbach. Il rejetait Dieu, mais gardait encore la ressemblance divine chez l’homme, en professant sa nature éternelle, comme tant d’autres humanistes. Mais la démolition du mythe théandrique allait son train, on atteignait maintenant le mythe de l’homme, l’apostasie touchait à l’homme et à Dieu. C’est l’homme qu’attaquèrent Marx et Nietzsche. Pour Marx, ce n’est plus l’homme, c’est le collectif social qui représente la valeur suprême. L’homme est évincé par la classe et le mythe nouveau du messianisme prolétarien. Marx et Nietzsche se rattachent à l’humanisme. Pour Nietzsche, l’homme doit être surmonté par le surhomme, une race plus haute. Ainsi l’homme – dernière valeur chrétienne jusque-là épargnée – est désavoué et les courants sociaux contemporains en témoignent. Après l’apostasie de Dieu, la civilisation moderne en est à la phase de l’apostasie de l’homme. Voilà l’essence de la crise contemporaine.

La technisation et la collectivisation de la personne se rattachent à cette crise. Toutes les hérésies et les défections de la vérité intégrale dans le christianisme historique posaient des problèmes importants qui n’ont pas encore trouvé de solution et qu’il faut résoudre du dedans du christianisme. Mais les hérésies contemporaines diffèrent des hérésies des premiers siècles chrétiens, elles ne sont pas théologiques, mais vitales. Elles prouvent l’urgence d’une réponse chrétienne aux problèmes existants de la technique, d’une juste organisation sociale, de la collectivisation par rapport à la valeur éternelle de la personne humaine, tous ces problèmes nécessitant la lumière de la vérité humano-divine. L’activité créatrice de l’homme dans le monde n’est pas sanctifiée. La crise mondiale rappelle aux chrétiens les tâches non accomplies, elle constitue donc un jugement non seulement sur le monde athée, mais aussi sur le christianisme lui-même. Le problème essentiel de nos jours n’est pas celui de Dieu, comme le croient beaucoup de chrétiens, qui invoquent l’urgence d’une renaissance religieuse. C’est avant tout le problème de l’homme qui importe aujourd’hui. Le problème de Dieu est éternel, c’est le premier et le dernier problème de tous les temps, mais celui de notre époque concerne le salut de la personne humaine qui se désagrège, sa vocation et sa mission, ainsi que les questions sociales et culturelles nécessitant une solution chrétienne. Ayant rejeté Dieu, on porte moins atteinte à la dignité de Dieu qu’à celle de l’homme qui, sans Dieu, ne peut se maintenir. Dieu est pour l’homme l’idée suprême et la réalité qui l’a formé. D’autre part, l’homme est l’idée suprême de Dieu. Ce n’est que le christianisme qui résout le problème des rapports de Dieu et de l’homme, ce n’est qu’en Christ que la race humaine peut être sauvée, seul l’esprit chrétien peut construire une société et une culture qui ne détruisent pas l’homme. Or, il faut que la vérité soit réalisée dans la vie...

Auteur: Berdiaev Nicolas

Info: De l’esprit bourgeois

[ consumérisme ] [ capitalisme ] [ antispiritualistes ]

linguistique de masse

L'intelligence artificielle travaille-t-elle en anglais ? 

Des scientifiques de l’EPFL ont montré que les grands modèles de langage semblent utiliser l’anglais en interne même lorsqu’ils sont sollicités dans une autre langue, ce qui pourrait avoir des conséquences en termes de biais linguistiques et culturels.

Les grands modèles de langage (LLM), tels que ChatGPT d’Open AI et Gemini de Google, ont conquis le monde et surprennent par leur capacité à comprendre les utilisatrices et utilisateurs et à leur répondre avec un discours en apparence naturel.

Bien qu’il soit possible d’interagir avec ces LLM dans n’importe quelle langue, ces derniers sont entraînés avec des centaines de milliards de paramètres textuels, principalement en anglais. Certaines personnes ont émis l’hypothèse qu’ils effectuaient la majeure partie de leur traitement interne en anglais et traduisaient ensuite dans la langue cible au tout dernier moment. Mais il y avait peu de preuves de cela, jusqu’à aujourd’hui.

Tests de Llama

Des chercheuses et chercheurs du Laboratoire de science des données (DLAB) de la Faculté informatique et communications de l’EPFL ont étudié le LLM open source Llama-2 (grand modèle de langage IA développé par Meta) pour essayer de déterminer quelles langues étaient utilisées à quels stades de la chaîne informatique.

" Les grands modèles de langage sont entraînés pour prédire le mot suivant. Pour cela, ils font correspondre chaque mot à un vecteur de nombres, c’est-à-dire à un point de données multidimensionnel. Par exemple, l’article le se trouvera toujours exactement à la même coordonnée fixe des nombres ", explique le professeur Robert West, responsable du DLAB.

" Les modèles enchaînent environ 80 couches de blocs de calcul identiques, chacun transformant un vecteur qui représente un mot en un autre vecteur. À la fin de cette séquence de 80 transformations, on obtient un vecteur représentant le mot suivant. Le nombre de calculs est déterminé par le nombre de couches de blocs de calcul. Plus il y a de calculs, plus votre modèle est puissant et plus le mot suivant a de chances d’être correct. "

Comme l’explique la prépublication intitulée Do Llamas Work in English? On the Latent Language of Multilingual Transformers, Robert West et son équipe ont forcé le modèle à répondre après chaque couche chaque fois qu’il essayait de prédire le mot suivant au lieu de le laisser effectuer les calculs à partir de ses 80 couches. Ils ont ainsi pu voir quel mot le modèle aurait prédit à ce moment-là. Ils ont mis en place différentes tâches telles que demander au modèle de traduire une série de mots français en chinois.

" Nous lui avons donné un mot français, puis la traduction en chinois, un autre mot français et la traduction en chinois, etc., de sorte que le modèle sache qu’il est censé traduire le mot français en chinois. Idéalement, le modèle devrait donner une probabilité de 100% pour le mot chinois. Mais lorsque nous l’avons forcé à faire des prédictions avant la dernière couche, nous avons remarqué que la plupart du temps, il prédisait la traduction anglaise du mot français, bien que l’anglais n’apparaisse nulle part dans cette tâche. Ce n’est qu’au cours des quatre ou cinq dernières couches que le chinois est en fait plus probable que l’anglais ", affirme Robert West.

Des mots aux concepts

Une hypothèse simple serait que le modèle traduit la totalité de l’entrée en anglais et la traduit à nouveau dans la langue cible juste à la fin. Mais en analysant les données, les chercheuses et chercheurs sont parvenus à une théorie bien plus intéressante.

Dans la première phase des calculs, aucune probabilité n’est attribuée à l’un ou l’autre mot. Selon eux, le modèle s’attache à résoudre les problèmes d’entrée. Dans la seconde phase, où l’anglais domine, les chercheuses et chercheurs pensent que le modèle se trouve dans une sorte d’espace sémantique abstrait où il ne raisonne pas sur des mots isolés mais sur d’autres types de représentations qui concernent davantage des concepts, sont universels dans toutes les langues et représentent plus un modèle du monde. C’est important car, pour bien prédire le mot suivant, le modèle doit en savoir beaucoup sur le monde et l’un des moyens d’y parvenir est d’avoir cette représentation des concepts.

" Nous supposons que cette représentation du monde en termes de concepts est biaisée en faveur de l’anglais, ce qui serait très logique car les données utilisées pour entraîner ces modèles sont à environ 90% en anglais. Ils cartographient les mots en entrée à partir d’un espace de mots superficiel, dans un espace de signification plus profond avec des représentations de la façon dont ces concepts sont liés les uns aux autres dans la réalité – et les concepts sont représentés de la même manière que les mots anglais, plutôt que les mots correspondants dans la langue d’entrée réelle ", déclare Robert West.

Monoculture et biais

Cette domination de l’anglais amène à se poser la question suivante: " est-ce important "? Les chercheuses et chercheurs pensent que oui. D’après de nombreuses recherches, les structures qui existent dans le langage influencent la manière dont nous construisons la réalité et les mots que nous employons sont profondément liés à la façon dont nous pensons le monde. Robert West suggère de commencer à étudier la psychologie des modèles de langage en les traitant comme des êtres humains et, dans différentes langues, en les interrogeant, en les soumettant à des tests de comportement et en évaluant leurs biais.

" Je pense que cette recherche a vraiment touché un point sensible, car les gens s’inquiètent de plus en plus de ce genre de problème de monoculture potentielle. Les modèles étant meilleurs en anglais, bon nombre de chercheuses et chercheurs étudient aujourd’hui la possibilité d’introduire un contenu en anglais et de le traduire dans la langue souhaitée. D’un point de vue technique, cela pourrait fonctionner, mais je pense que nous perdons beaucoup de nuances, car ce que vous ne pouvez pas exprimer en anglais ne sera pas exprimé ", conclut Robert West.

Auteur: Internet

Info: https://actu.epfl.ch/news/l-intelligence-artificielle-travaille-t-elle-en--2/#:~:text=Les%20chercheuses%20et%20chercheurs%20pensent%20que%20oui.,dont%20nous%20pensons%20le%20monde.

[ anglocentrisme ] [ spécificités des idiomes ] [ homme-machine ] [ symboles univers ] [ ethnocentrisme ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]

cognition

Les secrets de la conscience : l'imagerie cérébrale révèle pour la première fois des connexions critiques 

Des chercheurs américains ont réussi à cartographier un réseau cérébral essentiel dans l'intégration de l'éveil et de la conscience humaine, en utilisant des techniques d'IRM multimodales avancées. Cette approche offre de nouvelles pistes pour traiter certains troubles neurologiques.

(Image : illustration d'une galaxie dans la silhouette d'une tête humaine représentant l'éveil de la conscience)

Au cœur des neurosciences se trouve un défi complexe : comprendre les fondements de la conscience humaine. Entre éveil et perception, se dessinent des réseaux cérébraux dont les mystères ont longtemps échappé à nos outils d'observation. Mais grâce à la neuro-imagerie, les chercheurs ont identifié un réseau cérébral crucial pour la conscience humaine.

Dans un article publié le 1er mai 2024 dans Science Translational Medicine, un groupe de chercheurs du Massachusetts General Hospital et du Boston Children's Hospital, aux États-Unis, tous deux faisant partie du système de santé Mass General Brigham, ont réussi à cartographier un réseau cérébral sous-cortical crucial dans l'intégration de l'éveil et de la conscience humaine. 

Éveil et conscience : deux dimensions de l'activité cérébrale

L'éveil concerne l'activité et l'attention du cerveau, tandis que la conscience implique nos pensées et sensations résultant de l'intégration d'informations sensorielles et émotionnelles. Il est intéressant de noter que ces deux aspects de la conscience peuvent être dissociés, comme chez les patients en état végétatif qui présentent des cycles d'éveil mais une absence de conscience.

Si le cortex cérébral est considéré comme le siège principal des processus neuronaux de la conscience, les voies sous-corticales ascendantes du tronc cérébral, de l'hypothalamus, du thalamus et du cerveau basal sont essentielles pour l'éveil. Les voies ascendantes transportent des informations sensorielles et des signaux moteurs depuis le tronc cérébral vers le cerveau.

Visualiser les connexions cérébrales à une résolution submillimétrique

À l'aide de techniques d'IRM multimodales avancées, les chercheurs ont pu visualiser les connexions cérébrales à une résolution spatiale submillimétrique.

Cette approche leur a permis de cartographier des connexions jusqu'alors inconnues entre le tronc cérébral, le thalamus, l’hypothalamus, le prosencéphale basal et le cortex cérébral, formant ainsi ce qu'ils nomment le "réseau d'éveil ascendant par défaut", essentiel pour maintenir l'éveil.

Le tronc cérébral est une partie essentielle du cerveau située à la base, qui contrôle des fonctions vitales comme la respiration et la fréquence cardiaque. Le thalamus agit comme un relais pour les informations sensorielles, aidant à les transmettre au cortex cérébral pour le traitement. L’hypothalamus joue un rôle clé dans la régulation des fonctions corporelles telles que la faim, la soif, et le sommeil. Le prosencéphale basal est impliqué dans le contrôle des mouvements et des émotions. Le cortex cérébral est la couche externe du cerveau responsable des fonctions cognitives supérieures telles que la pensée, la perception et la conscience. Ensemble, ces régions forment un réseau appelé le "réseau d'éveil ascendant par défaut", crucial pour maintenir l'état de veille et la conscience dans le cerveau.

(Illustration : Anatomie du cerveau en coupe)

"Notre objectif était de cartographier un réseau cérébral (ensemble de régions du cerveau qui travaillent conjointement pour effectuer des fonctions spécifiques, connectées par des voies de communication neuronales) crucial pour la conscience humaine et de fournir aux cliniciens des outils améliorés pour détecter, prédire et favoriser la récupération de la conscience chez les patients atteints de graves lésions cérébrales", explique Brian Edlow, premier auteur de l'étude, co-directeur du Neuroscience Mass General et directeur associé du Center for Neurotechnology and Neurorecovery (CNTR), dans un communiqué.

Ce réseau " ascendant par défaut de l'éveil" maintient l'éveil dans le cerveau conscient au repos. Le concept d'un réseau " par défaut" repose sur l'idée que certains systèmes de neurones dans le cerveau sont le plus activement fonctionnels lorsque le cerveau est dans un état de repos conscient. En revanche, d'autres réseaux sont plus actifs lorsque le cerveau effectue des tâches dirigées vers des objectifs.

Intégration des données IRM pour cartographier le réseau cérébral

Pour étudier les propriétés fonctionnelles de ce réseau cérébral par défaut, les chercheurs ont combiné des techniques d'imagerie cérébrale avancées, intégrant des données de tractographie par IRM de diffusion ex vivo (cultures cellulaires) et d'IRM fonctionnelle (IRMf) in vivo (humain) à 7 Tesla (7-T).

Les données d'IRM ont ainsi permis de localiser les zones dans le cerveau et d'étudier leurs connexions à l'aide de techniques de tractographie par IRM de diffusion. L’analyse des données d'IRM fonctionnelle, quant à elle, a permis aux chercheurs de comprendre comment ces connexions influent sur l'état d'éveil et de conscience du cerveau humain.

Ces analyses ont finalement révélé des connexions fonctionnelles entre le réseau ascendant par défaut du tronc cérébral et le réseau mode par défaut cortical qui contribue à la conscience de soi dans le cerveau conscient au repos. Les cartes de connectivité structurelle et fonctionnelles complémentaires fournissent une base neuroanatomique pour intégrer l'éveil et la conscience dans la conscience humaine.

(image en coupe montrant un exemple de données de tractographie par IRM de diffusion. Il s'agit là d'une vue latérale du tractus moteur, le tractus corticospinal, d'un sujet humain.)

Feuille de route pour mieux comprendre 

"Les connexions cérébrales humaines que nous avons identifiées peuvent être utilisées comme une feuille de route pour mieux comprendre un large éventail de troubles neurologiques associés à une conscience altérée, allant du coma, aux crises, au syndrome de mort subite du nourrisson (SIDS)", précise Hannah Kinney, MD, Professeure Émérite à l'Hôpital pour Enfants de Boston et à l'École de Médecine de Harvard, dans un communiqué.

Les données de cette étude pourraient servir de base pour comprendre divers troubles neurologiques liés à une altération de la conscience. Les chercheurs ont mis à disposition des données IRM et des méthodes de cartographie cérébrale, ainsi qu'un nouvel atlas du Réseau Ascendant de l'Éveil de Harvard, pour soutenir de futures recherches dans ce domaine.

Les auteurs mènent actuellement des essais cliniques pour stimuler le réseau ascendant par défaut de l'éveil chez les patients en coma après une lésion cérébrale traumatique, dans le but de réactiver le réseau et de restaurer la conscience.

Auteur: Internet

Info: sciencesetavenir.fr - Juliette Frey le 10.05.2024

[ vigilance ] [ proencéphale basal ]

peur du vide

En 1930, John Maynard Keynes avait prédit que d’ici la fin du siècle, les technologies seraient suffisamment avancées pour que des pays comme le Royaume-Uni ou les États-Unis mettent en place une semaine de travail de 15 heures. Tout laisse à penser qu’il avait raison. En termes technologiques, nous en sommes tout à fait capables. Et pourtant cela n’est pas arrivé. Au contraire, la technologie a été mobilisée dans le but de trouver des moyens de nous faire travailler plus. Pour cela, des emplois effectivement inutiles, ont dû être créés. Des populations entières, en Europe et en Amérique du Nord particulièrement, passent toute leur vie professionnelle à effectuer des tâches dont ils pensent secrètement qu’elles n’ont vraiment pas lieu d’être effectuées. Les dommages moraux et spirituels que cette situation engendre sont profonds. Ils sont une cicatrice sur notre âme collective. Et pourtant presque personne n’en parle.

Pourquoi l’utopie promise par Keynes — et qui était encore très attendue dans les années 60 — ne s’est-elle jamais matérialisée ? La réponse standard aujourd’hui est qu’il n’a pas pris en compte la croissance massive du consumérisme. Entre moins d’heures passées à travailler et plus de jouets et de plaisirs, nous avons collectivement opté pour la deuxième alternative. Il s’agit d’une jolie fable morale, sauf qu’en l’analysant, ne serait-ce qu’un court instant, nous comprenons que cela n’est pas vrai. Oui, nous avons été les témoins de la création d’une grande variété d’emplois et d’industries depuis les années 20, mais très peu d’entre eux ont un rapport avec la production et la distribution de sushis, d’iPhones ou de baskets à la mode.

Quels sont donc ces nouveaux emplois précisément ? Un rapport récent comparant l’emploi aux États-Unis entre 1910 et 2000 nous en donne une image claire et nette (il faut au passage souligner qu’un rapport similaire a été produit sur l’emploi au Royaume-Uni). Au cours du siècle dernier, le nombre de travailleurs, employés dans l’industrie ou l’agriculture a considérablement chuté. Parallèlement, les emplois de "professionnels, administrateurs, managers, vendeurs et employés de l’industrie des services" ont triplé, passant "de un quart à trois quarts des employés totaux". En d’autres termes, les métiers productifs, comme prédit, ont pu être largement automatisés (même si vous comptez les employés de l’industrie en Inde et Chine, ce type de travailleurs ne représente pas un pourcentage aussi large qu’avant).

Mais plutôt que de permettre une réduction massive des heures de travail pour libérer la population mondiale afin qu’elle poursuive ses propres projets, plaisirs, visions et idées, nous avons pu observer le gonflement, non seulement des industries de "service", mais aussi du secteur administratif, et la création de nouvelles industries comme les services financiers, le télémarketing, ou l’expansion sans précédent de secteurs comme le droit corporatiste, les administrations universitaires et de santé, les ressources humaines ou encore les relations publiques. Et ces chiffres ne prennent pas en compte tous ceux qui assurent un soutien administratif, technique ou sécuritaire à toutes ces industries, voire à toutes les autres industries annexes rattachées à celles-ci (les toiletteurs pour chiens, les livreurs de pizzas ouverts toute la nuit) qui n’existent que parce que tous les autres passent la majeure partie de leur temps à travailler pour les premières.

C’est ce que je propose d’appeler des "métiers à la con".

C’est comme si quelqu’un inventait des emplois inutiles, dans le seul but de continuer à nous faire tous travailler. Et c’est ici que réside tout le mystère. Dans un système capitaliste, c’est précisément ce qui n’est pas censé se produire. Dans les anciens et inefficaces états socialistes, comme l’URSS, où l’emploi était considéré à la fois comme un droit et un devoir sacré, le système fabriquait autant d’emploi que nécessaire (c’est une des raisons pour lesquelles il fallait trois personnes dans les supermarchés pour vous servir un morceau de viande). Mais, bien sûr, c’est précisément le genre de problème que la compétition de marché est censée régler. Selon les théories économiques, en tout cas, la dernière chose qu’une entreprise recherchant le profit va faire, c’est de débourser de l’argent à des employés qu’elle ne devrait pas payer. C’est pourtant ce qui se produit, d’une certaine façon.

Alors que les entreprises s’engagent dans des campagnes de restrictions impitoyables, ces licenciements touchent principalement la classe des gens qui produisent, déplacent, réparent ou maintiennent les choses; alors qu’à travers une étrange alchimie que personne ne peut expliquer, le nombre de "gratte-papier" semble gonfler, et de plus en plus d’employés finissent, à l’instar des travailleurs de l’ex-URSS, par travailler 40 ou 50 heures par semaine, mais avec un temps effectif de travail utile de 15 heures, exactement comme Keynes l’avait prédit, puisque le reste de leur temps consiste à organiser ou à participer à des séminaires de motivation, à mettre à jour leur profil Facebook ou à télécharger des séries télévisées.

La réponse n’est de toute évidence pas économique : elle est morale et politique. La classe dirigeante a compris qu’une population heureuse, productive et bénéficiant de temps libre est un danger mortel (pensez à ce qui s’est passé lorsque cela a commencé à se réaliser dans les années 60). Et, d’un autre côté, le sentiment selon lequel le travail étant une valeur morale intrinsèque et que quiconque refusant de se soumettre à une forme intense de travail pendant ses journées ne mérite rien, est extraordinairement pratique pour eux.

Autrefois, considérant l’augmentation apparemment infinie des responsabilités administratives dans les départements universitaires britanniques, j’en ai déduit une vision possible de l’enfer. L’enfer, c’est un groupe d’individus qui passent le plus clair de leur temps à effectuer des tâches qu’ils n’aiment pas et pour lesquelles ils ne sont pas spécialement doués. Disons qu’ils ont été engagés parce qu’ils étaient de très bons menuisiers, et qu’ils découvrent ensuite qu’ils doivent passer une grande partie de leur temps à cuire du poisson. Effectuer cette tâche n’est pas non plus indispensable, mais au moins il y a une quantité très limitée de poissons à faire cuire. Et pourtant, ils deviennent tous complètement obsédés par le fait que certains de leurs collègues passent peut-être plus de temps à faire de la menuiserie sans contribuer de manière équitable à faire frire du poisson et, très rapidement, des piles entières de poisson mal cuits et inutiles envahissent l’atelier, et cuire du poisson est devenu l’activité principale.

Auteur: Graeber David

Info: Thought Info http://partage-le.com/2016/01/a-propos-des-metiers-a-la-con-par-david-graeber/

[ déséquilibre ] [ absurde ] [ diminution du travail ]

amélioration

Le progrès est devenu le moyen de l'aliénation
Cela fait des décennies, sinon un siècle ou deux, que des gens cherchent le mot, l'ont "sur le bout de la langue", qu'il leur échappe, leur laissant une vive et chagrine frustration - sans le mot, comment dire la chose ?
Comment donner et nommer la raison du désarroi, de la révolte, du deuil et pour finir du découragement et d'une indifférence sans fond. Comme si l'on avait été amputé d'une partie du cerveau : amnésie, zone blanche dans la matière grise.
La politique, en tout cas la politique démocratique, commence avec les mots et l'usage des mots ; elle consiste pour une part prépondérante à nommer les choses et donc à les nommer du mot juste, avec une exactitude flaubertienne. Nommer une chose, c'est former une idée. Les idées ont des conséquences qui s'ensuivent inévitablement.
La plus grande part du travail d'élaboration de la novlangue, dans 1984, consiste non pas à créer, mais à supprimer des mots, et donc des idées - de mauvaises idées, des idées nocives du point du vue du Parti -, et donc toute velléité d'action en conséquence de ces mots formulant de mauvaises idées.
Nous sommes tombés sur "regrès", il y a fort peu de temps, un bon et vieux mot de français, tombé en désuétude comme on dit, bon pour le dictionnaire des obsolètes qui est le cimetière des mots. Et des idées. Et de leurs conséquences, bonnes ou mauvaises. Un mot "oublié" ?
Difficile de croire que le mot "regrès", antonyme du "progrès" ait disparu par hasard de la langue et des têtes. Le mouvement historique de l'idéologie à un moment quelconque du XIXe siècle a décidé que désormais, il n'y aurait plus que du progrès, et que le mot de regrès n'aurait pas plus d'usage que la plus grande part du vocabulaire du cheval aujourd'hui disparu avec l'animal et ses multiples usages qui entretenaient une telle familiarité entre lui et l'homme d'autrefois.
Ainsi les victimes du Progrès, de sa rançon et de ses dégâts, n'auraient plus de mot pour se plaindre. Ils seraient juste des arriérés et des réactionnaires : le camp du mal et des maudits voués aux poubelles de l'histoire. Si vous trouvez que l'on enfonce des portes ouvertes, vous avez raison. L'étonnant est qu'il faille encore les enfoncer.
Place au Tout-Progrès donc. Le mot lui-même n'avait à l'origine nulle connotation positive. Il désignait simplement une avancée, une progression. Même les plus acharnés progressistes concéderont que l'avancée - le progrès - d'un mal, du chaos climatique, d'une épidémie, d'une famine ou de tout autre phénomène négatif n'est ni un petit pas ni un grand bond en avant pour l'humanité. Surtout lorsqu'elle se juge elle-même, par la voix de ses autorités scientifiques, politiques, religieuses et morales, au bord du gouffre.
Ce qui a rendu le progrès si positif et impératif, c'est son alliance avec le pouvoir, énoncée par Bacon, le philosophe anglais, à l'aube de la pensée scientifique et rationaliste moderne : "Savoir c'est pouvoir". Cette alliance dont la bourgeoisie marchande et industrielle a été l'agente et la bénéficiaire principale a conquis le monde. Le pouvoir va au savoir comme l'argent à l'argent. Le pouvoir va au pouvoir.
Le progrès est l'arme du pouvoir sur les sans pouvoirs
Et c'est la leçon qu'en tire Marx dans La Guerre civile en France. Les sans pouvoirs ne peuvent pas se "réapproprier" un mode de production qui exige à la fois des capitaux gigantesques et une hiérarchie implacable. L'organisation scientifique de la société exige des scientifiques à sa tête : on ne gère pas cette société ni une centrale nucléaire en assemblée générale, avec démocratie directe et rotation des tâches. Ceux qui savent, décident, quel que soit l'habillage de leur pouvoir.
Contrairement à ce que s'imaginait Tocqueville dans une page célèbre, sur le caractère "providentiel" du progrès scientifique et démocratique, entrelacé dans son esprit, le progrès scientifique est d'abord celui du pouvoir sur les sans pouvoirs.
Certes, une technicienne aux commandes d'un drone, peut exterminer un guerrier viriliste, à distance et sans risque. Mais cela ne signifie aucun progrès de l'égalité des conditions. Simplement un progrès de l'inégalité des armements et des classes sociales.
C'est cette avance scientifique qui a éliminé des peuples multiples là-bas, des classes multiples ici et prolongé l'emprise étatique dans tous les recoins du pays, de la société et des (in)dividus par l'emprise numérique.
Chaque progrès de la puissance technologique se paye d'un regrès de la condition humaine et de l'émancipation sociale. C'est désormais un truisme que les machines, les robots et l'automation éliminent l'homme de la production et de la reproduction. Les machines éliminent l'homme des rapports humains (sexuels, sociaux, familiaux) ; elles l'éliminent de lui-même. A quoi bon vivre ? Elles le font tellement mieux que lui.
Non seulement le mot de "Progrès" - connoté à tort positivement - s'est emparé du monopole idéologique de l'ère technologique, mais cette coalition de collabos de la machine, scientifiques transhumanistes, entrepreneurs high tech, penseurs queers et autres avatars de la French theory, s'est elle-même emparé du monopole du mot "Progrès" et des idées associées. Double monopole donc, et double escroquerie sémantique.
Ces progressistes au plan technologique sont des régressistes au plan social et humain. Ce qu'en langage commun on nomme des réactionnaires, des partisans de la pire régression sociale et humaine. Cette réaction politique - mais toujours à l'avant-garde technoscientifique - trouve son expression dans le futurisme italien (Marinetti) (1), dans le communisme russe (Trotsky notamment), dans le fascisme et le nazisme, tous mouvements d'ingénieurs des hommes et des âmes, visant le modelage de l'homme nouveau, de l'Ubermensch, du cyborg, de l'homme bionique, à partir de la pâte humaine, hybridée d'implants et d'interfaces.
Le fascisme, le nazisme et le communisme n'ont succombé que face au surcroît de puissance technoscientifique des USA (nucléaire, informatique, fusées, etc.). Mais l'essence du mouvement, la volonté de puissance technoscientifique, s'est réincarnée et amplifiée à travers de nouvelles enveloppes politiques.
Dès 1945, Norbert Wiener mettait au point la cybernétique, la " machine à gouverner " et " l'usine automatisée ", c'est-à-dire la fourmilière technologique avec ses rouages et ses connexions, ses insectes sociaux-mécaniques, ex-humains. Son disciple, Kevin Warwick, déclare aujourd'hui : " Il y aura des gens implantés, hybridés et ceux-ci domineront le monde. Les autres qui ne le seront pas, ne seront pas plus utiles que nos vaches actuelles gardées au pré. " (2)
Ceux qui ne le croient pas, ne croyaient pas Mein Kampf en 1933. C'est ce techno-totalitarisme, ce " fascisme " de notre temps que nous combattons, nous, luddites et animaux politiques, et nous vous appelons à l'aide.
Brisons la machine.

Auteur: PMO

Info:

[ décadence ]

intelligence artificielle

Cinq indices pour repérer les contenus écrits par ChatGPT, Bard ou d'autres robots conversationnels

Voici des astuces pour détecter ces textes qui ne sont pas écrits par des humaines.

1) Elles font des répétitions (mais pas de fautes)

Donc Si vous trouvez une coquille (faute de frappe, de grammaire, etc.) dans un texte, il s'agit d'un bon moyen de voir que l'article que vous lisez a été au minimum retouché par un être humain. En revanche, les articles rédigés par une IA sans supervision humaine sont souvent truffés de répétitions. L'écriture générative a en effet tendance à reproduire les mêmes termes et structures de phrases – même si c'est de moins en moins le cas. Les IA sont de plus en plus performantes et leurs utilisateurs savent également de mieux en mieux les utiliser pour contourner ces écueils.

Des logiciels ont même été développés afin de rendre encore plus humains les textes écrits par une IA. Le plus connu s'appelle Undetectable.ai et permet "d'humaniser" les textes artificiels en les confrontant aux principaux détecteurs d'IA qui existent. De fait, ces détecteurs deviennent de moins en moins fiables. "Open AI [l'entreprise créatrice de ChatGPT] a récemment abandonné son détecteur, car ça ne marche pas", fait remarquer Virginie Mathivet, spécialiste en la matière.

2 Elles sont capables d'affirmer des absurdités

Les IA sont très performantes pour les tâches très codifiées, comme l'orthographe, mais elles peuvent affirmer des absurdités sans sourciller. "Si vous demandez à une IA d'écrire une recette d'omelette aux œufs de vache, elle peut tout à fait le faire." Indique Amélie Cordier, ingénieure spécialiste des IA. 

Les sites qui utilisent des IA pour produire des articles à la chaîne, à partir de contenus trouvés sur internet, sont souvent confrontés à ce problème. Récemment, le site The Portal, qui traite de l'actualité du jeu vidéo, s'est fait épingler sur Twitter par le journaliste Grégory Rozières. Certains articles contiennent en effet de fausses informations grossières, car l'IA qui les rédige a repris au premier degré des blagues trouvées sur Reddit.

Lorsque vous lisez un article et qu'une information semble absurde, ou qu'un chiffre vous paraît démesuré, cela peut donc être la marque d'une rédaction non-humaine. Pour s'en assurer, le mieux est alors de vérifier l'information douteuse grâce à d'autres sources de confiance. "Cela revient à faire du fact-checking, c'est à l'humain d'avoir un regard critique", commente Virginie Mathivet.

3) Elles font preuve d'une productivité inhumaine

La rédaction par IA est encore loin d'être un gage de qualité, mais permet de produire un très grand nombre d'articles en un temps record. Prudence donc face aux sites qui publient quotidiennement une quantité faramineuse d'articles, sans pour autant employer de nombreuses personnes. "Si on voit qu'un blog publie 200 articles par jour sous le même nom, c'est un indice", explique Virginie Mathivet. Certains articles écrits par des robots sont signés par un nom, comme s'ils avaient été rédigés par une personne. Si cette signature semble trop prolifique, l'utilisation d'une IA est à suspecter fortement. Sur le site The Portal, déjà cité plus haut, un même "journaliste" a ainsi signé près de 7 000 articles en seulement neuf jours.

De plus, si les articles entre eux comportent de nombreuses similitudes dans leur forme et leur structure, il y a fort à parier que ceux-ci soient rédigés automatiquement. Les IA ont en effet tendance à produire des contenus très homogènes, surtout s'ils sont créés à partir de la même consigne utilisée en boucle. "L'IA imite, c'est la façon par laquelle elle fonctionne. Elle homogénéise un peu tout", fait remarquer Amélie Cordier.

4 Elles écrivent mal et citent rarement leurs source

Même si elles signent parfois d'un nom humain, les IA ne peuvent pas incarner leurs articles de la même manière qu'un journaliste en chair et en os. Si un journaliste n'a strictement aucune existence en ligne en dehors de sa page auteur, cela peut faire partie des indices qui laissent à penser à une rédaction par IA. Enfin, les articles publiés grâce à une IA ont souvent un ton très factuel, assez désincarné. Les IA citent très rarement leurs sources et ne font jamais intervenir de personne humaine sous forme de citation comme dans un article de presse.

Elles sont en revanche tout à fait capables d'en inventer si on leur demande de le faire. Dans un numéro paru en avril 2023, le magazine people allemand Die Aktuelle a poussé le vice jusqu'à publier une fausse interview exclusive de Michael Schumacher, générée par une AI, comme le raconte le site spécialisé Numerama. La famille de l'ancien champion de Formule 1 a porté plainte et la rédactrice en chef du magazine a finalement été limogée.

L'IA peut cependant être un outil intéressant, tant qu'elle reste sous supervision humaine. Le journaliste Jean Rognetta, créateur de la newsletter Qant, a quotidiennement recours à l'IA. Selon lui, il n'est "plus possible de reconnaître avec certitude un article écrit par une IA, si ce n'est que c'est souvent du mauvais journalisme". S'il utilise l'IA pour écrire sa newsletter, Jean Rognetta reste en effet convaincu de la nécessité d'effectuer une relecture et une correction humaine. "Notre newsletter est écrite avec, et non par une IA", martèle-t-il. Une approche qui pourrait bientôt se généraliser à d'autres journaux. Le 19 juillet dernier, le New York Times annonçait dans ses pages qu'un outil d'IA, destiné à automatiser certaines tâches effectuées par ses journalistes, était en cours de développement par Google.

5 Elles seront bientôt signalées par un filigrane

Face à la difficulté de plus en plus grande de détecter les contenus générés via une IA, l'Union européenne a adopté en juin dernier le "AI Act", avec l'objectif de réguler le secteur. A partir de l'application de la nouvelle réglementation, pas prévue avant 2026, les contenus générés par IA devront être signalés par un "watermark" (une signature en filigrane) indiquant clairement qu'ils n'ont pas été créés par un humain.

La forme de ce watermark n'est cependant pas encore entièrement définie. Il pourrait prendre la forme d'une phrase d'avertissement ou être dissimulé dans le texte, afin d'être moins facilement effaçable par les utilisateurs. Open AI a récemment annoncé travailler sur un watermark invisible. Comment ? Une récente étude (PDF) de l'université du Maryland propose par exemple que les IA soient programmées pour utiliser plus fréquemment une "liste spéciale" de mots définie à l'avance, permettant aux logiciels de détection d'être plus efficaces.

"Il y a de bonnes intentions au niveau de l'UE et des éditeurs, mais le problème reste la question de la mise en œuvre", estime Amélie Cordier. Si la régulation peut se mettre en place facilement pour les plus gros acteurs comme Open AI, Google, etc., elle sera impossible à imposer aux petites entités qui pullulent.

"Si l'utilisateur a le choix entre un logiciel avec 'watermark', ou un logiciel gratuit indétectable, la régulation risque d'être inefficace."

Une opinion que partage Virginie Mathivet, particulièrement en ce qui concerne les "fake news". "Une personne qui veut faire de la désinformation fera en sorte de ne pas avoir de watermark", conclut-elle.

Auteur: Internet

Info: https://www.francetvinfo.fr/, 2 sept 2023, Pauline Lecouvé

[ homme-machine ] [ machine-homme ]