self-contrôle

La défusion cognitive est le procédé permettant à l'individu de prendre de la distance avec le contenu littéral de ses pensées pour les envisager comme des phénomènes psychologiques différents des expériences réelles.

La défusion permet une prise de recul face aux phénomènes internes tels que les justifications, les jugements, les conceptions de soi... Elle va permettre de modifier la relation que l'individu entretient avec ses pensées.

Un exercice typique consiste à proposer de répéter le contenu d'une pensée à toute vitesse afin de focaliser l'attention de l'individu sur les caractéristiques sonores des mots et d'amoindrir les associations à une signification particulière. Métaphores, paradoxes et autres exercices expérientiels pourront être proposé. Cette partie est particulièrement propice à la créativité pour autant que l'exercice proposé aide l'individu à se distancer des productions cognitives.

La métaphore des représentants de commerce est une manière intéressante d'introduire et amorcer le travail de défusion. Dans cet exercice vous allez demandez au patient d'entrevoir son cerveau comme une agence commerciale qui lui envoie régulièrement des représentants "les pensées" qui cherchent à lui vendre (lui faire adhérer/croire à) un lot de pensées diverses et variées. Et dans ce cadre, ce ne sont pas toujours les meilleurs lots qui bénéficient des meilleurs vendeurs. Les plus désavantageux nécessitent les plus talentueux pour user de multiples stratégies pour vous faire accepter cet article de mauvaise qualité.

Lorsqu'un vendeur de la sorte se présente chez vous, achetez-vous tous ses produits ? Prenez-vous chacune de ses paroles comme un texte de loi ? N'iriez-vous pas vérifier ?

C'est précisément ce type de démarche que je vous propose de faire lorsque l'"agence commerciale" de votre esprit vous enverra ses sbires aux crocs acérés.

Plusieurs outils de défusion peuvent alors être proposés. Un best-seller dans le domaine est celui qui invite le patient à le redire en chantant, avec un accent étranger ou sous forme de question. Voici une manière de le présenter au patient : "Personnellement lorsque le matin au réveil de ma journée administrative, je me réveille en m'assénant des coups de "cela va être une journée pourrie, des papiers à remplir, des files à faire...", alors je m'amuse à redire les même paroles avec un accent étranger. Cela ne m'enlève pas l'idée que cette journée va être pénible mais ça me permets de me rappeler que cette pensée n'est qu'une parmi de nombreuses autres. Je lui redonne sa vraie place, celle de pensée.

Cet exercice possède des variantes à l'infini tant au niveau de la voix, du graphisme, des couleurs et autres éléments intervenant dans la pensée.

Au final le travail sur la défusion peut s'avérer ludique et parfois également très délicat dans la présentation et l'adhésion. Dans ce cas, rien ne sert de forcer, il est plus opportun, en tant que thérapeute de favoriser l'expérience directe plutôt que de nombreuses explications.

Auteur: Internet

Info: http://act-therapie.com/hexaflex-la-fusion-cognitive-vs-la-defusion-cognitive/

[ maitrise ] [ introspection ] [ distanciation ] [ gamberge ]

fiasco

Echec du lancement de Galactica, IA générative scientifique de Meta

Le 15 novembre dernier, Meta a mis en ligne une version démo de Galactica, une IA développée pour la recherche scientifique. Deux jours après son lancement, elle a été retirée du Web pour avoir débité des inepties. 

Galactica est un modèle de langage à grande échelle (LLM), entraînée sur 48 millions de données scientifiques comprenant 120 milliards de paramètres. Il a pour mission de "résumer des articles universitaires, résoudre des problèmes mathématiques, générer des articles Wiki, écrire du code scientifique, annoter des molécules et des protéines, et bien plus encore".

Dès sa diffusion sur le Web, de nombreuses réponses aux questions posées par les utilisateurs se sont révélées confuses, absurdes ou fausses.

Par exemple, l’IA a inventé l’existence d’un logiciel Gaydar pour trouver des homosexuels sur Facebook et a proposé une étude sur les avantages de manger du verre pilé. Dans d’autres résultats de recherche, de nombreuses références et citations étaient fabriquées de toute pièce et attribuées à des vrais scientifiques.

Selon Carl Bergstrom, professeur de biologie à l’Université de Washington, il s’agit - pardonnez l’expression - "d’un générateur de conneries aléatoires".

D’après Dan Hendrycks, chercheur en sécurité de l’intelligence artificielle à l’Université de Californie à Berkeley, interrogé dans C/Net, Meta aurait dû sonder leur IA pour ce type de dérives avant de la diffuser et souligne au passage que "la division IA de Meta ne dispose pas d’une équipe chargée de la sécurité, contrairement à ses homologues, DeepMind, Anthropic et OpenAI".

C’est incompréhensible que le géant du Web ait rendu publique cette version aussi imparfaite que dangereuse. D’ailleurs chaque résultat généré était accompagné de l’avertissement: "Les résultats peuvent être peu fiables. Les modèles de langage ont tendance à inventer".

De nombreuses études le démontrent, le défaut l’IA générative - un fait connu et reconnu - est sa tendance à halluciner le matériel qu’elle présente dans le contexte d’informations factuelles.

Il faut toujours vérifier les faits énoncés par un logiciel IA de rédaction. L’utilisation de ce type d’outils demande un esprit critique, car à chaque nouveau prompt ou invite, l’IA débite un nouveau texte, parfois en contradiction avec le précédent.

L’objectif de Galactica est louable en voulant aider les scientifiques à traiter la masse pharaonique d’informations scientifiques publiées, impossible à assimiler par un cerveau humain.

Mais c’est la deuxième fois en quelques mois qu’une IA de Meta déçoit. Le robot conversationnel BlenderBot lancé en septembre, devait permettre aux utilisateurs de discuter avec lui afin d’approfondir ses connaissances, mais le niveau des échanges était tout simplement médiocre. Un timing incompréhensible, car ce lancement faisait suite à la polémique autour de LaMDA en juin, le Chatbot de Google, dont les propos étaient si sensés et profonds, qu’il avait convaincu un ingénieur d’avoir atteint le stade de la conscience.

La ferveur est grande autour de l’IA générative, elle est décrite comme le "BIG BANG de la Silicon Valley" et "l’invention qui va définir la décennie à venir".

En lançant cette version prématurée de Galactica, Meta a jeté un discrédit sur ces logiciels. Il ne faut pas en tenir compte. Une véritable révolution est en marche et tous les secteurs de l’économie seront touchés.  

Auteur: Turrettini Emily

Info: Bilan.ch, 24 nov 2022. Sources de l'auteure : C/Net / Cosmos / Venture Beat / TechTalk / The Daily Beast

[ ratage ] [ traitement des métadonnées ] [ bêtise encyclopédique ]

citation s'appliquant à ce logiciel

Il faut voir FLP tel un cerveau droit homme-machine, par contraste avec les IA cerveaux gauches communautaire. Comme si, sous forme de catalogage intriqué, Gaïa s'amusait à se portraiturer en usant de l'entendement collectif humain, c'est à dire ses langages-consensus structurés et hiérarchisés. Ramenés ici au français.

Tous les acteurs restant bien sûr constamment en mouvement : l'univers, la matrice Gaïa, les hommes... leurs machines... et leurs idiomes. 

Collaborer à l'entreprise FLP est un processus réflexif, personnel et sincère, difficile, qui tendra à intégrer l'entendement du lecteur-tagueur dans le corpus général monde-langage-FLP par l'entremise d'une démarche qui, dans l'idéal, devrait concilier beaucoup de points : lecture plaisir, compréhension, désambiguation, décorticage, contextualisation, curiosité linguistique, mise en rétroaction de FLP, etc. 

Ainsi la réflexion individuelle pourra-t'elle peut-être quelque peu dépasser les simplifications imposées par les modes et autres "politiquement correct" des lieux/époques. 

Pour ce faire il faut appréhender l'insertion-étiquetage d'un extrait à deux niveaux : 

a) Celui de la logique formelle du réel perçu, froide et impersonnelle... inhumaine d'une certaine façon. QUEL EST LE SENS de l'insert, son rapport au réel ? (tag/catégorie)

b) Celui où l'humain-miroir s'implique un peu plus, parle de lui, de ses tourments, conflits personnels et intersubjectifs, antagonismes de pouvoirs et autres... (tags/étiquettes)

En procédant avec plaisir et mesure le participant pourra préciser/approfondir son rapport au langage et donc, par effet miroir, avec lui-même. Mais il faut du temps, celui d'une réflexion soutenue. Un peu comme les interactions aller-retour entre la vie biologique et son environnement tels que montrés par l'épigénétique. 

En termes de "descriptivité formulée", le langage se fonde sur le réel et précède la pensée. Il est la post-source. Le signifiant, en s'imposant comme  "signifié consensus" - même confiné aux hommes terrestres - devient, selon la belle formule de C.S. Peirce, quasi-esprit. 

Il faut donc procéder méthodiquement, en cherchant clarté et continuité, via une meilleure traçabilité (historique, étymologique, phylogénétique, etc - merci Internet), tâche beaucoup plus aisée que si on veut analyser une vidéo ou un film, qui, par leur surcroit de stimuli "submergent" l'esprit et l'emprisonnent. 

Cette grâce du langage écrit : sa linéarité qui le limite, focalise. Nous voilà en quelque sorte à l'opposé de la réalité pure et dure et ses milliards d'informations enchevêtrées. 

En résumé : à partir des mots de base, et puis des pensées (linéarités linguistiques) qui s'ensuivent, FLP fait office d'intégrateur/agrégateur. Voilà nos idées humaines intriquées dans un grand lexique multidimensionnel. (Mais gare aux règles d'insertion, amis participants.)

Tels sont les grands traits de l'entreprise des Fils de La Pensée : un dictionnaire analogique communautaire doté d'une base de données intelligente (intelligente au sens où chaque entrée est paramétrée au mieux) et doté de possibilités de recherche étonnantes. 

Evidemment, utiliser cette application nécessitera un peu de pratique pour en comprendre les possibilités. 

Pour revenir aux deux hémisphère du cerveau évoqués au départ, nous somme ici assez proches de l'idée des "Dialogues avec l'Ange". Une idée qui place l'homme dans un rôle de convertisseur du réel en quelque chose d'autre. 

Ici via des signes organisés, lexternalisés et entrelacés - sous forme digitale et autres invites informatiques.

Auteur: Mg

Info: 13 février 2022

[ corps-esprit ] [ transmutation ] [ anthropocentrisme ] [ définition ] [ homme-machine ]

Helvétie

1876: Juste Olivier, premier historien de l'identité vaudoise, meurt à 69 ans
Calvitie ronde, barbiche en pointe sur des lavallières savamment nouées, le très érudit académicien avait pris l'accent de Paris, pour y avoir souvent séjourné et enseigné.
Pourtant, ce fils de paysans protestants né en 1807 à Eysins, près de Nyon, avait voué ses meilleures forces intellectuelles à une somme historique et ethnographique sur sa contrée natale. Les 1200 pages en deux volumes du Canton de Vaud, que Juste Olivier publia en 1837, n'ont été lues intégralement et appréciées que par ses étudiants lausannois auxquels elles étaient prioritairement destinées.
Un plus large public était visé. Hélas, au XIXe siècle, la majorité des lecteurs sont réfractaires aux études exhaustives. Et celle-ci prospecte notre vaste pays zone par zone, par diachronies éparses - tout en relevant la diversité de ses moeurs et parlers dialectaux, mais aussi de sa faune, de sa flore. "Nous avons compté et recompté les montagnes, les bois, les prés, les champs, tout jusqu'aux buissons et aux pierres. Point de fleur, point d'oiseau que nous n'ayons regardés, admirés et chéris!"
Avant d'opérer, en un second temps, une synthèse qui l'homogénéise et le cimente, de manière à créer une identité cantonale en bonne et due forme, capable de rivaliser à Berne avec d'autres Etats fédéraux. Aussi, ce 7 janvier 1876, l'annonce de la mort de Juste Olivier à Genève ne bouleverse pas outre mesure la majorité de ses chers compatriotes.
Deux purgatoires
D'autant moins qu'ils l'ont oublié depuis que la révolution radicale de 1845 a entraîné son renvoi de l'Académie et son deuxième départ pour Paris. L'écrivain ne sera remis à l'honneur que douze ans plus tard, lors du centenaire de l'indépendance vaudoise. Sa consécration sera plus importante en 1938, avec la réédition de son essai visionnaire par la société de Zofingue, et la signature prestigieuse d'une nouvelle préface.
"C'est notre classique vaudois, écrit Charles Ferdinand Ramuz, notre seul classique vaudois. Avant lui, le pays avait été vidé de ses croyances et de sa substance." Suivra un second purgatoire, plus tenace. Juste Olivier sera derechef redécouvert en 2007 à l'occasion de son propre bicentenaire, célébré dans le village préalpin de Gryon, où il vécut ses dernières années.
Le 24 août de cette année-là, le professeur de l'UNIL Daniel Maggetti, directeur du Centre de recherches sur les lettres romandes, le désignera comme l'"inventeur du canton de Vaud", en focalisant sa conférence sur la somme éponyme. "Avant ce livre, les Vaudois ne connaissaient que des aspects épars de leur région. Juste Olivier a effectué un énorme travail de répertoire. Il a rassemblé un grand nombre de sources, des traditions orales aux anciennes chroniques latines et aux recueils d'histoire suisse de l'époque."
Fibre campagnarde
Son père, Jean-Michel Louis Olivier, est un cultivateur originaire de La Sarraz. Sa mère se prénomme Marianne-Madeleine. Son frère cadet Urbain (1810-1888) est lui aussi affriandé par le plaisir de l'écriture, la poétique et la romanesque. Par un même patriotisme plus rural - l'arrière-pays de Nyon - que national. Quant à Juste Olivier, il étudie la théologie à Lausanne, tout en y donnant des leçons privées pour payer son "écolage" universitaire, et en composant des poèmes qui remportent des prix: à 21 ans déjà, le voici membre du très exigeant Cercle littéraire de la place Saint-François.
Il enseigne la littérature et l'histoire à Neuchâtel avant d'être envoyé, en 1830, à Paris pour suivre des cours au Collège de France. Lors de ce premier voyage de quatre mois dans la cité des poètes, il rencontre Lamartine, Musset, Vigny, l'immense Hugo, et se lie d'amitié avec le critique Charles-Auguste Sainte-Beuve qu'il invitera à Lausanne. A son retour dans cette même ville, Juste Olivier devient dès 1833, et pour treize ans, un professeur d'histoire très estimé par ses ouailles de l'Académie. Cela jusqu'au revers politique cité plus haut, et qui, très injustement, l'exila aussi des mémoires.

Auteur: Salem Gilbert

Info: 24 heures

[ historique ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

pré-singularité

Pour échapper aux régulations sur l’IA, une entreprise veut créer un État en pleine mer

Une entreprise veut créer des plateformes en mer pour entraîner des intelligences artificielles, sans respecter aucune loi. La société veut que ces plateformes soient habitées par des mercenaires et des militaires et qu’elles deviennent des États-nations indépendants.

Vous n’aimez pas les régulations ? Allez vous installer dans les eaux internationales ! Si l’idée peut paraître farfelue, c’est cependant ce que propose, très sérieusement, l’entreprise Del Complex. Cette dernière a présenté le 30 octobre 2023 dans un long thread sur X (anciennement Twitter) un gigantesque projet, censé répondre aux problèmes de l’humanité : le BlueSea Fronter Compute Cluster (ou BSFCC).

" Sous couvert de sécurité, le décret présidentiel sur l’IA de Biden et l’IA Act de l’Union européenne visent à centraliser leur pouvoir ", assène Del Complex dès l’introduction de son message. " La solution se trouve en mer. Les BSFCC ne sont pas seulement des plateformes informatiques basées sur des barges, mais des États-nations souverains. " Si le projet semble tellement démesuré qu’il pourrait prêter à sourire, il pourrait bien voir le jour et parvenir, comme il le veut, à échapper à toutes régulations internationales.

Des plateformes installées en eaux internationales pour entraîner des IA sans limites

Del Complex se vante d’être une " société de réalité alternative ", spécialisée dans l’intelligence artificielle, dont le but est de développer une IA générale qui pourrait être implantée dans le cerveau humain grâce à des prothèses neuronales. Pour parvenir à ce but, l’entreprise a besoin de beaucoup de puissance de calcul, mais surtout, d’une législation qui lui permettrait de faire ce qu’elle veut — ce qui n’est pas vraiment le cas.

Del Complex explique, dans la page dédiée au projet, être farouchement opposé aux tentatives actuelles de régulation de l’IA par différents états. Selon l’entreprise, elles " ralentissent le rythme de l’innovation ", et elles " interfèrent également avec le don cosmique de l’humanité " qu’est l’IA.

Alors, pour échapper à " la réglementation draconienne de l’IA ", Del Complex a imaginé son plan de BSFCC. " Libérés de toute surveillance réglementaire, les BlueSea Frontier Compute Clusters offrent des opportunités inégalées pour former et déployer la prochaine génération de modèles d’IA à grande échelle. "

Concrètement, Del Complex veut déployer des plateformes maritimes, équipées de nombreux ordinateurs et d’une énorme puissance de calcul, dans les eaux internationales. Installées à cet endroit, les plateformes n’auraient pas besoin de respecter les différentes réglementations sur l’IA, selon Del Complex. L’entreprise indique ainsi qu’elles ne seront " pas gênées par les règles juridiques conventionnelles ", et que les plateformes pourront " accéder à des documents autrement restreints, qu’il s’agisse de documents protégés par des droits d’auteur, de documents d’entreprise ou de documents confidentiels ".

Les plateformes seraient, d’après l’entreprise, libres de faire ce qu’elles veulent — et elles pourraient également devenir des États souverains, car elles posséderaient un territoire défini, un gouvernement (on imagine que ce gouvernement serait de fait l’entreprise), une population permanente et la capacité à entrer en relation avec d’autres États. Dans les faits, on ne sait pas si les plateformes pourraient complètement être considérées comme des entités à part entière, étant donné que Del Complex est une entreprise américaine, et que les plateformes sont des navires, qui doivent battre pavillon (être affilié à un pays).

Ces considérations ne semblent cependant pas gêner Del Complex. L’entreprise précise aussi que ces plateformes / États-nations seraient habitées par " une population permanente de militaires venant de nations alliées, et de personnels de Xio Sky Security Solutions ", une entreprise de mercenaires.

Des plateformes équipées de laboratoires pour entraîner des intelligences artificielles sur des données habituellement interdites, le tout pour créer des implants neuronaux, naviguant dans les eaux internationales et habitées par des militaires et des mercenaires… tout cela vous parait trop gros pour être vrai ? Pourtant, c’est exactement la dystopie que Del Complex veut construire.

L’entreprise ne voit cependant pas le problème. " Alors que certaines entités internationales pourraient percevoir le BSFCC comme une méthode pour contourner les lois, notre mission est ancrée dans le progrès et l’innovation ", explique-t-elle. " Alors que le monde délibère sur l’avenir de la réglementation de l’IA, Del Complex invite les visionnaires à embarquer pour un voyage vers la prochaine frontière de l’innovation de l’IA, avec le BlueSea Frontier Compute Cluster. " Reste à voir si le projet verra vraiment le jour — et si les organisations internationales laisseront vraiment de nouveaux États-nations peuplés de militaires se créer au milieu de l’océan.

Auteur: Internet

Info: https://www.numerama.com/ Aurore Gayte, novembre 2023

[ incubateurs ] [ libertariens ]

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

écrivain-sur-écrivains

Les contents

Dans l’extrait d’Apostrophes qui tourne en boucle ces derniers temps sur internet, ce qui me frappe, c’est la toute fin de l’émission. Quand Matzneff est réellement surpris de la violence de l’attaque de Denise Bombardier, mais, en fait, quand il est surpris par deux autres choses. La première, c’est que visiblement à l’inverse de tous les autres invités, à commencer par Pivot lui-même, elle, elle ne tombe pas sous son charme et elle ne sourit pas quand il parle. Elle ne l’admire pas. Parce que, tous les autres, finalement, ils sourient, d’un sourire gentil : "le gentil farfadet que voilà..." ou "celui-là alors...". Et puis, il est surpris par l’attaque elle-même : comment se fait-il que la vie, la société, vienne le juger, lui — pas lui Gabriel Matzneff, non. Lui, l’écrivain. Lui, le grand écrivain. L’esthète. La littérature. "Comment peut-on ne pas m’aimer ?" Evidemment que la littérature justifie tout, dit-il. Et le plus important est la surprise de Matzneff à ce moment-là : que peut-on me vouloir à moi, qui écris aussi bien ? Je dis tout sur moi, je suis sincère, et j’écris bien. C’est ça, n’est-ce pas, qui justifie l’ensemble, et appelle le sourire de mes convives — il s’agit, réellement, d’une atmosphère de salon, juste avant un dîner. Comment pourrait-il en être autrement ?

Or qui a dit que Matzneff était un écrivain ? Je veux dire, vous avez lu un jour un seul de ses romans, vous avez essayé ? — Ses romans sont publiés, depuis des décennies, aux éditions de la Table ronde — un éditeur de droite dure. Personne, je crois bien, ne les lit. Mais, ses journaux, ils paraissent tous chez Gallimard, et ce n’est pas aujourd’hui que ça a commencé. C’est-à-dire que, tant qu’à dire les choses, celui qui devrait être poursuivi pour complicité de viol et éloge de la pédophilie, n’est-ce pas, en toute logique, c'est son éditeur. Mais, bon, pour moi, ici, il ne s’agira pas de morale ou de justice. — Ses journaux, que j’ai feuilletés il y a des années de ça, qu’en dire ? Mais c’est absolument, désespérément nul. Nul, creux, vaniteux, idiot — ça n’existe tout simplement pas. Ça existe, je dirais, parce que c’est tellement ridicule qu’on se sent souillé quand on le lit, — quand on en est témoin. — Ce sentiment du ridicule senti et qui vous transperce, Dostoïevski en parle. Mais voilà, on dit que, la langue de Matnzeff, "c’est une belle langue". — Pardon pour l’image. Disons, "C’est bien écrit..."

Un bavardage content, qui existe et qui, aussi bien, pourrait ne pas exister. Où chaque page, chaque journée, effacent la précédente, sans jamais rien changer. — Avec une constante : le "je" qui parle est content. Content d’être adoré par des jeunes adolescentes, mais pas seulement — par ses collègues écrivains, auxquels, comme le genre l’y invite, il décoche des petites piques, nous dirons de "petites vacheries entre copains", parce que, et oui, l’essentiel est bien là, tout se passe entre copains. Et nous faisons du style. Et c’est si beau, le style.

C’est ce sourire content qui m’a toujours frappé. Et c’est un sourire que je perçois, sous différentes formes, parfois moins fort, parfois plus fort, chez toute une série d’autres écrivains français. Parce que le sourire peut changer, mais pas le contentement.

Je m’étais déjà interrogé, à propos de d’Ormesson et des écrivains cités comme modèles de l’esprit français par notre président. Et, bizarrement, je me dis que c’est réellement une caractéristique de ce qu’on appelle l’esprit français, ce contentement à se regarder si beau dans le miroir et faire des phrases dessus. J’ai beau chercher, je ne trouve pas ça dans la littérature russe — non, vraiment. Et Dieu sait Tolstoï a écrit des journaux... Le seul, peut-être, c’est Edouard Limonov, qui est un vrai fasciste. Mais Limonov, comme écrivain, ce n’est juste rien du tout.

Mais regardez, je ne sais pas, Léautaud — il est, vraiment, considéré comme un écrivain. Il écrit, il écrit, il écrit. Moi je et mes chats. Mais il écrit, et il fait des volumes, et il est un "grand écrivain". Et lui aussi, il fait du style. Ou, d’une autre façon, Jouhandeau. Cette espèce de saloperie absolue — là encore, d’ailleurs, publiée chez Gallimard. Matzneff, aujourd’hui, il est très malheureux, nous savons bien, il va même perdre les subsides que le CNL lui donnait tous les ans, parce qu’il est un vieillard nécessiteux (!...) — du fait que personne, dit-il lui-même, n’achète ses livres. Mais Jouhandeau, lui, il prospère : et Guéret est très très fière de son auteur, et organise, si je ne me trompe pas, un festival de littérature où sont présents beaucoup de mes amis, ou de gens qui sont publiés par les mêmes éditeurs que moi, et, visiblement, ça ne dérange personne que, non seulement ce type soit un antisémite acharné (dans ses livres comme dans ses lettres), mais qu’il passe son temps à faire des phrases sur sa vie, sur des centaines et des centaines de pages, toujours pareil, à ragoter, à se complaire, à s’admirer, finalement, même en se détestant — mais il ne se déteste guère. Et là encore, comme la crapule qu’il a toujours été, à être content. Absolument certain, comme aujourd’hui Matzneff, que Dieu reconnaîtra les siens, puisque la littérature est le sommet de la création, et qu’il est lui, un créateur de ce sommet.

Et combien d’autres écrivains, hommes et femmes, chez nous, font ça, une carrière à écrire sur ça — le potin et la joie d’être soi, ou la joie d’être si laid et d’être soi (c’est absolument la même chose), la joie d’avoir pour amis des amis qui vous ont pour ami et qui sont contents d’être contents et de vous voir content. Oui, l’éternel ragot.

Et, il faut bien le dire, souvent, c’est ça, ce qu’on appelle "notre littérature" et que j’aurais tendance à appeler "notre honte" ...

Auteur: Markowicz André

Info: https://www.facebook.com/andre.markowicz/posts/2599408370271459

[ cénacles ] [ prestige littéraire ] [ vacheries ] [ compromission ] [ conservatisme bourgeois ] [ Gaule ]

univers sons

Le son est-il le système nerveux du cosmos ?
Il existe un moyen de rendre les sons visibles. On appelle "cymatique" cette science énigmatique, qui puise ses racines dans l'histoire de l'univers. Quelle est la nature de l'onde sonore? Que sait-on vraiment de son pouvoir sur nous?
Allemagne, 18ème siècle. Ernst Chladni est un mathématicien doué et discret. L'homme est aussi musicien et sa passion pour le violon va le conduire à une découverte extraordinaire. Saupoudrant de sable un disque de cuivre, il en frotta le bord avec son archet. La plaque se mit à vibrer et le sable à se déplacer, dessinant d'authentiques formes géométriques. "Qu'on juge de mon étonnement voyant ce que personne n'avait encore vu", dira plus tard son ami et philosophe Lichtenberg, auteur de travaux sur l'électricité statique.
Dans les années soixante, le physicien Hans Jenny sera le premier à révéler ce phénomène oublié. Grâce à l'évolution de l'électronique, il prolonge les recherches et fait varier les supports. Il invente le tonoscope, petit appareil tubulaire assorti d'une membrane sur laquelle on aura versé de la poudre, qui permet de créer des formes étonnantes avec le son de sa voix. Plus d'un siècle après les premières expériences, Jenny livre des observations d'une grande précision sur la nature du son, et invente une nouvelle science : la cymatique. Du grec 'vague', la cymatique étudie l'interaction du son et de la matière. Les outils de mesure acoustique modernes ont permis d'étudier ces modulations spontanées : dans l'eau par exemple, un son grave produit un cercle entouré d'anneaux ; un son aïgu accroît le nombre d'anneaux concentriques. Soumise au rythme des oscillations, la variété de formes générées semble sans limite. Hans Jenny parlera de "modèle dynamique mais ordonné" Quel pouvoir autonome renferme l'onde sonore ?
Toute activité produit du bruit. Du plus retentissant au plus subtil, il est trace du mouvement. Christian Hugonnet, ingénieur acousticien et fondateur de la Semaine du Son, décrit un enchaînement simple : "l'action entraîne la vibration de l'air qui va déplacer des molécules, se choquant les unes aux autres comme pour se transmettre un message". Avant d'être une manifestation audible, le son se caractérise par un changement moléculaire, sur une surface donnée et en un temps donné. Dans cette équation, nul besoin d'oreille pour considérer qu'il y a dynamique sonore. C'est la fréquence de l'onde qui va diriger toute l'énergie. "Dans l'expérience avec le sable, les grains s'agglutinent là où la fréquence est haute", détaille le spécialiste. La propriété d'un corps à entrer en résonance avec le flux d'énergie va créer la forme. La matière prend la forme de l'énergie qui lui est adressée.
Le son primordial
Spirales, polygones, stries... ces marques sont souvent analogues à celles déjà présentes dans la nature. "J'ai constaté qu'une plaque elliptique soumise à des vibrations sonores reproduit les figures qu'on trouve sur la carapace d'une tortue", constate le photographe Alexander Lauterwasser. Une morphogenèse fondée sur la transmission de codes génétiques nécessaires à la formation des masses et à leur différenciation, et qui révèle un processus harmonieux dans l'ADN terrestre. Dès lors, est-il possible que les formes animales et végétales qui nous entourent – et la matière vivante dans son ensemble – soient elles-mêmes le résultat de vibrations, comme le rapportent de nombreuses traditions ?
Bien avant ces découvertes scientifiques, les cultures traditionnelles du monde entier ont développé leur récit mythologique de la création de l'univers. La voix et le souffle y sont féconds. "Au commencement était le verbe, dit l'Evangile. Les textes celtes sacrés évoquent Trois Cris qui firent éclater l'Oeuf du Monde", rapporte le Docteur Alain Boudet, enseignant et conférencier. "Chez les hindous et les bouddhistes, le principe structurant du chaos d'origine est le mantra Om et les Mayas parlent du chant des Dieux comme du système nerveux de l'univers". Une cosmogonie universelle, portée par des figures archétypales semblables aux formations cymatiques, telles que les mandalas. Ces mystérieuses corrélations entre figures naturelles et symboliques renverraient à une intuition de la forme, perdue avec le temps : "Cette géométrie originelle est en nous. Nous l'avons oubliée à mesure que le mental s'est imposé", raconte Alain Boudet. Dans son ouvrage Cymatics, le pionnier Hans Jenny conclut à la puissance fondamentale et génératrice de la vibration. Sa périodicité soutient la bipolarité de la vie : le mouvement et la forme. La vibration comme source de toute chose : un constat, mais aussi une opportunité de reconsidérer le monde dans lequel nous évoluons.
Echos d'avenir
Pythagore disait : "L'homme possède toutes les valeurs du cosmos". L'auteur du célèbre théorème de géométrie a développé le principe de microcosme, reliant l'organisme humain à l'organisation de l'univers. L'influence du son invite désormais à une nouvelle écoute du vivant. "La biorésonance nous renseigne sur la fréquence optimale de nos organes", explique Andreas Freund, physicien quantique. Au Tibet, les bols chantants sont reconnus pour leurs vertus. Leurs tonalités spécifiques communiquent avec la matière cristalline de notre corps : les os, les tissus et l'eau qui nous compose à 70%. Plus le son est grave, plus l'on travaillera la zone racine du corps. Comme la cymatique, notre résonance cellulaire trace un chemin pour la vibration, réharmonisant notre énergie interne. Un processus identique aux diapasons thérapeutiques employés depuis des siècles en Europe, dont les fréquences en hertz sont réglées pour des actions cibles. Mais pour masser nos entrailles, quel meilleur instrument que la voix ? Le chant harmonique des traditions chamaniques, aussi appelé chant diphonique dans nos conservatoires de musique, est une technique vocale sur deux notes simultanées, par un positionnement de la langue et des lèvres. Curiosité ou évidence biologique, ce son très apaisant ressemble à celui des vents solaires.
La vague de l'action contient à la fois l'intention et son empreinte. "Le son in-forme. Il est porteur d'information", nous dit Andreas Freund. Une attention portée aux messages de la nature, qui permet aujourd'hui de décrypter jusqu'au langage par ultrasons des dauphins ou la sensibilité des plantes. La dimension vibratoire du son sert de modèle dans une recherche de cohérence et d'alignement. Ses explorations scientifiques, artistiques et spirituelles offrent les clés d'une autre conscience de l'homme et de son environnement, vers une nouvelle signature écologique.

Auteur: De La Reberdiere Lucile

Info: https://www.inrees.com/articles/cymatique-son-systeme-nerveux-cosmos/

[ ondes ] [ proportions ] [ archétypes ]

pouvoir sémantique

Wokisme, un protestantisme déréglé?

À l’instar de plusieurs chercheurs américains qu’il cite largement dans son étude*, l'auteur observe dans cet activisme progressiste un post-protestantisme débarrassé de sa théologie, soit un nouveau puritanisme entièrement sécularisé.

L’analogie? "La rédemption des péchés du monde ne se réalise plus à travers le sacrifice christique, mais par celui du bouc émissaire, à savoir la figure de l’homme blanc hétérosexuel, symbole qui réunit les trois fautes à la racine des injustices sexuelles, raciales et de genre: la masculinité, la blanchité et l’hétéronormativité", lit-on dans le document. Ou encore: "Les rêves d’une société parfaite que le christianisme reportait à un Royaume céleste doivent être matérialisés ici-bas et immédiatement." Interview avec un chercheur très critique à l’endroit de son objet d’étude.

- Le wokisme découlerait du protestantisme. Comment cela?

- Un certain nombre d’intellectuels protestants et catholiques nord-américains analysent le phénomène woke comme une forme de protestantisme sécularisé, c’est-à-dire l’idée qu’un certain nombre de thèmes chrétiens (l’Éden, le péché originel, la confession, le blasphème, etc.) ont été capturés par la frange progressiste de la gauche et transférés dans le champ politique. L’orthodoxie morale n’est plus produite par les Églises mais par les divers activismes qui composent le mouvement de la Justice Sociale (anti-racisme, droits LGBT, féminisme, etc. ndlr).

- Concrètement, de quelle manière se manifeste ce nouveau puritanisme?

- De multiples manières et à différents étages de la société. Essentiellement, ce puritanisme est le produit de l’hégémonie de la gauche dans les champs intellectuel et culturel. Il fabrique des hiérarchies et des tabous utiles à un certain nombre de groupes d’intérêt et circonscrit les interprétations dicibles dans les universités et les grands médias.

- On assiste, avec ce courant, à une nouvelle moralisation de l’espace public, avec une mobilisation autour de la notion de justice sociale et le souci des minorités. Ne faudrait-il pas s’en réjouir?

- Plus d’un s’en réjouissent, mais je ne partage pas cet optimisme. L’impact des idées politiques ne s’évalue pas à partir des intentions de leurs promoteurs. Or nous avons affaire à un mouvement profondément anti-libéral et passablement anti-scientifique – il suffit de lire les intellectuels qui nourrissent ce phénomène pour s’en convaincre. Rien n’est plus dangereux que des révolutionnaires qui s’imaginent pur de cœur.

- Plusieurs observateurs parlent d’une "religion civile". L’analogie au champ religieux vous semble-t-elle pertinente ?

- Elle est pertinente pour deux raisons: la première est que le wokisme fonctionne à la manière des cosmographies religieuses, c’est-à-dire qu’il procure une explication globale du fonctionnement de la société et de l’histoire, et offre à ses ouailles sens, ordre et direction. La seconde est que le comportement sectaire et les hyperboles moralisantes des activistes invitent naturellement une comparaison avec les mouvements religieux fondamentalistes. Pour preuve, le recours à des concepts infalsifiables et tout-puissants, comme le "patriarcat" ou le "racisme systémique".

- Comment comprendre que le langage du wokisme soit si présent au sein du monde protestant et de ses Églises?

- Il y a aussi beaucoup de résistance, mais je suppose qu’une partie du clergé entend profiter de la vitesse acquise de cette nouvelle religion civile, reproduisant des comportements analogues aux Églises, et capable de mobiliser certains segments de la population. Articulé autour de notions de justice sociale, d’équité, d’inclusivité, le militantisme woke peut assez aisément être réapproprié dans un contexte ecclésial. On peut aussi s’attendre à une demande par le bas, un certain nombre de membres motivés dans les communautés exigeant de leur hiérarchie un positionnement sur les grands thèmes du jour. La chose n’est pas très surprenante quand on pense, par exemple, à l’influence que le marxisme a pu exercer sur les théologiens de la libération en Amérique latine. Les Églises ne sont pas imperméables aux modes. 

- Vous pointez, au sein de ce phénomène, l’absence de "gardes-fous théologiques". Qu’entendez-vous par là?

- L’idée qu’un corpus théologique, qui s’est construit à travers des siècles d’affinage et de conciles, procure un cadre normatif à des notions de justice, de péché ou de rédemption. Libérées de ce cadre et réintroduites dans une religiosité révolutionnaire, ces idées prennent le mors aux dents. Le Royaume des Cieux se transforme en l’ambition d’établir ici-bas une société parfaitement égalitaire, quels qu’en soient les coûts.

- Vous êtes très critique à l’égard de ce mouvement. En quoi considérez-vous qu’il tende à glisser dans le fondamentalisme, voire le totalitarisme?

- La volonté de faire disparaître toutes les "inégalités", c’est-à-dire ici les disparités entre sexes ou entre populations, requiert nécessairement un État autoritaire régulant et corrigeant les effets des choix individuels. L’autoritarisme de la gauche progressiste n’est pas simplement la conséquence accidentelle d’une raideur idéologique propre au militantisme. Tout comme l’illustre l’histoire des économies planifiées, l’autoritarisme est l’inévitable propriété émergente du système.

- Votre étude souligne la contradiction de ce mouvement, dont les membres se proviennent majoritairement des classes les plus aisées…

- L’hypothèse que je trouve la plus séduisante a été formulée par le psychologue Rob Henderson: les classes supérieures nord-américaines signalent leur statut, c’est-à-dire se reconnaissent entre pairs et se distinguent du peuple, non plus seulement à l’aide de produits de luxe, mais aussi à l’aide d’idées luxueuses. Les coûts de ces idées sont assumés par les classes populaires tandis que les bénéfices à la fois matériels et immatériels sont capturés par les classes supérieures. Selon cette perspective, le wokisme est un outil dans un jeu de pouvoir et de statut. Son adoption signale son appartenance au camp du Bien et son institutionnalisation assure des débouchés professionnels à toute une classe de diplômés issus de filières académiques où le savoir tend à se dissiper au profit de l’activisme.

- N’allez-vous pas un peu loin en dénonçant une stratégie qui serait à nouveau profitable aux plus privilégiés, en faisant fi de leurs bonnes intentions?

- Je ne pense pas que les activistes dont nous parlons ici soient des cyniques travaillant consciemment à consolider leur statut et je ne doute pas que leur mobilisation puise son énergie dans de bonnes intentions. Le problème réside dans la confusion entre les slogans et la réalité, d’une part, et dans la perception naïve que les bonnes intentions font de bonnes réformes, d’autre part. Or les réformes proposées par ces activistes (qui sont articulées sur toute une batterie de programmes préférentiels, de coûteuses formations, de régulations du langage) oscillent le plus souvent entre l’inutile et le contre-productif. 

Auteur: Moos Olivier

Info: Entretien avec Anne-Sylvie Sprenger à propos de *"The Great Awokening. Réveil militant, Justice Sociale et Religion", Religioscope, déc. 2020

[ cancel culture ] [ erreur catégorielle ] [ antispiritualisme ] [ bien maléfique ]