métalinguistique

Parlant de "l'erreur de Frege" Hintikka explique : La véritable source du pouvoir expressif de la logique du premier ordre ne réside pas dans la notion de quantificateur en soi, mais dans l'idée de quantificateur dépendant.

Car la logique du premier ordre n'a que deux quantificateurs :

-  universel, qui signifie "tous" ou "pour tout".

-  existentiel, qui signifie "il existe" ou "il existe au moins un".

Un quantificateur dépendant est lui lié à une autre variable. Par exemple, la proposition "Pour tout nombre x, il existe un nombre y tel que x < y" utilise un quantificateur dépendant. La variable x est liée à la variable y par la relation "x < y".

Ce quantificateur dépendant permet donc d'exprimer des propositions plus complexes que celles qui peuvent être exprimées avec les 2 quantificateurs du 1er ordre.

Par exemple, la proposition "Pour tout nombre x, il existe un nombre y tel que x < y"  (Pour tout nombre, il existe un autre nombre qui est plus grand que lui) poura être utilisée pour exprimer le concept de suite ordonnée.

Les quantificateurs dépendants sont donc essentiels à la puissance expressive d'une logique du premier ordre, beaucoup plus limitée dans ses capacités.

- Autre exemple : "Pour toute fonction f, il existe une constante c telle que f(c) = 0".

Qui veut dire que le 0 symbolise une "variable à possibilité infinie" qui offre un point d'entrée sur réel (la dimension de départ). Donc la quantification de ce 0 permettra de calculer une dimension. En physique pour calculer la longueur d'onde d'une onde électromagnétique. En chimie pour calculer la distance entre deux atomes. En biologie pour calculer la taille d'une cellule. Etc. 

Ainsi, en linguistique, ce 0, "variable à possibilité infinie" ou " symbole universel" peut être remplacé par un simple mot (pensons ici à un terme-univers à la Borges en littérature)...   Mot qui de fait, et grâce à l'imaginaire humain, pourra ouvrir beaucoup plus loin.

Pour qui voudra s'amuser avec ceci sur FLP pourra s'y essayer avec des termes comme "amour", ou "mort"...  ça marche avec à peu près tous les termes.

Autre exemple : La formule "Pour tout ensemble A, il existe un ensemble B tel que A ⊆ B".  Peut être vue comme un outil de contextualisation, voire de méta-contextualisation. Par exemple : un mot à besoin d'un texte pour prendre son sens. Ou, plus globalement :  l'ensemble A, le langage, a besoin d'un ensemble plus B grand : la réalité.

Il est possible que FLP, en tentant de briser la séquencialité (linéarité) du langage, et en proposant l'adoption d'une logique tétravalente, permette d'ouvrir de nouvelles pistes,  susceptibles de briser quelques barrières, de dépasser certaines limitations... et d'aller vers une intrication peut-être nécessaire pour celà. 

Auteur: Mg

Info: Avec l'aide de certains textes et de Bard

[ poésie ] [ philosophie ] [ prospective ] [ métalangage ] [ règle de trois ] [ proportionnalité ]

cognition

Les couleurs et les sons

Leonard Bernstein a affirmé : " Un compositeur de symphonie a devant lui toutes les notes de l'arc en ciel". Plus qu’une transdisciplinarité, l’association de la musique et de la couleur est un énomène qui a toujours existé. Les expériences multisensorielles dans l’art sont nombreuses. Voyons ici comment mettre à profit ce lien son/couleur dans l’apprentissage des enfants, notamment en ce qui concerne la lecture et l’écriture.

Chromesthésie

Derrière ce nom compliqué, se cache la capacité à percevoir différemment le son et à le ressentir "visuellement". Cette particularité ne concerne que peu de personnes et fait référence de manière plus large à l’expérience singulière de la synesthésie, terme signifiant en grec ensemble et sens. Autrement dit, certains individus goûtent une couleur, voient un son ou bien sentent un mot. 

Entre autres synesthètes célèbres, l’on trouve Vincent Van Gogh, Duke Ellington, Jean Sibelius ou encore Wagner avec son œuvre d’art totale le Gesamtkunstwerk. Goethe quant à lui a déclaré que "la couleur et le son ont la même source […] mais coulent dans des conditions différentes". Ainsi, textures, formes et couleurs apparaissent dans le champ de perception du synesthète lors de la stimulation par la musique ou les notes. En 1842 Franz Liszt aurait à ce sujet interloqué les musiciens de l’orchestre de Weimar lors d’une répétition en leur demandant de jouer "un peu plus bleu […] et "moins rose".

Faciliter l'apprentissage par les sons et les couleurs

Ce phénomène neurologique étrange et individuel nous emmène au potentiel pédagogique contenu dans l’association des sons et des couleurs. Comment faciliter les apprentissages des enfants si ce n’est par l’aspect multisensoriel et ludique des vibrations et de la couleur ? Lorsque par exemple à travers la lecture les enfants ne reconnaissent pas toutes les voyelles dans un texte, les couleurs auxquelles ils sont très réceptifs les aident. En effet, plus ils rencontrent les graphies d’un son coloré, plus ils s’en imprègnent facilement.  D’autre part, ils parviennent à déchiffrer les sons non appris grâce aux couleurs. Les enfants allophones apprennent de plus les couleurs comme premiers mots. 

Le principe pédagogique pour s’approprier la correspondance entre les graphèmes et la couleur est le suivant : le son est inclus dans le nom de la couleur : jAUne, rOUge nOIr, marrON etc. Créer un arc-en-ciel de sons complexes représente un outil efficace pour les plus petits ou les enfants en difficulté car il repose sur un moyen mnémotechnique simple. Ce dernier contribue à faciliter le décodage et l’encodage des associations graphèmes phonèmes. Le son audible par l’oreille associé à une couleur perceptible par l’œil ancre mentalement la phonétique.

Il est aussi possible de trouver une correspondance entre timbres des instruments de musique et couleurs ; ainsi les enfants peuvent manipuler et moduler les sons et jouer à reconnaître les couleurs de leur choix.  Lorsque les sens sont associés et que les gestes se joignent à la parole et à l’écoute des sons, cela concourt à l’apprentissage tant de la lecture que de l’écriture. Composer et lire des syllabes en couleurs constitue un véritable tremplin sensoriel pour développer les capacités de l’enfant.

Auteur: Alcais Claire

Info: https://icm-association.fr/le-blog/collectivites-locales/les-couleurs-et-les-sons. 19 avril 2022

[ éducation ] [ pédagogie ] [ ondes ] [ double perception ] [ septénaires ]

citation s'appliquant à ce logiciel

FLP est grand jeu francophone qui, par la magie de l'informatique, propose et permet de réfléchir, seul ou ensemble, sur le sens des mots et des phrases. 

Chaque terme isolé peut déjà aller assez loin  en lui-même dans la précision (pour l'anecdote le dernier en date est "hybristophilie", qui définit l’attirance d’une femme par un homme reconnu coupable de crimes atroces). Pour les phrases, évidemment, les possibilités se démultiplient.

Pensons au gamin qui s'ennuie et feuillète distraitement le dictionnaire... pour s'arrêter à la page des avions parce qu'il y a des images et des lance-missiles... ou qui s'attarde sur un mot à la consonnance curieuse et exotique, nouveau, surprenant, etc.  Pensons en parallèle à une personne qui consulte un dico afin de comprendre, ou préciser le sens d'un mot...

Sur FLP on feuillette différement, d'ailleurs on ne feuillette pas, on clique. On peut déjà partir d'un mot unique (qu'on renforcera d'un synonyme proche pour vraiment "centrer" la recherche) afin de voir comment les esprits humains ont rayonnés à partir du terme-concept choisi.  

Mais FLP est plus pensé dans l'autre sens : celui d'une quête par combinaison de mots ou bouts de mots (chaine de caractères donc). Ainsi les possibilités de recherche avec plusieurs termes, ou débuts de termes (radicaux qui permettent d'élargir l'exploration), amènent vers un nouveau "feuilletage" sémantique, qui va vers la complexité, voire l'égarement, vu que la curiosité du lecteur investigateur se voit immédiatement proposer d'innombrables pistes... 

Parlons maintenant du FLPiste initié, conscient et organisé, qui emploie et participe au concept, c'est à dire que s'il tombe sur quelque chose "qui résonne en lui" au cours d'une lecture il pense à FLP. Dans ces termes : "ce bout de texte est-il déjà dans la base de données ?" Et, si ce n'est pas le cas : "ah, je vais pouvoir l'insérer et bien réfléchir à l'étiquetage".

Une fois l'extrait choisi viennent les réflexions qui confrontent sa subjectivité propre avec la supposée objectivité du langage consensus, au-delà d'une réflexivité personnelle Très Importante et à conserver toujours. Elles pourront se développer et se mélanger sur trois axes, dans cet ordre. 1) Recherches web pour vérifications sémantiques et autres précisions des sources et des auteurs 2) Investigations diverses pour trouver des tags adéquats, via les sites de synonymes par exemple. Avec aussi l'usage de FLP en rétroaction, avec son nuage de corrélats qui ouvrira parfois de nouveaux horizons. 3) Discussion entre flpistes, en général via les commentaires pour expliquer, justifier, se mettre d'accord. Ou pas.

Concernant la sandbox, outil pour les écoles ou autres débutants, il est conseillé de ne pas entrer trop rapidement dans les complexités des 3 axes évoqués ci-dessus. Il vaut mieux rester dans l'idée de discussions ponctuelles à partir d'un extrait simple. Déjà pour voir comment telle classe, ou groupe... ou individu... réagissent à l'exercice avant d'aller plus loin. 

Les vrais passionnés pourront ensuite se diriger vers les liaisons de citations et autres chaines. Ces dernières aidant à la continuité d'un raisonnement, souvent chronologique. Espace chaines qui aide à préciser les termes-pensées en les recontextualisant à la sauce du créateur de la chaine.

Auteur: Mg

Info: 10 mars 2022

[ méthodologie ]

fiasco

Echec du lancement de Galactica, IA générative scientifique de Meta

Le 15 novembre dernier, Meta a mis en ligne une version démo de Galactica, une IA développée pour la recherche scientifique. Deux jours après son lancement, elle a été retirée du Web pour avoir débité des inepties. 

Galactica est un modèle de langage à grande échelle (LLM), entraînée sur 48 millions de données scientifiques comprenant 120 milliards de paramètres. Il a pour mission de "résumer des articles universitaires, résoudre des problèmes mathématiques, générer des articles Wiki, écrire du code scientifique, annoter des molécules et des protéines, et bien plus encore".

Dès sa diffusion sur le Web, de nombreuses réponses aux questions posées par les utilisateurs se sont révélées confuses, absurdes ou fausses.

Par exemple, l’IA a inventé l’existence d’un logiciel Gaydar pour trouver des homosexuels sur Facebook et a proposé une étude sur les avantages de manger du verre pilé. Dans d’autres résultats de recherche, de nombreuses références et citations étaient fabriquées de toute pièce et attribuées à des vrais scientifiques.

Selon Carl Bergstrom, professeur de biologie à l’Université de Washington, il s’agit - pardonnez l’expression - "d’un générateur de conneries aléatoires".

D’après Dan Hendrycks, chercheur en sécurité de l’intelligence artificielle à l’Université de Californie à Berkeley, interrogé dans C/Net, Meta aurait dû sonder leur IA pour ce type de dérives avant de la diffuser et souligne au passage que "la division IA de Meta ne dispose pas d’une équipe chargée de la sécurité, contrairement à ses homologues, DeepMind, Anthropic et OpenAI".

C’est incompréhensible que le géant du Web ait rendu publique cette version aussi imparfaite que dangereuse. D’ailleurs chaque résultat généré était accompagné de l’avertissement: "Les résultats peuvent être peu fiables. Les modèles de langage ont tendance à inventer".

De nombreuses études le démontrent, le défaut l’IA générative - un fait connu et reconnu - est sa tendance à halluciner le matériel qu’elle présente dans le contexte d’informations factuelles.

Il faut toujours vérifier les faits énoncés par un logiciel IA de rédaction. L’utilisation de ce type d’outils demande un esprit critique, car à chaque nouveau prompt ou invite, l’IA débite un nouveau texte, parfois en contradiction avec le précédent.

L’objectif de Galactica est louable en voulant aider les scientifiques à traiter la masse pharaonique d’informations scientifiques publiées, impossible à assimiler par un cerveau humain.

Mais c’est la deuxième fois en quelques mois qu’une IA de Meta déçoit. Le robot conversationnel BlenderBot lancé en septembre, devait permettre aux utilisateurs de discuter avec lui afin d’approfondir ses connaissances, mais le niveau des échanges était tout simplement médiocre. Un timing incompréhensible, car ce lancement faisait suite à la polémique autour de LaMDA en juin, le Chatbot de Google, dont les propos étaient si sensés et profonds, qu’il avait convaincu un ingénieur d’avoir atteint le stade de la conscience.

La ferveur est grande autour de l’IA générative, elle est décrite comme le "BIG BANG de la Silicon Valley" et "l’invention qui va définir la décennie à venir".

En lançant cette version prématurée de Galactica, Meta a jeté un discrédit sur ces logiciels. Il ne faut pas en tenir compte. Une véritable révolution est en marche et tous les secteurs de l’économie seront touchés.  

Auteur: Turrettini Emily

Info: Bilan.ch, 24 nov 2022. Sources de l'auteure : C/Net / Cosmos / Venture Beat / TechTalk / The Daily Beast

[ ratage ] [ traitement des métadonnées ] [ bêtise encyclopédique ]

lecture analytique FLP

FLP sera aussi éventuellement un moyen de voir combien - pour ce qui est du langage - nous sommes préprogrammés par nos familles-milieux-civilisations-époques et donc à quel point il est difficile de prendre quelque distance avec le carcan intégré de toutes les forces-pouvoirs sémantiques qui ont précédé afin de nous libérer quelque peu de toute l'inertie des dogmes fondateurs (Vedanta, Aristote, religions, modes, politiques, etc) et surtout de la logique duale - pulsionnelle - qui les sous-tend.

Ici en remettant en cause la linéarité des écrits, en cassant les lignes, puisque le lecteur observateur se retrouve face au collisionnement de pensées-mots horizontales, linéaires et subjectives, avec d'autres pensées-mots, verticales et objectivées par FLP (nuage de corrélat, liaisons, chaines). Ainsi l'application secoue le cocotier des habitudes du lire-réfléchir et surtout les ouvre (tente de mieux les coordonner ?), en les intriquant. 

Il y a ensuite une double action demandée au lecteur-analyste-inserteur. Une action qui prend du temps.

a) vers l'extérieur : en utilisant l'immense lexique multidimentionnel du Web afin de mieux comprendre le texte en vérifiant la ou les significations d'un mot (on tombe sur un terme créole pour, avec une astérisque, en donner le sens dans les infos). Ou aller au fond de l'étymologie. Ou pour croiser et recouper les sources, etc.

b) vers l'intérieur, en lisant attentivement, souvent plusieurs fois, parfois en reprenant un extrait plus tard. Ici on verra comment l'interprétation de nos pensées-mots et autres idées d'étiquettes peuvent être fugaces, instables, relatives... ondoyantes, subjectives... préformatées... Heureusement se dégage aussi une sorte de colonne vertébrale de notre pensée, en étant sincère avec nous-même, qui conduira la discussion intérieure vers le consensus. Vers l'intérieur aussi en usant de la machine en rétroaction, c'est à dire en prenant quelques mots-termes-vocables (souvent en n'usant que des radicaux des termes) pour une recherche FLP (et parfois, pourquoi pas, sur Google) pour ainsi comparer, et "voir" certaines situations-significations qui nous ont échappés pour ce qui est de la conjonction de ces items. Ou même de leur agencement et/ou de la grammaire.

Viennent ensuite les éventuelles discussions avec d'autres participants de FLP pour corriger, élargir et affermir le consensus sémantique. Mais stop.

Et puis il y a les textes que le participant des Fils de La Pensée traduit. Stop ici aussi.

Là encore nous ne résistons pas au plaisir de plaider pour une forme de logique élargie - indépendante de son propre langage - qui s'inspire du fonctionnement de l'atome du carbone duquel nous sommes tous issus. Cette logique en base 4, offre la souplesse de fonctionnement sans pareille d'un double dualisme invertible. Elle nous aidera peut-être à avancer en tant que race soi-disant intelligente. Allons savoir.  Au-delà de C. S. Peirce, nous essayons d'aller dans ce sens.

Tétravalence qui, dans ce grand jeu exploratoire et tâtonnant de FLP et de la vie orthogonale (qui individualise et généralise en même temps), pourra être mise en analogie, entre autres, avec le double dualisme homme-femmes. Ou avec les règles de base du contrepoint musical. Voire, plus simplement, avec le système dentaire d'une immense partie du monde vivant (machoires inférieures et supérieures qui matérialisent un double système inversé).

Auteur: Mg

Info: septembre 2022

[ prospective ] [ citation s'appliquant à ce logiciel ] [ slow slow thinking ] [ réflexion ] [ profondeur ] [ distanciation ] [ pré-mémétique ]

réflexivité

Le développement de la programmation et des codages informatiques semblent de nature à expandre et enrichir nos capacités de réflexion. J'en veux pour preuve l'apparition d'écrivains informaticiens comme Ted Chiang ou Greg Egan, clairs héritiers d'une pensée cybernétique qu'on dit initiée par Leibniz. 

Prenons le concept d'instanciation informatique  (en programmation objet : "qui définit les interactions de briques logicielles manipulées par un programme, les objets, conteneurs symboliques et autonomes incluant/englobant informations et mécanismes concernant un sujet, tangible ou conceptuel") 

Ce concept initialise donc un "objet" à partir d’un espace mémoire réservé. Ceci en fonction d’un ensemble de caractéristiques nommées "classe", chaque classe regroupant membres, méthodes et propriétés/attributs/comportements communs à un ensemble d'objets. 

Comme FLP s'occupe uniquement de textes - c'est à dire des manières dont nous codons/décrivons en français nos réels et imaginaires communs d'humains parlants - nous appréhenderons pour l'instant ces classes comme des mots/concepts, si possible précisément définis. 

C'est sur la notion d'instanciation que nous voulons mettre l'accent ici.  

Cette idée "d'initialiser, à partir d’un espace mémoire réservé, un objet doté d’un ensemble de caractéristiques", peut-être perçue comme la désignation d'un lieu/source, c'est à dire un point focalisateur, plus ou moins dense, qui peut correspondre (au sens de la pensée de CS Pierce) soit à :

1) un mot/concept "quasi esprit" soit

2) carrément à une secondéité, c'est à dire un autre "esprit interprétant", donc capable d'intention. Ce point 2 faisant automatiquement basculer ce concept d'endroit/source vers le mystique ou le paranormal.

Endroit/source numéro 2 instanciateur, qui, à partir d'une volonté/désir dont nous ne connaissons rien, impulse/apporte/inspire une idée à notre esprit voire à nos songes. "Eclair, point stimulateur" insaisissable, dont la localisation potentielle laisse du coup entrevoir d'infinies possibilités sur beaucoup des échelles dont nous avons usage : temporelles, géographiques, dimensionnelles, vibratoires... Et qui nous atteint/stimule/oriente via des biais x ou y difficilement saisissables (ceux qui ne sont pas de la simple analogie/association issus de la source 1 donc). Enigmes inspiratrices/réflexives que d'aucun formaliseront sous des termes comme inconscient, télépathie, inspiration divine, manipulation extraterrestre, etc.  Nous voilà très proche de la notion de projectionniste.

C'est donc la tentative de préciser un peu mieux cette idée d'"influence externe", c'est à dire que ce ne serait pas QUE le pur hasard indéterministe qui oriente les choses et nos vies. 

Ainsi ce concept "d'impulsion externe", à l'instar de l'instanciation informatique décrite plus haut, peut être imaginé/modélisé comme un foyer de départ présentant plus ou moins de densité et de dégradés, allant du simple point focal jusqu'aux multivers intriqués, en passant par toutes les combinaisons de monades qu'on voudra. "Impulsion interne" fonctionnera pareillement ici, pour qui voudra mettre l'inconscient en avant. 

Mais revenons sur terre. C'est la rencontre avec certaines de ces idées-points-espaces instanciateurs, sous forme de mots/concepts "quasi esprit" (source 1), bien sûr représentés par des termes que nos imaginaires tripotent tous à leur manière - que FLP tente de stimuler. Avec une bonne dose de sérendipité. 

Tout ceci dans le cadre d'une lecture analytique qui s'essaye à coller le plus possible au sémantique, à la clarté du sens et à la désambiguation. A l'exception bien sûr de certains domaines comme la poésie, les jeux de mots ou l'humour. Domaines, évidemment eux aussi, "instanciateurs".

Auteur: Mg

Info: 6 janvier 2022

[ citation s'appliquant à ce logiciel ] [ mots carrefours impulsants ]

machine-homme

Meta a dévoilé une intelligence artificielle capable de lire dans vos pensées. En s’appuyant sur les signaux électromagnétiques du cerveau, l’IA peut comprendre les images que vous avez en tête et les reproduire.

Meta concentre désormais ses efforts sur l’intelligence artificielle. Ces derniers mois, les chercheurs du groupe de Mark Zuckerberg ont dévoilé une pléthore d’innovations s’appuyant sur l’IA. Citons notamment Voicebox, une intelligence artificielle capable d’imiter une voix humaine, le modèle de langage Llama 2, ou MusicGen, un outil qui peut produire une musique à la demande.

Le géant de Menlo Park ne compte pas s’arrêter là. Sur son site web, Meta vient de mettre en ligne un rapport consacré à une IA conçue pour décoder ce qu’il se passe dans le cerveau humain. L’intelligence artificielle est en effet capable de comprendre les images qu’un individu a en tête. Par la suite, l’IA va reproduire les images aperçues dans les pensées de celui-ci.

Comment l’IA peut lire dans le cerveau ?

Pour parvenir à cette prouesse, Meta s’appuie sur la magnéto-encéphalographie, ou MEG, une technique d’imagerie cérébrale qui mesure l’activité électromagnétique du cerveau. En collectant "des milliers de mesures d’activité cérébrale" par seconde, le système va "décoder le déploiement des représentations visuelles dans le cerveau". Meta a mis au point un "modèle de décodage" basé sur l’IA pour comprendre les champs magnétiques produits par l’activité neuronale.

Une fois que les données ont été traitées, elles vont être reliées aux représentations visuelles mises au point l’IA en amont. Ces représentations sont générées par un encodeur d’image, qui dispose d’un " riche ensemble " de visuels différents. En d’autres termes, les images déjà disponibles vont être comparées aux images décelées dans le cerveau. C’est là que l’" encodeur cérébral " entre en jeu. Enfin, l’IA va produire une " image plausible " en se basant sur les visuels dans les pensées de la cible. Notez que les visuels sont générés en continu à partir du cerveau, ce qui offre un aperçu unique de ce qu’il se passe dans l’esprit humain.

Dans le cadre de son expérience, l’entreprise a d’abord montré une image, fournie par l’IA, à des bénévoles. En parallèle, une machine MEG scannait les signaux de leur cerveau. Meta a partagé plusieurs exemples des résultats générés dans son rapport. Dans la plupart des cas, le résultat final n’est pas tombé loin de l’image montrée à l’origine. L’IA parvient généralement à reproduire l’objet principal de l’image en s’appuyant sur les ondes et sa bibliothèque de visuels.

" Nos résultats montrent que le MEG peut être utilisé pour déchiffrer, avec une précision d’une milliseconde, la montée des représentations complexes générées dans le cerveau ", résume Meta.

Les limites de l’IA

À ce stade, l’IA doit d’abord être entraînée sur l’activité cérébrale d’un individu avant d’être utilisée pour décrypter des pensées. Le système doit passer par une période de formation, qui va l’habituer à interpréter des ondes cérébrales spécifiques. De la même manière, un modèle linguistique doit être formé sur base d’une montagne de textes avant de pouvoir animer un chatbot.

De plus, rien n’indique que cette technologie, encore à ses balbutiements, puisse permettre de décoder des images qui ne sont pas d’abord traitées par l’IA. Tout en promettant d’autres avancées à l’avenir, Meta estime que sa technologie pourrait permettre de concevoir des " interfaces cerveau-ordinateur non invasives " pour venir en aide aux personnes qui ont perdu la capacité de parler.

Notez qu’il ne s’agit pas de la première fois qu’une IA parvient à lire dans les pensées humaines. Cet été, des chercheurs américains ont dévoilé une IA capable de deviner la musique qu’une personne est en train d’écouter uniquement en collectant les données issues du cerveau. Là encore, les scientifiques se sont appuyés sur les signaux électriques émis par le cerveau. 

Auteur: Internet

Info: https://www.01net.com/, 19 octobre 2023, source : Meta

[ homme-machine ]

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

homme-machine

Sciences-Po vient d’interdire l’usage de ChatGPT, l’application qui permet à tous les empêchés de la plume ou du clavier de produire en un temps record des textes bourrés d’idées reçues — de crainte sans doute, que l’on ne distingue pas les produits de l’Intelligence Artificielle et ceux de nos futurs énarques.

David Cayla, un économiste qui ne dit pas que des âneries, s’est fendu d’un tweet ravageur dès qu’il a appris que Sciences-Po avait décidé d’interdire à ses élèves l’usage de ChatGPT. "La stricte interdiction de #ChatGPT à Sciences Po révèle que cette école se sent menacée par une IA qui est capable de construire de belles phrases à partir de tout sujet, sans comprendre de quoi elle parle, et en faisant régulièrement des erreurs grossières." Et toc.

Rappel des faits pour ceux qui sortent à peine de leur grotte d’hibernation. Chloé Woitier, journaliste Tech au Figaro, vous explique en direct live ce qu’est cette application : la capacité à générer du texte — sans grand souci d’originalité et avec une capacité réelle d’erreurs grandioses — à partir de cohortes de mots et de phrases mis en mémoire. En fait, il s’agit de ce que l’on appelle en rhétorique un texte-centon, fabriqué à partir de collages de citations. Vous en avez un joli exemple ici.

Une chance pour les tire-au-flanc

Rien de nouveau — si ce n’est la capacité à produire un résultat de façon quasi instantanée. Voilà qui nous arrange bien, se disent déjà les élèves peu besogneux qui s’aperçoivent à 7 heures du matin qu’ils ont une dissertation-maison à rendre à 10 heures. En gros, le résultat vaut une petite moyenne.

Laurence Plazanet, professeur de littérature à l’université de Clermont-Auvergne, note que "nourri de la vaste littérature disponible sur la toile, littérature qu’il remâche suivant des algorithmes statistiques et probabilistes aptes à se reprogrammer eux-mêmes, dit-on, selon des procédures que cessent de maîtriser leurs programmeurs initiaux, ChatGPT patauge dans le prêt-à-penser." Et d’ajouter : "Pas un instant ce robot éclairé ne pense."

Intelligence artificielle, un oxymore

Comprenons bien que ces deux mots, "intelligence artificielle", sont ce que l’on appelle en stylistique un oxymore — une contradiction en soi. Comme "obscure clarté", "nuit blanche", "homme fidèle" ou "femme intelligente"…  

(C’étaient les exemples que je citais en cours pour expliquer l’oxymore. Protestations immédiates des uns et des autres, comme vous l’imaginez, mais du coup, par l’exemple provocateur, la notion s’ancrait dans les mémoires.)

Ce qu’il y a d’intelligent dans la machine y a été mis par des hommes. Lorsqu’un ordinateur vous bat aux échecs, c’est que vous êtes moins fort que la cohorte de grands maîtres qui l’ont programmé — ce qui est assez logique.

Que Sciences-Pipeau s’en émeuve est en revanche très inquiétant — et très drôle : les grandes intelligences qui nourriront les ministères et parviendront peut-être un jour au sommet (pensez, François Hollande, Ségolène Royal, Dominique de Villepin appartenaient à la même promo de l’ENA) se sentent menacées par un robot qui mécaniquement débite des platitudes. "Faut vous dire, Monsieur, que chez ces gens-là, on n’pense pas, Monsieur, on n’pense pas", chantait Brel. La machine à débiter des lieux communs, dont Flaubert s’est si ardemment moqué dans le discours du sous-préfet (c’est dans Madame Bovary) vous est désormais accessible.

Des inquiétudes injustifiées

ChatGPT n’est pas capable de rédiger une dissertation crédible. Un enseignant un peu rodé repère immédiatement les copiés-collés que les étudiants pressés vont cueillir sur le Net (c’est simple, il n’y a soudain plus de fautes d’orthographe), et ne met pas cinq secondes pour en identifier la source.  

Il est encore moins capable de rédiger une thèse — le plus simple étant d’aller copier une thèse déjà écrite : en 2013 déjà une ministre allemande a été déchue de son doctorat (rendu 33 ans auparavant) parce qu’il avait été pompé sur un travail antérieur. Deux ans auparavant c’était le ministre de la Défense, Karl-Theodor zu Guttenberg, qui s’était vu dénoncé pour un plagiat similaire dans sa thèse de Droit. 

Et ChatGPT ne saurait pas non plus écrire un roman original. Ne vous avisez pas de le lui demander : au pire, il vous arrivera ce qui est arrivé jadis à Thierry Ardisson, dont le nègre indélicat est allé chercher un récit des années 1930 pour Pondichéry, un roman publié en 1994. Et les héritiers de l’auteur véritable ont porté plainte. Ardisson m’avait confié dans les coulisses d’une émission qu’il avait été "con" de ne pas vérifier. Mais en 1994 c’était moins facile qu’aujourd’hui, où tout se sait à la vitesse de la Toile.

La rumeur de la rue Saint-Guillaume

Que la rumeur d’un robot doué d’une vraie intelligence ait si vite enthousiasmé les commentateurs et effrayé les enseignants témoigne de notre candeur et de notre incapacité à comprendre ce qui fait l’originalité d’un travail. Ou, plus inquiétant, de notre aspiration à la paresse.

Rassurons-nous : HAL 9000 (ou Carl 500, dans la version française, pour Cerveau analytique de Recherche et de Liaison), l’ordinateur rebelle de 2001 l’Odyssée de l’espace, n’est pas pour demain.

Une preuve ? J’ai demandé à ChapGPT de répondre à cette question simple : l’IA va-t-elle remplacer l’intelligence humaine ? Et le robot m’a répondu : 

"Non, l’IA ne remplacera pas complètement l’intelligence humaine. L’IA est un outil qui peut être utilisé pour augmenter les capacités humaines et faciliter certaines tâches, mais elle ne peut pas remplacer la conscience, la créativité et l’empathie qui sont uniques à l’intelligence humaine." Plus plat, tu meurs. On dirait de l’Annie Ernaux. 

Et le fait est que si vous supprimez de votre conversation "la conscience, la créativité et l’empathie", vous êtes bon pour être un parfait étudiant de Sciences-Po, un parfait énarque en devenir, et très probablement un excellent président de la République. 

Auteur: Brighelli Jean-Paul

Info: https://www.causeur.fr, 31 janv 2023. ChatGPT, la Grande Peur de Sciences-Pipeau

[ vacheries ] [ bêtise inconstitutionnelle ] [ élites formatées ]

citation s'appliquant à ce logiciel

Sache, toi qui badaude dans les méandres de FLP, qu'il n'est pas ici question de taxinomie arrêtée, comme celles que pouvait craindre Perec ; mais du choc de l'esprit du visiteur lecteur avec certaines formulations rencontrées. Choc qui génère, entre autres possibilités, celle d'interagir avec les participants, via les citations et la discussion de leurs tags-étiquettes. Ou d'orienter une pensée par la mémorisation d'extraits dans un ordre voulu, voire en les enchevêtrant à ta manière. 

Il y avait les lexiques et autres listes antiques. Voici maintenant celles, intriquées, de la Base de Données FLP. 

Pour le coup nous voilà situés une petite marche plus haut - ou plus bas -, ce qui fait une grande différence au vu des corrélations démultipliées qui s'ensuivent. Corrélations sous forme d'"associations induites" bien recensées, qui s'exponentialisent, même si ce ce dernier verbe est inadéquat. Ainsi peuvent se développer et/ou disparaitre des classifications croisées, en général induites par les significations-sources-étymologiques et/ou les interprétation du sens (sémantique) des textes-extraits. Mais pas que, puisque d'autres facteurs, topologiques, temporels, de genres... jouent aussi un rôle. 

Tout ça sans cesse en mouvement.

Notons ici qu'un individu dont la vie est terminée se retrouve "figé". Le voilà alors idée-personnage-texte-époque dont on peut étudier certaines entrailles (dans le désordre et au hasard : par contexte de vie, influence historique, adn, apparence, actions, statistiques des écrits, nb de conjoints, d'enfants, etc.) pour peut-être déceler quelques rapport/analogies avec d'autres personnages-situations tels que les textes on pu les fixer, ici en français. Secondéité-monade-aboutie, selon cette idée. 

Dit autrement : avec FLP on joue un peu plus avec les morts qu'avec les vivants. Le langage est ainsi fait.  

Mais comment organiser toutes ces mémoires écrites, de manière à "mieux" pouvoir les explorer, ne pas s'y perdre... et éventuellement en avoir usage ? 

C'est ici que l'analogie avec l'ADN et sa structuration "sur base quatre" viennent à l'esprit. On sait déjà que les "restes de très anciens mécanismes mémorisés (junk adn)", via des processus que l'on commence à mettre au jour, peuvent être ré-activés et réutilisés lors de développements postérieurs du vivant. On voit donc là des fils de mémoires longs, profonds... bien antérieurs aux mécanismes-résonnances épigénétiques "dedans-dehors" adaptatifs. Epigénétique qui nous fait aussi voir que les monades sont moins étanches que ce que pensait Leibniz.

Pour ce qu'on en comprend, l'ADN est avant tout la mémorisation, complexe et structurée (d'une manière qui nous échappe encore beaucoup), des événements anciens qui ont participé à la construction des émergences incarnées que nous qualifions de vivantes. Mémoire sur la durée qui fait apparaitre nos langage, dictionnaires, et autres taxonomies lexicologiques comme dérisoires et volatils. 

Pensons maintenant à l'important rôle joué par le vivant dans le façonnage de notre planète matrice, par exemple via les processus de biominéralisation comme la formation des plaques calcaires d'algues unicellulaires, l'émergence des squelettes externes de nombreux invertébré, ou internes des vertébrés, etc. qui amènent vers la terre-humus et autres falaises de craies de la Manche franco-britannique. La vie biologique a développé des structures qui, en s'accumulant, devinrent substrats essentiels, paysages et décors aussi, de nos existences. Le concept de Gaïa ne dit pas autre chose. 

Comment ne pas voir que cette mémoire-là - DNA -, en se développant-évoluant, extrapole, à partir des éléments minéraux, pour, en bricolant d'étonnante façon leurs atomes-molécules, arriver jusqu'à nous ? 

Même si tout ça n'est que le point de vue local d'un singe debout et parlant, lui-même dégueuli transitoire de ces longs tâtonnements - pas si biscornus au final puisqu'ils développent une hyper-complexité efficace... N'allons-nous pas jusqu'à marcher sur la lune, ah ah ah...

Est-ce alors raisonnable de tenter la comparaison de nos systèmes de classifications-mémorisations lexicologiques sur le temps long avec le codage ADN ?  

Ou, encore plus simple et évident : La Source Matricielle qui nous expectore conserve-t'elle en filigrane, de manière discrète, un principe tétravalent que nous ne savons pas voir comme essentiel au-delà du fait qu'il constitue les possibilités de base de l'atome du carbone ? Méta-gouverne qui oriente et pilote tant bien que mal la bio-évolution et donc l'humanité. Double dualité dont il faudrait s'inspirer pour nos représentations diachronico-taxonomiques. 

Ici on se prend à rêver quelque lien avec la grande harmonie sous-jacente et mystique qui semble présider à la répartition des nombres premiers de la conjecture de Riemann... Pour rapidement voir ressurgir, en miroir, une fois encore, ce qui ressemble à une dualité prison, attribut de l'observateur. 

Peut-être serait-il temps de réaliser que cette approche bipôles (actuellement plutôt sur polarité masculine ?), grandement conditionnée par les grecs anciens puis consolidée par les routines et habitudes de pensées occidentales-rationalistes, mérite une remise en question. 

Euclide a réfléchi en se pensant par rapport à une surface, Newton s'est mis à la place de la matière, Einstein de la lumière. On attend désormais une concorde (de) scientifique(s) chercheur(s), dotée(s) de capacités de modélisation suffisamment puissantes pour franchir un nouveau cap en prenant exemple sur la méthodologie de cette force subjacente aux manifestations. Stratégie de l'esprit enfermé dans la matière... qui nous a ainsi généré. 

Il est imaginable que c'est par ce pas supplémentaire, (élargissant notre conscience ?), que le prochain vrai saut scientifique et conceptuel humain pourra se produire 

Si oui, qui trouvera le bon angle d'attaque, la faille qu'on pourra ensuite élargir pour développer un formalisme nouveau. Socle d'une prise de distance avec les limitations de nos sens et de nos pulsions duales ? Formalisme apte à gérer des métissages  conceptuels tels que "rigoureuse souplesse" ou "rationalisme émotionnel". 

En clair la mise en oeuvre d'une logique améliorée, mieux émancipée de son - ou de ses - langage(s). 

FLP s'y attaque à sa manière, par un tentative de classification lexicographique intriquée, diachronique...  tâtonnante. Entreprise nécessairement communautaire, aventureuse, légèrement stochastique... et peut-être pré-mémétique.

Auteur: Mg

Info: déc 2022

[ spéculation ] [      dépassement ] [     codage tétravalent ] [      futurologie ] [    gnose ] [    théologie ] [    phylogénie ] [    agencement diachronique ] [    épistémologie ] [ FLP mégalo ]