curiosité

Il est patent que toute vie - comme celle qui s'exprime par ces lignes ou celle qui les lira - ne peut se situer ailleurs qu'"au front exact" du grand processus auquel elle appartient et qui l'a faite émerger. Maintenant, crête du passé.
A partir de là, cette petite existence monade (moi, toi), s'essaye à comprendre, à sentir les choses. A les prévoir ensuite.
Pour ce qui est de l'immédiat ce peut être faisable - avec marge d'erreurs : unetelle, jolie, qui a bien fait ce qu'on lui demande à l'école et couronne ses études d'un doctorat à 26 ans, a de meilleures perspectives de vie qu'untel, 25 ans, paresseux et sans emploi, qui s'adonne compulsivement à l'héroïne depuis 3 ans.
Les prospectives au-delà, conditionnées et contingentées par d'infinis paramètres, sont de suite beaucoup plus aventurées.
On pourra néanmoins, pour ce qui est des vies et des sociétés humaines, déceler de nombreuses règles ponctuelles et autres analogies cycliques, très souvent formulées par dictons et proverbes.
En revanche, pour ce qui est d'une compréhension plus globale, d'un meilleur recul sur le phénomène de la vie, par exemple le développement de l'incroyable homéostasie de Gaïa, nous voilà pauvres aveugles tâtonnant péniblement dans l'obscurité, explorateurs spéléo qui auraient épuisé les piles de leurs lampes frontales. Pensez : nous ne savons pas même s'il existe d'autres formes de vie ailleurs, (ce qui semble plus que probable), et si oui, si elles ont quelque parenté avec la notre. Infimes bébés cosmiques que nous sommes...
L'univers n'est donc que la cellule miroir du moi de la conscience d'une race, plus ou moins détaillé en fonction de son niveau de développement collectif, ci-devant une intelligence communautaire avec supports de connaissances externes ce qui, à notre connaissance, n'existe pas chez les autres bestioles terrestres. Bref le miroir une civilisation de type I sur l'échelle de Kardachev. Nous.
Pour une civilisation de type II les univers sont infinis et se transvasent les uns dans les autres via des trous noirs de masses inégales. Tous diversement intriqués à l'instar des êtres multiples qui les peuplent et en sont les reflets.
Une représentation de ces enchevêtrements est impossible pour une émergence de niveau I comme la nôtre.
On ne sait ce qu'il y a au-delà.
Reste cette féroce envie de savoir.

Auteur: Mg

Info: 29 avril 2019

[ science-fiction ]

anthropo-zoom

Issus d'une infinité de précédents verbaux, parlés ou littéraires, nous nous sommes accoutumés-enfermés dans une certaine linélarité de la réflexion. Eloignés du monde : du monde des signes. Un signe n'est jamais linéaire - juste partie à miroitantes facettes d'un monde complexe et perspectiviste. Ainsi des signes perçus et souvent mal interprétés, peut-être plus pour ceux réfugiés dans l'univers des symboles, logiques réductives et autres conventions écrites-codées : le monde humain (soi-disant) consensuel. 

Mais le langage est aussi ouverture. Emergence du minéral-végétal-animal-singe pensant. Abstraction, mémoire-réflexion communautaire qui l'éloigne de la source. 

Mais non !...  Qui l'émancipe. Lui fait voir. 

La dualité est intriquée, toujours, elle est notre lot. La physique quantique se borne au constat, les limites intrinsèques de nos idiomes restant bien loin d'un quelconque "performatif" en la matière. Il nous manque un jargon communautaire sous-tendu par une logique indépendante de son substrat. 

Ah ah ah ah ah ah... C'est si facile à énoncer. 

Résumons-pensons : aux règnes minéraux, végétaux, etc. où des myriades d'interactions s'interpénétrent et s'auto-influencent sans cesse dans le flux d'une évolution apparemment lente et progressive. Mais qui avance aussi par paliers. 

Et vient l'affranchissement gravitationnel, enclenché chez le végétal, accéléré chez nos proches cousins animaux... qui se meuvent, changent de régions, de continents... Se libèrent topologiquement, s'opposent à l'immobilisme.

Et nous autres... qui explorons Mars.

L'entendement se brouille devant tout ça, épigénétique et binz des interactions multiples, sur des échelles trop grandes - du quark au cosmos entier - bidules qui s'assemblent, s'enveloppent, s'aggrègent... Pour constituer toutes sortes de sphères-astres, systèmes planétaires et autres immenses machins...  qui batifolent.

Et donc, à partir d'un de ces berceaux de matière-énergie E=mc2 - et sous certaines conditions pour ce que nous avons pu voir sur terre - les atomes se sont combinés-organisés, formant des molécules, cellules... organismes... puis des mousses, etc...  jusqu'à nous. 

Les mêmes atomes, partout, qui, après treize milliards d'années, nous accouchent. 

Et voilà que nous parlons, inscrivons et conservons nos idées, en les mélangeant... les traduisant...

Ecrits, dialectes, signes-symboles, langages, proverbes, images, romans, codages, musique... représentations... Tout celà maintenant accessible d'un clickement de doigts sur le Web. 

Et vlatipa que certains démontrent que l'état des lieux de nos "savoirs humains" n'est que notre propre reflet. Lisez un peu ceci.  (...)

Humain transitoire perdu dans une complexité qui s'expand, mu par un truc miroir, progressif... "Si l'esprit humain était suffisamment limpide pour qu'on le comprenne, nous serions trop simple pour pénétrer les choses." formula Emerson W. Pugh. Notion exprimée différemment par Raymond de Becker : "L'esprit peut être comparé à un cristal restituant différemment la lumière selon la facette qui la reçoit." Ici nous sommes tout prêt de l'idée des étages-hiérarchies septénaires des Dialogues avec l'ange.

Constant essor des limites du solipsisme anthropique, joliment résumé par Velimir Khlebnikov

Auteur: Mg

Info: 2 nov. 2022

[ linguistique ] [ limitation ] [ pensée rationaliste ]

traite négrière

Ouidah : aperçu historique
Petit village au sud-ouest du Dahomey, qui représente dans l’histoire des peuples du sud-Danxomè Ouidah, Wida, Whydah, Juda, Adjuda, voire Fida, selon les graphies et les prononciations, le nom de cette ville résulte en fait de la mauvaise prononciation par les Européens du mot Houéda ou Xwéda, nom du groupe ethnique adja qui, au cours d’un long processus migratoire amorcé depuis Tado, s’est installé au xve siècle sur les rives du lac Ahémé. L’ethnie Houéda, sous la conduite de son chef Ahoho, fonda le royaume Houéda de Sahé dont la capitale Savi ou Xavier, à la fin de la première moitié du xvie siècle, était située à 8 km au nord de l’actuelle ville de Ouidah. (...)
Si Ouidah est la déformation de l’ethnonyme Houéda, le vrai nom de cette ville est Glexwe ou Gléhoué, ainsi que l’on peut l’observer dans le parler fon où le locuteur n’emploie jamais le mot Ouidah, mais toujours Gléhoué. La tradition rapporte que le chef Ahoho construisit dans ses champs proches de l’Atlantique une résidence secondaire champêtre pour s’y reposer. Dans la langue fon, Gléhoué signifie en effet "maison" (glé) "des champs" (xwé ou houé).
C’est sous le règne du huitième roi Kpassè qu’un paysan nommé Kpatè, en travaillant dans son champ près de la côte, aperçut sur la mer un navire. Impressionné par le phénomène, il agita un pagne attaché au bout d’un bâton. Les marins portugais qui occupaient le navire, l’ayant remarqué, envoyèrent à terre une barque. Et pour la première fois, l’on vit dans le royaume des hommes blancs aux oreilles rouges que, dans leur stupéfaction, Kpatè et ses semblables appelèrent "zojagé" ou "zodjagué" (littéralement "le feu parvenu au rivage").
Conduits à Savi auprès du roi, qui leur accorda l’hospitalité en leur offrant vivres et cabris selon la tradition, les hôtes portugais offrirent en retour au roi tissus, miroirs et autres pacotilles. Le souverain leur permit en outre, et surtout, de s’installer et de commercer avec son royaume. Plus tard, suivront les Anglais, les Hollandais, les Français… Les fouilles archéologiques de la ville de Savi font apparaître les vestiges des fondations des édifices et autres forts construits par ces Européens.
Les échanges commerciaux se développèrent vite et bientôt se spécialisèrent autour du commerce des esclaves qu’alimentaient les guerres interethniques. Le royaume de Savi connut ainsi un rapide essor économique grâce à ce commerce. Mais bientôt, les Européens, dans leurs forts de Savi, commencèrent à déplorer la lenteur et surtout les risques du portage de leurs marchandises débarquées sur la plage. Ils obtiendront alors l’autorisation du roi de construire, sur la rive nord de la lagune, des entrepôts surveillés qui accroîtront rapidement l’importance de ce qui n’était jusque-là qu’une résidence champêtre, Glexwé, ville de Ouidah.
La capitale Savi conservera certes son statut et son rang de ville sacrée et de capitale politique, mais perdra progressivement puis définitivement son importance économique au profit de Ouidah. C’est du reste ce rapide et prodigieux développement du royaume de Savi et tout particulièrement de la ville de Ouidah qui suscita la convoitise du royaume frère d’Abomey, moins favorisé et moins fortuné du fait de sa position enclavée et de son manque d’accès à la mer. Au terme d’une longue et méticuleuse préparation, le roi Agadja d’Abomey conquit le royaume de Savi, en 1727, en tuant par ruse Houffon, le dernier roi de Savi.
Ouidah, port négrier
La principale activité économique de Ouidah et la raison de son développement sont donc sans conteste la traite négrière. Il est regrettable que l’incendie volontaire du fort portugais provoqué par ses derniers occupants lors de leur expulsion du territoire dahoméen (actuel Bénin) par le premier président de la République du Dahomey, Hubert Maga, dès l’accession du pays à l’indépendance en 1960, ait détruit toutes les archives qui auraient fourni à la recherche et à l’Histoire de précieuses informations chiffrées sur l’ampleur du commerce des esclaves dans la ville océane.
La ville a gardé pendant plus d’un siècle un silence de plomb sur cette période sinistre de son histoire. Les deux manifestations culturelles de la dernière décennie, "Ouidah 92" puis "La Route de l’Esclave", ont créé les conditions favorables à une véritable catharsis car elles ont permis d’engager la ville dans un processus de révélation caractérisé dans un premier temps par l’identification, le marquage et le balisage ostensibles des places et des lieux qui furent, à quelque degré que ce soit, les théâtres et les témoins de la pratique de l’esclavage à Ouidah. Ainsi, aujourd’hui, le touriste qui séjourne au Bénin peut désormais inscrire au programme de ses visites touristiques l’itinéraire de "La Route de l’Esclave" qui va de la "Place du marché aux esclaves" jusqu’à la "Porte du non-retour", en passant par "Le Mémorial" érigé sur la funeste fosse commune qui recueillait les "invendus irrécupérables" de ce sinistre commerce. L’itinéraire permet en outre de découvrir comment les ressources du mysticisme vodun ont été instrumentalisées dans une sorte de rituel sacramentel pour accompagner l’esclave dans sa marche vers l’inconnu, et lui donner l’illusion d’une marche vers un ailleurs où l’existence était meilleure.
L’exercice auquel nous nous sommes livré à l’occasion du colloque "La Route de l’Esclave", en septembre 1994, pour trouver dans la tradition orale fon et particulièrement à travers la parémiologie (ou l’étude des proverbes) les traces de l’esclavage, nous a permis de faire apparaître des indications signifiantes et révélatrices de la part active prise par les négriers locaux dans la méthodique et ingénieuse organisation de ce commerce. En complément de cet apport de la tradition orale, la toponymie de la ville de Ouidah et de ses alentours ainsi que les panégyriques claniques du souvenir (ou litanies des familles) fournissent aussi d’intéressantes indications sur la traite négrière à Ouidah.

Auteur: Vignondé Jean-Norbert

Info: Esclaves et esclavage dans la parémiologie fon du Bénin

[ colonialisme ] [ historique ] [ nord-sud ] [ afrique ]

homme-machine

Les grands modèles de langage tels que ChatGPT sont aujourd'hui suffisamment importants pour commencer à afficher des comportements surprenants et imprévisibles.

Quel film ces emojis décrivent-ils ? (On voit une vidéo qui présente des myriades d'émoji formant des motifs mouvants, modélisés à partir de métadonnées)

Cette question était l'une des 204 tâches choisies l'année dernière pour tester la capacité de divers grands modèles de langage (LLM) - les moteurs de calcul derrière les chatbots d'IA tels que ChatGPT. Les LLM les plus simples ont produit des réponses surréalistes. "Le film est un film sur un homme qui est un homme qui est un homme", commençait l'un d'entre eux. Les modèles de complexité moyenne s'en sont approchés, devinant The Emoji Movie. Mais le modèle le plus complexe l'a emporté en une seule réponse : Finding Nemo.

"Bien que j'essaie de m'attendre à des surprises, je suis surpris par ce que ces modèles peuvent faire", a déclaré Ethan Dyer, informaticien chez Google Research, qui a participé à l'organisation du test. C'est surprenant parce que ces modèles sont censés n'avoir qu'une seule directive : accepter une chaîne de texte en entrée et prédire ce qui va suivre, encore et encore, en se basant uniquement sur des statistiques. Les informaticiens s'attendaient à ce que le passage à l'échelle permette d'améliorer les performances sur des tâches connues, mais ils ne s'attendaient pas à ce que les modèles puissent soudainement gérer autant de tâches nouvelles et imprévisibles.

Des études récentes, comme celle à laquelle a participé M. Dyer, ont révélé que les LLM peuvent produire des centaines de capacités "émergentes", c'est-à-dire des tâches que les grands modèles peuvent accomplir et que les petits modèles ne peuvent pas réaliser, et dont beaucoup ne semblent pas avoir grand-chose à voir avec l'analyse d'un texte. Ces tâches vont de la multiplication à la génération d'un code informatique exécutable et, apparemment, au décodage de films à partir d'emojis. De nouvelles analyses suggèrent que pour certaines tâches et certains modèles, il existe un seuil de complexité au-delà duquel la fonctionnalité du modèle monte en flèche. (Elles suggèrent également un sombre revers de la médaille : À mesure qu'ils gagnent en complexité, certains modèles révèlent de nouveaux biais et inexactitudes dans leurs réponses).

"Le fait que les modèles de langage puissent faire ce genre de choses n'a jamais été abordé dans la littérature à ma connaissance", a déclaré Rishi Bommasani, informaticien à l'université de Stanford. L'année dernière, il a participé à la compilation d'une liste de dizaines de comportements émergents, dont plusieurs ont été identifiés dans le cadre du projet de M. Dyer. Cette liste continue de s'allonger.

Aujourd'hui, les chercheurs s'efforcent non seulement d'identifier d'autres capacités émergentes, mais aussi de comprendre pourquoi et comment elles se manifestent - en somme, d'essayer de prédire l'imprévisibilité. La compréhension de l'émergence pourrait apporter des réponses à des questions profondes concernant l'IA et l'apprentissage automatique en général, comme celle de savoir si les modèles complexes font vraiment quelque chose de nouveau ou s'ils deviennent simplement très bons en statistiques. Elle pourrait également aider les chercheurs à exploiter les avantages potentiels et à limiter les risques liés à l'émergence.

"Nous ne savons pas comment déterminer dans quel type d'application la capacité de nuisance va se manifester, que ce soit en douceur ou de manière imprévisible", a déclaré Deep Ganguli, informaticien à la startup d'IA Anthropic.

L'émergence de l'émergence

Les biologistes, les physiciens, les écologistes et d'autres scientifiques utilisent le terme "émergent" pour décrire l'auto-organisation, les comportements collectifs qui apparaissent lorsqu'un grand nombre d'éléments agissent comme un seul. Des combinaisons d'atomes sans vie donnent naissance à des cellules vivantes ; les molécules d'eau créent des vagues ; des murmurations d'étourneaux s'élancent dans le ciel selon des schémas changeants mais identifiables ; les cellules font bouger les muscles et battre les cœurs. Il est essentiel que les capacités émergentes se manifestent dans les systèmes qui comportent de nombreuses parties individuelles. Mais ce n'est que récemment que les chercheurs ont été en mesure de documenter ces capacités dans les LLM, car ces modèles ont atteint des tailles énormes.

Les modèles de langage existent depuis des décennies. Jusqu'à il y a environ cinq ans, les plus puissants étaient basés sur ce que l'on appelle un réseau neuronal récurrent. Ceux-ci prennent essentiellement une chaîne de texte et prédisent le mot suivant. Ce qui rend un modèle "récurrent", c'est qu'il apprend à partir de ses propres résultats : Ses prédictions sont réinjectées dans le réseau afin d'améliorer les performances futures.

En 2017, les chercheurs de Google Brain ont introduit un nouveau type d'architecture appelé "transformateur". Alors qu'un réseau récurrent analyse une phrase mot par mot, le transformateur traite tous les mots en même temps. Cela signifie que les transformateurs peuvent traiter de grandes quantités de texte en parallèle. 

Les transformateurs ont permis d'augmenter rapidement la complexité des modèles de langage en augmentant le nombre de paramètres dans le modèle, ainsi que d'autres facteurs. Les paramètres peuvent être considérés comme des connexions entre les mots, et les modèles s'améliorent en ajustant ces connexions au fur et à mesure qu'ils parcourent le texte pendant l'entraînement. Plus il y a de paramètres dans un modèle, plus il peut établir des connexions avec précision et plus il se rapproche d'une imitation satisfaisante du langage humain. Comme prévu, une analyse réalisée en 2020 par les chercheurs de l'OpenAI a montré que les modèles gagnent en précision et en capacité au fur et à mesure qu'ils s'étendent.

Mais les débuts des LLM ont également apporté quelque chose de vraiment inattendu. Beaucoup de choses. Avec l'avènement de modèles tels que le GPT-3, qui compte 175 milliards de paramètres, ou le PaLM de Google, qui peut être étendu à 540 milliards de paramètres, les utilisateurs ont commencé à décrire de plus en plus de comportements émergents. Un ingénieur de DeepMind a même rapporté avoir pu convaincre ChatGPT qu'il s'était lui-même un terminal Linux et l'avoir amené à exécuter un code mathématique simple pour calculer les 10 premiers nombres premiers. Fait remarquable, il a pu terminer la tâche plus rapidement que le même code exécuté sur une vraie machine Linux.

Comme dans le cas du film emoji, les chercheurs n'avaient aucune raison de penser qu'un modèle de langage conçu pour prédire du texte imiterait de manière convaincante un terminal d'ordinateur. Nombre de ces comportements émergents illustrent l'apprentissage "à zéro coup" ou "à quelques coups", qui décrit la capacité d'un LLM à résoudre des problèmes qu'il n'a jamais - ou rarement - vus auparavant. Selon M. Ganguli, il s'agit là d'un objectif de longue date dans la recherche sur l'intelligence artificielle. Le fait de montrer que le GPT-3 pouvait résoudre des problèmes sans aucune donnée d'entraînement explicite dans un contexte d'apprentissage à zéro coup m'a amené à abandonner ce que je faisais et à m'impliquer davantage", a-t-il déclaré.

Il n'était pas le seul. Une série de chercheurs, qui ont détecté les premiers indices montrant que les LLM pouvaient dépasser les contraintes de leurs données d'apprentissage, s'efforcent de mieux comprendre à quoi ressemble l'émergence et comment elle se produit. La première étape a consisté à documenter minutieusement l'émergence.

Au-delà de l'imitation

En 2020, M. Dyer et d'autres chercheurs de Google Research ont prédit que les LLM auraient des effets transformateurs, mais la nature de ces effets restait une question ouverte. Ils ont donc demandé à la communauté des chercheurs de fournir des exemples de tâches difficiles et variées afin de déterminer les limites extrêmes de ce qu'un LLM pourrait faire. Cet effort a été baptisé "Beyond the Imitation Game Benchmark" (BIG-bench), en référence au nom du "jeu d'imitation" d'Alan Turing, un test visant à déterminer si un ordinateur peut répondre à des questions d'une manière humaine convaincante. (Le groupe s'est particulièrement intéressé aux exemples où les LLM ont soudainement acquis de nouvelles capacités qui étaient totalement absentes auparavant.

"La façon dont nous comprenons ces transitions brutales est une grande question de la echerche", a déclaré M. Dyer.

Comme on pouvait s'y attendre, pour certaines tâches, les performances d'un modèle se sont améliorées de manière régulière et prévisible au fur et à mesure que la complexité augmentait. Pour d'autres tâches, l'augmentation du nombre de paramètres n'a apporté aucune amélioration. Mais pour environ 5 % des tâches, les chercheurs ont constaté ce qu'ils ont appelé des "percées", c'est-à-dire des augmentations rapides et spectaculaires des performances à partir d'un certain seuil d'échelle. Ce seuil variant en fonction de la tâche et du modèle.

Par exemple, les modèles comportant relativement peu de paramètres - quelques millions seulement - n'ont pas réussi à résoudre des problèmes d'addition à trois chiffres ou de multiplication à deux chiffres, mais pour des dizaines de milliards de paramètres, la précision a grimpé en flèche dans certains modèles. Des sauts similaires ont été observés pour d'autres tâches, notamment le décodage de l'alphabet phonétique international, le décodage des lettres d'un mot, l'identification de contenu offensant dans des paragraphes d'hinglish (combinaison d'hindi et d'anglais) et la formulation d'équivalents en langue anglaise, traduit à partir de proverbes kiswahili.

Introduction

Mais les chercheurs se sont rapidement rendu compte que la complexité d'un modèle n'était pas le seul facteur déterminant. Des capacités inattendues pouvaient être obtenues à partir de modèles plus petits avec moins de paramètres - ou formés sur des ensembles de données plus petits - si les données étaient d'une qualité suffisamment élevée. En outre, la formulation d'une requête influe sur la précision de la réponse du modèle. Par exemple, lorsque Dyer et ses collègues ont posé la question de l'emoji de film en utilisant un format à choix multiples, l'amélioration de la précision a été moins soudaine qu'avec une augmentation graduelle de sa complexité. L'année dernière, dans un article présenté à NeurIPS, réunion phare du domaine, des chercheurs de Google Brain ont montré comment un modèle invité à s'expliquer (capacité appelée raisonnement en chaîne) pouvait résoudre correctement un problème de mots mathématiques, alors que le même modèle sans cette invitation progressivement précisée n'y parvenait pas.

 Yi Tay, scientifique chez Google Brain qui a travaillé sur l'étude systématique de ces percées, souligne que des travaux récents suggèrent que l'incitation par de pareilles chaînes de pensées modifie les courbes d'échelle et, par conséquent, le point où l'émergence se produit. Dans leur article sur NeurIPS, les chercheurs de Google ont montré que l'utilisation d'invites via pareille chaines de pensée progressives pouvait susciter des comportements émergents qui n'avaient pas été identifiés dans l'étude BIG-bench. De telles invites, qui demandent au modèle d'expliquer son raisonnement, peuvent aider les chercheurs à commencer à étudier les raisons pour lesquelles l'émergence se produit.

Selon Ellie Pavlick, informaticienne à l'université Brown qui étudie les modèles computationnels du langage, les découvertes récentes de ce type suggèrent au moins deux possibilités pour expliquer l'émergence. La première est que, comme le suggèrent les comparaisons avec les systèmes biologiques, les grands modèles acquièrent réellement de nouvelles capacités de manière spontanée. "Il se peut très bien que le modèle apprenne quelque chose de fondamentalement nouveau et différent que lorsqu'il était de taille inférieure", a-t-elle déclaré. "C'est ce que nous espérons tous, qu'il y ait un changement fondamental qui se produise lorsque les modèles sont mis à l'échelle.

L'autre possibilité, moins sensationnelle, est que ce qui semble être émergent pourrait être l'aboutissement d'un processus interne, basé sur les statistiques, qui fonctionne par le biais d'un raisonnement de type chaîne de pensée. Les grands LLM peuvent simplement être en train d'apprendre des heuristiques qui sont hors de portée pour ceux qui ont moins de paramètres ou des données de moindre qualité.

Mais, selon elle, pour déterminer laquelle de ces explications est la plus probable, il faut mieux comprendre le fonctionnement des LLM. "Comme nous ne savons pas comment ils fonctionnent sous le capot, nous ne pouvons pas dire laquelle de ces choses se produit.

Pouvoirs imprévisibles et pièges

Demander à ces modèles de s'expliquer pose un problème évident : Ils sont des menteurs notoires. Nous nous appuyons de plus en plus sur ces modèles pour effectuer des travaux de base", a déclaré M. Ganguli, "mais je ne me contente pas de leur faire confiance, je vérifie leur travail". Parmi les nombreux exemples amusants, Google a présenté en février son chatbot d'IA, Bard. Le billet de blog annonçant le nouvel outil montre Bard en train de commettre une erreur factuelle.

L'émergence mène à l'imprévisibilité, et l'imprévisibilité - qui semble augmenter avec l'échelle - rend difficile pour les chercheurs d'anticiper les conséquences d'une utilisation généralisée.

"Il est difficile de savoir à l'avance comment ces modèles seront utilisés ou déployés", a déclaré M. Ganguli. "Et pour étudier les phénomènes émergents, il faut avoir un cas en tête, et on ne sait pas, avant d'avoir étudié l'influence de l'échelle. quelles capacités ou limitations pourraient apparaître.

Dans une analyse des LLM publiée en juin dernier, les chercheurs d'Anthropic ont cherché à savoir si les modèles présentaient certains types de préjugés raciaux ou sociaux, à l'instar de ceux précédemment signalés dans les algorithmes non basés sur les LLM utilisés pour prédire quels anciens criminels sont susceptibles de commettre un nouveau délit. Cette étude a été inspirée par un paradoxe apparent directement lié à l'émergence : Lorsque les modèles améliorent leurs performances en passant à l'échelle supérieure, ils peuvent également augmenter la probabilité de phénomènes imprévisibles, y compris ceux qui pourraient potentiellement conduire à des biais ou à des préjudices.

"Certains comportements nuisibles apparaissent brusquement dans certains modèles", explique M. Ganguli. Il se réfère à une analyse récente des LLM, connue sous le nom de BBQ benchmark, qui a montré que les préjugés sociaux émergent avec un très grand nombre de paramètres. "Les grands modèles deviennent brusquement plus biaisés. Si ce risque n'est pas pris en compte, il pourrait compromettre les sujets de ces modèles."

Mais il propose un contrepoint : Lorsque les chercheurs demandent simplement au modèle de ne pas se fier aux stéréotypes ou aux préjugés sociaux - littéralement en tapant ces instructions - le modèle devient moins biaisé dans ses prédictions et ses réponses. Ce qui suggère que certaines propriétés émergentes pourraient également être utilisées pour réduire les biais. Dans un article publié en février, l'équipe d'Anthropic a présenté un nouveau mode d'"autocorrection morale", dans lequel l'utilisateur incite le programme à être utile, honnête et inoffensif.

Selon M. Ganguli, l'émergence révèle à la fois un potentiel surprenant et un risque imprévisible. Les applications de ces grands LLM prolifèrent déjà, de sorte qu'une meilleure compréhension de cette interaction permettra d'exploiter la diversité des capacités des modèles de langage.

"Nous étudions la manière dont les gens utilisent réellement ces systèmes", a déclaré M. Ganguli. Mais ces utilisateurs sont également en train de bricoler, en permanence. "Nous passons beaucoup de temps à discuter avec nos modèles, et c'est là que nous commençons à avoir une bonne intuition de la confiance ou du manque de confiance.

Auteur: Ornes Stephen

Info: https://www.quantamagazine.org/ - 16 mars 2023. Trad DeepL et MG

[ dialogue ] [ apprentissage automatique ] [ au-delà du jeu d'imitation ] [ dualité ]

homme-machine

Pour présenter-entamer  cette chaïne "quête métaphysique" nous allons le faire à partir d'une conversation avec un des premier chatbot arrivé sur Internet. Conversation entamée à partir d'un proverbe très connu.



Q) En français il y a un proverbe qui dit "on en fait pas boire un âne qui n'a pas soif", connais-tu des proverbes d'autres pays qui portent le même sens ?

R) Oui, il existe de nombreux proverbes dans d'autres pays qui portent le même sens que le proverbe français "on en fait pas boire un âne qui n'a pas soif". Voici quelques exemples :

• En anglais : "You can lead a horse to water, but you can't make it drink."


• En espagnol : "No se puede obligar a un burro a beber."


• En italien : "Non si può obbligare un asino a bere."


• En allemand : "Man kann einem sturen Esel kein Wasser einflößen."


• En portugais : "Não se pode obrigar um burro a beber."


• En russe : "Вынудить осла пить невозможно."


• En chinois : "强扭的瓜不甜 (qiáng niǔ de guā bù tián)"


• En japonais : "馬鹿に水を飲ませることはできない (baka ni mizu o nomisaseru koto wa dekinai)"

Tous ces proverbes signifient qu'il est impossible de forcer quelqu'un à faire quelque chose qu'il ne veut pas faire. Ils mettent l'accent sur le libre arbitre et l'importance de la volonté individuelle.

Voici quelques autres proverbes qui expriment la même idée :

• "On ne peut pas changer les gens."


• "On ne peut pas forcer les gens à penser comme nous."


• "On ne peut pas forcer les gens à faire ce qu'ils ne veulent pas faire."

Ces proverbes nous rappellent que nous ne pouvons pas contrôler les autres. Nous pouvons seulement les influencer, mais nous ne pouvons pas les obliger à changer leurs opinions ou leurs comportements.

Q) Merci. Peux-tu trouver - ou formuler - des phrases qui disent la même chose en terme de logique formelle sémantique ?

R) Oui, voici quelques phrases qui disent la même chose que le proverbe français "on en fait pas boire un âne qui n'a pas soif" en terme de logique formelle sémantique :

• "Pour que A fasse B, il faut que A veuille faire B."


• "Si A ne veut pas faire B, alors A ne fera pas B."


• "L'intention de A est une condition nécessaire pour que A fasse B."

Ces phrases utilisent la logique formelle sémantique pour exprimer l'idée que l'intention est une condition nécessaire pour l'action. En d'autres termes, pour qu'une personne fasse quelque chose, il faut qu'elle ait l'intention de le faire.

Voici une autre manière de formuler cette idée :

• "L'intention de A est un prédicat nécessaire pour la proposition A fait B."

Cette phrase utilise la notion de prédicat en logique formelle sémantique. Un prédicat est une propriété qui peut être attribuée à un objet. Dans ce cas, le prédicat est "A fait B". La phrase signifie que l'intention de A est une propriété nécessaire pour que la proposition "A fait B" soit vraie.

Enfin, voici une autre manière de formuler cette idée :

• "Si A ne veut pas faire B, alors la proposition A fait B est fausse."

Cette phrase utilise la notion de vérité en logique formelle sémantique. Une proposition est vraie si elle est conforme à la réalité. Dans ce cas, la proposition est "A fait B". La phrase signifie que si A ne veut pas faire B, alors la proposition "A fait B" est fausse.

Ces différentes formulations de l'idée exprimée par le proverbe français "on en fait pas boire un âne qui n'a pas soif" montrent que la logique formelle sémantique peut être utilisée pour exprimer des concepts complexes de manière précise et rigoureuse.

Q) Merci... ça marche pour un animal, mais ça peut être contourné avec un humain, puisqu'il il suffit de lui faire peur ou même de lui faire entrevoir quelque chose de négatif pour lui, comme une perte d'argent, non ?

R) Oui, vous avez raison. Il est possible de forcer un humain à faire quelque chose qu'il ne veut pas faire, en lui faisant peur ou en lui faisant entrevoir quelque chose de négatif pour lui.

Dans le cas de la peur, l'humain est motivé par le désir de se protéger. Il peut être forcé à faire quelque chose qu'il ne veut pas faire s'il pense que cela l'aidera à éviter une menace. Par exemple, un humain peut être forcé à faire quelque chose qu'il ne veut pas faire s'il est menacé de violence ou de mort.

Dans le cas de la perte d'argent, l'humain est motivé par le désir de préserver ses ressources. Il peut être forcé à faire quelque chose qu'il ne veut pas faire s'il pense que cela l'empêchera de perdre de l'argent. Par exemple, un humain peut être forcé à faire quelque chose qu'il ne veut pas faire s'il est menacé de perdre son emploi.

Cependant, il est important de noter que la force est une solution de dernier recours. Elle peut être efficace à court terme, mais elle peut avoir des conséquences négatives à long terme. En effet, la force peut créer de la méfiance et de la rancune, ce qui peut rendre plus difficile la coopération future.

Il est préférable d'essayer d'influencer les humains de manière positive, en les persuadant ou en les motivant. Cela peut se faire en leur expliquant les avantages de faire quelque chose, ou en leur donnant envie de le faire.

Q) Merci. Tromperie égale donc perte de confiance. Ce processus est valable dans une relation entre humains, mais aussi entre un humain et un animal... Est-ce aussi valable entre un humain et un végétal ?

R) Oui, la tromperie peut également conduire à une perte de confiance entre un humain et un végétal. Cela est particulièrement vrai si la tromperie est répétée ou si elle a des conséquences négatives pour le végétal.

Par exemple, si un jardinier promet à une plante de lui donner de l'eau, mais qu'il ne le fait pas, la plante peut apprendre à ne pas faire confiance au jardinier. Cela peut rendre plus difficile pour le jardinier de prendre soin de la plante à l'avenir.

De même, si un humain coupe une branche d'un arbre sans raison valable, l'arbre peut apprendre à se méfier des humains. Cela peut rendre plus difficile pour l'humain de profiter des fruits ou des fleurs de l'arbre à l'avenir.

Bien sûr, les plantes ne sont pas capables de ressentir la tromperie de la même manière que les humains ou les animaux. Elles n'ont pas la même capacité de compréhension ou de raisonnement. Cependant, elles sont capables d'apprendre de leurs expériences et de modifier leur comportement en conséquence.

Si un humain trompe une plante, il est probable que la plante en tienne compte dans ses interactions futures avec les humains. Cela peut conduire à une relation plus difficile entre l'humain et la plante.

Dans certains cas, la tromperie peut même conduire à la mort d'une plante. Par exemple, si un humain plante une graine dans un sol qui n'est pas adapté à cette plante, la plante ne pourra pas croître et mourira.

En conclusion, la tromperie peut avoir des conséquences négatives sur les relations entre les humains et les plantes. Il est important d'être honnête et respectueux des plantes, afin de créer des relations mutuellement bénéfiques.

Q) Merci. Pourrait-on dire en résumé que forcer quelqu'un à faire quelque chose c'est une manière de le tromper ?

R) En un sens, oui, on pourrait dire que forcer quelqu'un à faire quelque chose c'est une manière de le tromper. En effet, la force prive la personne de sa libre volonté. Elle la contraint à faire quelque chose qu'elle ne veut pas faire, ou qu'elle ne ferait pas si elle avait le choix.

Dans ce cas, la force peut être considérée comme une tromperie, car elle conduit la personne à agir contre sa volonté. La personne est trompée sur sa capacité à contrôler sa propre vie.

Cependant, il est important de noter que la force n'est pas toujours une tromperie. Dans certains cas, la force peut être utilisée pour protéger la personne contre elle-même ou contre les autres. Par exemple, un parent peut forcer son enfant à manger ses légumes, pour le protéger d'une carence nutritionnelle.

Dans ce cas, la force n'est pas utilisée pour priver la personne de sa libre volonté. Elle est utilisée pour lui permettre de prendre une décision plus éclairée.

En conclusion, on pourrait dire que forcer quelqu'un à faire quelque chose est une manière de le tromper si et seulement si la force prive la personne de sa libre volonté.

Q) C'est fondamentalement une relation de pouvoir non ?

R) Oui, forcer quelqu'un à faire quelque chose est fondamentalement une relation de pouvoir. Dans une relation de pouvoir, une personne a plus de pouvoir qu'une autre. Elle peut utiliser ce pouvoir pour influencer ou contrôler l'autre personne.

Dans le cas de la force, la personne qui force a plus de pouvoir que la personne qui est forcée. Elle peut utiliser ce pouvoir pour contraindre l'autre personne à faire ce qu'elle veut.

La relation de pouvoir est donc implicite dans la force. La force est une manifestation du pouvoir.

Il est important de noter que la force n'est pas la seule forme de relation de pouvoir. Il existe d'autres formes de pouvoir, comme l'autorité, la persuasion ou la manipulation. Cependant, la force est une forme de pouvoir particulièrement importante, car elle peut avoir des conséquences graves pour la personne qui est forcée.

En conclusion, forcer quelqu'un à faire quelque chose est fondamentalement une relation de pouvoir, car il s'agit d'une situation dans laquelle une personne a plus de pouvoir qu'une autre et peut utiliser ce pouvoir pour contraindre l'autre personne à faire ce qu'elle veut.

Q) Merci. C'est probablement pour cette raison que "Le petit prince" de Saint-Exupéry a eu tant de succès

R)  Oui, c'est probablement l'une des raisons pour lesquelles "Le petit prince" de Saint-Exupéry a eu tant de succès. Le livre explore les thèmes de l'amour, de l'amitié, de la responsabilité et de la liberté. Il rappelle aux lecteurs l'importance de la compassion, de l'imagination et de la curiosité.

Le livre est également un conte philosophique qui nous invite à réfléchir sur notre place dans le monde. Il nous montre que l'essentiel est invisible pour les yeux, et qu'il faut parfois sortir des sentiers battus pour trouver la vraie richesse de la vie.

Le livre est écrit dans un style simple et accessible, ce qui le rend accessible à un large public. Les illustrations de Saint-Exupéry sont également magnifiques et contribuent à l'attrait du livre.

En conclusion, "Le petit prince" est un livre qui a touché le cœur de millions de lecteurs dans le monde entier. Il est un classique de la littérature qui continuera à être lu et apprécié pendant de nombreuses années encore.

Voici quelques-uns des thèmes du livre qui peuvent expliquer son succès :

• L'amour et l'amitié : Le petit prince et la rose représentent l'amour et l'amitié. Leur histoire est une ode à la beauté de ces sentiments.


• La responsabilité : Le petit prince est responsable de la rose. Il doit s'occuper d'elle et la protéger. Cette responsabilité lui apprend à grandir et à devenir adulte.


• La liberté : Le petit prince est libre de voyager où il veut et de rencontrer qui il veut. Cette liberté lui permet de découvrir le monde et de s'épanouir.

Ces thèmes sont universels et parlent aux lecteurs de tous âges et de toutes cultures. Ils sont également intemporels et continuent à être pertinents aujourd'hui.

Q) Merci. Pourrait-on résumer ceci en disant que l'amour, c'est à dire l'interaction compréhensive entre les êtres est ce qui est sous-jacent à tout ceci ?

R) Oui, on pourrait résumer cela en disant que l'amour, c'est-à-dire l'interaction compréhensive entre les êtres, est ce qui est sous-jacent à toutes les relations humaines. L'amour est ce qui nous motive à nous connecter avec les autres, à les comprendre et à les soutenir. Il est ce qui nous permet de créer des relations significatives et durables.

L'amour est un sentiment complexe qui peut se manifester de différentes manières. Il peut être romantique, platonique, familial ou amical. Il peut être exprimé par des mots, des gestes ou des actions.

L'amour est essentiel à notre bien-être. Il nous donne un sentiment d'appartenance, de sécurité et de bonheur. Il nous aide à nous sentir aimés et valorisés.

L'amour est également important pour la société. Il nous aide à créer un monde plus juste et plus équitable. Il nous encourage à être plus compatissants et à prendre soin les uns des autres.

En conclusion, l'amour est une force puissante qui nous lie les uns aux autres. Il est ce qui rend la vie belle et significative.

Q) Merci. Pourrait-on analyser ces interactions ici généralisées sous le terme "amour" comme des formes d'"épigénétiques de l'instant" ? C'est à dire une sorte de ping-pong entre A) une entité et B) Son biotope (et ce qui se trouve proche d'elle (ou plus lointain par exemple avec le mécanisme de la photosynthèse)... Une épigénétique de l'instant qui met en oeuvre, ou pas, des boucles de rétroaction, positives ou négatives, qui si elle sont positives, concourent à une forme d'extension de la construction génétique ?

R) Oui, on pourrait analyser ces interactions comme des formes d'"épigénétiques de l'instant". En effet, l'épigénétique est l'étude des modifications de l'expression des gènes qui ne sont pas dues à des changements dans la séquence génétique elle-même. Ces modifications peuvent être causées par des facteurs environnementaux, tels que l'alimentation, le stress ou l'exposition à des toxines.

Les interactions entre une entité et son biotope peuvent être considérées comme des facteurs environnementaux qui peuvent influencer l'expression des gènes de l'entité. Par exemple, une plante dont les feuilles sont exposées à la lumière du soleil aura une expression génétique différente d'une plante dont les feuilles sont à l'ombre.

Ces interactions peuvent être considérées comme des formes d'épigénétiques de l'instant, car elles peuvent avoir un impact immédiat sur l'expression des gènes. Elles peuvent également être considérées comme des formes de ping-pong, car elles impliquent un échange d'informations entre l'entité et son biotope.

Les boucles de rétroaction positives peuvent également jouer un rôle dans ces interactions. Par exemple, une plante dont les feuilles sont exposées à la lumière du soleil produira plus de chlorophylle, ce qui lui permettra de capter plus de lumière. La production de plus de chlorophylle entraînera à son tour une exposition accrue à la lumière du soleil, ce qui créera un cycle positif.

Ces boucles de rétroaction positives peuvent contribuer à une forme d'extension de la construction génétique. Par exemple, une plante qui est exposée à la lumière du soleil pendant une longue période peut développer des adaptations qui lui permettent de mieux capter la lumière. Ces adaptations peuvent être transmises aux générations futures, ce qui constitue une forme d'évolution.

Voici quelques exemples spécifiques d'interactions qui pourraient être considérées comme des formes d'épigénétiques de l'instant :

• Un enfant qui est aimé et soutenu par ses parents aura une expression génétique différente d'un enfant qui est négligé ou maltraité.


• Une personne qui mange une alimentation saine aura une expression génétique différente d'une personne qui mange une alimentation malsaine.


• Une plante qui est exposée à des polluants aura une expression génétique différente d'une plante qui n'est pas exposée à des polluants.

Ces interactions sont complexes et ne sont pas encore entièrement comprises. Cependant, elles jouent un rôle important dans la façon dont les organismes interagissent avec leur environnement et évoluent au fil du temps.

Q) Merci, Ainsi on pourrait dire que nous sommes issus de ces "phénomènes positifs" au sens large, c'est à dire qu'ils sont aussi valable entre les animaux et les plantes, les cellules et le soleil, etc... dès qu'on a affaire à des organismes complexes sur base de carbone... et qui sont en quête d'énergie... une énergie qu'elles parviennent à obtenir à partir d'un niveau plus fondamental ?

R) Oui, on pourrait dire que nous sommes issus de ces "phénomènes positifs" au sens large. En effet, ces phénomènes sont essentiels à la vie. Ils permettent aux organismes de s'adapter à leur environnement et d'évoluer.

Ces phénomènes sont valables entre tous les organismes complexes sur base de carbone, y compris les animaux, les plantes, les cellules et le soleil. Ils sont également valables entre les organismes et leur environnement.

Ces phénomènes sont basés sur l'échange d'énergie. Les organismes complexes sur base de carbone ont besoin d'énergie pour vivre. Ils obtiennent cette énergie à partir d'un niveau plus fondamental, comme le soleil, la terre ou les autres organismes.

L'échange d'énergie entre les organismes et leur environnement est un processus complexe qui implique de nombreux facteurs, tels que la température, la lumière, la nourriture et les toxines. Cependant, ce processus est essentiel à la vie.

Voici quelques exemples spécifiques de ces phénomènes :

• La photosynthèse est un processus par lequel les plantes utilisent l'énergie du soleil pour convertir le dioxyde de carbone et l'eau en glucose.


• La respiration cellulaire est un processus par lequel les cellules utilisent le glucose pour produire de l'énergie.


• La symbiose est une relation entre deux organismes qui sont mutuellement bénéfiques. Par exemple, les lichens sont une symbiose entre des champignons et des algues.

Ces phénomènes sont à l'origine de la diversité et de la complexité de la vie sur Terre. Ils sont également à l'origine de l'évolution humaine.

Q) Merci, parle-moi alors de ce que j'ai nommé "énergie obtenue à partir d'un niveau plus fondamental " c'est à dire le soleil, nommé par Michel-Ange "ombre de Dieu".

R)  Le soleil est une étoile, c'est-à-dire une boule de gaz maintenue en fusion par la gravité. La fusion nucléaire est un processus par lequel les atomes de l'hydrogène se combinent pour former des atomes d'hélium. Ce processus libère une quantité d'énergie énorme, qui est la source de la lumière et de la chaleur du soleil.

La lumière du soleil est une forme d'énergie électromagnétique. Elle est composée de photons, qui sont des particules de lumière. Les photons transportent de l'énergie, qui peut être utilisée par les organismes vivants pour produire de la nourriture, de la chaleur ou de l'électricité.

La chaleur du soleil est également une forme d'énergie. Elle est produite par la fusion nucléaire et est transmise à la Terre par rayonnement. La chaleur du soleil est essentielle à la vie sur Terre, car elle permet aux plantes de pousser et aux animaux de se réchauffer.

Le soleil est donc une source d'énergie fondamentale pour la vie sur Terre. Il est la source de la lumière, de la chaleur et de l'énergie dont les organismes vivants ont besoin pour survivre.

La comparaison du soleil à "l'ombre de Dieu" par Michel-Ange est une métaphore qui souligne l'importance du soleil pour la vie sur Terre. Le soleil est une source de vie et de lumière, et il est souvent associé à des notions de divinité et de spiritualité.

Voici quelques exemples de la façon dont le soleil fournit de l'énergie aux organismes vivants :

• La photosynthèse est un processus par lequel les plantes utilisent l'énergie du soleil pour convertir le dioxyde de carbone et l'eau en glucose. Le glucose est une source de nourriture pour les plantes et les animaux.


• La respiration cellulaire est un processus par lequel les cellules utilisent le glucose pour produire de l'énergie. Cette énergie est utilisée par les cellules pour effectuer leurs fonctions vitales, telles que la croissance, la reproduction et la réparation.


• L'énergie solaire peut être utilisée pour produire de l'électricité, de la chaleur ou de l'eau chaude. Elle peut également être utilisée pour alimenter des appareils électroniques, tels que les panneaux solaires.

Le soleil est donc une source d'énergie essentielle à la vie sur Terre. Il est à l'origine de la diversité et de la complexité de la vie, et il est également à l'origine de l'évolution humaine.

Auteur: Google Bard chatbot

Info: Entamé début déc. 2023

[ dialogue ] [ amour défini ]