thérapie

Chanter vaut mieux que parler pour calmer les bébés

Dans une nouvelle étude de l'Université de Montréal, des chercheuses ont observé que des bébés demeuraient calmes deux fois plus longtemps lorsqu'ils entendaient des chansons (qu'ils ne connaissaient pas) que lorsqu'ils entendaient quelqu'un leur parler.

"L'effet du chant et des paroles sur l'attention des enfants en bas âge a fait l'objet de nombreuses études, mais nous voulions savoir quelles étaient leurs répercussions sur la maîtrise des émotions, explique la professeure Isabelle Peretz, du Centre de recherche sur le cerveau, le langage et la musique, de l'UdeM. La capacité de maîtriser ses émotions n'est bien sûr pas très développée chez les bébés, et nous croyons que le chant aide les enfants, y compris ceux en bas âge, à renforcer cette faculté."

L'étude, publiée récemment dans Infancy, a porté sur 30 bébés en santé de six à neuf mois. Les humains sont naturellement captivés par la musique. Chez les adultes et les enfants plus âgés, cet effet d'"entraînement" se traduit par des comportements comme taper du pied, hocher la tête ou battre la mesure. "Chez les enfants en bas âge, il n'y a aucune synchronisation entre leurs mouvements et la musique parce qu'ils n'en ont pas les capacités motrices ou mentales, signale la professeure Peretz. Notre étude visait en partie à déterminer s'ils avaient les capacités mentales pour ressentir cet effet. Selon nos conclusions, les bébés se laissaient emporter par la musique, ce qui permet de croire qu'ils possèdent les aptitudes mentales pour se laisser "entraîner"." Les chercheuses ont utilisé divers moyens pour s'assurer que la réaction des bébés à la musique n'était pas influencée par d'autres facteurs, comme la sensibilité à la voix de leur mère.

En premier lieu, elles ont fait entendre aux bébés des enregistrements de paroles (en langage "de bébé" et d'adulte) et de musique en turc pour que les sons ne leur soient pas familiers. "Les chansons ont été choisies dans le répertoire turc, et non occidental. Il s'agit d'un aspect important de cette recherche, car des travaux ont démontré que les chansons que nous chantons aux jeunes enfants se trouvent dans une tonalité précise avec un tempo particulier, souligne Mariève Corbeil, première auteure de l'étude, également de l'Université de Montréal. Tous les parents savent qu'ils n'auront pas beaucoup de succès en chantant des chansons de Rihanna à leur bébé!"

Deuxièmement, les bébés n'ont été soumis à aucun autre stimulus. "Les parents se trouvaient dans la salle, mais ils étaient assis derrière leur bébé. Leurs expressions faciales ne pouvaient donc pas influer sur celles de l'enfant, mentionne Mme Corbeil. Nous avons aussi fait entendre aux bébés des enregistrements plutôt que des chansons ou des paroles en direct afin que tous les enfants soient soumis à des prestations comparables et qu'aucune interaction n'ait lieu entre le bébé et la personne qui chante ou qui parle." Une fois leur enfant calme, les parents prenaient place sur des chaises derrière le bébé, et l'expérience commençait. Les chercheuses faisaient jouer les enregistrements jusqu'à ce que le bébé manifeste les signes avant-coureurs de pleurs : abaissement des sourcils, déplacement latéral des coins de la bouche, ouverture de la bouche et soulèvement des joues. Ces expressions faciales sont les signes de chagrin les plus courants.

"Quand ils entendaient une chanson turque, les bébés restaient calmes pendant environ neuf minutes en moyenne. En entendant quelqu'un parler, ils demeuraient calmes deux fois moins longtemps, qu'il s'agisse ou non de langage de bébé", indique Mme Corbeil. Le langage de bébé les calmait pendant un peu plus de quatre minutes en moyenne comparativement à un peu moins de quatre minutes pour le langage d'adulte.

"Le peu de différence entre ces deux types de paroles nous a surprises", poursuit-elle. Les chercheuses ont ensuite vérifié leurs conclusions en soumettant un autre groupe d'enfants à des enregistrements de mères chantant dans une langue familière (le français). Elles ont constaté les mêmes effets. "Nos conclusions laissent peu de doutes sur l'efficacité des rondes enfantines pour apaiser les bébés pendant une période prolongée, affirme la professeure Peretz.

Même dans l'environnement plutôt stérile de la salle d'expérience - murs noirs, lumière tamisée, absence de jouets et de toute stimulation visuelle ou tactile -, la voix d'une femme qui chante maintenait le bien-être des bébés plus longtemps que la parole." Mme Corbeil ajoute : "Les bébés écoutaient les chansons en turc pendant près de neuf minutes avant de présenter les signes annonçant qu'ils allaient pleurer. Ce délai était de six minutes dans le cas des chansons en français, soit la langue avec laquelle ils étaient familiarisés. Ces résultats montrent l'importance intrinsèque de la musique et des chansons pour enfants en particulier, qui satisfont notre désir de simplicité et notre attirance pour la répétition."

Les conclusions de cette étude sont importantes, car les mères, surtout en Occident, parlent beaucoup plus qu'elles ne chantent à leurs enfants et elles ne mettent donc pas à profit les vertus du chant quant à la maîtrise des émotions. Les chercheuses croient que le chant pourrait être particulièrement utile aux parents qui vivent des difficultés socioéconomiques ou émotionnelles. "Lorsque leurs enfants manifestent des signes d'irritation, les parents cherchent habituellement à les réconforter. Toutefois, ces signes provoquent parfois de la frustration et de la colère chez certains parents à risque, ce qui peut mener à des réactions insensibles et, dans les pires cas, à de la négligence ou de la violence, note la professeure Peretz. Les parents à risque dont s'occupent les organismes de services sociaux pourraient être encouragés à faire jouer des chansons à leurs jeunes enfants et, mieux encore, à leur en chanter."

Auteur: Corbeil Mariève

Info: Ecrit avec Sandra Trehub et Isabelle Peretz. Elle ont publié, Singing Delays the Onset of Infant Distress, dans Infancy le 22 septembre 2015. Elles sont affiliées au Laboratoire international de recherche sur le cerveau, la musique et le son de l'Université de Montréal et au Centre de recherche sur le cerveau, le langage et la musique

[ éducation ] [ nourrisson ] [ musique ] [ hypnose sonore ]

portrait

Maryam Mirzakhani était mathématicienne, mais elle oeuvrait  comme une artiste, toujours en train de dessiner. Elle aimait s'accroupir sur le sol avec de grandes feuilles de papier, les remplissant de gribouillages : figures florales répétées et corps bulbeux et caoutchouteux, leurs appendices coupés proprement, comme les habitants d'un dessin animé, égarés,  de Miyazaki. L’un de ses étudiants diplômés de l’Université de Stanford a déclaré que Mirzakhani décrivait les problèmes mathématiques non pas comme des énigmes logiques intimidantes mais comme des tableaux animés. "C'est presque comme si elle avait une fenêtre sur le paysage mathématique et qu'elle essayait de décrire comment les choses qui y vivaient interagissaient les unes avec les autres", explique Jenya Sapir, aujourd'hui professeure adjointe à l'Université de Binghamton. "Pour elle, tout arrive en même temps."

Mirzakhani a grandi à Téhéran avec le rêve de devenir écrivain. En sixième année, elle a commencé à Farzanegan, une école pour les filles les plus douées de la ville, et a obtenu les meilleures notes dans toutes ses classes, à l'exception des mathématiques. Vers la fin de l'année scolaire, l'instructeur lui a rendu un test de mathématiques noté 16 sur 20, et Mirzakhani l'a déchiré et a fourré les morceaux dans son sac. Elle a dit à une amie qu’elle en avait assez en mathématiques : " Je ne vais même pas essayer de faire mieux. " Mirzakhani, cependant, était constitutionnellement incapable de ne pas essayer, et elle tomba bientôt amoureuse de la poésie épurée du sujet. Alors qu'elle était au lycée, elle et sa meilleure amie, Roya Beheshti, sont devenues les premières femmes iraniennes à se qualifier pour l'Olympiade internationale de mathématiques, et l'année suivante, en 1995, Mirzakhani a remporté une médaille d'or avec un score parfait.

Mirzakhani a déménagé aux États-Unis à l'automne 1999 pour poursuivre ses études supérieures à Harvard. Sa passion était la géométrie et elle était particulièrement attirée par les " surfaces hyperboliques ", qui ont la forme de chips Pringles. Elle a exploré un univers extrême dans son abstraction – avec des " espaces de modules ", où chaque point représente une surface – et des dimensions qui dépassent les nôtres. D'une manière ou d'une autre, Mirzakhani était capable d'évoquer des aspects de tels espaces à considérer, en griffonnant sur une feuille de papier blanc pour essayer une idée, s'en souvenir ou en rechercher une nouvelle ; ce n'est que plus tard qu'elle transcrira ses aventures dans les symboles conventionnels des mathématiques. "on ne veut pas écrire tous les détails ", a-t-elle dit un jour à un journaliste. "Mais le processus du dessin de quelque chose vous aide d'une manière ou d'une autre à rester connecté." Son doctorat : thèse commencée en dénombrant des boucles simples sur des surfaces, a conduit à un calcul du volume total des espaces de modules. Cela a permis à la jeune chercheuse de publier trois articles distincts dans des revues mathématiques de premier plan, dont l'un contenait une nouvelle preuve surprenante de la célèbre " conjecture de Witten ", une étape importante dans la physique théorique reliant les mathématiques et la gravité quantique. Les mathématiques de Mirzakhani sont appréciées pour leurs grands sauts créatifs, pour les liens qu'elles ont révélés entre des domaines éloignés, pour leur sens de la grandeur.

Lorsque Jan Vondrak, qui deviendra son mari, la rencontre en 2003, il ne savait pas, dit-il, qu'" elle était une superstar ". Mirzakhani terminait ses études à Harvard et Vondrak, aujourd'hui professeur de mathématiques à Stanford, étudiait au MIT ; ils se sont rencontrés lors d'une fête, chacun reconnaissant une âme sœur qui n'aimait pas particulièrement les fêtes. Vondrak l'a initiée au jazz et les deux ont fait de longues courses le long de la rivière Charles. Mirzakhani était à la fois modeste – Vondrak a appris de ses nombreuses réalisations grâce à des amis communs – et extrêmement ambitieuse. Vondrak se souvient de ses rêves de découvertes futures dans l'espace des modules, mais aussi de sa détermination à explorer des domaines plus lointains, comme la théorie des nombres, la combinatoire et la " théorie ergodique ". Elle avait, selon Vondrak, " 100 ans de projets ".

Il y a trois ans, Mirzakhani, 37 ans, est devenue la première femme à remporter la médaille Fields, le prix Nobel de mathématiques. La nouvelle de cette récompense et le symbolisme évident (première femme, première Iranienne, immigrante d'un pays musulman) la troublaient. Elle fut très perplexe lorsqu’elle a découvert que certaines personnes pensaient que les mathématiques n’étaient pas pour les femmes – ce n’était pas une idée qu’elle ou ses amis avaient rencontrée en grandissant en Iran – mais elle n’était pas encline, de par sa personnalité, à dire aux autres quoi penser. À mesure qu’elle devenait une célébrité parmi les Iraniens, les gens l’approchaient pour lui demander une photo, ce qu’elle détestait. La médaille Fields a également été annoncée alors qu'elle venait de terminer un traitement épuisant contre le cancer du sein.

En 2016, le cancer est réapparu, se propageant au foie et aux os de Mirzakhani. Tous ceux qui ont connu Mirzakhani la décrivent comme étant d’un optimisme inébranlable ; ils quittaient toujours les conversations avec un sentiment d'énergie. Mais finalement, il est devenu impossible pour Mirzakhani de continuer ce que sa jeune fille, Anahita, appelait sa " peinture ". Lors d'un service commémoratif à Stanford, Curtis McMullen, directeur de thèse de Mirzakhani et président du département de mathématiques de Harvard, a déclaré que lorsqu'elle était étudiante, elle venait à son bureau et posait des questions qui étaient " comme des histoires de science-fiction ", des scènes vivantes qu'elle avait entrevues. dans un coin inexploré de l’univers mathématique – des structures étranges et des motifs séduisants, tous en mouvement et interconnectés. Puis elle le regardait de ses yeux bleu-gris. " Est ce bien? " demanderait-elle, comme s'il pouvait connaître la réponse.

Auteur: Internet

Info: Nytimes, by Gareth Cook, 2017

[ syntropie ] [ visualisation ]

linguistique de masse

L'intelligence artificielle travaille-t-elle en anglais ? 

Des scientifiques de l’EPFL ont montré que les grands modèles de langage semblent utiliser l’anglais en interne même lorsqu’ils sont sollicités dans une autre langue, ce qui pourrait avoir des conséquences en termes de biais linguistiques et culturels.

Les grands modèles de langage (LLM), tels que ChatGPT d’Open AI et Gemini de Google, ont conquis le monde et surprennent par leur capacité à comprendre les utilisatrices et utilisateurs et à leur répondre avec un discours en apparence naturel.

Bien qu’il soit possible d’interagir avec ces LLM dans n’importe quelle langue, ces derniers sont entraînés avec des centaines de milliards de paramètres textuels, principalement en anglais. Certaines personnes ont émis l’hypothèse qu’ils effectuaient la majeure partie de leur traitement interne en anglais et traduisaient ensuite dans la langue cible au tout dernier moment. Mais il y avait peu de preuves de cela, jusqu’à aujourd’hui.

Tests de Llama

Des chercheuses et chercheurs du Laboratoire de science des données (DLAB) de la Faculté informatique et communications de l’EPFL ont étudié le LLM open source Llama-2 (grand modèle de langage IA développé par Meta) pour essayer de déterminer quelles langues étaient utilisées à quels stades de la chaîne informatique.

" Les grands modèles de langage sont entraînés pour prédire le mot suivant. Pour cela, ils font correspondre chaque mot à un vecteur de nombres, c’est-à-dire à un point de données multidimensionnel. Par exemple, l’article le se trouvera toujours exactement à la même coordonnée fixe des nombres ", explique le professeur Robert West, responsable du DLAB.

" Les modèles enchaînent environ 80 couches de blocs de calcul identiques, chacun transformant un vecteur qui représente un mot en un autre vecteur. À la fin de cette séquence de 80 transformations, on obtient un vecteur représentant le mot suivant. Le nombre de calculs est déterminé par le nombre de couches de blocs de calcul. Plus il y a de calculs, plus votre modèle est puissant et plus le mot suivant a de chances d’être correct. "

Comme l’explique la prépublication intitulée Do Llamas Work in English? On the Latent Language of Multilingual Transformers, Robert West et son équipe ont forcé le modèle à répondre après chaque couche chaque fois qu’il essayait de prédire le mot suivant au lieu de le laisser effectuer les calculs à partir de ses 80 couches. Ils ont ainsi pu voir quel mot le modèle aurait prédit à ce moment-là. Ils ont mis en place différentes tâches telles que demander au modèle de traduire une série de mots français en chinois.

" Nous lui avons donné un mot français, puis la traduction en chinois, un autre mot français et la traduction en chinois, etc., de sorte que le modèle sache qu’il est censé traduire le mot français en chinois. Idéalement, le modèle devrait donner une probabilité de 100% pour le mot chinois. Mais lorsque nous l’avons forcé à faire des prédictions avant la dernière couche, nous avons remarqué que la plupart du temps, il prédisait la traduction anglaise du mot français, bien que l’anglais n’apparaisse nulle part dans cette tâche. Ce n’est qu’au cours des quatre ou cinq dernières couches que le chinois est en fait plus probable que l’anglais ", affirme Robert West.

Des mots aux concepts

Une hypothèse simple serait que le modèle traduit la totalité de l’entrée en anglais et la traduit à nouveau dans la langue cible juste à la fin. Mais en analysant les données, les chercheuses et chercheurs sont parvenus à une théorie bien plus intéressante.

Dans la première phase des calculs, aucune probabilité n’est attribuée à l’un ou l’autre mot. Selon eux, le modèle s’attache à résoudre les problèmes d’entrée. Dans la seconde phase, où l’anglais domine, les chercheuses et chercheurs pensent que le modèle se trouve dans une sorte d’espace sémantique abstrait où il ne raisonne pas sur des mots isolés mais sur d’autres types de représentations qui concernent davantage des concepts, sont universels dans toutes les langues et représentent plus un modèle du monde. C’est important car, pour bien prédire le mot suivant, le modèle doit en savoir beaucoup sur le monde et l’un des moyens d’y parvenir est d’avoir cette représentation des concepts.

" Nous supposons que cette représentation du monde en termes de concepts est biaisée en faveur de l’anglais, ce qui serait très logique car les données utilisées pour entraîner ces modèles sont à environ 90% en anglais. Ils cartographient les mots en entrée à partir d’un espace de mots superficiel, dans un espace de signification plus profond avec des représentations de la façon dont ces concepts sont liés les uns aux autres dans la réalité – et les concepts sont représentés de la même manière que les mots anglais, plutôt que les mots correspondants dans la langue d’entrée réelle ", déclare Robert West.

Monoculture et biais

Cette domination de l’anglais amène à se poser la question suivante: " est-ce important "? Les chercheuses et chercheurs pensent que oui. D’après de nombreuses recherches, les structures qui existent dans le langage influencent la manière dont nous construisons la réalité et les mots que nous employons sont profondément liés à la façon dont nous pensons le monde. Robert West suggère de commencer à étudier la psychologie des modèles de langage en les traitant comme des êtres humains et, dans différentes langues, en les interrogeant, en les soumettant à des tests de comportement et en évaluant leurs biais.

" Je pense que cette recherche a vraiment touché un point sensible, car les gens s’inquiètent de plus en plus de ce genre de problème de monoculture potentielle. Les modèles étant meilleurs en anglais, bon nombre de chercheuses et chercheurs étudient aujourd’hui la possibilité d’introduire un contenu en anglais et de le traduire dans la langue souhaitée. D’un point de vue technique, cela pourrait fonctionner, mais je pense que nous perdons beaucoup de nuances, car ce que vous ne pouvez pas exprimer en anglais ne sera pas exprimé ", conclut Robert West.

Auteur: Internet

Info: https://actu.epfl.ch/news/l-intelligence-artificielle-travaille-t-elle-en--2/#:~:text=Les%20chercheuses%20et%20chercheurs%20pensent%20que%20oui.,dont%20nous%20pensons%20le%20monde.

[ anglocentrisme ] [ spécificités des idiomes ] [ homme-machine ] [ symboles univers ] [ ethnocentrisme ]

sexualité

La culotte peut-elle être chaude et la tête froide ?

Est-il possible qu'une femme soit physiquement excitée sans s'en apercevoir ? A la vue de films érotiques qui les font abondamment mouiller, la majorité des femmes prétendent que ces films les laissent "de glace". Mépris du corps ? Déni du désir ?

Si on demande aux femmes quels scénarios les excitent, elles ont tendance à minorer. Faudrait pas avoir l'air trop "salope". Officiellement, donc, les femmes - pour leur majorité - n'aiment pas l'idée de se retrouver au lit avec trois hommes, ni de se faire payer par un bel inconnu pour le rejoindre dans une chambre d'hôtel, ni les plans hardcore, ni la sodomie, etc.

Fatiguée d'entendre toujours le même discours, la chercheuse américaine Meredith Chivers invente un appareil à mesurer l'excitation et découvre que les femmes sont excitées... même lorsqu'elles affirment le contraire. Ces femmes mentent-elles ? "Non", répond Meredith Chivers, qui part du principe que ses cobayes sont de bonne foi lorsqu'elles passent le test. Dans ce cas, comment expliquer un tel aveuglement ? S'agit-il d'un refus inconscient de ses propres émois, conditionné par l'éducation ? Ou d'une plus grande "capacité" de faire la part des choses entre les manifestations physiologiques et l'excitation mentale ? Plusieurs hypothèses sont possibles.

EXCITÉE SANS LE SAVOIR

La première hypothèse repose sur l'idée d'une disparité fonctionnelle entre le pénis et le vagin. En d'autres termes : il est cliniquement possible que la femme soit excitée sans le savoir. Dans Le Secret des femmes*, Elisa Brune et Yves Ferroul l'expliquent ainsi : "Un clitoris peut être gorgé de sang et gonflé en érection sans que sa propriétaire en soit le moins du monde au courant. Situation impossible pour un pénis dont l'aspect crie son état sur tous les toits. Raison, sans doute, pour laquelle excitation mentale et excitation physiologique sont plus étroitement liées chez l'homme que chez la femme. Raison aussi pour laquelle la probabilité de masturbation spontanée est plus grande chez les garçons que chez les filles. Une érection visible, d'un côté, va induire un comportement de curiosité et de renforcement de l'excitation, alors qu'une érection invisible, de l'autre côté, va laisser le champ ouvert à une multitude de ressentis différents : excitation, ou gêne, ou malaise, ou incompréhension, ou saute d'humeur, ou inconscience pure et simple. Est-ce pour cela que 54 % des hommes disent penser au sexe au moins une fois par jour, contre seulement 19 % des femmes ?" "On peut donc être excitée, poursuivent-elles, sans le savoir, et ce même lorsqu'on baigne dans une ambiance sexuelle. Lorsqu'on soumet des hommes et des femmes à des stimuli pornographiques, les réponses physiologiques sont équivalentes en rapidité et en intensité (mesurée par l'augmentation du débit sanguin dans les organes génitaux qui lui-même induit la lubrification chez la femme). À cette différence près que les femmes déclarent souvent ne ressentir aucune excitation (là où les hommes sont parfaitement conscients de ce qui se passe)." Pour Elisa Brune et Yves Ferroul, il est physiologiquement possible pour une femme de rester sourde aux appels lancés depuis sa culotte. Mais cette surdité est-elle une bonne chose ? Culturellement, les femmes sont éduquées à nier leurs désirs. Si elles se bouchent les oreilles, refusant d'entendre ce que le corps leur dit, faut-il se contenter de dire "C'est comme ça ?". Ou faut-il inciter les filles à se fier plus à leurs sensations physiques qu'à la morale répressive ambiante?

DÉSOLANTE PSYCHOLOGIE ÉVOLUTIONNISTE

La question est difficile car il se peut fort que les sécrétions vaginales n'aient POUR DE VRAI rien à voir avec l'excitation mentale. "On a déjà constaté des vagins lubrifiés lors de viols, ce qui ne veut pas dire pour autant qu'il y avait consentement ou plaisir, raconte Elisa Brune. La paroi vaginale répond du tac au tac lorsqu'on a besoin d'elle, quel que soit le scénario." Le problème avec cette hypothèse-là, c'est qu'elle est récupérée par des adeptes de la psychologie évolutionniste et détournée à leur profit : ils affirment que la "vasocongestion réflexe" du vagin (le fait que les femmes se mettent à mouiller dès qu'elles sont confrontées à des corps nus ou des situations sexuelles) "pourrait être le résultat d'une adaptation évolutive rendant la femelle apte au coït plus rapidement, c'est à-dire indistinctement à la moindre alerte, ce qui la protègerait des blessures en cas de sollicitation brutale." Idée rancie, sous-tendue par une idéologie scientiste qui ramène systématiquement le désir à sa seule dimension biologique.

Il est toujours désolant de constater que les résultats de recherche qui devraient nous amener à poser de vraies questions sur ce que nous sommes (ou ce que nous voulons) sont mises au profit d'un discours -rabâché ad nauseam- réduisant la sexualité à n'être qu'un instinct primal, puis qu'un programme génétique, hérité du Pléistocène. C'est le même discours que celui qui consiste à dire : la pornographie est une drogue, puisqu'elle réduit notre self-contrôle ; les hommes sont naturellement des violeurs polygames attirés par le rapport taille-hanche de 0,7 ; les femmes sont naturellement des harpies frigides, possessives et monogames... Il est désolant de constater que ce discours, désespérant car rempli de mépris envers la complexité humaine, reste la réponse à tout lorsque nous sommes confrontés à des données étranges. Pourquoi les femmes s'excitent-elles sur les bonobos qui copulent et pas les hommes ?

OUVRIR DE NOUVELLES PISTES

Dans un article datant du 21 mars 2014, le chercheur Martin Baker (1) avance : "Lorsque Meredith a fait cette curieuse découverte, elle avait bien conscience que ça ne collait pas avec la doxa. La doxa veut que les mâles humains soient excités par le fait de multiplier leurs partenaires et que les femelles humaines, au contraire, ne soient excitées que par la tendresse et l'amour. Le problème que soulève la contradiction entre ce qui les excite physiquement et ce qu'elles prétendent devrait pourtant nous encourager à ouvrir de nouvelles pistes de réflexion sur la sexualité."

Après quoi, Martin Baker propose son analyse : "Nos corps réagissent à certaines images et, ce faisant, nos corps nous encouragent à définir ce qu'est le sexe et la sexualité suivant des critères physiologiques... Nous sommes des créatures remplies de désir pour le sexe, mais également remplies d'attirance pour le désir lui-même. Quand nous grandissons, nous devenons conscient de la possibilité du sexe. Nous apprenons à identifier les réponses physiologiques de nos corps aux possibilités sexuelles. Nous apprenons également à nous définir en fonction de ces réponses : il y a des choses qui nous excitent et d'autres pas. Cela fonde notre identité (sexuelle, mais pas que). Nous apprenons à comprendre qui nous sommes en comparant ce qui nous excite avec ce qui excite les autres et à voir le monde comme un champ ouvert d'interdits ou de possibilités. Ainsi se construit notre univers fantasmatique, à la croisée du corps, du moi et des normes culturelles. Les trois sont nécessaires et il serait intéressant de réfléchir sur la sexualité entendue comme le résultat d'une interaction entre ces trois univers.

Auteur: Giard Agnès

Info: 25 janv. 2015

[ femmes-par-hommes ] [ sciences ] [ femmes-par-femme ]

anthropomorphisme

Les plantes sont-elles frigides?

La plante évoque l'inertie. On dit "végéter" pour "stagner". Mais il y a quelques siècles encore, "végéter" signifiait le contraire. En latin, ce mot désigne la surabondance d'énergie qui pousse une plante à jaillir. Plus on la coupe, plus elle reverdit : la plante, c'est l'énergie sexuelle incarnée. Sur le plan étymologique en tout cas. Les termes latins dont le mot "végétal" dérive désignent à l'origine "force et croissance". Le mot silva (forêt) est attesté dès Cicéron dans le sens de "grande quantité" et d'"abondance de matière". Le mode d'être de la plante est celui d'une prolifération virtuellement infinie, en constante expansion. Quel plus beau modèle prendre pour l'humain que celui du lierre ou du lichen? A la différence des végétaux dont la vie se confond avec la croissance, la plupart des bêtes, une fois adultes atteignent leurs dimensions définitives, explique Dominique Brancher, ce qui explique peut-être pourquoi les plantes font si peur. Elles ne connaissent pas de limites. Elles ne respectent pas l'ordre. Est-ce la cause du stigmate qui les frappe en Occident ? Les plantes sont-elles victimes de spécisme, de sexisme ou de racisme?

Chercheuse à l'Université de Bâle, Dominique Brancher est l'auteure d'un livre qui entend rendre justice au règne végétal : on en a fait un règne dormant, voué à l'immobilité, à l'absence de pensée, de sentiments, de sensations... Quel dommage d'avoir ainsi perverti ce qui - à l'origine de notre culture - était considéré comme une forme de débordement vital. Trop vital. "Eclipsé par l'attention exclusive donnée au vaste débat sur la distinction entre l'animal et l'homme, [...] le végétal s'est vu relégué au rang de tiers-exclu", dit-elle, regrettant que le mot végéter soit devenu synonyme d'inertie. Mais pourquoi un tel revirement? Pour quelle raison notre culture a-t-elle ainsi châtré la plante? Dans un livre au titre explicite Quand l'esprit vient aux plantes (allusion ironique au poème de La Fontaine "Comment l'esprit vient aux filles"), Dominique Brancher retrace l'histoire de ce qu'elle désigne comme l'invention d'un sexisme anti-flore. Nous avons discriminé les végétaux comme l'ont été les femmes : en leur déniant tout désir. Comme l'ont été les "sauvages" : en leur déniant toute intelligence. Comme le sont encore les animaux : en les parquant dans des réserves. C'est pourquoi il faut lire son enquête sur la sexualité des plantes comme un révélateur de nos choix de vie.

Quand les plantes étaient humaines...

Aux origines présocratiques de notre culture, les cosmogonies imaginées par Thalès (né en 640 av. J.-C.), Héraclite (504 av. J.-C.) ou Empédocle (492 av. J.-C.) reposent sur un principe d'équation : nous sommes faits de la même matière que tout ce qui existe, fleur ou astres. Cette règle d'analogie poétique "dit la trame vitale qui tisse les êtres et confond leurs attributs et leurs formes. Les arbres "pondent" leurs fruits et les êtres humains se développent comme des plantes." Pour Empédocle, qui rédige sa théorie en vers fabuleux face au paysage volcanique de sa Sicile natale, il n'y a ni naissance ni mort. Tout chose se renouvelle sous l'effet d'une ardeur brûlante qui traverse la matière. "Toute chose pense", dit-il. Toute chose aime et hait. "Dans ses transmigrations, l'âme humaine épouse les métamorphoses de la matière car elle a "déjà été autrefois garçon et fille, buisson, oiseau ou poisson cheminant à la surface de l'eau" (Empédocle, VIII).". Dans cet univers foisonnant, les plantes ont du plaisir et souffrent comme les humains qui, eux-mêmes, viennent au monde mouillés par la rosée de leur larmes. Empédocle résume ainsi leur première apparition : "Or donc voici comment des hommes et des femmes trempés de pleurs, Feu, se séparant, fit jaillir les pousses dans la nuit" (Empédocle III, Les Origines).

Avec la "raison" vient l'inégalité

Mais cette vision-là du monde est trop poétique sans doute. Dès le 1er siècle avant J.-C., Nicolas de Damas écrit dans son ouvrage De Plantis : "Il faut rejeter ces idées grossières et nous mettre à dire la vérité". Platon (427 av. J.-C.), deux siècles avant lui, n'accorde aux plantes qu'une âme inférieure et en fait des animaux immobiles. Mais c'est Aristote (384 av. J.-C.) qui "réduit encore plus considérablement la dignité du végétal en lui laissant seulement une sorte d'âme (De Anima, A5, 411)". La classification qu'Aristote met en place devient le modèle dominant d'une pensée occidentale qui place l'homme au sommet de la hiérarchie. Dans ce nouvel ordre moral, "les plantes jouissent seulement d'une âme végétative", désormais privées d'entendement. Avec le christianisme, leur statut ne s'améliore pas, au contraire. "Selon l'agenda cloisonné de la Genèse, Dieu créa les plantes le troisième jour, les animaux le cinquième et l'homme le sixième". Dans l'échelle des êtres, le végétal est en bas. Deux attitudes prévalent à son égard. La première repousse les plantes du côté du péché. Le seconde, guère plus enviable, du côté du paradis. Dans les deux cas, la plante est vue comme une créature frigide.

La plante comme symbole du péché de gourmandise Bien qu'ils lui dénient toute capacité de percevoir et donc de jouir, les théologiens estiment en effet que la plante est gourmande. Ne passe-t-elle pas son temps à sucer la terre? Voilà pourquoi elle est au bas de cette Scala Naturae ("échelle de la nature") que de nombreux ouvrages du XVIe siècle décrivent en termes de menace : attention de ne pas tomber ! Chaque échelon figure un degré de déchéance. Quand l'homme commet le péché de luxure (sensualis), il est ravalé au rang d'animal. Quand il a trop d'appétit (vitalis), le voilà végétal. Quand il sombre dans la tristesse (acédie), il rétrograde en minéral. Le christianisme "est une religion qui déconsidère la vie organique au profit de la pensée rationnelle", rappelle Dominique Brancher. Aux yeux des chrétiens, l'homme ne peut prétendre à son statut supérieur qu'à la condition de ne rien avoir en commun avec la (vile) matière. Les bêtes qui forniquent, les rivières qui ondoient et les plantes qui têtent la glaise sans penser, avec une gloutonnerie "stupide et insensible" (Jean Pic de la Mirandole) sont des choses détestables, qui renvoient à la chute.

La plante comme symbole de l'asexualité

Mais il existe une autre attitude vis à vis des plantes : pour certains chrétiens, elles présentent cet avantage sur les animaux d'être "pures". Cela commence au XIIIe siècle, avec Innocent III : dans un texte intitulé De Contemptu mundi, le pape attribue aux plantes la "candeur de l'âme végétative". La plante n'est pas sexuée, dit-il (ignorant qu'il existe des espèces végétales où les mâles et les femelles sont distincts). "Dégagés des ardeurs charnelles qui abêtissent et abrutissent, les végétaux offrent ainsi la rédemption d'un nouvel Eden. Combien d'auteurs de la Contre-Réforme ne célèbrent-ils pas la pureté de la reproduction végétale?". Dominique Brancher cite par exemple Thomas Browne qui, dans les années 1630, déclare : "Je serais heureux, si nous pouvions procréer comme les arbres sans union et s'il existait un moyen de perpétuer le monde sans passer par le coït vulgaire et trivial. C'est l'acte le plus sot qu'un homme sage puisse commettre dans sa vie". Edifiant. La chercheuse enfonce le clou : "Aux yeux de la mystique flamande, la perfection végétale figure une complétude originelle que la Faute, en modifiant le corps physique des premiers hommes, a définitivement dérobé à l'humanité : "Au lieu d'hommes qu'ils devaient être, ils sont devenus des monstres divisés en deux sexes imparfaits, impuissants à produire leurs semblables seuls, comme se produisent les arbres et les plantes".

Savez-vous planter des choux?

Dans la tradition ouverte par Innocent III, tout un imaginaire puritain se cristallise aux XVIe et XVIe siècles autour des plantes. La botanique devient "une technique de maîtrise des instincts, explique Dominique Brancher. On en trouve les répercussions jusque chez Rousseau, "persuadé qu'à tout âge l'étude de la nature émousse le goût des amusements frivoles, prévient le tumulte des passions". "La campagne a toujours été considérée comme le séjour de l'innocence", renchérit Trembley. L'herborisation devient l'activité favorite des puritains. On associe le curé de campagne à un brave jardinier, expert en sirops pour la gorge. "La méconnaissance concertée de la sexualité des plantes, depuis Aristote jusqu'aux naturalistes de la Renaissance, entretient cette vision angélique." Heureusement, il existe à toute époque des empêcheurs de tourner en rond. Au XVIe siècle, en particulier, des voix dissidentes s'élèvent : non, la plante n'est pas sage. Nous ferions bien d'en prendre de la graine.

Auteur: Giard Agnes

Info: 4 janvier 2016

[ historique ] [ Grèce antique ]

émergence du regard

Les yeux des mollusques révèlent à quel point l'évolution future dépend du passé

Les systèmes visuels d'un groupe obscur de mollusques fournissent un exemple naturel rare d'évolution dépendante du chemin, dans lequel une bifurcation critique dans le passé des créatures a déterminé leur avenir évolutif.

(photo : Les systèmes visuels des chitons, un type de mollusque marin, représentent un rare exemple réel d’évolution dépendante du chemin – où l’histoire d’une lignée façonne irrévocablement sa trajectoire future.)

Les biologistes se sont souvent demandé ce qui se passerait s'ils pouvaient rembobiner la bande de l'histoire de la vie et laisser l'évolution se dérouler à nouveau. Les lignées d’organismes évolueraient-elles de manière radicalement différente si on leur en donnait la possibilité ? Ou auraient-ils tendance à développer les mêmes types d’yeux, d’ailes et d’autres traits adaptatifs parce que leurs histoires évolutives précédentes les avaient déjà envoyés sur certaines voies de développement ?

Un nouvel article publié aujourd'hui dans Science décrit un cas test rare et important pour cette question, qui est fondamentale pour comprendre comment l'évolution et le développement interagissent. Une équipe de chercheurs de l'Université de Californie à Santa Barbara l'a découvert alors qu'elle étudiait l'évolution de la vision chez un groupe obscur de mollusques appelés chitons. Dans ce groupe d’animaux, les chercheurs ont découvert que deux types d’yeux – les ocelles et les yeux en coquille – ont chacun évolué deux fois indépendamment. Une lignée donnée peut évoluer vers un type d’œil ou vers l’autre, mais jamais les deux.

Curieusement, le type d’œil d’une lignée était déterminé par une caractéristique plus ancienne apparemment sans rapport : le nombre de fentes dans l’armure du chiton. Cela représente un exemple concret d' " évolution dépendante du chemin ", dans lequel l'histoire d'une lignée façonne irrévocablement sa trajectoire évolutive future. Les moments critiques dans une lignée agissent comme des portes à sens unique, ouvrant certaines possibilités tout en fermant définitivement d’autres options.

"C'est l'un des premiers cas où nous avons pu observer une évolution dépendante du cheminement", a déclaré Rebecca Varney , chercheuse postdoctorale au laboratoire de Todd Oakley à l'UCSB et auteur principal du nouvel article. Bien qu’une évolution dépendante du chemin ait été observée chez certaines bactéries cultivées en laboratoire, " montrer cela dans un système naturel était une chose vraiment excitante ".

"Il y a toujours un impact de l'histoire sur l'avenir d'un trait particulier", a déclaré Lauren Sumner-Rooney , qui étudie les systèmes visuels des invertébrés à l'Institut Leibniz pour les sciences de l'évolution et de la biodiversité et n'a pas participé à la nouvelle étude. "Ce qui est particulièrement intéressant et passionnant dans cet exemple, c'est que les auteurs semblent avoir identifié le moment où se produit cette division."

Pour cette raison, les chitons "sont susceptibles d'entrer dans les futurs manuels sur l'évolution" comme exemple d'évolution dépendante du chemin, a déclaré Dan-Eric Nilsson, un écologiste visuel à l'Université de Lund en Suède qui n'a pas participé à la recherche.

Les chitons, petits mollusques qui vivent sur les roches intertidales et dans les profondeurs marines, ressemblent à de petits réservoirs protégés par huit plaques de coquille – un plan corporel resté relativement stable pendant environ 300 millions d'années. Loin d'être des armures inertes, ces genres de plaques d'obus sont fortement décorées d'organes sensoriels qui permettent aux chitons de détecter d'éventuelles menaces.

(photo : Chiton tuberculatus , qui vit sur les côtes rocheuses des Caraïbes, utilise de nombreux ocelles pour obtenir une vision spatiale. Les chitons ont développé des ocelles à deux reprises au cours de leur histoire évolutive.)

Les organes sensoriels sont de trois types. Tous les chitons ont des esthètes (aesthetes : récepteur tout-en-un extrêmement synesthésique qui permet de détecter la lumière ainsi que les signaux chimiques et mécaniques de l'environnement.)

Certains chitons possèdent également un système visuel approprié : soit des milliers d'ocelles sensibles à la lumière, soit des centaines d'yeux en forme de coquille plus complexes, dotés d'un cristallin et d'une rétine permettant de capturer des images grossières. Les animaux dotés d'yeux en forme de coquille peuvent détecter les prédateurs imminents, en réponse à quoi ils se cramponnent fermement au rocher.

Pour comprendre comment cette variété d’yeux de chiton a évolué, une équipe de chercheurs dirigée par Varney a examiné les relations entre des centaines d’espèces de chiton. Ils ont utilisé une technique appelée capture d'exome pour séquencer des sections stratégiques d'ADN provenant d'anciens spécimens de la collection de Doug Eernisse , spécialiste du chiton à la California State University, Fullerton. Au total, ils ont séquencé l’ADN de plus de 100 espèces soigneusement sélectionnées pour représenter toute l’étendue de la diversité des chitons, assemblant ainsi la phylogénie (ou l’arbre des relations évolutives) la plus complète à ce jour pour les chitons.

Ensuite, les chercheurs ont cartographié les différents types d’yeux sur la phylogénie. Les chercheurs ont observé que la première étape avant l’évolution des yeux en coquille ou des ocelles était une augmentation de la densité des esthètes sur la coquille. Ce n’est qu’alors que des yeux plus complexes pourraient apparaître. Les taches oculaires et les yeux en coquille ont chacun évolué à deux reprises au cours de la phylogénie, ce qui représente deux instances distinctes d'évolution convergente.

Indépendamment, les chitons ont fait évoluer les yeux - et, à travers eux, ce que nous pensons être probablement quelque chose comme la vision spatiale - à quatre reprises, ce qui est vraiment impressionnant", a déclaré M. Varney. 

" Cette évolution s'est faite incroyablement rapidement ". Les chercheurs ont estimé que chez le genre néotropical Chiton, par exemple, les yeux ont évolué en l'espace de 7 millions d'années seulement, soit un clin d'œil à l'échelle de l'évolution.

Les résultats ont surpris les chercheurs. "Je pensais qu'il s'agissait d'une évolution progressive de la complexité, passant des esthètes à un système d'ocelles et à des yeux en forme de coquille - une progression très satisfaisante", a déclaré Dan Speiser , écologiste visuel à l'Université de Caroline du Sud et co-auteur d'un article. auteur. " Au lieu de cela, il existe plusieurs chemins vers la vision."

Mais pourquoi certaines lignées ont-elles développé des yeux en coquille plutôt que des ocelles ? Au cours d'un trajet de six heures en voiture depuis une conférence à Phoenix jusqu'à Santa Barbara, Varney et Oakley ont commencé à développer l'hypothèse selon laquelle le nombre de fentes dans la coquille d'un chiton pourrait être la clé de l'évolution de la vision du chiton.

Toutes les structures sensibles à la lumière sur la coquille du chiton, a expliqué Varney, sont attachées à des nerfs qui passent à travers les fentes de la coquille pour se connecter aux nerfs principaux du corps. Les fentes fonctionnent comme des organisateurs de câbles, regroupant les neurones sensoriels. Plus il y a de fentes plus il y les ouvertures par lesquelles les nerfs peuvent passer.

Il se trouve que le nombre de fentes est une information standard qui est enregistrée chaque fois que quelqu'un décrit une nouvelle espèce de chiton. " L'information était disponible, mais sans le contexte d'une phylogénie sur laquelle la cartographier, elle n'avait aucune signification ", a déclaré Varney. " Alors je suis allé voir ça et j'ai commencé à voir ce modèle."

Varney a constaté qu'à deux reprises, indépendamment, des lignées comportant 14 fentes ou plus dans la plaque céphalique ont développé des ocelles. Et deux fois, indépendamment, des lignées comportant 10 fentes ou moins ont développé des yeux en coquille. On se rend ainsi compte que le nombre de fentes verrouillées et le type d'yeux pouvaient évoluer : un chiton avec des milliers d'ocelles a besoin de plus de fentes, tandis qu'un chiton avec des centaines d'yeux en coquille en a besoin de moins. En bref, le nombre de fentes dans la  coquille déterminait l’évolution du système visuel des créatures.

Les résultats conduisent vers une nouvelle série de questions. Les chercheurs étudient activement pourquoi le nombre de fentes limite le type d'œil dans son évolution. Pour répondre à cette question, il faudra travailler à élucider les circuits des nerfs optiques et la manière dont ils traitent les signaux provenant de centaines ou de milliers d’yeux.

Alternativement, la relation entre le type d’œil et le nombre de fentes pourrait être déterminée non pas par les besoins de vision mais par la manière dont les plaques se développent et se développent dans différentes lignées, a suggéré Sumner-Rooney. Les plaques de coquille se développent du centre vers l'extérieur par accrétion, et des yeux sont ajoutés tout au long de la vie du chiton à mesure que le bord se développe. " Les yeux les plus anciens sont ceux au centre de l'animal, et les plus récents sont ajoutés sur les bords. ", a déclaré Sumner-Rooney. En tant que chiton, " vous pourriez commencer votre vie avec 10 yeux et finir votre vie avec 200 ".

Par conséquent, le bord de croissance d'une plaque de carapace doit laisser des trous pour les yeux nouceaux – de nombreux petits trous pour les ocelles, ou moins de trous plus grands pour les yeux de la coquille. Des trous trop nombreux ou trop grands pourraient affaiblir une coque jusqu'à son point de rupture, de sorte que des facteurs structurels pourraient limiter les possibilités pour cest yeux.

Il reste beaucoup à découvrir sur la façon dont les chitons voient le monde, mais en attendant, leurs yeux sont prêts à devenir le nouvel exemple préféré des biologistes d'évolution dépendante du chemin, a déclaré Nilsson. "Les exemples de dépendance au chemin qui peuvent être vraiment bien démontrés, comme dans ce cas, sont rares - même si le phénomène n'est pas seulement courant, c'est la manière standard dont les choses se produisent."



 

Auteur: Internet

Info: Résumé par Gemini

[ évolution qui dépend du chemin ] [ biologie ]

humour

Toujours est-il que la chose m’est apparue d’importance et propre à me hausser d’un cran dans votre estime : vous concevrez que nul travail, cette récompense en vue, n’eût paru d’intérêt suffisant pour retarder la mise en graphie de cette méditation.

Le problème est cette fois, monsieur, celui de la couille. (J’aurais pu dire celui de la coquille, mais je cède au goût du sensationnel, vous voyez, c’est un faible bien inoffensif.) De fait, il s’agit d’un problème de conchyliorchidologie (ou d’orchido-conchyliologie, qui me paraît, si plus orthodoxe, moins expéditif ; donc, je garde le premier).

AXIOME  :  Retirez le Q de la coquille : vous avez la couille, et ceci constitue précisément une coquille.

Je laisse à cet axiome, monsieur, le soin de perforer lui-même, de son bec rotatif à insertions de patacarbure de wolfram, les épaisses membranes dont s’entoure, par mesure de prudence, votre entendement toujours actif. Et je vous assène, le souffle repris, ce corollaire fascinant :

Et ceci est vrai, que la coquille initiale soit une coquille de coquillage ou une coquille d’imprimerie, bien que la coquille obtenue en fin de réaction soit toujours (à moins de marée extrêmement violente) une coquille d’imprimerie en même temps qu’une couille imprimée.

Vous entrevoyez d’un coup, je suppose, les conséquences à peine croyables de cette découverte. La guerre est bien loin.

Partons d’une coquille de coquillage, acarde ou ampullacée, bitestacée ou bivalve, bullée, caniculée ou cataphractée, chambrée, cloisonnée, cucullée… mais je ne vois pas l’intérêt de recopier dans son entier le dictionnaire analogique de Boissière. Bref, partons d’une coquille. La suppression du Q entraîne presque immédiatement la mutation du minéral inerte en un organe vivant et générateur. Et dans le cas d’une coquille initiale d’imprimeur, le résultat est encore plus spectaculaire, car la coquille en question est essence et abstraction, concept, être de raison, noumène. Le Q ôté permet le passage de l’essence à l’existence non seulement existante mais excitable et susceptible de prolongements.

J’aime à croire que parvenu à ce point, vous allez poser votre beau front dans votre main pour imiter l’homme de Rodin – vous conviendrez en passant de la nécessité d’une adéquation des positions aux fonctions, et que vous n’auriez pas l’idée de déféquer à plat ventre sauf caprice. Et vous vous demanderez, monsieur, d’abord, quel est le phénomène qui se produit. Y a-t-il transfert ? Disparition ? Mise en minorité ? ou effacement derrière une partie plus importante, que le trout ? Qui sait ? Qui ? Mais moi, naturellement sans quoi je ne vous écrirais pas. Je ne suis pas de ces brutes malavisées qui soulèvent les problèmes et les laissent retomber sauvagement sur la gueule de leur prochain.

Tiens, pourtant, si, en voilà un autre qui me tracasse, et je vous le dis en passant, car le genre épistolaire permet plus de caprice et de primesaut que le genre oratoire ou dissertatif, lequel je ne me sens pas qualifié pour oser aborder ce jour. L’expression : mettre la dernière main n’implique-t-elle pas, selon vous, que l’une des deux mains – et laquelle – fut créée avant l’autre par le père Ubu ? La dernière main est souvent la droite ; mais d’aucuns sont-ils pas gauchers ? Ainsi, de la dextre ou de la senestre, laquelle est la plus âgée ? Gageons que ce problème va tenter madame de Valsenestre à qui, en passant, vous voudrez bien présenter mes hommages. Et revenons à nos roustons.

Eh bien, monsieur, pour résoudre le mystère de l’absence du Q, nous disposons d’un moyen fécond et qui permet généralement de noyer sans douleur la poiscaille en remplaçant un mystère que l’on ne pénètre point par un mystère plus mou, c’est-à-dire non mystérieux et par conséquent inoffensif. C’est la "comparaison", méthode pataphysique s’il en fût. A cet agent d’exécution puissant, nous donnerons l’outil qui lui manque, c’est-à-dire le terme de.

Le jargon russe en l’espèce, qui sera notre étalon.

Vous le savez, monsieur, et si vous ne le savez pas, vous n’aurez jamais la sottise de le dire en public, il fut procédé en Russie, n’y a pas si longtemps que nos auteurs ne puissent s’en souvenir, à une réforme dite alphabétique, bien qu’en russe, cela ne se prononce point si facilement. Je vous le concède, cette réforme est à l’origine de la mort de Lénine, de la canonisation de sainte Bernadette et de quelques modifications structurales spécifiquement slaves apportées à un Etat de structure d’ailleurs imprécise ; nous passerons sur les épiphénomènes mineurs pour n’en conserver que le plus important. La réforme en question supprimait trois des 36 lettres alors en usage là-bas : le ? ou ’fita, le ? ou ’izitsa et le ? ou is’kratkoï.. [...]

Mais d’ores et déjà, vous voyez comment on peut supprimer le Q : il suffit d’un décret.

La question est de savoir ce que l’on a fait des lettres supprimées. Ne parlons même pas de celles à qui l’on en a substitué d’autres. Le problème est singulièrement précis : Où a-t-on mis les is’kratkoï ?

Vous vous doutez déjà de la suite. Et vous voyez l’origine de certaines rumeurs se découvrir à vos yeux émerveillés d’enfant sage.

D’ailleurs, monsieur, peu importe. Peu importe que l’on ait, par le passé, mésusé des lettres ainsi frappées d’interdit. Sans vouloir faire planer le soupçon sur qui que ce soit, je sais bien où l’on risquerait d’en dénicher quelques muids.

L’expression "lettre morte" n’est pas née de l’écume de la mer du même nom, vous le savez, monsieur. Les vérités les plus désagréables finissent par transpirer, comme l’eau orange d’un chorizo pendu par les pieds ou la sueur délicate d’un fragment d’Emmenthal qui tourne au translucide. Et les cimetières de lettres sont monnaie courante (sans que l’on ait jamais songé à chronométrer cette dernière, ce qui paraît inexcusable en un siècle sportif et ne permet point d’en préciser la vitesse). Nous n’avons pas accoutumé, me direz-vous, de remettre en cause le passé : je sais, et vous savez, que tout y est à refaire. Mais à bien y regarder, on est forcé de constater que c’est sans aucune originalité qu’a été résolu, de notre vivant ou presque, cet ardu problème de l’élimination en masse. Et cela continue.

Avant que la merdecine ait eu l’idée de s’adjoindre des fi ! syciens et des chie-mistes (ou cague-brouillard, comme disent les Anglois), la peste apportait une ingénieuse solution. Et les destructions provoquées parmi la gent corbote et ratière par la chasse, vu l’absence de grenades et de rusées à tête chercheuse, n’étaient point telles que ces bestioles ne fussent à même de procéder hygiéniquement à l’enlèvement des charognes. Il restait les os, que l’on suçait et que l’on perçait pour jouer de la quenia, comme Gaston Leroux l’a soigneusement rapporté dans " L’Epouse du soleil ". Bref, le professeur Yersin imagina de foutre une canule au cul des poux, et vainquit la peste. Le cancer fait des progrès, mais il abêtit, et déprive le frappé du contact de ses semblables – ou plutôt de ses différents – si utile pourtant. Sur quoi l’Allemagne redécouvre le camp de concentration déjà utilisé avant et ailleurs (le premier qui l’a inventé, levez le doigt). Le principe était bon : c’est celui du couvent. Mais si l’on sait où ça mène, l’on se refuse à voir où cela pourrait mener.

Vous avez déjà compris qu’en ce moment, loin de m’égarer, j’arrive à la proposition ferme, concrète et positive. Vous avez vu que, loin de lamenter le révolu, je suggère simplement que l’on améliore. Vous sentez, avec votre grand nez, que si le sort des prisonniers d’autrefois m’indiffère, c’est que la " pataphysique va toujours de l’avant puisqu’elle est immobile dans le temps et que le temps, lui, est rétrograde par définition, puisque l’on nomme “ direct ” celui des aiguilles d’une montre. Et vous voyez que je suis en train de poser les bases du camp de concentration pataphysique, qui est celui de l’avenir.

Grosso modo, une Thélème. Mais une Thélème obligatoire. Une Thélème où tout serait libre, sauf la liberté. Il s’agit bien en l’espèce de cette exception exceptionnelle à laquelle se réfère Le Livre. Un lieu où l’on serait contraint de ne pas s’éloigner du bonheur. Outre que le rendement des divers travaux que l’on pourrait ainsi faire exécuter librement aux détenus serait excellent – mais sachez que cette considération économique n’a pas un instant pesé sur notre choix plus ni moins que son contraire – le camp de concentration paradisiaque satisferait la tendance religieuse profonde qui sommeille au cœur de tout un tas d’individus non satisfaits de leur vie terrestre – et vous concevez qu’un prisonnier a des raisons de ne pas l’être. Il s’y pourrait, naturellement, faire du vélocipède. Vous pensez bien. Je ne développe pas les mille avantages du projet : je me borne à vous dire que, me désintéressant totalement du sort des is’kratkoï, je propose, par la présente, à votre excellence d’accumuler les Q des coquilles dans les camps ainsi com-binés qui prendraient par exemple le nom de camps de cul-centration, et de récupérer outre les coquilles résultantes et régénérées, les bûmes créées de la sorte à partir de rien, ce qui est quelque chose.

Vous ne serez pas sans remarquer que la réaction qui s’établit est assez analogue à celle qui se produirait, selon eux, dans ces breeders autotrophes où se fabrique une espèce de plutonium. Vous prenez la coquille, lui retirez le Q que vous enfermez en liberté, vous obtenez la couille et une nouvelle coquille, et ainsi de suite jusqu’à neuf heures vingt, où un ange passe. Je passe à mon tour sur l’émission de rayons bêta concomitante, d’une part parce qu’elle n’a pas lieu, d’autre part parce que cela ne regarde personne. Que le Q fût en fin de compte bien traité m’importait avant tout, du point de vue moral et parce qu’il est séant de ne point porter atteinte, sauf si l’on se nomme le P. U., à l’intégrité de quelque être que ce soit, (excepté le militaire) vu qu’il peut pêcher à la ligne, boire de l’alcool et s’abonner au Chasseur français, ou les trois. Du moins, c’est une des choses que l’on peut dire, et comme elle diffère de tout ce que l’on pourrait dire d’autre, il me semble qu’elle a sa place ici.

Piste-scrotum 1. Cette lettre vous est personnellement destinée. Néanmoins, au cas où elle n’intéresserait aucun autre membre du Collège, il me paraîtrait urgent de la diffuser. Si vous en décidiez ainsi, il me serait à honneur que vous la fissiez coiffer d’un chapeau à la gloire de Stanislas Leczinski, roi polonais, inventeur de la lanterne sourde à éclairer pendant les tintamarres et autres espèces de révolutions, et dont je ne me sens pas force d’entreprendre la rédaction que j’estime trop au-dessus de mes indignes moyens.

Piste-scrotum 2. En passant, vous constaterez que le principe de la conservation de ce que vous voudrez en prend un vieux coup dans les tabourets.

Auteur: Vian Boris

Info: Lettre au Provéditeur-éditeur sur un problème quapital et quelques autres, 26 mars 1955, In les Cahiers du Collège de Pataphysique.

[ lapsus ]

homme-animal

La signification des meuglements des vaches, et autres histoires animales surprenantes
Vous pensez bien connaître les animaux? Pourtant les scientifiques qui les étudient leur découvrent régulièrement de nouvelles habiletés, intelligences et savoir-être étonnants.

C'est ce que raconte la journaliste spécialiste des sciences Aline Richard Zivohlava dans son ouvrage "Dans la peau des bêtes", paru en mai aux éditions Plon. Elle se glisse dans la peau de différents animaux pour un récit à la première personne. Nous en publions ci-dessous des extraits. Le titre et les intertitres sont de la rédaction de Slate.

Les corbeaux clairvoyants
L’histoire des Corneilles noires de la ville de Sendai, au Japon, a fait le tour du monde. À des branches de noyer plantés le long des routes pendaient de savoureuses noix, mais elles étaient, dans leurs coques vertes, inaccessibles à nos becs. C’est alors que mes congénères ont appris le code de la route. Au feu rouge, l’oiseau dépose sa noix devant la voiture, qui l’écrase au feu vert, et dont les fragments sont récupérés au feu rouge suivant. Malin, non? Et même carrément intelligent.

Les recherches scientifiques de ces dernières années ont révélé des capacités insoupçonnées chez les corvidés, en particulier dans le domaine de la cognition. Certains de nos savoir-faire avaient pourtant été remarqués dans le passé, mais vous n’aviez pas su les analyser… Vous rappelez-vous d’Ésope, le fabuliste qui a commis "Le Corbeau et le Renard", que nous critiquions tout à l’heure? Nous lui avons volontiers pardonné son écart puisqu’il a rendu hommage à l’ingéniosité de la corneille dans la comptine suivante: "La Corneille ayant soif, trouva par hasard une cruche où il y avait un peu d’eau; mais comme la cruche était trop profonde, elle n’y pouvait atteindre pour se désaltérer. Elle essaya d’abord de rompre la cruche avec son bec; mais n’en pouvant venir à bout, elle s’avisa d’y jeter plusieurs petits cailloux, qui firent monter l’eau jusqu’au bord de la cruche. Alors elle but tout à son aise."

Deux douzaines de siècles plus tard, en 2014, cette fable a été reproduite dans un laboratoire de l’université d’Auckland, en Nouvelle-Zélande. Des chercheurs ont voulu savoir si différents corvidés –Corbeaux calédoniens, Corbeaux freux et Geais des chênes– se montraient aussi clairvoyants que l’oiseau du fabuliste. Expérience réussie: soit deux tubes de verre, un large et un étroit, reliés entre eux par un mécanisme de vases communicants et à moitié remplis d’eau. Dans le premier, un morceau de liège flotte, agrémenté d’un morceau de viande. Tube trop étroit pour y plonger le bec. Les oiseaux ont dû trouver un moyen d’atteindre la nourriture: ils ont jeté des petits cailloux dans le tube large ne contenant pas le morceau de viande, pour faire monter l’eau dans le second tube étroit, et récupérer la récompense. C’est ce que l’on appelle effectuer une relation de cause à effet. Incroyable, quand on sait que, soumis au même test, les petits humains ne le réussissent que vers l’âge de 7 ans.

Les corbeaux sont capables de se priver dans l’immédiat pour une meilleure récompense dans le futur, une opération cognitive complexe.

La conclusion semble couler de source: des corbeaux aussi intelligents que vous, à l’âge de raison des petits humains! Mais au risque de décevoir mes congénères, je n’irai pas jusque-là. Rien ne prouve en effet que les mécanismes mentaux mis en jeu soient les mêmes pour nos deux espèces. Et la faculté spontanée de raisonner dans l’abstrait par le biais d’un processus d’association n’est pas forcément équivalente à ce que vous, humains, entendez généralement par "intelligence".

Il fallait en savoir plus. Les scientifiques qui nous étudient ont d’abord observé nos capacités cognitives liées à la vie en société. Tout comme vous, les corvidés activent leurs neurones pour améliorer leur cadre de vie, interagir avec leurs semblables, obtenir le meilleur pour eux-mêmes et leurs proches… La gestion de la nourriture est un enjeu majeur pour tout être vivant, et, pour nous autres corbeaux, l’occasion d’exercer notre mémoire et même de se projeter dans l’avenir. Des chercheurs britanniques ont par exemple montré que des geais, qui ont l’habitude de cacher leur nourriture, étaient capables de "classer" leurs aliments en fonction du temps écoulé avant la consommation: ils déterraient d’abord les caches de vers de terre, très appréciés mais périssables, avant celles des cacahuètes, moins goûteuses mais plus durables.

Les corbeaux sont aussi capables de se priver dans l’immédiat pour une meilleure récompense dans le futur, une opération cognitive complexe que vous pensiez réservée aux humains et aux grands singes. Une expérience menée en 2017 à l’université de Lund, en Suède, sur des corbeaux dressés consistait à leur faire choisir une friandise à dévorer tout de suite, ou bien un outil permettant d’ouvrir une boîte contenant une friandise plus grosse, au prix de quinze minutes d’efforts. La plupart des corbeaux ont choisi l’outil. Cela suggère la capacité de contrôle de soi et celle d’anticipation.

S’alimenter, c’est aussi coopérer mais parfois se fâcher quand un comportement est jugé incorrect. Dans une expérimentation menée dans un laboratoire à Vienne, des grands corbeaux ont su s’allier en tirant de concert deux bouts de ficelle pour récupérer deux parts de fromage: si l’un des oiseaux n’avait pas joué le jeu, aucun des deux n’aurait pu en profiter. Mais, dans une autre série d’expériences, il est arrivé qu’un des oiseaux ruse pour s’approprier tout le fromage. L’autre a alors refusé de coopérer plus avant avec le tricheur.

Les poulpes farceurs
Ces dernières années, nombre de nos capacités cognitives ont été découvertes par les scientifiques qui nous observent. Par exemple, notre dextérité au maniement des outils, faculté que l’on pensait réservée aux animaux "supérieurs". En 2009, quatre pieuvres de l’espèce Amphioctopus marginatus, habitantes des eaux chaudes de l’ouest du Pacifique, ont été filmées en train de manipuler des coquilles de noix de coco pour s’en faire une armure de protection contre les prédateurs, puis se balader, ainsi équipées, sur le plancher marin. La vidéo a intéressé les chercheurs…

Et enchanté le grand public: sans être encore aussi populaires que ceux consacrés aux chatons mignons, les films de poulpes malins font les beaux jours de votre Internet. Sur YouTube, 3 millions de vidéos sont disponibles! C’est ainsi que les humains ont pu découvrir les talents d’Inky, notre maître-poulpe de l’évasion. Cantonné dans son aquarium de Nouvelle-Zélande, Inky a profité de l’inattention d’un gardien qui n’avait pas bien fermé son réceptacle pour déverrouiller le dispositif, glisser au sol, et emprunter un tuyau d’un diamètre de 15 centimètres (!) se déversant dans l’océan Pacifique.

Stratégie, adaptation, innovation… Autant de qualités qui marquent, pour le moins, une belle intelligence des situations.Nous sommes aussi capables d’apprendre par observation et de manipuler des règles logiques: facultés d’autant plus étonnantes que nous n’avons pas eu de parents pour nous les enseigner. Des chercheurs ont installé des pieuvres devant un labyrinthe, elles ont su s’orienter en observant des congénères, puis en fonction d’indices visuels mis à leur disposition. Dans une autre expérience, on nous a placées devant cinq portes fermées, chacune marquée d’un symbole. Il fallait trouver celle donnant accès à un crabe, friandise que nous apprécions parmi toutes. Nous avons réussi à repérer la bonne porte, et appris à reconnaître son symbole même quand les scientifiques le changeaient de place. Et nous sommes capables de retenir plusieurs jours ces informations apprises, signe d’une bonne mémoire.

De même, nous jouons: un comportement évolué, peu commun chez les invertébrés. Sarah Zylinski, biologiste à l’université de Leeds, au Royaume-Uni, a observé un poulpe de l’espèce Octopus bimaculoides se livrer au jeu du chat et de la souris avec un crabe. En pleine mer, plusieurs plongeurs qui nous observaient ont eu la surprise de voir un tentacule taquin tenter de leur retirer leur masque à oxygène… En captivité, nous jonglons dans l’aquarium avec les petits cubes en plastique que vous nous envoyez. Et ne croyez pas que nous ne savons pas qui vous êtes.

En 2010, à l’aquarium de Seattle, aux États-Unis, deux membres de l’équipe soignante se sont livrés au jeu bien connu du "bad cop-good cop": l’un nous nourrissait avec douceur, l’autre nous touchait avec un bâton piquant. Après deux semaines, racontent les scientifiques qui ont organisé cette expérience, les huit pieuvres de l’aquarium se comportaient différemment avec l’un et l’autre, habillé pourtant du même uniforme.

En captivité, nous savons parfaitement vous faire passer des messages. La chercheuse de Leeds rapporte que des seiches, impatientes d’être nourries, aspergeaient d’eau leur gardien s’il tardait. Et, dans un parc zoologique en Allemagne, un poulpe est monté sur le bord de son aquarium pour inonder un spot dont la lumière devait le gêner.

La science n’a pas fini de dévoiler tout ce qu’il y a d’extraordinaire en nous. En avril 2017, un article scientifique, fort technique puisqu’il a été publié dans la revue Cell (dédiée à la biologie moléculaire et cellulaire), a suggéré que nous évoluions différemment de presque tous les êtres vivants de la planète: certains d’entre nous sont en effet capables de modifier à plusieurs reprises leur séquence d’ARN (acide ribonucléique, l’autre "molécule du vivant" avec l’ADN) et de l’éditer, pour mieux s’adapter à notre environnement. S’ensuivent, par exemple, des modifications de notre cerveau pour pouvoir prospérer dans des eaux aux températures différentes. Bien pratique en cette période de changements climatiques! Ludovic vous l’avait bien dit: nous sommes de véritables extraterrestres du fond des mers.

Les vaches communiquantes
La vache a ses sens en éveil. À l’inverse de ce que certains stupides imaginent, un regard bovin est un regard expert: une vision à 330 degrés, sans bouger la tête, qu’en dites-vous? Il est vrai que nous sommes plutôt myopes, et distinguons bien mieux les tendres pousses dans le pré qu’un véhicule arrivant au loin. Mais notre ouïe très fine y pallie. Les vaches distinguent les ultrasons (jusqu’à 35.000 hertz), tout comme les basses fréquences et les très faibles volumes sonores. Et puis, il y a notre odorat. C’est notre sens premier, il nous distingue et organise notre vie sociale. Les odeurs disent notre âge, nos besoins sexuels, notre place dans la hiérarchie du troupeau, notre niveau de stress. On se renifle et on se lèche entre vaches, et on approche nos mufles des humains à l’approche: il s’agit de flairer l’éleveur, le vétérinaire que l’on connaît, et de s’inquiéter de la présence d’un intrus à l’odeur inconnue.

En 2015, en Suisse, des chercheurs de l’École polytechnique de Zurich se sont livrés à une analyse acoustique de troupeaux pour tenter de comprendre ce que les vaches se disent. Lors des naissances de nos veaux et cela durant trois à quatre semaines, nous parlons à nos petits le mufle à moitié fermé pour produire un son grave. Et à l’inverse, quand on nous les retire, nous produisons un meuglement dans les fréquences hautes. De même, les veaux nous appellent plutôt dans les aigus.

De l’avis des scientifiques et des professionnels, fermiers et éleveurs qui nous côtoient, notre cri d’espèce, émis jusqu’à une cinquantaine de fois dans la journée, exprime une grande variété de situations et d’états: faim, soif, chaud, froid, souffrance, désir, appels…

Quant à vous, on dirait que nos "meuh" vous fascinent. Vous tentez parfois de nous imiter, bizarre! des humains qui singent les vaches! Mais vous n’êtes même pas fichus de vous entendre sur le son à produire… "Meuh" en France ; "moo" chez les Anglo-Saxons; "muh" pour les Allemands et les Danois; et "mō" du côté du Japon. Un plaisantin est même allé jusqu’à fabriquer ce qu’il a appelé une "boîte à meuh" pour faire rire ses semblables, on se demande vraiment pourquoi. Laquelle boîte a au moins eu une utilité: le docteur Lucien Moatti l’a calibrée pour le dépistage néonatal de la surdité des bébés humains. Si l’enfant tourne la tête au son de la vache, c’est qu’il entend bien…

Auteur: Internet

Info: Slate, Aline Richard, 30 mai 2019

[ anecdotes ]

homme-machine

Comment l'IA comprend des trucs que personne ne lui lui a appris

Les chercheurs peinent à comprendre comment les modèles d'Intelligence artificielle, formés pour perroquetter les textes sur Internet, peuvent effectuer des tâches avancées comme coder, jouer à des jeux ou essayer de rompre un mariage.

Personne ne sait encore comment ChatGPT et ses cousins ​​de l'intelligence artificielle vont transformer le monde, en partie parce que personne ne sait vraiment ce qui se passe à l'intérieur. Certaines des capacités de ces systèmes vont bien au-delà de ce pour quoi ils ont été formés, et même leurs inventeurs ne savent pas pourquoi. Un nombre croissant de tests suggèrent que ces systèmes d'IA développent des modèles internes du monde réel, tout comme notre propre cerveau le fait, bien que la technique des machines soit différente.

"Tout ce que nous voulons faire avec ces systèmes pour les rendre meilleurs ou plus sûrs ou quelque chose comme ça me semble une chose ridicule à demander  si nous ne comprenons pas comment ils fonctionnent", déclare Ellie Pavlick de l'Université Brown,  un des chercheurs travaillant à combler ce vide explicatif.

À un certain niveau, elle et ses collègues comprennent parfaitement le GPT (abréviation de generative pretrained transformer) et d'autres grands modèles de langage, ou LLM. Des modèles qui reposent sur un système d'apprentissage automatique appelé réseau de neurones. De tels réseaux ont une structure vaguement calquée sur les neurones connectés du cerveau humain. Le code de ces programmes est relativement simple et ne remplit que quelques pages. Il met en place un algorithme d'autocorrection, qui choisit le mot le plus susceptible de compléter un passage sur la base d'une analyse statistique laborieuse de centaines de gigaoctets de texte Internet. D'autres algorithmes auto-apprenants supplémentaire garantissant que le système présente ses résultats sous forme de dialogue. En ce sens, il ne fait que régurgiter ce qu'il a appris, c'est un "perroquet stochastique", selon les mots d'Emily Bender, linguiste à l'Université de Washington. Mais les LLM ont également réussi à réussir l'examen pour devenir avocat, à expliquer le boson de Higgs en pentamètre iambique (forme de poésie contrainte) ou à tenter de rompre le mariage d'un utilisateurs. Peu de gens s'attendaient à ce qu'un algorithme d'autocorrection assez simple acquière des capacités aussi larges.

Le fait que GPT et d'autres systèmes d'IA effectuent des tâches pour lesquelles ils n'ont pas été formés, leur donnant des "capacités émergentes", a surpris même les chercheurs qui étaient généralement sceptiques quant au battage médiatique sur les LLM. "Je ne sais pas comment ils le font ou s'ils pourraient le faire plus généralement comme le font les humains, mais tout ça mes au défi mes pensées sur le sujet", déclare Melanie Mitchell, chercheuse en IA à l'Institut Santa Fe.

"C'est certainement bien plus qu'un perroquet stochastique, qui auto-construit sans aucun doute une certaine représentation du monde, bien que je ne pense pas que ce soit  vraiment de la façon dont les humains construisent un modèle de monde interne", déclare Yoshua Bengio, chercheur en intelligence artificielle à l'université de Montréal.

Lors d'une conférence à l'Université de New York en mars, le philosophe Raphaël Millière de l'Université de Columbia a offert un autre exemple à couper le souffle de ce que les LLM peuvent faire. Les modèles avaient déjà démontré leur capacité à écrire du code informatique, ce qui est impressionnant mais pas trop surprenant car il y a tellement de code à imiter sur Internet. Millière est allé plus loin en montrant que le GPT peut aussi réaliser du code. Le philosophe a tapé un programme pour calculer le 83e nombre de la suite de Fibonacci. "Il s'agit d'un raisonnement en plusieurs étapes d'un très haut niveau", explique-t-il. Et le robot a réussi. Cependant, lorsque Millière a demandé directement le 83e nombre de Fibonacci, GPT s'est trompé, ce qui suggère que le système ne se contentait pas de répéter ce qui se disait sur l'internet. Ce qui suggère que le système ne se contente pas de répéter ce qui se dit sur Internet, mais qu'il effectue ses propres calculs pour parvenir à la bonne réponse.

Bien qu'un LLM tourne sur un ordinateur, il n'en n'est pas un lui-même. Il lui manque des éléments de calcul essentiels, comme sa propre mémoire vive. Reconnaissant tacitement que GPT seul ne devrait pas être capable d'exécuter du code, son inventeur, la société technologique OpenAI, a depuis introduit un plug-in spécialisé -  outil que ChatGPT peut utiliser pour répondre à une requête - qui remédie à cela. Mais ce plug-in n'a pas été utilisé dans la démonstration de Millière. Au lieu de cela, ce dernier suppose plutôt que la machine a improvisé une mémoire en exploitant ses mécanismes d'interprétation des mots en fonction de leur contexte -  situation similaire à la façon dont la nature réaffecte des capacités existantes à de nouvelles fonctions.

Cette capacité impromptue démontre que les LLM développent une complexité interne qui va bien au-delà d'une analyse statistique superficielle. Les chercheurs constatent que ces systèmes semblent parvenir à une véritable compréhension de ce qu'ils ont appris. Dans une étude présentée la semaine dernière à la Conférence internationale sur les représentations de l'apprentissage (ICLR), le doctorant Kenneth Li de l'Université de Harvard et ses collègues chercheurs en intelligence artificielle, Aspen K. Hopkins du Massachusetts Institute of Technology, David Bau de la Northeastern University et Fernanda Viégas , Hanspeter Pfister et Martin Wattenberg, tous à Harvard, ont créé leur propre copie plus petite du réseau neuronal GPT afin de pouvoir étudier son fonctionnement interne. Ils l'ont entraîné sur des millions de matchs du jeu de société Othello en alimentant de longues séquences de mouvements sous forme de texte. Leur modèle est devenu un joueur presque parfait.

Pour étudier comment le réseau de neurones encodait les informations, ils ont adopté une technique que Bengio et Guillaume Alain, également de l'Université de Montréal, ont imaginée en 2016. Ils ont créé un réseau de "sondes" miniatures pour analyser le réseau principal couche par couche. Li compare cette approche aux méthodes des neurosciences. "C'est comme lorsque nous plaçons une sonde électrique dans le cerveau humain", dit-il. Dans le cas de l'IA, la sonde a montré que son "activité neuronale" correspondait à la représentation d'un plateau de jeu d'Othello, bien que sous une forme alambiquée. Pour confirmer ce résultat, les chercheurs ont inversé la sonde afin d'implanter des informations dans le réseau, par exemple en remplaçant l'un des marqueurs noirs du jeu par un marqueur blanc. "En fait, nous piratons le cerveau de ces modèles de langage", explique Li. Le réseau a ajusté ses mouvements en conséquence. Les chercheurs ont conclu qu'il jouait à Othello à peu près comme un humain : en gardant un plateau de jeu dans son "esprit" et en utilisant ce modèle pour évaluer les mouvements. Li pense que le système apprend cette compétence parce qu'il s'agit de la description la plus simple et efficace de ses données pour l'apprentissage. "Si l'on vous donne un grand nombre de scripts de jeu, essayer de comprendre la règle qui les sous-tend est le meilleur moyen de les comprimer", ajoute-t-il.

Cette capacité à déduire la structure du monde extérieur ne se limite pas à de simples mouvements de jeu ; il apparaît également dans le dialogue. Belinda Li (aucun lien avec Kenneth Li), Maxwell Nye et Jacob Andreas, tous au MIT, ont étudié des réseaux qui jouaient à un jeu d'aventure textuel. Ils ont introduit des phrases telles que "La clé est dans le coeur du trésor", suivies de "Tu prends la clé". À l'aide d'une sonde, ils ont constaté que les réseaux encodaient en eux-mêmes des variables correspondant à "coeur" et "Tu", chacune avec la propriété de posséder ou non une clé, et mettaient à jour ces variables phrase par phrase. Le système n'a aucun moyen indépendant de savoir ce qu'est une boîte ou une clé, mais il a acquis les concepts dont il avait besoin pour cette tâche."

"Une représentation de cette situation est donc enfouie dans le modèle", explique Belinda Li.

Les chercheurs s'émerveillent de voir à quel point les LLM sont capables d'apprendre du texte. Par exemple, Pavlick et sa doctorante d'alors, l'étudiante Roma Patel, ont découvert que ces réseaux absorbent les descriptions de couleur du texte Internet et construisent des représentations internes de la couleur. Lorsqu'ils voient le mot "rouge", ils le traitent non seulement comme un symbole abstrait, mais comme un concept qui a une certaine relation avec le marron, le cramoisi, le fuchsia, la rouille, etc. Démontrer cela fut quelque peu délicat. Au lieu d'insérer une sonde dans un réseau, les chercheurs ont étudié sa réponse à une série d'invites textuelles. Pour vérifier si le systhème ne faisait pas simplement écho à des relations de couleur tirées de références en ligne, ils ont essayé de le désorienter en lui disant que le rouge est en fait du vert - comme dans la vieille expérience de pensée philosophique où le rouge d'une personne correspond au vert d'une autre. Plutôt que répéter une réponse incorrecte, les évaluations de couleur du système ont évolué de manière appropriée afin de maintenir les relations correctes.

Reprenant l'idée que pour remplir sa fonction d'autocorrection, le système recherche la logique sous-jacente de ses données d'apprentissage, le chercheur en apprentissage automatique Sébastien Bubeck de Microsoft Research suggère que plus la gamme de données est large, plus les règles du système faire émerger sont générales. "Peut-être que nous nous constatons un tel bond en avant parce que nous avons atteint une diversité de données suffisamment importante pour que le seul principe sous-jacent à toutes ces données qui demeure est que des êtres intelligents les ont produites... Ainsi la seule façon pour le modèle d'expliquer toutes ces données est de devenir intelligent lui-même".

En plus d'extraire le sens sous-jacent du langage, les LLM sont capables d'apprendre en temps réel. Dans le domaine de l'IA, le terme "apprentissage" est généralement réservé au processus informatique intensif dans lequel les développeurs exposent le réseau neuronal à des gigaoctets de données et ajustent petit à petit ses connexions internes. Lorsque vous tapez une requête dans ChatGPT, le réseau devrait être en quelque sorte figé et, contrairement à l'homme, ne devrait pas continuer à apprendre. Il fut donc surprenant de constater que les LLM apprennent effectivement à partir des invites de leurs utilisateurs, une capacité connue sous le nom d'"apprentissage en contexte". "Il s'agit d'un type d'apprentissage différent dont on ne soupçonnait pas l'existence auparavant", explique Ben Goertzel, fondateur de la société d'IA SingularityNET.

Un exemple de la façon dont un LLM apprend vient de la façon dont les humains interagissent avec les chatbots tels que ChatGPT. Vous pouvez donner au système des exemples de la façon dont vous voulez qu'il réponde, et il obéira. Ses sorties sont déterminées par les derniers milliers de mots qu'il a vus. Ce qu'il fait, étant donné ces mots, est prescrit par ses connexions internes fixes - mais la séquence de mots offre néanmoins une certaine adaptabilité. Certaines personnes utilisent le jailbreak à des fins sommaires, mais d'autres l'utilisent pour obtenir des réponses plus créatives. "Il répondra mieux aux questions scientifiques, je dirais, si vous posez directement la question, sans invite spéciale de jailbreak, explique William Hahn, codirecteur du laboratoire de perception de la machine et de robotique cognitive à la Florida Atlantic University. "Sans il sera un meilleur universitaire." (Comme son nom l'indique une invite jailbreak -prison cassée-, invite à  moins délimiter-verrouiller les fonctions de recherche et donc à les ouvrir, avec les risques que ça implique) .

Un autre type d'apprentissage en contexte se produit via l'incitation à la "chaîne de pensée", ce qui signifie qu'on demande au réseau d'épeler chaque étape de son raisonnement - manière de faire qui permet de mieux résoudre les problèmes de logique ou d'arithmétique en passant par plusieurs étapes. (Ce qui rend l'exemple de Millière si surprenant  puisque le réseau a trouvé le nombre de Fibonacci sans un tel encadrement.)

En 2022, une équipe de Google Research et de l'École polytechnique fédérale de Zurich - Johannes von Oswald, Eyvind Niklasson, Ettore Randazzo, João Sacramento, Alexander Mordvintsev, Andrey Zhmoginov et Max Vladymyrov - a montré que l'apprentissage en contexte suit la même procédure de calcul de base que l'apprentissage standard, connue sous le nom de descente de gradient". 

Cette procédure n'était pas programmée ; le système l'a découvert sans aide. "C'est probablement une compétence acquise", déclare Blaise Agüera y Arcas, vice-président de Google Research. De fait il pense que les LLM peuvent avoir d'autres capacités latentes que personne n'a encore découvertes. "Chaque fois que nous testons une nouvelle capacité que nous pouvons quantifier, nous la trouvons", dit-il.

Bien que les LLM aient suffisamment d'angles morts et autres défauts pour ne pas être qualifiés d'intelligence générale artificielle, ou AGI - terme désignant une machine qui atteint l'ingéniosité du cerveau animal - ces capacités émergentes suggèrent à certains chercheurs que les entreprises technologiques sont plus proches de l'AGI que même les optimistes ne l'avaient deviné. "Ce sont des preuves indirectes que nous en sommes probablement pas si loin", a déclaré Goertzel en mars lors d'une conférence sur le deep learning à la Florida Atlantic University. Les plug-ins d'OpenAI ont donné à ChatGPT une architecture modulaire un peu comme celle du cerveau humain. "La combinaison de GPT-4 [la dernière version du LLM qui alimente ChatGPT] avec divers plug-ins pourrait être une voie vers une spécialisation des fonctions semblable à celle de l'homme", déclare Anna Ivanova, chercheuse au M.I.T.

Dans le même temps, les chercheurs s'inquiètent de voir leur capacité à étudier ces systèmes s'amenuiser. OpenAI n'a pas divulgué les détails de la conception et de l'entraînement de GPT-4, en partie du à la concurrence avec Google et d'autres entreprises, sans parler des autres pays. "Il y aura probablement moins de recherche ouverte de la part de l'industrie, et les choses seront plus cloisonnées et organisées autour de la construction de produits", déclare Dan Roberts, physicien théoricien au M.I.T., qui applique les techniques de sa profession à la compréhension de l'IA.

Ce manque de transparence ne nuit pas seulement aux chercheurs, il entrave également les efforts qui visent à comprendre les répercussions sociales de l'adoption précipitée de la technologie de l'IA. "La transparence de ces modèles est la chose la plus importante pour garantir la sécurité", affirme M. Mitchell.

Auteur: Musser Georges

Info: https://www.scientificamerican.com,  11 mai 2023. *algorithme d'optimisation utilisé dans l'apprentissage automatique et les problèmes d'optimisation. Il vise à minimiser ou à maximiser une fonction en ajustant ses paramètres de manière itérative. L'algorithme part des valeurs initiales des paramètres et calcule le gradient de la fonction au point actuel. Les paramètres sont ensuite mis à jour dans la direction du gradient négatif (pour la minimisation) ou positif (pour la maximisation), multiplié par un taux d'apprentissage. Ce processus est répété jusqu'à ce qu'un critère d'arrêt soit rempli. La descente de gradient est largement utilisée dans la formation des modèles d'apprentissage automatique pour trouver les valeurs optimales des paramètres qui minimisent la différence entre les résultats prédits et les résultats réels. Trad et adaptation Mg

[ singularité technologique ] [ versatilité sémantique ]

intelligence artificielle

Apprendre l'anglais n'est pas une tâche facile, comme le savent d'innombrables étudiants. Mais lorsque l'étudiant est un ordinateur, une approche fonctionne étonnamment bien : Il suffit d'alimenter un modèle mathématique géant, appelé réseau neuronal, avec des montagnes de textes provenant d'Internet. C'est le principe de fonctionnement des modèles linguistiques génératifs tels que ChatGPT d'OpenAI, dont la capacité à tenir une conversation cohérente (à défaut d'être toujours sincère) sur un large éventail de sujets a surpris les chercheurs et le public au cours de l'année écoulée.

Mais cette approche présente des inconvénients. D'une part, la procédure de "formation" nécessaire pour transformer de vastes archives textuelles en modèles linguistiques de pointe est coûteuse et prend beaucoup de temps. D'autre part, même les personnes qui forment les grands modèles linguistiques ont du mal à comprendre leur fonctionnement interne, ce qui, à son tour, rend difficile la prévision des nombreuses façons dont ils peuvent échouer.

Face à ces difficultés, certains chercheurs ont choisi d'entraîner des modèles plus petits sur des ensembles de données plus restreints, puis d'étudier leur comportement. "C'est comme le séquençage du génome de la drosophile par rapport au séquençage du génome humain", explique Ellie Pavlick, chercheuse sur les modèles de langage à l'université de Brown.

Dans un article récemment publié sur le serveur scientifique arxiv.org, deux chercheurs de Microsoft ont présenté une nouvelle méthode pour former de minuscules modèles de langage : Les élever avec un régime strict d'histoires pour enfants.

RÉSEAUX NEURONAUX

Des chercheurs acquièrent une nouvelle compréhension à partir d'une simple IA  

Les chercheurs en apprentissage automatique ont compris cette leçon. GPT-3.5, le grand modèle linguistique qui alimente l'interface ChatGPT, compte près de 200 milliards de paramètres et a été entraîné sur un ensemble de données comprenant des centaines de milliards de mots (OpenAI n'a pas publié les chiffres correspondants pour son successeur, GPT-4).  L'entraînement de modèles aussi vastes nécessite généralement au moins 1 000 processeurs spécialisés, appelés GPU, fonctionnant en parallèle pendant des semaines. Seules quelques entreprises peuvent réunir les ressources nécessaires, sans parler de l'entraînement et de la comparaison de différents modèles.

Les deux chercheurs ont montré que des modèles linguistiques des milliers de fois plus petits que les systèmes de pointe actuels apprenaient rapidement à raconter des histoires cohérentes et grammaticalement justes lorsqu'ils étaient formés de cette manière. Leurs résultats indiquent de nouvelles pistes de recherche qui pourraient être utiles pour former des modèles plus importants et comprendre leur comportement.

"J'ai trouvé tout  ça très instructif", a déclaré Chandra Bhagavatula, chercheur sur les modèles de langage à l'Allen Institute for Artificial Intelligence de Seattle. "Le concept lui-même est très intéressant.

Il était une fois

Les réseaux neuronaux au cœur des modèles de langage sont des structures mathématiques vaguement inspirées du cerveau humain. Chacun d'entre eux contient de nombreux neurones artificiels disposés en couches, avec des connexions entre les neurones des couches adjacentes. Le comportement du réseau neuronal est régi par la force de ces connexions, appelées paramètres. Dans un modèle linguistique, les paramètres contrôlent les mots que le modèle peut produire ensuite, compte tenu d'une invite initiale et des mots qu'il a déjà générés.

Un modèle ne prend véritablement vie qu'au cours de la formation, lorsqu'il compare de manière répétée ses propres résultats au texte de son ensemble de données de formation et qu'il ajuste ses paramètres afin d'accroître la ressemblance. Un réseau non entraîné avec des paramètres aléatoires est trivialement facile à assembler à partir de quelques lignes de code, mais il ne produira que du charabia. Après l'entraînement, il peut souvent poursuivre de manière plausible un texte peu familier. Les modèles de plus grande taille sont souvent soumis à des réglages plus fins qui leur apprennent à répondre à des questions et à suivre des instructions, mais l'essentiel de la formation consiste à maîtriser la prédiction des mots.

Pour réussir à prédire des mots, un modèle linguistique doit maîtriser de nombreuses compétences différentes. Par exemple, les règles de la grammaire anglaise suggèrent que le mot suivant le mot "going" sera probablement "to", quel que soit le sujet du texte. En outre, un système a besoin de connaissances factuelles pour compléter "la capitale de la France est", et compléter un passage contenant le mot "not" nécessite une connaissance rudimentaire de la logique.

"Le langage brut est très compliqué", explique Timothy Nguyen, chercheur en apprentissage automatique chez DeepMind. "Pour que des capacités linguistiques intéressantes apparaissent, les gens ont eu recours à l'idée que plus il y a de données, mieux c'est".

(photo) Ronen Eldan s'est rendu compte qu'il pouvait utiliser les histoires d'enfants générées par de grands modèles linguistiques pour en entraîner rapidement de plus petits.

Introduction

Ronen Eldan, mathématicien qui a rejoint Microsoft Research en 2022 pour étudier les modèles de langage génératifs, souhaitait développer un moyen moins coûteux et plus rapide d'explorer leurs capacités. Le moyen naturel d'y parvenir était d'utiliser un petit ensemble de données, ce qui signifiait qu'il devait entraîner les modèles à se spécialiser dans une tâche spécifique, afin qu'ils ne s'éparpillent pas. Au départ, il voulait entraîner les modèles à résoudre une certaine catégorie de problèmes mathématiques, mais un après-midi, après avoir passé du temps avec sa fille de 5 ans, il s'est rendu compte que les histoires pour enfants convenaient parfaitement. "L'idée m'est venue littéralement après lui avoir lu une histoire", a-t-il déclaré.

Pour générer des histoires cohérentes pour les enfants, un modèle de langage devrait apprendre des faits sur le monde, suivre les personnages et les événements, et observer les règles de grammaire - des versions plus simples des défis auxquels sont confrontés les grands modèles. Mais les grands modèles formés sur des ensembles de données massives apprennent d'innombrables détails non pertinents en même temps que les règles qui comptent vraiment. Eldan espérait que la brièveté et le vocabulaire limité des histoires pour enfants rendraient l'apprentissage plus gérable pour les petits modèles, ce qui les rendrait à la fois plus faciles à former et plus faciles à comprendre.

Dans le monde des modèles de langage, cependant, le terme "petit" est relatif : Un ensemble de données mille fois plus petit que celui utilisé pour former GPT-3.5 devrait encore contenir des millions d'histoires. "Je ne sais pas combien d'argent vous voulez dépenser, mais je suppose que vous n'allez pas engager des professionnels pour écrire quelques millions de nouvelles", a déclaré M. Nguyen.

Il faudrait un auteur extraordinairement prolifique pour satisfaire des lecteurs aussi voraces, mais Eldan avait quelques candidats en tête. Qui peut mieux écrire pour un public de petits modèles linguistiques que pour de grands modèles ?

Toys stories

Eldan a immédiatement entrepris de créer une bibliothèque d'histoires synthétiques pour enfants générées par de grands modèles linguistiques. Mais il a rapidement découvert que même les modèles de pointe ne sont pas naturellement très créatifs. Si l'on demande à GPT-4 d'écrire des histoires adaptées à des enfants de 4 ans, explique Eldan, "environ un cinquième des histoires concernera des enfants qui vont au parc et qui ont peur des toboggans". C'est apparemment la quintessence des histoires pour enfants d'âge préscolaire, selon l'Internet.

La solution a consisté à ajouter un peu d'aléatoire dans le message. Tout d'abord, Eldan a utilisé le GPT-4 pour générer une liste de 1 500 noms, verbes et adjectifs qu'un enfant de 4 ans pourrait connaître - suffisamment courte pour qu'il puisse facilement la vérifier lui-même. Il a ensuite écrit un programme informatique simple qui demanderait à plusieurs reprises à GPT-3.5 ou à GPT-4 de générer une histoire adaptée à l'âge de l'enfant, comprenant trois mots aléatoires de la liste, ainsi qu'un détail supplémentaire choisi au hasard, comme une fin heureuse ou un rebondissement de l'intrigue. Les histoires obtenues, heureusement, étaient moins axées sur des diapositives effrayantes.

Eldan disposait désormais d'une procédure pour produire des données de formation à la demande, mais il n'avait aucune idée du nombre d'histoires dont il aurait besoin pour former un modèle fonctionnel, ni de la taille de ce modèle. C'est alors qu'il s'est associé à Yuanzhi Li, chercheur en apprentissage automatique chez Microsoft et à l'université Carnegie Mellon, pour essayer différentes possibilités, en tirant parti du fait que les petits modèles peuvent être formés très rapidement. La première étape consistait à décider comment évaluer leurs modèles.

Introduction

Dans la recherche sur les modèles de langage - comme dans toute salle de classe - la notation est un sujet délicat. Il n'existe pas de rubrique parfaite qui englobe tout ce que les chercheurs veulent savoir, et les modèles qui excellent dans certaines tâches échouent souvent de manière spectaculaire dans d'autres. Au fil du temps, les chercheurs ont mis au point divers critères de référence standard basés sur des questions dont les réponses ne sont pas ambiguës, ce qui est une bonne approche si vous essayez d'évaluer des compétences spécifiques. Mais Eldan et Li se sont intéressés à quelque chose de plus nébuleux : quelle doit être la taille réelle des modèles linguistiques si l'on simplifie le langage autant que possible ?

"Pour vérifier directement si le modèle parle anglais, je pense que la seule chose à faire est de laisser le modèle générer de l'anglais de manière ouverte", a déclaré M. Eldan.

Il n'y a que deux façons de mesurer les performances d'un modèle sur des questions aussi qualitatives : S'appuyer sur des évaluateurs humains ou se tourner à nouveau vers le GPT-4. Les deux chercheurs ont opté pour cette dernière solution, laissant les grands modèles à la fois rédiger les manuels et noter les dissertations.

Bhagavatula a déclaré qu'il aurait aimé voir comment les évaluations de GPT-4 se comparaient à celles des correcteurs humains - GPT-4 peut être biaisé en faveur des modèles qu'il a aidé à former, et l'opacité des modèles de langage rend difficile la quantification de tels biais. Mais il ne pense pas que de telles subtilités affecteraient les comparaisons entre différents modèles formés sur des ensembles similaires d'histoires synthétiques - l'objectif principal du travail d'Eldan et Li.

Eldan et Li ont utilisé une procédure en deux étapes pour évaluer chacun de leurs petits modèles après la formation. Tout d'abord, ils ont présenté au petit modèle la première moitié d'une histoire distincte de celles de l'ensemble des données d'apprentissage, de manière à ce qu'il génère une nouvelle fin, en répétant ce processus avec 50 histoires de test différentes. Ensuite, ils ont demandé à GPT-4 d'évaluer chacune des fins du petit modèle en fonction de trois catégories : créativité, grammaire et cohérence avec le début de l'histoire. Ils ont ensuite fait la moyenne des notes obtenues dans chaque catégorie, obtenant ainsi trois notes finales par modèle.

Avec cette procédure en main, Eldan et Li étaient enfin prêts à comparer les différents modèles et à découvrir quels étaient les étudiants les plus brillants.

Résultats des tests

Après quelques explorations préliminaires, les deux chercheurs ont opté pour un ensemble de données de formation contenant environ 2 millions d'histoires. Ils ont ensuite utilisé cet ensemble de données, baptisé TinyStories, pour entraîner des modèles dont la taille varie de 1 million à 30 millions de paramètres, avec un nombre variable de couches. Le travail a été rapide : En utilisant seulement quatre GPU, l'entraînement du plus grand de ces modèles n'a pas pris plus d'une journée.

Les plus petits modèles ont eu du mal. Par exemple, l'une des histoires testées commence par un homme à l'air méchant qui dit à une fille qu'il va lui prendre son chat. Un modèle à un million de paramètres s'est retrouvé bloqué dans une boucle où la fille répète sans cesse à l'homme qu'elle veut être son amie. Mais les modèles plus grands, qui sont encore des milliers de fois plus petits que GPT-3.5, ont obtenu des résultats surprenants. La version à 28 millions de paramètres racontait une histoire cohérente, même si la fin était sinistre : "Katie s'est mise à pleurer, mais l'homme s'en fichait. Il a emporté le chat et Katie n'a plus jamais revu son chat. Fin de l'histoire".

En plus de tester leurs propres modèles, Eldan et Li ont soumis le même défi au GPT-2 d'OpenAI, un modèle de 1,5 milliard de paramètres publié en 2019. Le résultat a été bien pire - avant la fin abrupte de l'histoire, l'homme menace d'emmener la jeune fille au tribunal, en prison, à l'hôpital, à la morgue et enfin au crématorium.

Introduction

Selon M. Nguyen, il est passionnant que des modèles aussi petits soient aussi fluides, mais il n'est peut-être pas surprenant que GPT-2 ait eu du mal à accomplir la tâche : il s'agit d'un modèle plus grand, mais loin de l'état de l'art, et il a été formé sur un ensemble de données très différent. "Un enfant en bas âge qui ne s'entraînerait qu'à des tâches d'enfant en bas âge, comme jouer avec des jouets, obtiendrait de meilleurs résultats que vous ou moi", a-t-il fait remarquer. "Nous ne nous sommes pas spécialisés dans cette chose simple.

Les comparaisons entre les différents modèles de TinyStories ne souffrent pas des mêmes facteurs de confusion. Eldan et Li ont observé que les réseaux comportant moins de couches mais plus de neurones par couche étaient plus performants pour répondre aux questions nécessitant des connaissances factuelles ; inversement, les réseaux comportant plus de couches et moins de neurones par couche étaient plus performants pour garder en mémoire les personnages et les points de l'intrigue situés plus tôt dans l'histoire. Bhagavatula a trouvé ce résultat particulièrement intriguant. S'il peut être reproduit dans des modèles plus vastes, "ce serait un résultat vraiment intéressant qui pourrait découler de ce travail", a-t-il déclaré.

Eldan et Li ont également étudié comment les capacités de leurs petits modèles dépendaient de la durée de la période de formation. Dans tous les cas, les modèles maîtrisaient d'abord la grammaire, puis la cohérence. Pour Eldan, ce schéma illustre comment les différences dans les structures de récompense entraînent des différences dans les schémas d'acquisition du langage entre les réseaux neuronaux et les enfants. Pour les modèles de langage, qui apprennent en prédisant des mots, "l'incitation pour les mots "je veux avoir" est aussi importante que pour les mots "crème glacée"", a-t-il déclaré. Les enfants, en revanche, "ne se soucient pas de savoir s'ils disent 'j'aimerais avoir de la glace' ou simplement 'glace, glace, glace'".

Qualité contre quantité

Eldan et Li espèrent que cette étude incitera d'autres chercheurs à entraîner différents modèles sur l'ensemble des données de TinyStories et à comparer leurs capacités. Mais il est souvent difficile de prédire quelles caractéristiques des petits modèles apparaîtront également dans les plus grands.

"Peut-être que les modèles de vision chez la souris sont de très bons substituts de la vision humaine, mais les modèles de dépression chez la souris sont-ils de bons modèles de la dépression chez l'homme ? a déclaré M. Pavlick. "Pour chaque cas, c'est un peu différent.

Le succès des modèles TinyStories suggère également une leçon plus large. L'approche standard pour compiler des ensembles de données de formation consiste à aspirer des textes sur l'internet, puis à filtrer les déchets. Le texte synthétique généré par des modèles de grande taille pourrait constituer une autre façon d'assembler des ensembles de données de haute qualité qui n'auraient pas besoin d'être aussi volumineux.

"Nous avons de plus en plus de preuves que cette méthode est très efficace, non seulement pour les modèles de la taille de TinyStories, mais aussi pour les modèles plus importants", a déclaré M. Eldan. Ces preuves proviennent d'une paire d'articles de suivi sur les modèles à un milliard de paramètres, rédigés par Eldan, Li et d'autres chercheurs de Microsoft. Dans le premier article, ils ont entraîné un modèle à apprendre le langage de programmation Python en utilisant des extraits de code générés par GPT-3.5 ainsi que du code soigneusement sélectionné sur l'internet. Dans le second, ils ont complété l'ensemble de données d'entraînement par des "manuels" synthétiques couvrant un large éventail de sujets, afin d'entraîner un modèle linguistique à usage général. Lors de leurs tests, les deux modèles ont été comparés favorablement à des modèles plus importants formés sur des ensembles de données plus vastes. Mais l'évaluation des modèles linguistiques est toujours délicate, et l'approche des données d'entraînement synthétiques n'en est qu'à ses balbutiements - d'autres tests indépendants sont nécessaires.

Alors que les modèles linguistiques de pointe deviennent de plus en plus volumineux, les résultats surprenants de leurs petits cousins nous rappellent qu'il y a encore beaucoup de choses que nous ne comprenons pas, même pour les modèles les plus simples. M. Nguyen s'attend à ce que de nombreux autres articles explorent l'approche inaugurée par TinyStories.

"La question est de savoir où et pourquoi la taille a de l'importance", a-t-il déclaré. "Il devrait y avoir une science à ce sujet, et cet article est, je l'espère, le début d'une riche histoire.



 



 

Auteur: Internet

Info: https://www.quantamagazine.org/ Ben Brubaker, 5 octobre 2023

[ synthèse ]