déclaration d'amour

Lorsque tu seras vieux et que je serai vieille,
Lorsque mes cheveux blonds seront des cheveux blancs,
Au mois de mai, dans le jardin qui s'ensoleille,
Nous irons réchauffer nos vieux membres tremblants.
Comme le renouveau mettra nos coeurs en fête,
Nous nous croirons encore de jeunes amoureux,
Et je te sourirai tout en branlant la tête,
Et nous ferons un couple adorable de vieux.
Nous nous regarderons, assis sous notre treille,
Avec de petits yeux attendris et brillants,
Lorsque tu seras vieux et que je serai vieille,
Lorsque mes cheveux blonds seront des cheveux blancs.
Sur le banc familier, tout verdâtre de mousse,
Sur le banc d'autrefois nous reviendrons causer;
Nous aurons une joie attendrie et très douce,
La phrase finissant souvent par un baiser.
Combien de fois jadis j'ai pu dire : "Je t'aime!"
Alors, avec grand soin, nous le recompterons.
Nous nous ressouviendrons de mille choses, même
De petits riens exquis dont nous radoterons.
Un rayon descendra, d'une caresse douce,
Parmi nos cheveux blancs, tout rose, se poser,
Quand, sur notre vieux banc tout verdâtre de mousse,
Sur le banc d'autrefois nous reviendrons causer.
Et, comme chaque jour je t'aime davantage,
Aujourd'hui plus qu'hier et bien moins que demain
Qu'importeront alors les rides du visage,
Si les mêmes rosiers parfument le chemin?
Songe à tous les printemps qui dans nos coeurs s'entassent.
Mes souvenirs à moi seront aussi les tiens.
Ces communs souvenirs toujours plus nous enlacent
Et sans cesse entre nous tissent d'autres liens;
C'est vrai, nous serons vieux, très vieux, faiblis par l'âge,
Mais plus fort chaque jour je serrerai ta main,
Car, vois-tu, chaque jour je t'aime davantage
Aujourd'hui plus qu'hier et bien moins que demain!
En ce cher amour qui passe comme un rêve
Je veux tout conserver dans le fond de mon coeur,
Retenir, s'il se peut, l'impression trop brève,
Pour le ressavourer plus tard avec lenteur.
J'enfouis tout ce qui vient de lui comme un avare
Thésaurisant avec ardeur pour mes vieux jours.
Je serais riche alors d'une richesse rare,
J'aurais gardé tout l'or de mes jeunes amours,
Ainsi de ce passé de bonheur qui s'achève
Ma mémoire parfois me rendra la douceur;
Car de ce cher amour qui passe comme un rêve
J'aurais tout conservé dans le fond de mon coeur.
Lorsque tu seras vieux et que je serai vieille,
Lorsque mes cheveux blonds seront des cheveux blancs,
Au mois de mai, dans le jardin qui s'ensoleille,
Nous irons réchauffer nos vieux membres tremblants.
Comme le renouveau mettra nos coeurs en fête,
Nous nous croirons encore aux jours heureux d'antan,
Et je te sourirai tout en branlant la tête,
Et tu me parleras d'amour en chevrotant.
Nous nous regarderons, assis sous notre treille,
Avec des yeux remplis des pleurs de nos vingt ans...
Lorsque tu seras vieux et que je serai vieille,
Lorsque mes cheveux blonds seront des cheveux blancs!

Auteur: Gérard Rosemonde

Info: Le dernier rendez-vous

[ poème ]

coït rectal

La vérité se cache au fond du cul. Un vit dans un cul fonctionne comme la flèche sur un test de détecteur de mensonges. Le cul ne sait pas mentir, il en est incapable : il a mal, physiquement mal, si on ment. La chatte, au contraire, peut mentir à la simple entrée en scène d’un chibre, elle ne s’en prive jamais. Les chattes sont faites pour tromper les hommes, avec leur tendre rosée accueillante et leurs propriétaires enragées.

Par le cul, la pénétration est plus profonde, plus intime ; elle suit le fil du rasoir. La voie qui traverse mes entrailles pour me conduire tout droit à Dieu est libre, elle a été dégagée.

" …une incursion chez le Démon puis retour au Seigneur… " Norman Mailer

Ceci est l’arrière-fond d’une histoire d’amour. Une histoire de second trou, pour être tout à fait exacte. L’amour depuis l’intérieur de mon derrière. Colette affirme qu’on ne peut écrire sur l’amour tant qu’on est sous son troublant empire, comme si seul l’amour perdu avait des résonances. Ce grand amour m’a donné une vue sur cour, décrite avec l’œil de mon derrière. Voici un livre où le recto est bref, et le verso est tout. Mon cerveau a été ébranlé avec mes entrailles.

Avoir un vit dans son cul donne vraiment son centre à une femme. De passive, la réceptivité devient active. Il ne reste plus qu’à agir. Son vit transperce mon yang – mon désir de savoir, de contrôler, de comprendre et d’analyser – et fait remonter à la surface mon yin – mon ouverture, ma vulnérabilité. Je ne peux pas y arriver toute seule, par volonté. Je dois être forcée. En me baisant, il me renvoie à ma féminité. Quand on est une femme libérée, c’est le seul moyen d’y revenir et de garder sa dignité. A quatre pattes, le cul dressé, je n’ai d’autre choix que de succomber et de m’affoler. Voilà comment je puis avoir une expérience que mon intellect ne me permettrait jamais. Voilà simplement comment ma libération s’est manifestée. Mais, pour n’importe quelle femme rationnelle, l’émancipation par la porte basse ne devrait jamais être un choix. Cela peut seulement arriver comme un cadeau. Une surprise. Une grosse surprise.

Cette histoire raconte comment je suis venue à connaître – et parfois à comprendre – des termes se rapportant à la quête spirituelle. Sur leur sens et sur leur pouvoir, la sodomie m’en appris davantage que n’importe quel autre enregistrement.

Le sexe anal est pour moi un événement littéraire. Les mots se sont d’abord mis à couler pendant même qu’il était enfoui au fond de mon cul. Son stylographe sur mon papier. Son marqueur sur mon buvard. Sa fusée sur ma lune. C’est amusant où l’on trouve l’inspiration.

L’enculade est le grand acte anti-romantique – à moins que, bien sûr, comme moi, votre idée de la romance ne commence à genoux, la tête enfouie dans un oreiller. La poésie, les fleurs, et les promesses "jusqu’à ce que la mort nous sépare" n’ont guère place dans l’arrière-pays. La pénétration anale implique le tranchant de la vérité, et non les doux replis de la sentimentalité propre à l’amour romantique. Mais l’enculerie est plus intime que la copulation. Vous risquez de montrer votre merde, au propre comme au figuré. Vous accueillez un homme dans vos entrailles – votre espace le plus profond, l’espace que vous avez appris, toute votre vie, à ignorer, à cacher, à taire – et votre conscience s’éveille.

L’humiliation est le plus grand de mes démons mais, quand mon œil de bronze est enfoncé, je découvre que mes craintes sont infondées. C’est grâce à cette reddition sensuelle, ce chemin interdit, que je me suis trouvée, que j’ai trouvée ma voix, mon esprit, mon courage… Et mes bêlements de vieille bique ! Ces pages sont la vérité sur la beauté de la soumission. Le pouvoir de la soumission. Pour moi, voyez-vous, j’ai découvert par hasard la grande farce cosmique, l’ironie suprême de Dieu.

Entrez par la sortie. Le Paradis vous y attend.

Auteur: Bentley Tony

Info: Ma reddition : Une confession érotique

[ anus ] [ véniel ]

incipit

Il faut comprendre qu'ils n'étaient pas des rêveurs professionnels. Les rêveurs professionnels sont des talents très bien payés, respectés et très recherchés. Comme la majorité d'entre nous, ces sept personnes rêvaient sans effort ni discipline. Rêver professionnellement, de manière à ce que ses rêves puissent être enregistrés et diffusés pour le divertissement des autres, est une proposition beaucoup plus exigeante. Elle exige la capacité de réguler les impulsions créatives semi-conscientes et de stratifier l'imagination, une combinaison extraordinairement difficile à réaliser. Un rêveur professionnel est à la fois le plus organisé de tous les artistes et le plus spontané. Un tisseur subtil de spéculations, pas un simple et maladroit individu comme vous ou moi. Ou ces sept dormeurs.

De tous, Ripley était la plus proche de posséder ce potentiel particulier. Elle avait quelque talent de rêve enraciné et une plus grande souplesse d'imagination que ses compagnons. Mais elle manquait d'inspiration réelle et de la puissante maturité de pensée caractéristique du tisseur de rêves.

Elle était très douée pour organiser les magasins et les cargaisons, pour ranger le carton A dans la chambre de stockage B ou pour faire correspondre les bordereaux. C'était dans l'entrepôt de l'esprit que son système de classement fonctionnait mal. Espoirs et craintes, spéculations et demi-créations glissaient au hasard de compartiment en compartiment.

L'adjudant Ripley avait besoin de plus de maîtrise d'elle-même. Les pensées rococo brutes attendaient en vain d'être exploitées, juste à la frontière de la réalisation. Un peu plus d'effort, une plus grande intensité de reconnaissance de soi et elle aurait fait une assez bonne pro-rêveuse. C'est du moins ce qu'elle pensait parfois.

Le capitaine Dallas maintenant, il semblait paresseux tout en étant le mieux organisé de tous. Il ne manquait pas non plus d'imagination. Sa barbe en était la preuve. Personne n'en conservait en hibernation. Personne, sauf Dallas. C'était une partie de sa personnalité, avait-il expliqué à plus d'un coéquipier curieux. Il ne se séparait pas plus de l'antique duvet facial qu'il ne se séparait de toute autre partie de son anatomie. Dallas était le capitaine de deux navires : le remorqueur interstellaire Nostromo, et son corps. Tous deux restaient inchangés, tant en rêve qu'à l'état de veille. Il avait donc une bonne capacité de régulation et un minimum d'imagination. Mais un rêveur professionnel a besoin de beaucoup plus qu'un minimum de cette dernière ; et c'est une carence, qui ne peut être compensée par une quantité disproportionnée de la première. Dallas n'était pas plus apte que Ripley en matière de tissage de rêve.

Kane était moins contrôlé que Dallas en terme d'action et de pensée aride et il possédait beaucoup moins d'imagination. C'était un bon dirigeant. Mais il ne deviendrait jamais capitaine. Il faut pour ça une certaine motivation et la capacité de commander les autres, deux qualités dont Kane n'avait pas la chance de bénéficier. Ses rêves étaient des ombres translucides et informe par rapport à ceux de Dallas, tout comme Kane était un écho plus fin et moins vibrant du capitaine. Cela ne le rendait pas moins sympathique. Mais faire tisseur de rêve exige une forme de surcroît d'énergie, et Kane en avait à peine assez pour la vie de tous les jours.

Les rêves de Parker n'étaient pas déplacés, mais ils étaient moins pastoraux que ceux de Kane. Il y avait peu d'imagination dans ces rêves. Ils étaient trop spécialisés et ne traitaient que rarement des choses humaines. On ne pouvait rien attendre d'autre d'un ingénieur de bord. Ils étaient directs, et parfois laids. A l'état de veille, ces restes profondément enfouis se montraient rarement lorsque l'ingénieur s'irritait ou se mettait en colère. La majeure partie du suintement et du mépris qui fermentait au fond de la citerne de son âme était bien cachée. Ses compagnons n'en avaient jamais vu flotter au-dessus ou au-delà de la distillerie Parker, personne n'avait jamais eu un aperçu de ce qui bouillonnait et brassait au fond de cette cuve.

Lambert était plus inspiration pour rêveurs que rêveuse elle-même. En hyper-sommeil, ses rêveries agitées étaient remplies de tracés inter-systèmes et de facteurs de charge annulés par des considérations de carburant. Il arrivait que l'imagination entre dans de telles structures de rêve, mais jamais d'une manière qui puisse faire couler le sang des autres.

Parker et Brett imaginaient souvent leurs propres systèmes en train de s'interpénétrer avec les siens. Ils considéraient la question des facteurs de charge et des juxtapositions spatiales d'une manière qui aurait exaspéré Lambert si elle en avait été consciente. Réflexions non autorisées qu'ils gardaient pour eux, enfermés dans leurs rêves diurnes ou nocturnes, de peur qu'ils ne la mettent de mauvaise humeur. Même si cela ne lui aurait pas fait de malt. Mais en tant que navigatrice du Nostromo, elle était la principale responsable de leur retour à la maison, et c'était la plus importante et la plus souhaitable des collaborations qu'un homme puisse imaginer.

Brett n'était répertorié que comme technicien en ingénierie. C'était une façon de dire qu'il était aussi intelligent et compétent que Parker, mais qu'il manquait d'ancienneté. Les deux hommes formaient une paire étrange, inégale et totalement différente pour des gens non avertis. Pourtant, ils coexistaient et fonctionnaient ensemble en douceur. Leur succès comme amis et collègues était dû en grande partie au fait que Brett ne s'était jamais immiscé dans la vie mentale de Parker. Le technard était aussi solennel et flegmatique dans sa façon de voir et de parler que Parker était volubile et instable. Parker pouvait râler pendant des heures sur la défaillance d'un circuit de micro-puce, renvoyant ses ancêtres à la terre dont les constituants de terre rare avaient été extraits. Alors que Brett ponctuait placide : "right".

Pour Brett, ce seul mot était bien plus qu'une simple déclaration d'opinion. C'était une affirmation de soi. Pour lui, le silence était la forme de communication la plus propre. Dans la loquacité résidait le délire.

Et puis il y avait Ash. Ash était l'officier scientifique, mais ce n'était pas ce qui rendait ses rêves si drôles : particulièrement drôles, super drôles ha-ha ! Ses rêves étaient les plus professionnellement organisés de tout l'équipage. De tous, c'est celui qui se rapprochait le plus de son état éveillé. Les rêves de Ash ne contenaient absolument aucune illusion.

Ce n'était pas surprenant si vous connaissiez vraiment Ash. Mais aucun de ses six coéquipiers ne le connaissait. Mais lui, Ash, se connaissait bien. Si on lui avait demandé, il aurait pu vous dire pourquoi il n'avait jamais pu devenir tisseur de rêves. Personne n'avait jamais pensé à lui demander, malgré le fait que l'officier scientifique ait bien montré combien le tissage de rêves semblait plus fascinant pour lui que pour n'importe lequel d'entre eux.

Oh, et il y avait aussi le chat. Il s'appelait Jones. Un chat domestique très ordinaire, ou, dans ce cas, un chat de vaisseau. Jones était un gros matou jaune aux origines incertaines et à la personnalité indépendante, depuis longtemps habitué aux aléas des voyages spatiaux et aux particularités des humains qui voyageaient dans l'espace. Il dormait lui aussi d'un sommeil froid et faisait de simples rêves de lieux chauds et sombres et de souris soumises à la gravité.

De tous les rêveurs à bord, il était le seul à être satisfait, bien qu'on ne puisse pas le qualifier d'innocent.

Il est dommage qu'aucun d'entre eux n'ait eu la qualification de tisseur de songes, car chacun d'eux disposait de plus de temps pour rêver dans le cadre de son travail que n'importe quelle douzaine de professionnels, ceci malgré le ralentissement de leur rythme de rêve par le sommeil froid. Tout ça de par la nécessité de leur principale occupation, le rêve. Un équipage de l'espace lointain ne peut rien faire dans les congélateurs, si ce n'est dormir et rêver. Ils resteraient peut-être à jamais des amateurs, mais ils étaient depuis longtemps devenus très compétents.

Ils étaient sept. Sept rêveurs tranquilles à la recherche d'un cauchemar.

Bien qu'il possède une sorte de conscience, le Nostromo ne rêvait pas. Il n'en avait pas besoin, pas plus qu'il n'avait besoin de l'effet de conservation des congélateurs. S'il rêvait, ces rêveries devaient être brèves et fugaces, car il ne dormait jamais. Il travaillait, entretenait, et faisait en sorte que son complément humain en hibernation ait toujours une longueur d'avance sur une mort, toujours prête, qui suivait le sommeil froid comme un vaste requin gris derrière un navire en mer.

Les preuves de la vigilance mécanique incessante du Nostromo se trouvaient partout sur le navire silencieux, dans les doux bourdonnements et les lumières qui formaient une sensibilité instrumentale qui imprégnait le tissu même du vaisseau, prolongeait les capteurs pour vérifier chaque circuit et chaque jambe de force. Elle avait aussi des capteurs à l'extérieur, surveillant le pouls du cosmos. Les capteurs s'étaient fixés sur une anomalie électromagnétique.

Une partie du cerveau de Nostromo était particulièrement habile à extraire le sens des anomalies. Il avait soigneusement mâché celle-ci, trouvé le goût déroutant, examiné les résultats de l'analyse et pris une décision. Des instruments endormis furent activés, des circuits dormants régulèrent à nouveau le flux d'électrons. Pour célébrer cette décision, des banques de lumières brillantes clignotèrent, signes de vie d'une respiration mécanique agitée.

Un bip sonore caractéristique retentit, bien qu'il n'y ait encore que des tympans artificiels pour entendre et reconnaître. C'était un son que l'on n'avait plus entendu sur le Nostromo depuis un certain temps, et il signifiait un événement peu fréquent.

Au milieu de tous ces clics et ces flashs, dispositifs qui conversent entre eux, se trouvait une pièce spéciale. Dans enceinte de métal blanc se trouvaient sept cocons métal-plastique de couleur neige.

Un nouveau bruit emplit la pièce, une expiration explosive la remplissait d'une atmosphère fraîchement nettoyée et respirable. L'humanité s'était volontairement placée dans cette position, faisant confiance à de petits dieux de fer blanc comme le Nostromo pour lui fournir le souffle de vie quand elle ne pouvait pas le faire elle-même. Des extensions de cet électronique mi-sensible testaient maintenant l'air nouvellement exsudé et le déclarèrent satisfaisant pour maintenir la vie de ces organismes minables, les hommes. D'autres lumières s'allumèrent, d'autres connexions se fermèrent. Sans fanfare, les couvercles des sept chrysalides s'ouvrirent, et les formes de chenilles qui s'y trouvaient commencèrent à émerger dans la lumière.

Auteur: Foster Alan Dean

Info: Alien, le 8e passager, Chapitre 1 : Sept rêveurs. Trad Mg. Il fut demandé à Foster, après le grand succès du film, d'en faire un livre.

[ novélisation ] [ science-fiction ] [ galerie de personnages ] [ maîtrise du rêveur ]

homme-machine

Comment l'IA comprend des trucs que personne ne lui lui a appris

Les chercheurs peinent à comprendre comment les modèles d'Intelligence artificielle, formés pour perroquetter les textes sur Internet, peuvent effectuer des tâches avancées comme coder, jouer à des jeux ou essayer de rompre un mariage.

Personne ne sait encore comment ChatGPT et ses cousins ​​de l'intelligence artificielle vont transformer le monde, en partie parce que personne ne sait vraiment ce qui se passe à l'intérieur. Certaines des capacités de ces systèmes vont bien au-delà de ce pour quoi ils ont été formés, et même leurs inventeurs ne savent pas pourquoi. Un nombre croissant de tests suggèrent que ces systèmes d'IA développent des modèles internes du monde réel, tout comme notre propre cerveau le fait, bien que la technique des machines soit différente.

"Tout ce que nous voulons faire avec ces systèmes pour les rendre meilleurs ou plus sûrs ou quelque chose comme ça me semble une chose ridicule à demander  si nous ne comprenons pas comment ils fonctionnent", déclare Ellie Pavlick de l'Université Brown,  un des chercheurs travaillant à combler ce vide explicatif.

À un certain niveau, elle et ses collègues comprennent parfaitement le GPT (abréviation de generative pretrained transformer) et d'autres grands modèles de langage, ou LLM. Des modèles qui reposent sur un système d'apprentissage automatique appelé réseau de neurones. De tels réseaux ont une structure vaguement calquée sur les neurones connectés du cerveau humain. Le code de ces programmes est relativement simple et ne remplit que quelques pages. Il met en place un algorithme d'autocorrection, qui choisit le mot le plus susceptible de compléter un passage sur la base d'une analyse statistique laborieuse de centaines de gigaoctets de texte Internet. D'autres algorithmes auto-apprenants supplémentaire garantissant que le système présente ses résultats sous forme de dialogue. En ce sens, il ne fait que régurgiter ce qu'il a appris, c'est un "perroquet stochastique", selon les mots d'Emily Bender, linguiste à l'Université de Washington. Mais les LLM ont également réussi à réussir l'examen pour devenir avocat, à expliquer le boson de Higgs en pentamètre iambique (forme de poésie contrainte) ou à tenter de rompre le mariage d'un utilisateurs. Peu de gens s'attendaient à ce qu'un algorithme d'autocorrection assez simple acquière des capacités aussi larges.

Le fait que GPT et d'autres systèmes d'IA effectuent des tâches pour lesquelles ils n'ont pas été formés, leur donnant des "capacités émergentes", a surpris même les chercheurs qui étaient généralement sceptiques quant au battage médiatique sur les LLM. "Je ne sais pas comment ils le font ou s'ils pourraient le faire plus généralement comme le font les humains, mais tout ça mes au défi mes pensées sur le sujet", déclare Melanie Mitchell, chercheuse en IA à l'Institut Santa Fe.

"C'est certainement bien plus qu'un perroquet stochastique, qui auto-construit sans aucun doute une certaine représentation du monde, bien que je ne pense pas que ce soit  vraiment de la façon dont les humains construisent un modèle de monde interne", déclare Yoshua Bengio, chercheur en intelligence artificielle à l'université de Montréal.

Lors d'une conférence à l'Université de New York en mars, le philosophe Raphaël Millière de l'Université de Columbia a offert un autre exemple à couper le souffle de ce que les LLM peuvent faire. Les modèles avaient déjà démontré leur capacité à écrire du code informatique, ce qui est impressionnant mais pas trop surprenant car il y a tellement de code à imiter sur Internet. Millière est allé plus loin en montrant que le GPT peut aussi réaliser du code. Le philosophe a tapé un programme pour calculer le 83e nombre de la suite de Fibonacci. "Il s'agit d'un raisonnement en plusieurs étapes d'un très haut niveau", explique-t-il. Et le robot a réussi. Cependant, lorsque Millière a demandé directement le 83e nombre de Fibonacci, GPT s'est trompé, ce qui suggère que le système ne se contentait pas de répéter ce qui se disait sur l'internet. Ce qui suggère que le système ne se contente pas de répéter ce qui se dit sur Internet, mais qu'il effectue ses propres calculs pour parvenir à la bonne réponse.

Bien qu'un LLM tourne sur un ordinateur, il n'en n'est pas un lui-même. Il lui manque des éléments de calcul essentiels, comme sa propre mémoire vive. Reconnaissant tacitement que GPT seul ne devrait pas être capable d'exécuter du code, son inventeur, la société technologique OpenAI, a depuis introduit un plug-in spécialisé -  outil que ChatGPT peut utiliser pour répondre à une requête - qui remédie à cela. Mais ce plug-in n'a pas été utilisé dans la démonstration de Millière. Au lieu de cela, ce dernier suppose plutôt que la machine a improvisé une mémoire en exploitant ses mécanismes d'interprétation des mots en fonction de leur contexte -  situation similaire à la façon dont la nature réaffecte des capacités existantes à de nouvelles fonctions.

Cette capacité impromptue démontre que les LLM développent une complexité interne qui va bien au-delà d'une analyse statistique superficielle. Les chercheurs constatent que ces systèmes semblent parvenir à une véritable compréhension de ce qu'ils ont appris. Dans une étude présentée la semaine dernière à la Conférence internationale sur les représentations de l'apprentissage (ICLR), le doctorant Kenneth Li de l'Université de Harvard et ses collègues chercheurs en intelligence artificielle, Aspen K. Hopkins du Massachusetts Institute of Technology, David Bau de la Northeastern University et Fernanda Viégas , Hanspeter Pfister et Martin Wattenberg, tous à Harvard, ont créé leur propre copie plus petite du réseau neuronal GPT afin de pouvoir étudier son fonctionnement interne. Ils l'ont entraîné sur des millions de matchs du jeu de société Othello en alimentant de longues séquences de mouvements sous forme de texte. Leur modèle est devenu un joueur presque parfait.

Pour étudier comment le réseau de neurones encodait les informations, ils ont adopté une technique que Bengio et Guillaume Alain, également de l'Université de Montréal, ont imaginée en 2016. Ils ont créé un réseau de "sondes" miniatures pour analyser le réseau principal couche par couche. Li compare cette approche aux méthodes des neurosciences. "C'est comme lorsque nous plaçons une sonde électrique dans le cerveau humain", dit-il. Dans le cas de l'IA, la sonde a montré que son "activité neuronale" correspondait à la représentation d'un plateau de jeu d'Othello, bien que sous une forme alambiquée. Pour confirmer ce résultat, les chercheurs ont inversé la sonde afin d'implanter des informations dans le réseau, par exemple en remplaçant l'un des marqueurs noirs du jeu par un marqueur blanc. "En fait, nous piratons le cerveau de ces modèles de langage", explique Li. Le réseau a ajusté ses mouvements en conséquence. Les chercheurs ont conclu qu'il jouait à Othello à peu près comme un humain : en gardant un plateau de jeu dans son "esprit" et en utilisant ce modèle pour évaluer les mouvements. Li pense que le système apprend cette compétence parce qu'il s'agit de la description la plus simple et efficace de ses données pour l'apprentissage. "Si l'on vous donne un grand nombre de scripts de jeu, essayer de comprendre la règle qui les sous-tend est le meilleur moyen de les comprimer", ajoute-t-il.

Cette capacité à déduire la structure du monde extérieur ne se limite pas à de simples mouvements de jeu ; il apparaît également dans le dialogue. Belinda Li (aucun lien avec Kenneth Li), Maxwell Nye et Jacob Andreas, tous au MIT, ont étudié des réseaux qui jouaient à un jeu d'aventure textuel. Ils ont introduit des phrases telles que "La clé est dans le coeur du trésor", suivies de "Tu prends la clé". À l'aide d'une sonde, ils ont constaté que les réseaux encodaient en eux-mêmes des variables correspondant à "coeur" et "Tu", chacune avec la propriété de posséder ou non une clé, et mettaient à jour ces variables phrase par phrase. Le système n'a aucun moyen indépendant de savoir ce qu'est une boîte ou une clé, mais il a acquis les concepts dont il avait besoin pour cette tâche."

"Une représentation de cette situation est donc enfouie dans le modèle", explique Belinda Li.

Les chercheurs s'émerveillent de voir à quel point les LLM sont capables d'apprendre du texte. Par exemple, Pavlick et sa doctorante d'alors, l'étudiante Roma Patel, ont découvert que ces réseaux absorbent les descriptions de couleur du texte Internet et construisent des représentations internes de la couleur. Lorsqu'ils voient le mot "rouge", ils le traitent non seulement comme un symbole abstrait, mais comme un concept qui a une certaine relation avec le marron, le cramoisi, le fuchsia, la rouille, etc. Démontrer cela fut quelque peu délicat. Au lieu d'insérer une sonde dans un réseau, les chercheurs ont étudié sa réponse à une série d'invites textuelles. Pour vérifier si le systhème ne faisait pas simplement écho à des relations de couleur tirées de références en ligne, ils ont essayé de le désorienter en lui disant que le rouge est en fait du vert - comme dans la vieille expérience de pensée philosophique où le rouge d'une personne correspond au vert d'une autre. Plutôt que répéter une réponse incorrecte, les évaluations de couleur du système ont évolué de manière appropriée afin de maintenir les relations correctes.

Reprenant l'idée que pour remplir sa fonction d'autocorrection, le système recherche la logique sous-jacente de ses données d'apprentissage, le chercheur en apprentissage automatique Sébastien Bubeck de Microsoft Research suggère que plus la gamme de données est large, plus les règles du système faire émerger sont générales. "Peut-être que nous nous constatons un tel bond en avant parce que nous avons atteint une diversité de données suffisamment importante pour que le seul principe sous-jacent à toutes ces données qui demeure est que des êtres intelligents les ont produites... Ainsi la seule façon pour le modèle d'expliquer toutes ces données est de devenir intelligent lui-même".

En plus d'extraire le sens sous-jacent du langage, les LLM sont capables d'apprendre en temps réel. Dans le domaine de l'IA, le terme "apprentissage" est généralement réservé au processus informatique intensif dans lequel les développeurs exposent le réseau neuronal à des gigaoctets de données et ajustent petit à petit ses connexions internes. Lorsque vous tapez une requête dans ChatGPT, le réseau devrait être en quelque sorte figé et, contrairement à l'homme, ne devrait pas continuer à apprendre. Il fut donc surprenant de constater que les LLM apprennent effectivement à partir des invites de leurs utilisateurs, une capacité connue sous le nom d'"apprentissage en contexte". "Il s'agit d'un type d'apprentissage différent dont on ne soupçonnait pas l'existence auparavant", explique Ben Goertzel, fondateur de la société d'IA SingularityNET.

Un exemple de la façon dont un LLM apprend vient de la façon dont les humains interagissent avec les chatbots tels que ChatGPT. Vous pouvez donner au système des exemples de la façon dont vous voulez qu'il réponde, et il obéira. Ses sorties sont déterminées par les derniers milliers de mots qu'il a vus. Ce qu'il fait, étant donné ces mots, est prescrit par ses connexions internes fixes - mais la séquence de mots offre néanmoins une certaine adaptabilité. Certaines personnes utilisent le jailbreak à des fins sommaires, mais d'autres l'utilisent pour obtenir des réponses plus créatives. "Il répondra mieux aux questions scientifiques, je dirais, si vous posez directement la question, sans invite spéciale de jailbreak, explique William Hahn, codirecteur du laboratoire de perception de la machine et de robotique cognitive à la Florida Atlantic University. "Sans il sera un meilleur universitaire." (Comme son nom l'indique une invite jailbreak -prison cassée-, invite à  moins délimiter-verrouiller les fonctions de recherche et donc à les ouvrir, avec les risques que ça implique) .

Un autre type d'apprentissage en contexte se produit via l'incitation à la "chaîne de pensée", ce qui signifie qu'on demande au réseau d'épeler chaque étape de son raisonnement - manière de faire qui permet de mieux résoudre les problèmes de logique ou d'arithmétique en passant par plusieurs étapes. (Ce qui rend l'exemple de Millière si surprenant  puisque le réseau a trouvé le nombre de Fibonacci sans un tel encadrement.)

En 2022, une équipe de Google Research et de l'École polytechnique fédérale de Zurich - Johannes von Oswald, Eyvind Niklasson, Ettore Randazzo, João Sacramento, Alexander Mordvintsev, Andrey Zhmoginov et Max Vladymyrov - a montré que l'apprentissage en contexte suit la même procédure de calcul de base que l'apprentissage standard, connue sous le nom de descente de gradient". 

Cette procédure n'était pas programmée ; le système l'a découvert sans aide. "C'est probablement une compétence acquise", déclare Blaise Agüera y Arcas, vice-président de Google Research. De fait il pense que les LLM peuvent avoir d'autres capacités latentes que personne n'a encore découvertes. "Chaque fois que nous testons une nouvelle capacité que nous pouvons quantifier, nous la trouvons", dit-il.

Bien que les LLM aient suffisamment d'angles morts et autres défauts pour ne pas être qualifiés d'intelligence générale artificielle, ou AGI - terme désignant une machine qui atteint l'ingéniosité du cerveau animal - ces capacités émergentes suggèrent à certains chercheurs que les entreprises technologiques sont plus proches de l'AGI que même les optimistes ne l'avaient deviné. "Ce sont des preuves indirectes que nous en sommes probablement pas si loin", a déclaré Goertzel en mars lors d'une conférence sur le deep learning à la Florida Atlantic University. Les plug-ins d'OpenAI ont donné à ChatGPT une architecture modulaire un peu comme celle du cerveau humain. "La combinaison de GPT-4 [la dernière version du LLM qui alimente ChatGPT] avec divers plug-ins pourrait être une voie vers une spécialisation des fonctions semblable à celle de l'homme", déclare Anna Ivanova, chercheuse au M.I.T.

Dans le même temps, les chercheurs s'inquiètent de voir leur capacité à étudier ces systèmes s'amenuiser. OpenAI n'a pas divulgué les détails de la conception et de l'entraînement de GPT-4, en partie du à la concurrence avec Google et d'autres entreprises, sans parler des autres pays. "Il y aura probablement moins de recherche ouverte de la part de l'industrie, et les choses seront plus cloisonnées et organisées autour de la construction de produits", déclare Dan Roberts, physicien théoricien au M.I.T., qui applique les techniques de sa profession à la compréhension de l'IA.

Ce manque de transparence ne nuit pas seulement aux chercheurs, il entrave également les efforts qui visent à comprendre les répercussions sociales de l'adoption précipitée de la technologie de l'IA. "La transparence de ces modèles est la chose la plus importante pour garantir la sécurité", affirme M. Mitchell.

Auteur: Musser Georges

Info: https://www.scientificamerican.com,  11 mai 2023. *algorithme d'optimisation utilisé dans l'apprentissage automatique et les problèmes d'optimisation. Il vise à minimiser ou à maximiser une fonction en ajustant ses paramètres de manière itérative. L'algorithme part des valeurs initiales des paramètres et calcule le gradient de la fonction au point actuel. Les paramètres sont ensuite mis à jour dans la direction du gradient négatif (pour la minimisation) ou positif (pour la maximisation), multiplié par un taux d'apprentissage. Ce processus est répété jusqu'à ce qu'un critère d'arrêt soit rempli. La descente de gradient est largement utilisée dans la formation des modèles d'apprentissage automatique pour trouver les valeurs optimales des paramètres qui minimisent la différence entre les résultats prédits et les résultats réels. Trad et adaptation Mg

[ singularité technologique ] [ versatilité sémantique ]