homme-machine

Illustrer l'apprentissage par renforcement à partir de commentaires humains (RLHF*)

Les modèles de langage ont montré des capacités impressionnantes au cours des dernières années en générant des textes variés et convaincants à partir d'entrées humaines. Cependant, il est difficile de définir ce qu'est un "bon" texte, car c'est subjectif et ça dépend du contexte. Il existe de nombreuses applications telles que l'écriture d'histoires où l'on recherche la créativité, des textes informatifs qui doivent être véridiques, ou des extraits de code que l'on veut exécutables.

Rédiger une fonction de perte** pour capturer ces attributs semble impossible et la plupart des modèles de langage sont encore entraînés avec une simple perte de prédiction du prochain jeton (par exemple, l'entropie croisée). Pour compenser les lacunes de la perte elle-même, les gens définissent des métriques conçues pour mieux capturer les tropismes humains, telles que BLEU ou ROUGE. Bien qu'elles soient mieux adaptées que la fonction de perte elle-même pour mesurer les performances, ces mesures comparent simplement le texte généré à des références avec des règles simples et sont donc également limitées. Ne serait-il pas formidable d'utiliser le retour d'information humain sur le texte généré comme mesure de la performance ou d'aller encore plus loin et d'utiliser ce retour d'information comme perte pour optimiser le modèle ? C'est l'idée de l'apprentissage par renforcement à partir du feedback humain (RLHF)

Le RLHF a permis aux modèles de langage de commencer à aligner un modèle formé sur un corpus général de données textuelles sur celui de valeurs humaines complexes.

Le succès le plus récent de RLHF a été son utilisation dans ChatGPT. Compte tenu des capacités impressionnantes de ChatGPT, nous lui avons demandé de nous expliquer la RLHF :  

- Peux-tu m'expliquer comment le RL (reinforcement learning) avec retour d'information humain usant un modèle linguistique comme si j'avais 5 ans.

- Bien sûr, imagine que j'ai un robot nommé Rufus qui veut apprendre à parler comme un humain.  Rufus a un modèle linguistique qui l'aide a comprendre les mots et les phrases.

Tout d'abord Rufus va dire quelque chose en usant d'un modèle de langage, par exemple en disant :  - je suis un robot

Ensuite un humain va écouter ce qu'il a dit et va donner un avis pour dire si la réponse ressemble à langage naturel d'humain. Il pourra dire, par exemple. C'est pas très bon Rufus, un humain ne dit pas de manière générale "je suis un robot" mais plutôt "j'suis un robot" ou "je suis une machine".

Rufus va prendre en compte ce retour et l'utuiliser pour améliorer son modèle de langage, il va essayer de redire la phrase en utilisant  cette correction et va dire "j'suis un robot".

Ensuite l'humain va continuer de donner des retours de ce genre et petit à petit Rufus va commencer à s'exprimer comme un humain le fait en général.

Ici Chatgtp se débrouille étonnamment bien, mais ne couvre pas tout. Nous nous chargeons de combler ces lacunes !  (La suite sur le site en Info)

Auteur: Internet

Info: Sur guithub : https://huggingface.co/blog/rlhf, Nathan Lambert, Louis Castricato guest , Leandro von Werra, Alex Havrilla guest. Le 9 décembre 2022 *Reinforcement Learning from Human Feedback ... **Courbe de perte ? (loss function) À la base, une fonction de perte est très simple : c'est une méthode permettant d'évaluer dans quelle mesure votre algorithme modélise votre ensemble de données. Si vos prédictions sont totalement erronées, votre fonction de perte affichera un chiffre élevé. Si elles sont assez bonnes, elle affichera un chiffre plus bas.  C'est une pénalité pour  mauvaise prédiction. En d'autres termes, la perte (loss) est un nombre qui indique à quel point la prédiction du modèle est mauvaise sur un seul exemple. Si la prédiction du modèle est parfaite, la perte est nulle ; elle affichera le chiffre zéro.

[ apprentissage automatique ] [ idiome consensuel ] [ anti-poésie ] [ objectivation linguistique ] [ polysémie contextualisée ] [ mathématisation ]

survie

Même chez les plantes, l'habit ne fait pas le moine
Le Kwongan est une région écologique unique du sud-ouest de l'Australie. Elle a dévoilé quelques secrets souterrains du royaume végétal à des chercheurs de l'Université de Montréal et de l'University of Western Australia. Dans cet endroit on retrouve un type de végétation arbustive exceptionnellement riche en espèces qui poussent sur des sols parmi les plus infertiles au monde..
Cette particularité a permis aux chercheurs de découvrir que les plantes utilisent une diversité époustouflante de stratégies d'acquisition des éléments nutritifs dans ces sols extrêmement infertiles. "En milieu naturel, les plantes adaptées aux sols infertiles utilisent presque toutes la même stratégie aérienne leur permettant d'utiliser les nutriments du sol très efficacement: elles produisent des feuilles très coriaces qui persistent pendant plusieurs années. Par contre, jusqu'à maintenant la diversité des adaptations souterraines des racines dans les sols très pauvres demeurait inconnue.
Selon leur étude publiée dans la revue Nature Plants, le Kwongan contient presque toutes les adaptations d'acquisition des nutriments connues dans le monde végétal, sur des sols si pauvres que l'agriculture y est totalement impossible sans avoir recours à une quantité phénoménale de fertilisants. "Jusqu'ici, les scientifiques croyaient que la sélection naturelle aurait dû favoriser une seule stratégie racinaire particulièrement efficace pour l'acquisition des nutriments, étant donné l'extrême infertilité des sols, or, contrairement à ce que l'on observe pour le feuillage, où les différentes espèces de plantes convergent toutes vers la même stratégie d'utilisation efficace des nutriments dans les feuilles, il ne semble pas exister de solution miracle d'acquisition des nutriments par les racines dans les sols très pauvres. Des plantes poussant côte-à-côte peuvent utiliser des stratégies complètement différentes avec autant de succès.
Si les arbustaies semi-arides d'Australie sont perçues comme banales et homogènes, la réalité s'avère complètement différente. "Certaines plantes forment des symbioses racinaires avec des champignons, d'autres avec des bactéries, tandis que d'autres capturent et digèrent des insectes pour les nutriments qu'ils contiennent. De plus, un autre grand groupe d'espèces excrètent des composés organiques leur permettant d'augmenter la disponibilité des nutriments, dit Graham Zemunik, premier auteur de l'étude. Le Kwongan australien est l'un des points chauds de la diversité végétale sur la planète, au même titre que les forêts tropicales".
"Partout dans le monde, on transforme les écosystèmes à un rythme effarant, déclare M Zemunik. Afin de protéger la biodiversité dans le mesure du possible, il essentiel de mieux comprendre le fonctionnement des écosystèmes. Pour y parvenir, notre étude démontre l'importance d'étudier ce qui est dissimulé sous terre et qui n'est pas immédiatement perceptible."
Cette étude, financée par le Conseil australien de la Recherche et la Fondation Kwongan, fait partie d'un programme de recherche plus large mené par le professeur Etienne Laliberté explorant les liens entre la fertilité des sols, la biodiversité végétale et le fonctionnement des écosystèmes. Il est affilié à l'Institut de recherche en biologie végétale de l'Université de Montréal et son département des sciences biologiques. Il est également affilé à la School of Plant Biology de l'University of Western Australia, où il était superviseur de doctorat du premier auteur de l'étude, Graham Zemunik.

Auteur: Internet

Info: avril 2015

[ végétaux ] [ interaction ]

fictions

Lorsque les gens parlent de fantasy - qu'il s'agisse de lecteurs grand public ou de lecteurs de SF - ils parlent presque toujours d'un sous-genre de la littérature fantastique. Ils parlent de Tolkien, et de ses innombrables héritiers. Qu'on l'appelle "épopée", ou "de genre", c'est ce que fantasy a fini par signifier. Ce qui est à la fois trompeur et malheureux.

Tolkien est la bête de somme de la littérature fantastique. Son œuvre est massive et contagieuse - on ne peut l'ignorer, alors n'essayez même pas. Le mieux que vous puissiez faire est d'essayer d'enlever ce furoncle avec précaution. Et il y a beaucoup de choses à détester : sa pompe wagnérienne, son côté "garçon aventurier" qui se glorifie dans la guerre, son amour étroit et réactionnaire pour le statu quo hiérarchique, sa croyance en une moralité absolue qui brouille la complexité morale et politique. Les clichés de Tolkien - les elfes, les nains et les anneaux magiques - se sont répandus comme des virus. Il a écrit que la fonction de la fantaisie était "de consoler", faisant ainsi de l'écrivain de fantaisie un principe de base d'une politique destinée à dorloter le lecteur.

C'est une idée révoltante, et heureusement, beaucoup de fantaisistes l'ont ignorée. Des surréalistes aux pulps - en passant par Mervyn Peake, Mikhael Boulgakov, Stefan Grabiński, Bruno Schulz, Michael Moorcock, M. John Harrison et j'en passe - les meilleurs écrivains ont utilisé l'esthétique fantastique précisément pour défier, aliéner, subvertir et saper les attentes.

Bien sûr, je ne dis pas qu'un fan de Tolkien ne peut faire parei de mes amis - cela réduirait considérablement mon cercle social. Je ne prétends pas non plus qu'il est impossible d'écrire un bon livre de fantasy contenant des elfes et des nains - le superbe Iron Dragon's Daughter de Michael Swanwick dément cette affirmation. Mais puisque le plaisir de la fantasy est censé résider dans sa créativité illimitée, pourquoi ne pas essayer de trouver des thèmes différents, ainsi que des monstres non conventionnels ? Pourquoi ne pas utiliser la fantasy pour remettre en question les mensonges sociaux et esthétiques ?

Heureusement, la tradition alternative de la fantasy n'est jamais morte. Et elle ne cesse de se renforcer. Chris Wooding, Michael Swanwick, Mary Gentle, Paul di Filippo, Jeff VanderMeer, et bien d'autres, produisent tous des œuvres qui s'articulent sur le radicalisme de la fantasy. Alors que la fantasy traditionnelle était rurale et bucolique, celle-ci est souvent urbaine et souvent brutale. Les personnages sont plus que des silhouettes en carton, et ils ne sont pas définis par la race ou le sexe. Les choses sont sordides et délicates, comme dans la vie réelle. La fantaisie n'est pas un aliment réconfortant, mais un défi.

Le critique Gabe Chouinard a déclaré que nous entrons dans une nouvelle période, une renaissance du radicalisme créatif de la fantasy qui n'a pas été vue depuis la nouvelle vague des années 60 et 70, et qu'il a baptisée la prochaine vague. Je ne sais s'il a raison, mais je suis enthousiaste. C'est une littérature radicale. C'est la littérature que nous méritons le plus.

Auteur: Mieville China Tom

Info:

[ styles littéraires ] [ ouverture ] [ vingtième siècle ] [ mondes imaginaires ] [ merveilleux ]

psychiatrie

"Les cas décrits dans cette section (La Peur d'Être) peuvent sembler extrêmes, mais je suis convaincu qu'ils ne sont pas aussi inhabituels qu'on pourrait penser. Sous l'extérieur apparemment rationnel de nos vies existe une peur de la folie. Nous n'osons pas remettre en question les valeurs par lesquelles nous vivons ou nous rebeller contre les rôles que nous jouons de peur de mettre en doute notre santé mentale. Nous sommes comme les prisonniers d'une institution psychiatrique qui acceptent son caractère inhumain et insensible comme des soins et du savoir-faire s'ils espèrent être considérés comme suffisamment guéris pour repartir. La question de savoir qui est sage et qui est fou était le thème du roman "Vol au dessus d'un nid de Coucou". La question, en quoi consiste la santé mentale ? Est clairement posée dans la pièce "Equus".
L'idée que beaucoup de ce que nous faisons est insensé et que si nous voulons être sains, nous devons nous autoriser à être fous fut fortement énoncée par R.D. Laing dans la préface de son livre "The Divided Self" aux éditions Pélican. Laing écrit: "Dans le contexte de notre folie omniprésente actuelle que nous appelons normalité, santé mentale, liberté, tous nos cadres de référence sont ambigus et équivoques". Et dans la même préface: "Je voudrais donc souligner que notre état "normal" "ajusté" est trop souvent l'abdication de l'extase, la trahison de nos vraies potentialités, bref que beaucoup d'entre nous ne réussissent que trop à acquérir un faux-moi pour s'adapter aux fausses réalités".
Wilhelm Reich avait une vision un peu semblable du comportement humain actuel. Ainsi, Reich dit: "Homo normalis bloque complètement la perception du fonctionnement orgonotique* basique à l'aide d'un blindage rigide; d'ailleurs chez le schizophrène cette armure se brise complètement, conséquemment son biosystème est inondé d'expériences profondes de son noyau biophysique, afflux auxquel il ne peut pas faire face." Les "expériences profondes" auxquelles se réfère Reich sont les sensations de transmission plaisantes associées à une excitation intense, principalement de nature sexuelle. Le schizophrène ne peut faire face à ces sensations car son corps est trop contracté pour tolérer la charge. Sans aucun moyen pour "bloquer" l'excitation ou de la réduire dans une boite névrotique, incapable de "supporter" cette charge, le schizophrène littéralement "devient fou".
Mais le névrosé n'y échappe pas aussi facilement. Il évite la folie en bloquant l'excitation, c'est-à-dire en la réduisant à un point où il n'y a pas de risque d'explosion ou d'éclatement. En fait le névrotique subit une castration psychologique. Cependant le potentiel de libération explosive est encore présent dans son corps, bien qu'il soit rigoureusement gardé comme s'il s'agissait d'une bombe. Le névrosé est en garde contre lui-même, terrifié de laisser aller ses défenses et permettre à ses sentiments de s'exprimer librement. En devenant, comme Reich l'appelle, "homo normalis", après avoir échangé sa liberté et son extase pour la sécurité d'être "bien ajusté", il voit l'alternative comme "folle". Et dans un sens, il a raison. Sans être "fou", sans devenir "cinglé" au point qu'il pourrait tuer, il lui est impossible d'abandonner les défenses qui le protègent de la même manière qu'une institution psychiatrique protège ses détenus de l'autodestruction et de la destruction des autres."

Auteur: Lowen Alexander

Info: Fear of Life . *Relatif, selon Wilhelm Reich, à l'orgone, énergie cosmique partout présente. primordiale, omniprésente dans l'univers.

[ sociologie ] [ psychose ]

astronomie

Très superstitieux, Kepler dressait de nombreux horoscopes tant pour les autres que pour lui-même ; c’est ainsi qu’il nous apprend qu’il fut conçu le 16 mai à 4 heures 47 du matin et que sa mère le mit au monde après une grossesse de 224 jours 9 heures et 53 minutes. Kepler se décrit lui-même comme "sans cesse en mouvement, furetant dans les sciences, la politique et les affaires privées, y compris les plus viles" ; il nous confie qu’il a horreur des bains, des parfums et des lotions et qu’il a "en toutes choses une nature canine" car son apparence est celle d’un petit chien : il aime ronger les os et les croûtons de pain et se donne pour si glouton qu’il prétend attraper tout ce qu’il voit.

On pourrait se demander, non sans motif, s’il ne faut pas chercher dans le goût de Kepler pour les sciences célestes une démarche de compensation visant à le consoler de sa myopie doublée d’un défaut de vision qui le condamnait à voir double ou même quadruple. Quoi qu’il en soit, il n’est nullement aberrant de penser que les études de Kepler ne sont que la projection existentielle d’un désir de se rapprocher des planètes et des étoiles, de voyager et de fuir ainsi le monde où il vivait, voire la nature qui était la sienne, en parcourant du regard et de la pensée les immenses espaces nocturnes, dont la contemplation pouvait lui donner l’illusion de triompher de lui-même et d’être transporté ailleurs. [...]

Fort significativement, Kepler compare lui-même le travail entrepris à un voyage animé de motifs métaphysiques et tout au long duquel il tient à faire le point : "Si non seulement nous pardonnons à Christophe Collomb, à Magellan, aux Portugais qui nous racontent leurs erreurs grâce auxquelles ils découvrirent celui-là l’Amérique, celui-ci la mer de Chine, cet autre la circumnavigation autour de l’Afrique et si nous ne voulons pas qu’ils en omettent puisque nous serions privés du grand plaisir de leur lecture, - par conséquent on ne me blâmera pas si, poussé à mon tour par la même bienveillance à l’égard du lecteur, je fais le récit de l’itinéraire que j’ai suivi" [Astronomia nova].

Kepler tient bien à préciser qu’il n’a pas entrepris un tel voyage par amour des mathématiques ou de la physique : "Je vous en supplie, mes amis, ne me condamnez pas entièrement à la meule des calculs mathématiques et laissez-moi du temps pour les spéculations philosophiques qui sont mes seules délices" [Lettre à Bianchi]. Ce que l’on trouve partout présent dans son œuvre, c’est une inspiration pythagoricienne et chrétienne à partir de laquelle il cherche à découvrir ces lois qu’il appelle "archétypales" selon lesquelles Dieu a créé le monde. Si une telle tâche n’est pas impossible, c’est justement parce que Dieu a fait l’homme à sa propre image ; savoir revient donc à retrouver le plan divin de la Création.

Celui dont on ne retiendra que les fameuses lois qui portent son nom, pense que le Soleil correspond au Père, la sphère des étoiles fixes au Fils et l’entre-deux, c’est-à-dire l’espace rempli de l’aura céleste, à l’Esprit Saint [...].

Auteur: Brun Jean

Info: "Les vagabonds de l'occident", Desclée, Paris, 1976, pages 43-44

[ biographie ] [ historique ] [ motivations ]

esprit-matière

Les physiciens quantiques ont montré que les atomes physiques sont constitués de tourbillons d'énergie qui tournent et vibrent en permanence ; chaque atome est comme une toupie bancale qui rayonne de l'énergie. Comme chaque atome a sa propre signature énergétique spécifique (oscillation), les assemblages d'atomes (molécules) rayonnent collectivement leurs propres modèles d'énergie.

Ainsi, chaque structure matérielle de l'univers, y compris vous et moi, rayonne une signature énergétique unique. S'il était théoriquement possible d'observer la composition d'un atome réel avec un microscope, que verrions-nous ? Imaginez un diable de poussière tourbillonnant sur le sol du désert. Maintenant, enlevez-y le sable et la saleté. Ce qu'il vous reste est un tourbillon invisible, une petite tornade. Un certain nombre de vortex d'énergie infiniment petits, semblables à des diables de poussière, appelés quarks et photons, constituent collectivement la structure de l'atome. De loin, l'atome apparaîtra probablement comme une sphère floue. Et plus sa structure se rapproche du foyer, moins l'atome devient clair et distinct. À mesure que la surface de l'atome se rapproche, il disparait. Vous ne voyez plus rien. En fait, si vous vous concentriez sur toute la structure de l'atome, vons constateriez comme un vide physique. L'atome n'a pas de structure physique - l'empereur est nu !

Vous vous souvenez des modèles atomiques qu'on montre à l'école, ceux avec des billes et des roulements à billes qui tournent comme le système solaire ? Mettons cette image à côté de la structure "physique" de l'atome découverte par les physiciens quantiques. Non, il n'y a pas d'erreur ; les atomes sont faits d'énergie invisible, pas de matière tangible ! Ainsi, dans notre monde, la substance matérielle (la matière) existe à partir de quasi rien. 

C'est un peu bizarre quand on y pense. Vous tenez ce livre physique dans vos mains. Pourtant, si vous vous concentriez sur la substance matérielle du livre avec un microscope atomique, vous verriez que vous ne tenez rien. Il s'avère que les étudiants en biologie avaient raison sur un point : l'univers quantique est hallucinant. Examinons de plus près la nature du "maintenant on le voit, maintenant on le voit pas" de la physique quantique. La matière peut être définie à la fois comme un solide (particule) et comme un champ de force immatériel (onde). Lorsque les scientifiques étudient les propriétés physiques des atomes, telles que la masse et le poids, ceux-ci ressemblent et agissent comme la matière physique. Cependant, lorsque ces mêmes atomes sont décrits en termes de potentiels de tension et de longueurs d'onde, ils présentent les qualités et les propriétés de l'énergie (ondes). (Hackermüller, 2003 ; Chapman et Pool 1995)

Le fait que l'énergie et la matière sont une seule et même chose est précisément ce qu'Einstein a reconnu lorsqu'il a conclu que E = mc2. En termes simples, cette équation révèle que l'énergie (E) = matière (m, masse) multipliée par la vitesse de la lumière au carré (c2). Einstein a révélé que nous ne vivons pas dans un univers avec des objets physiques discrets, séparés par un espace mort. L'Univers est un tout indivisible et dynamique dans lequel l'énergie et la matière sont si profondément enchevêtrées qu'il est impossible de les considérer comme des éléments indépendants.

Auteur: Lipton Bruce H.

Info: The Biology of Belief : Libérer la puissance de la conscience, de la matière et des miracles

[ unicité ] [ dualité ]

rationnel-irrationnel

Les présupposés de la sociologie de la connaissance n’eussent jamais intimidé longtemps les ethnologues, si les épistémologues n’avaient élevé au rang d’un principe fondateur cette même asymétrie entre les vraies sciences et les fausses. Seules ces dernières - les sciences "périmées" - peuvent se lier au contexte social. Quant aux sciences "sanctionnées", elles ne deviennent scientifiques que parce qu’elles s’arrachent justement à tout contexte, à toute trace de contamination, à toute évidence première et qu’elles échappent même à leur propre passé. Telle est la différence, pour Bachelard et ses disciples, entre l’histoire et l’histoire des sciences. La première peut être symétrique, mais peu importe puisqu’elle ne traite jamais de science ; la seconde ne doit jamais l’être afin que la coupure épistémologique demeure totale.

Un seul exemple suffira pour montrer jusqu’où peut mener le rejet de toute anthropologie symétrique. Lorsque Canguilhem distingue les idéologies scientifiques des vraies sciences, il affirme non seulement qu’il est impossible d’étudier Darwin - le savant - et Diderot - l’idéologue - dans les mêmes termes, mais qu’il doit être impossible de les mettre dans le même sac. "La séparation de l’idéologie et de la science doit empêcher de mettre en continuité dans une histoire des sciences quelques éléments d’une idéologie apparemment conservés et la construction scientifique qui a destitué l’idéologie : par exemple à chercher dans le Rêve de d'Alembert des anticipations de L'Origine des espèces" (*p. 45). N’est scientifique que ce qui rompt pour toujours avec l’idéologie. En suivant un tel principe, il est difficile en effet de suivre les quasi-objets dans leurs tenants et aboutissants. Une fois passés entre les mains de l’épistémologue, toutes leurs racines seront arrachées. Il ne restera plus que l’objet excisé de tout le réseau qui lui donnait sens. Mais pourquoi parler même de Diderot et de Spencer, pourquoi s’intéresser à l’erreur ? Parce que sans elle le vrai brillerait d’un éclat trop éblouissant ! "L’entrelacement de l’idéologie et de la science doit empêcher de réduire l’histoire d’une science à la platitude d’un historique, c’est-à-dire d’un tableau sans ombres de relief" (p. 45). Le faux est le faire-valoir du vrai. Ce que Racine faisait pour le Roi Soleil sous le beau nom d’historien, Canguilhem le fait pour Darwin, sous l’étiquette, également usurpée, d’historien des sciences.

Le principe de symétrie rétablit, au contraire, la continuité, l’historicité et, disons-le, la justice. Bloor est l’anti-Canguilhem, de même que Serres est l’anti-Bachelard, ce qui explique d’ailleurs l’incompréhension totale en France de la sociologie des sciences comme de l’anthropologie de Serres (Bowker et Latour, 1987). "Il n’est de pur mythe que l’idée d’une science pure de tout mythe", écrit celui-ci lorsqu’il rompt avec l'épistémologie (Serres, 1974, p. 259). Pour lui comme pour les historiens des sciences proprement dits, Diderot, Darwin, Malthus et Spencer doivent s’expliquer selon les mêmes principes et les mêmes causes ; si vous souhaitez rendre compte de la croyance dans les soucoupes volantes, vérifiez si vos explications peuvent être employées, symétriquement, pour les trous noirs (Lagrange, 1990) ; si vous attaquez la parapsychologie, êtes-vous capables d’utiliser les mêmes facteurs pour la psychologie (Collins et Pinch, 1991) ? Si vous analysez les succès de Pasteur, les mêmes termes vous permettront-ils de rendre compte de ses échecs ?

Auteur: Latour Bruno

Info: Nous ne sommes pas modernes, pp 60-61. *Canguilhem, Études d'histoire et de philosophie des sciences concernant les vivants et la vie (1968) 7e rééd. Vrin, Paris, 1990

[ historique ] [ religions ]

fiasco

Echec du lancement de Galactica, IA générative scientifique de Meta

Le 15 novembre dernier, Meta a mis en ligne une version démo de Galactica, une IA développée pour la recherche scientifique. Deux jours après son lancement, elle a été retirée du Web pour avoir débité des inepties. 

Galactica est un modèle de langage à grande échelle (LLM), entraînée sur 48 millions de données scientifiques comprenant 120 milliards de paramètres. Il a pour mission de "résumer des articles universitaires, résoudre des problèmes mathématiques, générer des articles Wiki, écrire du code scientifique, annoter des molécules et des protéines, et bien plus encore".

Dès sa diffusion sur le Web, de nombreuses réponses aux questions posées par les utilisateurs se sont révélées confuses, absurdes ou fausses.

Par exemple, l’IA a inventé l’existence d’un logiciel Gaydar pour trouver des homosexuels sur Facebook et a proposé une étude sur les avantages de manger du verre pilé. Dans d’autres résultats de recherche, de nombreuses références et citations étaient fabriquées de toute pièce et attribuées à des vrais scientifiques.

Selon Carl Bergstrom, professeur de biologie à l’Université de Washington, il s’agit - pardonnez l’expression - "d’un générateur de conneries aléatoires".

D’après Dan Hendrycks, chercheur en sécurité de l’intelligence artificielle à l’Université de Californie à Berkeley, interrogé dans C/Net, Meta aurait dû sonder leur IA pour ce type de dérives avant de la diffuser et souligne au passage que "la division IA de Meta ne dispose pas d’une équipe chargée de la sécurité, contrairement à ses homologues, DeepMind, Anthropic et OpenAI".

C’est incompréhensible que le géant du Web ait rendu publique cette version aussi imparfaite que dangereuse. D’ailleurs chaque résultat généré était accompagné de l’avertissement: "Les résultats peuvent être peu fiables. Les modèles de langage ont tendance à inventer".

De nombreuses études le démontrent, le défaut l’IA générative - un fait connu et reconnu - est sa tendance à halluciner le matériel qu’elle présente dans le contexte d’informations factuelles.

Il faut toujours vérifier les faits énoncés par un logiciel IA de rédaction. L’utilisation de ce type d’outils demande un esprit critique, car à chaque nouveau prompt ou invite, l’IA débite un nouveau texte, parfois en contradiction avec le précédent.

L’objectif de Galactica est louable en voulant aider les scientifiques à traiter la masse pharaonique d’informations scientifiques publiées, impossible à assimiler par un cerveau humain.

Mais c’est la deuxième fois en quelques mois qu’une IA de Meta déçoit. Le robot conversationnel BlenderBot lancé en septembre, devait permettre aux utilisateurs de discuter avec lui afin d’approfondir ses connaissances, mais le niveau des échanges était tout simplement médiocre. Un timing incompréhensible, car ce lancement faisait suite à la polémique autour de LaMDA en juin, le Chatbot de Google, dont les propos étaient si sensés et profonds, qu’il avait convaincu un ingénieur d’avoir atteint le stade de la conscience.

La ferveur est grande autour de l’IA générative, elle est décrite comme le "BIG BANG de la Silicon Valley" et "l’invention qui va définir la décennie à venir".

En lançant cette version prématurée de Galactica, Meta a jeté un discrédit sur ces logiciels. Il ne faut pas en tenir compte. Une véritable révolution est en marche et tous les secteurs de l’économie seront touchés.  

Auteur: Turrettini Emily

Info: Bilan.ch, 24 nov 2022. Sources de l'auteure : C/Net / Cosmos / Venture Beat / TechTalk / The Daily Beast

[ ratage ] [ traitement des métadonnées ] [ bêtise encyclopédique ]

parlêtre

Pour le psychanalyste, le Réel est cette instance logique, indissociable du Symbolique et de l’Imaginaire dont elle constitue le nouage, le Réel se caractérise de l'impossible: impossible à dire, impossibie à symboliser, impossible à imaginer, et qui cependant se fait jour à travers la parole...

Selon la façon dont se nouent les registres du Réel, du Symbolique et de l’Imaginaire, nous obtenons la structure de ce qui se spécifie comme appartenant aux champs de la Religion, de la Science et de la psychanalyse (ou de l’art): la religion (RSI) Réalise à travers un Symbole ce qu’elle offre à Imaginer, par exemple le mystère de l'Eucharistie comme réellement corps et sang du Christ à travers le Symbolique (concept du dieu trine) de l'Idée qu'elle se fait de Dieu (l'homme à l'image de Dieu, et sa réciproque tout aussi bien: idée d’un dieu parfait, infiniment "bon" et aimable...)

La science (SIR) Symbolise (S=concept), l'Idée (l’image) qu'elle se fait du Réel: le tropisme inhérent au discours scientifique consiste en cette volonté de réduire le Réel au Symbolique, que "tout le Réel" finirait par être répertorié, comptabilisé, rendu transmissible sous la forme de formules qui. passant de main en main sans que leur contenu en soit affecté le moins du monde, ni par qui les transmet ni par qui les reçoit, en rendraient compte "objectivement", "pour tous"... d'où l'évacuation systématique hors de la sphère scientifique du sujet ($) en tant qu’il est manifeste du réel (le grain de sable de l’énonciation)...

Moyennant quoi, la Science se définit d’être réfutable, selon l’épistémologue Karl Popper lui-même...

La psychanalyse (IRS) imagine, invente (I=Idée) ce qui du Réel (R=ce qui relève du percept, par le biais de la jouissance, de la souffrance...), peut se symboliser, se dire, s'écrire (S=concept=mathème, topologie)... L'approche psychanalytique fait en sorte que la vie du sujet s’organise autour du vide central (das Ding) identifié comme ce qu'il y a de plus Réel (ce qui fait dire à Beckett que rien n'est plus réel que rien)...

La linguistique, d’abord, peut définir le matériel de la psychanalyse, voire l’appareil de son opération, elle laisse en blanc (les semblants) ce qui la rend effective en psychanalyse (raison pour laquelle la "science des discours", Lacan la nomme "linguisterie"...) La psychanalyse ne cesse depuis Freud d’affirmer que la vérité de la souffrance, c’est d’avoir la vérité comme cause: "Aussi bien dirions-nous que la découverte de Freud est cette vérité que la vérité ne perd jamais ses droits."

Céder sur les mots, c'est toujours avoir déjà cédé sur les choses. Ne compromets pas ton désir, tes besoins et tes demandes s'en trouveront automatiquement satisfaits.

Faire de la santé un objectif direct est contre-productif, tu dois concentrer ton énergie sur autre chose si tu veux que ta santé advienne. Inverse les devises du sens commun, aux fausses certitudes proposées par la réalité, privilégie le mystère du réel, aux sourires fielleux des compromis, des arrangements mensongers, de la soumission, préfère la morsure de la vérité. Prends des risques, confronte-toi à ta peur, fais de la vérité ta priorité, et ta santé viendra par surcroît. Apprendre à parler correctement sa propre langue est le premier moment du système immunitaire.

Auteur: Dubuis Santini Christian

Info: Publication facebook 30.12.2020

[ pensée adéquate ] [ noeud borroméen ] [ thérapie ] [ mal de vivre ] [ indicible priméité ]

pandémies

Trieste faisait alors partie de l’empire austro-hongrois. Avant la guerre, mon père vendait du beurre, du miel et du fromage blanc sur le marché de Ponterosso, avec son étal roulant exposé à tous les vents. Les jours de bora, il se protégeait avec un journal qu’il glissait sous sa veste. Mais au moment de l’épidémie, il n’était pas à la maison, mobilisé dans l’armée autrichienne, comme photographe de guerre.

Je n’étais alors âgé que de cinq ans et cette épidémie (1918) fut un désastre car nous étions seuls, ma mère, mes deux jeunes sœurs et moi. Mimitza avait trois ans, Evelyna deux ans. Tous atteints, avec quarante de fièvre, transpirant de sueur. Impossible de quitter le lit, d’être secourus. Nous vivions alors 28, via Commerciale dans une sorte de cave. Une pièce unique en sous-sol où mon père avait tendu un fil de fer. Maman y avait accroché une toile en guise de séparation, d’un côté la chambre, de l’autre la cuisine. Je me rappelle qu’il y avait dehors un peu d’herbe, quelques arbres, et je jouais là avec ma jeune sœur Mimitza. Elle était toute petite Mimitza. Mimitza est un diminutif qui veut dire Marie.

Mon grand-père, le père de mon père, ne pouvait nous venir en aide, retenu aux côtés de ma grand-mère et de mon cousin Cyril – qui devait se suicider quelques années plus tard. Ils habitaient dans une mansarde sous les toits, près du canal Grande, cette langue de mer qui pénètre au cœur de la ville thérésienne, là où mouillent les vieux bateaux à fond plat. Ils attendent le printemps pour sortir, quand la marée basse laisse un passage assez large sous le Ponterosso. Tout près, sur ce marché du Ponterosso, les Slovènes descendaient du plateau karstique pour vendre les produits de leur ferme. C’est l’une d’elles qui est venue nous porter secours. Qui l’a alertée ? je ne sais pas, mon grand-père sans doute car il ne pouvait se déplacer. Je me souviens qu’elle nous a préparé du thé. De cela je m’en rappelle bien car nous mourrions tous de soif à cause de la fièvre. Finalement nous avons guéri. Sauf ma petite sœur Mimitza. Elle était délicate, comme le sont aujourd’hui ceux qui décèdent du Covid-19, les personnes âgées, les malades. Elle n’a pas survécu mais aujourd’hui je pense qu’on l’aurait sauvée. Je me rappelle de la douleur de mon père, je me rappelle que tous les jours il fleurissait sa tombe.

Et pour nous pas de répit. Peu de temps après, ce fut une autre catastrophe : l’incendie de la maison de culture slovène par les chemises noires et le début du fascisme avec l’interdiction de parler notre langue, l’obligation d’italianiser nos patronymes. "Les Slovènes, des poux à écraser !" écrira le frère de Mussolini dans le journal Populi Roma…

C’était en 1920, il y a cent ans de cela. Une autre contamination, une peste brune commençait à envahir l’Europe. Et combien y en eut-il ensuite, des milliers et des milliers de poux que l’on s’est acharné à écraser ?

Je veux espérer que le mal d’aujourd’hui sera différent d’alors, que l’épidémie se trouvera rapidement enrayée. Les peuples n’ont-ils pas assez souffert ? Je souhaite de tout cœur que toutes ces souffrances viennent un jour à nous enseigner la sagesse…

Auteur: Pahor Boris

Info: Propos recueillis par Anne-Marie Mansuym, sur Causeur.fr, mars 2020

[ témoignage ] [ grippe espagnole ] [ coronavirus ]