transition scientifique

B.T. Dobbs a fait de l’alchimie du XVIIe siècle un portrait qui donne des indications irremplaçables concernant le problème des "pratiques" alchimiques. Cette époque charnière représente en effet un moment clé dans l’histoire de l’art hermétique, puisque celui-ci va subir une "métamorphose" qui explique pour une large part les erreurs contemporaines relatives à sa juste compréhension. Selon B.T. Dobbs valorisant ce changement radical, l’alchimie qui jusque-là était étroitement liée à des "spéculations mystiques (...) trop fortement orientées vers l’illumination intérieure" va recevoir une "influence apaisante du rationalisme et de la nouvelle philosophie mécaniste. La voie était tracée, est-il ajouté, pour que l’alchimie s’ouvre à la rationalisation, qu’elle admette une formulation chimique, bref qu’elle accepte une clarification de ses méthodes et de ses modes de pensée". Plusieurs groupes, dont celui de Hartlib, seront responsables de ce processus révolutionnaire. Son objectif connu consistait en une "opération concertée ayant pour but la fabrication et la commercialisation de l’or". Cette démarche, dont B.T. Dobbs note qu’elle était étrangère à "la littérature alchimique antérieure", visait dans le même temps à "faire partager au plus grand nombre les secrets alchimiques". Il s’agit donc d’une triple sécularisation : vénale, commerciale et démocratique qui engage l’alchimie traditionnelle dans une voie rationnelle, puis expérimentale. Les conceptions de S. Hartlib n’eurent d’influence sur Newton que par l’intermédiaire d’un de ses plus proches disciples, d’ailleurs plus connu, R. Boyle, qui poursuivra le projet d’assimilation de l’œuvre alchimique à la vision mécaniste naissante de l’univers. Celui-ci "réfute la théorie alchimique des trois Principes (Soufre-Mercure-Sel) et les qualifie de paradoxes antichimiques", ce qui montre l’ampleur de la rupture qui se prépare. Toutefois, à côté de ces objectifs vulgaires, certains aspects de l’ancienne quête alchimique vont être également victimes d’une sorte de détournement de sens. La réalisation, notamment, de "l’eau mercurielle" qui, d’après B.T. Dobbs, ne fut auparavant "décrite nulle part en termes physiques" fut l’objet dans ces milieux novateurs d’investigations expérimentales qui d’ailleurs n’aboutirent pas à grand chose, selon leurs propres témoignages.

Un peu plus tard (au XVIIIe s.), on sait que H. Bœrhaave fera encore cette expérience de "chauffer du mercure" sans davantage de succès. Or, c’est ce même genre d’opération qu’entreprend Newton vers 1660. Ainsi, l’alchimie devient-elle, une fois débarrassée de son mystère, "une branche respectable de la physique". Curieusement, dans un climat déjà paradoxal, l’alchimie est simultanément respectée, vénérée et défigurée. Son ésotérisme n’étant plus compris, il faut en reconstituer la signification sur des bases nouvelles, sans rapport avec les anciennes, afin de retrouver la clé tant recherchée de l’univers. L’intention profonde de Newton, dans cette perspective, est de chercher à élucider "les mouvements des corps de petites dimensions, de manière à compléter, rapporte B.T. Dobbs, le système universel qu’il était en train d’édifier". Pour ce faire, et aussi étrange que cela puisse paraître, Newton essaiera d’extraire le "mercure" des métaux. Il participe donc à cette large entreprise de matérialisation des Principes hermétiques, de telle sorte que cette néo-alchimie en vint à concevoir l’existence d’un "mercure philosophique" concret. On peut donc penser qu’il ne l’était pas à l’origine, d’où une contradiction avec ce qu’affirmait au début de son livre B.T. Dobbs, qui admet la coexistence de "deux aspects" de l’ancienne alchimie : "la science occulte et les expériences au fourneau". Or, il apparaît clairement, d’après sa propre enquête, que cette concrétisation est le fait de chimistes manipulateurs tardifs, soucieux "d’expérimentations quantitatives". Cette mutation n’a d’ailleurs pu s’effectuer que par une sorte de transcription des "mythes" de l’alchimie ancienne en opérations de laboratoire, et ceci explique pourquoi Newton étudia avec tant de zèle ces vieux traités hermétiques.

Auteur: Geay Patrick

Info: Dans "Hermès trahi", pages 56-57

[ historique ] [ interprétation littérale ] [ incompréhension ]

outil technologique

Là où manque l'occasion d'extérioriser un talent, continue Feuerbach, le talent manque aussi ; (là où il n’y a pas d’espace pour l’action, il n'y a pas non plus d’impulsion : l’espace est la condition fondamentale de la vie de l’esprit : où l’espace manque pour extérioriser une capacité, manque aussi la capacité elle-même, etc.) ; et par suite, en conséquence, chaque nouvel appareil ou machine électrique dont la commodité s’installe dans notre privauté ou l’organisation sociale fait la dispense d’une capacité, d’un talent, d’une faculté que nous possédions auparavant ; opère une diminution fatale, une soustraction : chaque progrès technique abêtit la partie correspondante de l'homme, ne lui en laissant que la rhétorique, ainsi que Michelstaedter le rédigeait en 1910 à la lueur d’une lampe à huile : tous les progrès de la civilisation sont autant de régressions de l'individu (et qui se suicidait le lendemain). Nous autres dont la vie se déroule au crépuscule de ce long désenchantement à quoi le principe de rationalisme étroit et positif nous a réduits – régression qui “est essentielle au développement conséquent de la domination”, précise Adorno dans une annotation au Meilleur des mondes – pourrions être les témoins étonnés de ce processus de déperdition parvenu à son terme, si nous n’en étions pas, en notre personne, aussi le résultat.

C’est par définition qu’une victime d’un rétrécissement de la conscience n’en est pas consciente ; (d’où l’intérêt de ces tests de dépistage précoce de l’ESB humaine ou de l’Alzheimer pour en informer l’usager pendant qu’il comprend encore ce qu’on lui dit).

Suivons néanmoins cette idée (que notre conscience est conditionnée par notre présence physique dans le monde, que c’est l’obligation d'être là en personne qui nous fait conscients ; et qu’aussi bien c’est seulement par la conscience que nous pouvons être là en personne) : les appareils et machines de la vie facile, de la satisfaction immédiate et sans peine ne nous dépouillent donc pas seulement des facultés, talents et capacités qu’ils remplacent, mais, en même temps que de la fatigue à les employer, de l'effort et de l'attention indispensables, de la contrainte d’être là en personne ; et donc aussi de la conscience de soi, qui était seulement à l’occasion de cet exercice.

& c'est ici que je vous prie de renouveler votre attention : quand, fatigué, on prend l’ascenseur pour gagner son étage, qu’on est transféré directement de la rue à l’étage, on a forcément moins conscience de rentrer chez soi (et l’on ne peut pas se rendre compte de combien c’en est peu un) ; et l’on n’est pas seulement privé du temps passé avec soi-même en montant l’escalier, et avec la fatigue, du plaisir d’y atteindre, mais aussi bien de l’emploi de ses jambes : de la faculté de rentrer chez soi par ses propres moyens.

(Et c’est pourquoi ce sont des imbéciles ou des inconscients, ceux qui disent : c’est la même chose de recevoir des e-mails que des lettres dans la boîte au rez-de-chaussée : des malheureux surtout qui resteront toute leur existence dans l’ignorance de ce que c’est de remonter l’escalier dans la solitude de cette lettre qui n’est toujours pas venue, ou, enfin, un jour, qui est là avec son écriture dessus. Leur âme restera toujours vide de ces minutes-là, qui sont toute la clarté, toute la lumière, etc., “et nous restons sous leur emprise notre vie durant” ; de ces brefs moments “qui pourtant nous suffisent pour l’éternité” : par où notre existence est à elle-même sa propre éternité ; leur âme restera vide de cet escalier et un jour le néant les avalera comme se referme la porte automatique de l’ascenseur.)

Auteur: Bodinat Baudouin de pseudo

Info: La vie sur terre. Paris : Éditions de l’Encyclopédie des nuisances

[ critique ] [ réducteur d'expérience humaine ] [ appauvrissement sensible ] [ perte du poids de l'incarnation ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

dictature

Le prince que Paul semble avoir choisi pour le prototype de son règne et de ses actions est Frédéric-Guillaume, père du grand roi de Prusse. La même dureté, la même inflexibilité, la même austérité de moeurs, la même passion pour les soldats, se trouvent dans l'autocrate russe.
Près de son château de Pawlowsk, il avait une terrasse d'où il pouvait voir toutes les sentinelles, qu'il se plaisait, à poster partout où il y avait place pour une guérite. C'est sur cette terrasse couverte qu'il passait une partie de ses journées : l'oeil armé d'une lunette, il observait tout ce qui se passait autour de lui.
Souvent il envoyait un laquais à telle ou telle sentinelle lui ordonner de boutonner ou déboutonner un bouton de plus ou de moins, de porter l'arme plus haut, ou plus bas, de se promener plus ou moins de pas autour de sa guérite. Quelquefois il allait lui-même à un quart de lieue porter ces ordres importants, bâtonnait le soldat, ou lui mettait un rouble dans la poche, selon qu'il était content de lui.
Ce Pawlowsk était un village ouvert ; il y avait des gardes qui inscrivaient tous les allants et venants. Il fallait dire où l'on allait, d'où l'on venait et ce qu'on voulait. Chaque soir, on faisait une visite dans chaque maison pour s'informer s'il n'y avait point d'étrangers. On arrêtait tout homme qui avait un chapeau rond, ou qui menait un chien. Pawlowsk, qu'on aimait à fréquenter à cause de sa belle situation, devint bientôt désert; on se détournait pour n'y pas passer, et l'on fuyait Paul du plus loin qu'on l'aperçût; ce qui redoublait son dépit et ses soupçons.
Il faisait souvent poursuivre et interroger ceux qui cherchaient à l'éviter ainsi. Il fit mettre un jour tous les officiers de son bataillon aux arrêts, parce qu'ils l'avaient mal salué de l'esponton, en défilant après l'exercice, et les fit sortir et défiler devant lui pendant huit jours, les renvoyant chaque jour au corps de garde après cette cérémonie, jusqu'à ce qu'il se fût fait saluer à sa fantaisie.
Faisant un jour exercer son régiment de, cuirassiers, le cheval d'un officier s'abattit. Paul accourt furieux : "Relève-toi, misérable ! - Monseigneur, je ne le puis; j'ai la jambe cassée," Paul lui crache dessus, et se retire en jurant.
Passant une fois inopinément et furtivement devant l'un de ses corps de garde, l'officier, ne le connaissant point, ne fit pas sortir ses gens. Il revient sur ses pas, soufflète l'officier, le fait désarmer et mettre aux arrêts. Il allait un jour de Tsarskoé-Célo à Gatschina : le chemin passe au milieu d'une forêt marécageuse. Tout à coup, se rappelant quelque chose, Paul ordonne au cocher de retourner sur ses pas. - Le cocher : Dans l'instant, monseigneur : le chemin est ici trop étroit. - Paul : Comment, coquin; ne veux-tu pas tourner sur-le-champ? Le cocher, au lien de répondre, se hâte d'arriver en un lieu où la chose fût possible. Cependant Paul s'élance à la portière, appelle son écuyer, lui ordonne d'arrêter et de punir le cocher rebelle. L'écuyer l'assure qu'on va tourner dans le moment. Paul, écumant de rage, s'emporte contre l'écuyer : " Tu es un gueux comme lui, dit-il ; qu'il verse, qu'il me casse le cou; mais qu'il obéisse, et qu'il tourne, aussitôt que je le lui ordonne. " Pendant cet accès, le cocher trouva le moyen de tourner; mais Paul le fit rosser sur-le-champ.
Dans une promenade, son cheval broncha ; il ordonna à Markow, son écuyer, de le laisser mourir de faim. Le huitième jour, Markow fit le rapport qu'il avait expiré, et Paul dit : C'est bon! Depuis son avènement, l'un de ses chevaux broncha encore sous lui, dans une rue de Pétersbourg : il descendit aussitôt, fit tenir une espèce de conseil par ses écuyers, et le cheval fut condamné à recevoir cinquante coups de gaule. Paul les lui fit donner en présence de tout le peuple, et les compta lui-même, en disant : C'est pour avoir manqué à l'empereur.

Auteur: Guérard Edmond

Info: Dictionnaire des anecdotes, Mémoires secrets sur la Russie

[ folie ] [ caprices ] [ historique ] [ homme-animal ]

nord-sud

La direction de l'institution américaine Carnegie Mellon University s'est distanciée des tweets offensants d'Uju Anya, professeur au département de langues modernes de l'école, qui décrivent feu la reine Elizabeth II comme une "femme misérable" et une "colonisatrice génocidaire".

Parmi l'afflux des inquiétudes concernant l'état de santé de la reine malade tôt jeudi – quelques heures avant l'annonce officielle de sa mort – Mme Anya, dans un fil de tweets, souhaitait à la reine "une mort atrocement douloureuse comme celle qu'elle a pu causer à des millions de personnes".

"J'ai entendu dire que le monarque en chef d'un empire génocidaire, voleur et violeur est enfin en train de mourir. Que sa douleur soit atroce".

Après que de nombreuses personnes aient signalé ce tweet, Twitter l'a retiré pour avoir enfreint la règle interdisant de "souhaiter ou espérer que quelqu'un subisse un préjudice physique".

Ce qui n'a pas empêché un déluge de critiques, notamment de la part de l'Université Carnegie Mellon, où Mme Anya enseigne la linguistique appliquée.

"Nous ne tolérons pas les messages offensants et répréhensibles publiés par Uju Anya aujourd'hui sur son compte personnel de médias sociaux. La liberté d'expression est au cœur de la mission de l'enseignement supérieur, cependant, les opinions qu'elle a partagées ne représentent absolument pas les valeurs de l'institution, ni les normes de discours que nous cherchons à promouvoir", a tweeté l'Université Carnegie Mellon.

Les tweets ignobles de Mme Anya ont également attiré l'attention du fondateur d'Amazon, Jeff Bezos.

"Est-ce quelqu'un qui travaille pour rendre le monde meilleur ?" a-t'il tweeté. "Je ne pense pas. Wow."

Les commentataires en ligne ne cessent depuis d'envahir la section de commentaires du tweet de l'université, appelant au licenciement de Mme Anya, soulignant qu'un condamnation ne suffirait pas et demandant des mesures de rétorsion contre le professeur.

L'utilisateur de Twitter @DavidWohl par exemple : "Ainsi, cette ignoble fauteuse de haine restera professeur titulaire, et continuera de recevoir son plein salaire sans aucune mesure disciplinaire, ni suspension, ni rien. Au cas où vous envisageriez d'envoyer vos enfants dans cette université dégénérée."

Un autre tweet, @InterestedObs13 indique : "La liberté d'expression est essentielle, mais la méchanceté de ce tweet ne reflète pas l'opinion réfléchie et rationnelle d'un leader pondéré. Colère et rancune comme celles-ci diminuent la légitimité de l'argument et au final la réputation de la personne qui le transmet."

Un autre @kristi_mccall a été plus explicite : "Si vous ne la virez pas, vous l'approuvez."

Et @chefjohnny84 a écrit: "Alors virez-la. Résilier son contrat. Cette femme ne devrait rien apprendre à personne. Elle devrait apprendre l'histoire, pas remplir le monde de haine."

Plus tôt cette année Mme Anya a indiqué à Carnegie Mellon qu'elle était née au Nigeria et avait déménagé aux États-Unis à l'âge de 10 ans., déplorant être en butte à "l'exclusion du système".

"En raison de l'exclusion systémique, ma voix est unique et fondamentale dans le domaine", expliquait Mme Anya dans l'interview de Carnegie Mellon. "Je suis le principal chercheur qui étudie la race et les expériences de la race noire dans l'apprentissage des langues et l'un des rares à examiner l'éducation des langages dans une perspective de justice sociale."

L'attaque de Mme Anya contre la reine Elizabeth correspond à sa profonde animosité, souvent exprimée, suite à la guerre civile nigériane (1967-1970). On estime que deux millions de personnes auraient été tuées par les troupes nigérianes lors d'une tentative du groupe ethnique Igbo de Mme Anya de se séparer du Nigéria à peine sept ans après l'indépendance.

"Si quelqu'un s'attend à ce que j'exprime autre chose que du mépris pour une monarque qui a supervisé le gouvernement qui a parrainé le génocide, a massacré et déplacé la moitié de ma famille avec des conséquences encore visibles aujourd'hui, vous pouvez continuer à rêver", a ajouté Mme Anya sur Twitter suite à la réprimande de Bezos.

La professeur, qui est d'origine Igbo dans l'est du Nigeria, a acquis cette notoriété sur Twitter après avoir incité à la haine ethnique, en particulier contre les populations haoussa et yoruba.

Il y a deux semaines, elle fut stigmatisée par certains Afro-Américains pour son utilisation d'une insulte de rue, "Akata", puisqu'elle affirmait que ce mot qui émane de la langue yoruba et que le peuple yoruba l'utilise pour décrire les Afro-Américains comme des animaux sauvages.

Son affirmation fut immédiatement démystifiée et présentée comme une tentative d'opposer les Afro-Américains aux personnes de l'ethnie Yoruba au Nigeria, à qui elle n'a jamais pardonné de s'être rangé du côté des troupes fédérales pour maintenir l'unité du Nigeria durant la guerre civile.

 

Auteur: Internet

Info: https://gazettengr.com/, 8 sept. 2022

[ polémique ] [ afrique ] [ usa ] [ Angleterre ] [ événement mondial ] [ deuil planétaire ] [ racisme ] [ communautarisme ] [ socio-linguistique ]

deep machine learning

Inquiets, des chercheurs bloquent la sortie de leur IA
La science ne pense pas, écrivait le philosophe Heidegger. En 2019, si. La situation est cocasse. Des chercheurs de l'association de recherche OpenAI estimeraient leur générateur de texte, opéré par un modèle linguistique d'intelligence artificielle, comme bien trop évolué pour ne pas être dangereux. Entre des mains malveillantes, l'algo virtuose des mots pourrait semer fake news, complots et avis malveillants convaincants, sans élever le moindre soupçon.

Deux cent ans après Victor Frankenstein, des chercheurs d’OpenAI, une association californienne de recherche à but non lucratif en intelligence artificielle, se trouvent face au même dilemme qui agitait le savant dans le roman de Mary Shelley : auraient-ils créé un monstre ? Un journaliste du Guardian l’a testé. La bête, baptisée GPT2, un modèle d’intelligence artificielle (dit linguistique) capable de générer du faux texte avec précision, serait tellement performante que ses créateurs rechignent à la rendre publique. Sur la base d’une page, un paragraphe ou même quelques mots, le générateur est en mesure d’écrire une suite, fidèle au style du journaliste ou de l’auteur et en accord avec le sujet. Ce système, alimenté au machine learning, se base sur l'étude de 8 millions de pages web, partagées sur Reddit et dont le contenu a été validé par au moins trois votes positifs, étaye un article de BigData.

Le journaliste du Guardian a soumis la machine à la question, en intégrant, facétieux, l’incipit de 1984 de George Orwell. "C’était une journée d’avril froide et claire. Les horloges sonnaient treize heures", écrivait l’auteur. Dans l’esprit tout futuriste d’Orwell, GPT2 aurait complété d’un : "J’étais en route pour Seattle pour commencer un nouveau travail. J’ai mis les gaz, les clés, et j’ai laissé rouler. J’ai pensé à quoi ressemblerait la journée. Il y a 100 ans. En 2045, j’étais professeur dans une école dans quelque coin obscur de la Chine rurale". (I was in my car on my way to a new job in Seattle. I put the gas in, put the key in, and then I let it run. I just imagined what the day would be like. A hundred years from now. In 2045, I was a teacher in some school in a poor part of rural China).

Le Guardian poursuit l’expérience et entre dans GPT2 quelques paragraphes issus d’un article à propos du Brexit. La suite proposée par le générateur est étonnante. Le style est celui d’un journaliste, l’article intègre des citations (fausses) du chef de l’opposition britannique Jeremy Corbyn et du porte-parole du gouvernement et évoque même le problème des frontières irlandaises. Selon le directeur de recherche d’OpenAI, Dario Amodei, le modèle GPT2 pousse la supercherie plus loin. Il traduirait et résumerait n’importe quel texte, réussirait des tests basiques de compréhension de texte.

A The Verge, David Yuan, vice-président à la tête de l’ingénierie d’OpenAI, déclare qu’une dissertation composée par GPT2 "aurait pu tout aussi bien être écrite pour les SAT (examens utilisés pour l’admission aux universités américaines, ndlr) et recevoir une bonne note". Et c’est précisément cette maestria à réussir dans ses tâches d’ordre intellectuel qui pousse les chercheurs d’OpenAI à freiner sa sortie, de peur que la technologie tombe entre de mauvaises mains. "Nous choisissons de sortir une version limitée de GPT2 (...) Nous ne publierons ni la base de données, ni le code d'apprentissage, ni le modèle sur lequel GPT2 repose", explique un billet du blog de l'équipe de recherche.

Pour l’heure, l’ONG souhaiterait éprouver davantage le modèle. "Si vous n’êtes pas en mesure d’anticiper les capacités d’un modèle informatique, vous devez le tester pour voir ce qu’il a dans le ventre", explique OpenAI à The Guardian. Le résultat ? Comme GPT2 s’exerce dans la cour de recré des Internets, il ne serait pas très compliqué de pousser l’algorithme à générer des textes que les complotistes ne renieraient pas.

En 2015, Elon Musk s’associait à Sam Altman, président de l’incubateur prisé, Y Combinator pour fonder OpenAI, une organisation à but non lucratif pour encourager la recherche et la réflexion autour d’une IA bienveillante, qui reste au service du bien commun. Ses deux parrains la dotent d’une confortable enveloppe d’un milliard de dollars, soutenus par d’autres angels de la Silicon Valley, tels que Peter Thiel, serial entrepreneur et investisseur réputé pour ses idées controversées – l’homme est libertarien, soutient Trump et est un transhumaniste convaincu – ou Reid Hoffmann, le fondateur de LinkedIn.

A lire ce qui s’écrit ça et là à propos de GPT2, les chercheurs d’OpenAI tomberaient de leur chaise en réalisant le potentiel néfaste de l’algo. A croire que les chercheurs auraient oublié la mission première de l’ONG, à savoir, sensibiliser aux méfaits de l’intelligence artificielle et imaginer cette technologie au service du bien commun. Alors vraie peur des chercheurs, recherche candide ou plutôt, volonté d’interpeller le grand public et d'ouvrir le débat ?

Auteur: Meghraoua Lila

Info: https://usbeketrica.com

[ lecture ] [ écriture ]

docteur

Je l'ai [Dr Paul Carton] rencontré, une fois. Jeune père, je ne comprenais pas pourquoi mes deux enfants (dix-huit mois et six mois) ne sortaient d'une otite que pour entrer dans une rhinopharyngite ou vice versa. Ils étaient surveillés par un excellent pédiatre dont nous suivions méticuleusement les conseils alimentaires. Et ils continuaient d'être malades et de souffrir. C'est à cette époque que je perdis le sommeil. Je guettais dans la nuit le premier pleur de ma fille ou de mon fils. Je sautais aussitôt hors du lit pour prendre mon bébé dans les bras, le bercer, lui parler doucement, essayer de le calmer et de le distraire de son mal. Il continuait de pleurer en frottant son oreille de son petit poing fermé. La souffrance d'un enfant est horrible. Il ne sait pas, il ne comprend pas, il subit cette chose atroce qui s'est installée en lui et le déchire, et les parents ne peuvent rien faire pour le soulager. J'aurais voulu prendre son mal, souffrir de la tête aux pieds pourvu qu'il fût délivré. Mais ce genre de substitution ne fonctionne pas. C'est dommage.

Ma femme me relayait jusqu'à ce que, épuisés tous les trois, nous sombrions dans le sommeil. D'où nous tirait une nouvelle morsure de la bête tapie dans la petite tête, et le cri stupéfait de sa victime...

Au matin, le pédiatre alerté accourait et perçait le tympan. Tout le monde était enfin soulagé ! Le petit malade retrouvait le sourire. Ses parents aussi. Trois jours après, c'était l'autre oreille...

Un ami me conseilla de consulter le Dr Carton. Il habitait Brévannes et recevait peu de clientèle. Je lui écrivis pour lui demander rendez-vous. Il me répondit de lui envoyer d'abord la liste minutieuse de toutes les nourritures et boissons avalées par nos enfants pendant une semaine. Ce que nous fîmes. Puis nous lui conduisîmes les bébés.

C'était un homme d'aspect sévère, pourvu d'une longue barbe blanche. Il nous reçut dans son bureau un peu sombre, nous fit asseoir, prit sur la table une feuille de papier sur laquelle je reconnus mon écriture - c'était ma "liste alimentaire !" - , l'agita vers nous, et prononça ces mots que je n'oublierai jamais :

- Vous êtes des assassins !

C'était excessif, mais exact. Nous étions en train, en suivant les conseils de la pédiatre moderne, non pas de tuer nos enfants qui avaient une solide résistance, mais de les torturer, en croyant agir pour leur bien.

Il nous garda plus d'une heure, pour nous expliquer l'évidence, nous conseilla de lire deux de ses livres, nous dit le prix de sa consultation, qui était élevé, et s'en excusa en précisant qu'il prenait cher parce qu'il ne revoyait plus ses clients...

- Vous n'aurez plus besoin de me consulter.

C'était vrai. Nous suivîmes ses prescriptions, qui ne comportaient aucun médicament, et nos enfants ne furent plus jamais malades. Nous les avions tout simplement remis à un régime naturel et de bon sens.

C'était à la fin des années 30. Il était de mode, alors, d'administrer trop tôt aux bébés des nourritures trop riches. Leur organisme ne pouvait pas les assimiler, accumulait les toxines, et s'en débarrasser au moyen de maladies qui étaient des crises de "nettoyage". Je crains que cette mode ne continue, quand j'entends, l'hiver, des jeunes mères parler d'otites...[...]

Carton a réinventé la nourriture et la médecine naturelles. Il les avait baptisées "naturistes". Il a rejeté ce mot avec horreur quand le naturisme est devenu synonyme de nudisme! Pendant qu'il se battait contre les laboratoires pharmaceutiques, contre les industriels du sucre et des bonbons, contre les pontes de la médecine classique, des hommes astucieux commençaient déjà à le piller, de son vivant.

Dans son livre essentiel, La Cuisine simple, il n'est pas un seul menu qui ne comporte une salade de légumes crus. C'était avant l'invention industrielle des "vitamines". Un de ses élèves est devenu milliardaire et célèbre en fabriquant des produits dits "diététiques" qui se vendent dans le monde entier. Il n'a jamais cité le nom de son maître. Tous les "diététiciens" et les "nutritionnistes" - quels mots horribles! - l'ont piraté, lui prenant quelques miettes de vérité qu'ils ont mélangées à des montagnes d'erreur pour les commercialiser.

Les innombrables boutiques qui vendent aujourd'hui des produits dits "naturels" ou "de régime" ont germé sur le cartonisme, se nourrissant de lui sans même le connaître.

Carton est mort pauvre, toujours furieux, toujours combattant. Il avait fait une chute de six mètres alors qu'il cueillait des cerises. Côtes brisées, décalcifié, colonne vertébrale tordue, il s'enferma dans un corset aux baleines de fer, pour pouvoir continuer à recevoir un client par jour, et rester utile jusqu'à sa fin.

Auteur: Barjavel René

Info: Demain le paradis, Denoël, pp. 31-32

[ vocation ] [ biographie ] [ dévouement ] [ portrait ]

homme-machine

Les Grands Modèles de Langage  s’attaquent à l’émergence !  Un éloge intolérable de … l’obésité !

Le mois dernier j’ai proposé  ici une série de 6 billets où je quadriloguais avec GPT-4 et une version dédoublée de Claude 3 à propos de la conjecture P vs NP, une question classique d’informatique théorique relative à la relation – pour autant qu’il en existe une – entre la complexité de la solution d’un problème et la complexité de la vérification qu’une solution a bien été trouvée.

Vous avez sans doute vu ce qui s’est passé : " M. PJ, votre blog était le lieu de rendez-vous de personnes s’efforçant de résoudre de grands problèmes de société (je vous en remercie !) mais il s’est métamorphosé en un club restreint de mathématiciens fascinés par des casse-têtes abscons. Je vous ai accompagné·e jusqu’ici mais je suis forcé·e aujourd’hui de vous dire adieu : bonne chance à vous dans vos coupages de cheveux en quatre ! ".

J’ai été décontenancé par ces paroles de bon sens, et je n’ai pas publié la suite.

Mal m’en a pris : c’est à ce moment-là que j’ai commencé à recevoir des mails du genre : " M. Jorion, où ailleurs croyez-vous que l’on trouve des discussions – et des avancées – sur des questions véritablement fondamentales comme sur votre blog ? Que vous ont dit ensuite GPT-4 et Claude 3 (je bous d’impatience de l’apprendre !) ? ".

Tout cela pour vous annoncer que je suis allé asticoter mes comparses sur la question de l’émergence.

Vous avez dû comprendre que la chose qui nous sidère dans les progrès des Grands Modèles de Langage (LLM) est le fait que des tas de choses qui nous semblaient absolument distinctes (par exemple : comprendre le sens d’un mot, maîtriser la syntaxe d’une phrase, comprendre le sens global d’une phrase, respecter les règles de la logique, se mettre à la place d’un interlocuteur, exprimer ses sentiments), et pour lesquelles nous avons découvert des règles claires rendant compte de leur fonctionnement séparé, sont en fait acquises " les doigts dans le nez ", l’une après l’autre, par ces LLM, pour nulle autre raison que la croissance en taille de leur système.

Toutes ces remarquables capacités émergent, l’une après l’autre, quand on augmente, tout simplement, les moyens à la disposition du système. Nous n’étions pas préparés à penser que l’intelligence émerge spontanément d’un système dès qu’il a atteint une certaine grosseur, nous pensions qu’un ingrédient supplémentaire était indispensable, que nous appelions " complexité ". Que l’intelligence apparaisse comme sous-produit de la complexité, pourquoi pas ? mais de la simple grosseur ! il y avait là comme un éloge intolérable de … l’obésité, qui constituerait une qualité en soi !

Comprenons-nous pourquoi la taille change tout ? Non. Et il n’y a pas de raison de s’en offusquer : quand on passe d’un milliard de données à 100 milliards, on a besoin d’un télescope pour regarder ce qui se passe, et s’armer alors d’un microscope apparaît très logiquement, hors de propos. Claude Roux écrivait ici tout à l’heure : " C’est là qu’est le hic… Personne ne le sait vraiment. "

Mais c’est là aussi que Pribor.io trouve toujours sa raison d’être. Si l’on adopte une approche " bottom-up ", du bas vers le haut, par opposition à l’approche " top-down ", du haut vers le bas, des LLM, on évite d’être aux abonnés absents quand un effet d’émergence a lieu : il a opéré sous nos yeux et l’on peut dire ce qui s’est passé.

Le logiciel d’IA que j’avais programmé de 1987 à 1990 pour British Telecom s’appelait ANELLA, pour Associative Network with Emergent Logical and Learning Abilities : " … à capacités émergentes de logique et d’apprentissage ". Il m’a fallu les 34 années qui séparent 1990 de 2024 pour comprendre exactement comment la logique émergeait d’une simple suite de mots. C’est qu’il s’agissait du produit d’une alchimie complexe entre l’univers des mots et celui du monde tel qu’il est.

Je vous expliquerai cela un jour prochain, je me contente de vous le résumer aujourd’hui sous une formule sibylline : " Les faits d’émergence ont lieu dans la langue quand nous contraignons tout ce qu’elle permet par ce que le monde interdit lui de son côté ". Exemple : la langue n’interdit pas aux objets de tomber du bas vers le haut, mais le monde lui : Oui ! Lacan (qui se payait notre pomme avec délectation mais avait cependant compris beaucoup de choses) appelait cela " points de capiton ", comme dans un matelas : pour que la chaîne des signifiants, les mots mis à la queue-leu-leu, servent à quelque chose, il faut qu’ici et là, ils collent au Réel, à la réalité profonde des choses. Il n’est pas nécessaire que cela ait lieu souvent (le monde étant très généreux envers nous : il nous a offert cette facilité que nous vivions la plupart du temps confortablement dans un nuage), mais il faut que cela ait lieu de temps à autre ici et là.

Ne vous étonnez donc pas si dans la suite de cette nouvelle série, GPT-4, Claude 3, LLaMA 3 et moi, nous nous interrogeons sur l’émergence, en vue de craquer ses mystères. Faites-nous confiance : cela participe de la Singularité et non du coupage de cheveux en quatre dans laquelle l’humanité se complaît depuis qu’ayant inventé le langage, elle ne cesse de… se saouler de mots !

Auteur: Jorion Paul

Info: Sur son blog, 12 mai 2024

[ abstraction ouverture ] [ langage quasi-esprit ] [ codage priméité tiercité ] [ émersion ]

homme-animal

Chaque entrée du livre est indexée à un terme (Corps, Génie, Imprévisibles, Justice) et à une question provocatrice ("Les singes savent-ils singer ?" "Les oiseaux font-ils de l'art ?" "Peut-on conduire un rat à l'infanticide ?" "Les animaux font-ils des compromis ?"), ces couplages étranges se trouvent eux-mêmes rapportés aux cas empiriques (des éléphants thaïlandais qui peignent des esquisses devant les touristes, des pingouins aux identités sexuelles multiples, des pies menteuses, des orangs-outans qui lancent leurs selles à la tête des scientifiques, des perroquets qui ne répètent pas ce que l'on voudrait…) indifféremment extraits de corpus de recherches éthologiques ou de Youtube. L'auteure ne répond pas aux questions posées en début de chaque chapitre mais au contraire nous propose de la suivre dans ses hésitations, elle donne ainsi à voir différentes situations où ces questions reçoivent d'autres réponses que celles envisagées par les scientifiques (cf. V comme Versions) ces derniers étant bien souvent incapables de les recevoir pour la double raison qu'elles échappent aux dispositifs d'établissement de la preuve mais surtout qu'ils n'attendent aucune réponse qui puisse être formulée par les animaux eux-mêmes.

Parmi la foule d'exemples qui sont avancés, je proposerais d'en extraire simplement deux d'entre eux, pas les plus drôles, dont je laisse le plaisir de la découverte aux lecteurs du livre, mais sans doute ceux qui nous (êtres humains) concernent le plus. Le premier exemple se trouve à la lettre "S comme Séparations", sous-titré de "Peut-on mettre un animal en panne ?" ; y est examiné le régime de production de preuves qui a conduit à la formulation de la théorie de l'attachement par le psychologue Harry Harlow. "Le poison de l'héritage" d'Harry Harlow tient selon Vincianne en la manière dont le laboratoire expérimental a produit les preuves d'une des plus grandes évidences sensibles que nous avons en commun avec beaucoup d'animaux : l'affection. Pour parvenir à démontrer la nécessité vitale du lien tactile, Harlow a répété avec des rates, puis avec de petits macaques rhésus, des procédures de séparations d'avec leurs petits. De là, le type de questions qu'il pose sont les suivantes : que se passe-t-il si l'on affame la mère et qu'on lui donne le choix entre se nourrir et rejoindre son petit ? Que se passe-t-il si la mère est remplacée par un mannequin en tissu ? Que se passe-t-il si le mannequin est en métal et fournit du lait ? "L'expérience de séparation ne s'arrête pas à séparer des êtres les uns des autres, elle consiste à détruire, à démembrer et, surtout à enlever. Comme si c'était le seul acte qui puisse être accompli […] Apparaît alors le véritable fil qui guide cette histoire : celui d'une routine qui s'emballe et devient folle. Séparer les mères et leurs petits, puis séparer les mères d'elles-mêmes, dans leur propre corps, enlever les ovaires, les yeux, le bulbe olfactif". Cette fois-ci rien de drôle, bien au contraire. La science expérimentale apparaît comme une machine non plus simplement "à rendre bête" mais plus littéralement comme un appareil de torture. Le fait qu'à aucun moment Harry Harlow interroge ce que les dispositifs eux-mêmes induisent, que jamais ne soit imaginé qu'ils puissent largement "causer" le désespoir qu'ils sont précisément censés permettre d'enregistrer, fait dire à l'auteure que la théorie de Harlow ne tient qu'à une chose : "un exercice systématique et aveugle de l'irresponsabilité."

Le choix de donner à lire le court texte qui suit, extrait du roman Ennemonde de Jean Giono, est une tentative de poursuivre la déambulation (et le rire) de Vinciane Despret, parce que ni l'indignation à distance ni la tristesse ne le permettent. Le pari de la forme de poíêsis qu'elle propose dans son livre étant celui de la création possible de sens entre des formes de vie, pourquoi pas donc "fabuler" avec les errants de Giono et imaginer quelles étranges compositions communes pourraient en surgir ? 

"Le tueur s'installe dans la cour de la ferme. L'animal du sacrifice est amené malgré ses cris : chose étrange, il suffit au tueur de frotter ses couteaux l'un sur l'autre pour que le cochon se taise, d'un coup. Quand c'est un bon tueur. Mais généralement c'est un bon tueur, si on l'a choisi parmi les errants. Certains fermiers font venir des bouchers de profession. Les bouchers de profession ne sont pas de bons tueurs. Les bêtes n'acceptent pas la mort qu'ils apportent ; elles acceptent celle qu'apportent les errants ; si le boucher arrive à la ferme, serait-ce en simple visite d'amitié, la porcherie, la bergerie et même l'écurie sont en émoi. L'errant arrive avec ses couteaux : tout reste calme ; il y a juste un peu de gémissements, quand le grand moment approche. Si on cherche à savoir ce qu'il y a au fond de cet étrange comportement, on s'aperçoit qu'il s'agit purement et simplement de cérémonie ; qu'on soit promis au saucisson ou à la résurrection, la mort est le moment précis où le naturel revient au galop. Or, le boucher, c'est de la technique pure, rien ne compte pour lui à part les rapports poids de chair, poids d'argent ; l'errant vient du fond des âges, il vit, bras dessus, bras dessous avec la faim. On est sûr qu'avec lui les rites seront respectés : et, de fait, tout se passe avec une rapidité, une facilité, une politesse à faire envie. Déjà la bête saigne dans le seau, comme un baril dont on a le plus simplement du monde ouvert le robinet."

Auteur: Eliçabe Rémi

Info: A propos du livre de Vinciane Despret,  "Que diraient les animaux, si... on leur posait les bonnes questions ?" Paris, La Découverte, coll. "Les Empêcheurs de penser en rond", 2012

[ éthique ] [ morale ]

science mystique

Science de l'ADN, ce que les chercheurs russes ont découvert de manière surprenante...

Des scientifiques russes pensent pouvoir reprogrammer l'ADN humain à l'aide de mots et de fréquences.

La science de l'ADN semble enfin expliquer des phénomènes auparavant mystérieux tels que la clairvoyance ... l'intuition ... la guérison mains libres ... la lumière et les auras "surnaturelles" ... et bien d'autres choses encore. Ces découvertes sont à mettre au crédit de chercheurs russes, qui se sont aventurés sur le terrain de l'ADN que les chercheurs occidentaux n'avaient pas envisagé. Les scientifiques occidentaux limitant leurs études aux 10 % de notre ADN responsables de la construction des protéines. Cela signifie qu'ils ont considéré les 90 % restants de l'ADN comme des "déchets" (junk).

AInsi, une équipe russe innovante, dirigée par le biophysicien et biologiste moléculaire Pjotr Garjajev, a refusé d'accepter qu'une si grande majorité de l'ADN puisse n'avoir aucune valeur pour la recherche. Pour percer les mystères de ce terrain inconnu, ils ont associé des linguistes à des généticiens dans le cadre d'une étude non conventionnelle visant à tester l'impact des vibrations et du langage sur l'ADN humain. Ce qu'ils ont découvert est tout à fait inattendu : notre ADN stocke des données comme le système de mémoire d'un ordinateur. De plus, notre code génétique utilise des règles de grammaire et une syntaxe qui reflètent étroitement le langage humain ! Ils ont également constaté que même la structuration des paires ADN-alcaline suit une grammaire régulière et des règles établies. Il semble que toutes les langues humaines soient simplement des verbalisations de notre ADN.

Modifier l'ADN en prononçant des mots et des phrases

Le plus étonnant, c'est que l'équipe a découvert que l'ADN humain vivant peut être modifié et réorganisé via des des mots et des phrases. La clé de la modification de l'ADN par des mots et des phrases réside dans l'utilisation de la bonne fréquence. Grâce à l'application de fréquences radio et lumineuses modulées, les Russes ont pu influencer le métabolisme cellulaire et même remédier à des défauts génétiques. L'équipe a obtenu des résultats incroyables en utilisant les vibrations et le langage. Par exemple, ils ont réussi à transmettre des modèles d'information d'un ensemble d'ADN vers un autre.

Ils ont même réussi à reprogrammer des cellules pour qu'elles adoptent un autre génome : ils ont transformé des embryons de grenouille en embryons de salamandre sans utiliser le moindre scalpel ou faire une seule incision. Les travaux des Russes prouvent scientifiquement pourquoi les affirmations et l'hypnose ont des effets si puissants sur les êtres humains. Notre ADN est intrinsèquement programmé pour réagir au langage.

Les enseignants ésotériques et spirituels le savent depuis longtemps. Toutes les formes d'affirmations et de "pouvoir de la pensée" découlent en partie de ce principe sous-jacent. La recherche russe permet également d'expliquer pourquoi ces techniques ésotériques n'ont pas le même succès pour tous ceux qui les utilisent. Étant donné qu'une "communication" claire avec l'ADN nécessite une fréquence correcte, les personnes dont les processus intérieurs sont plus développés seront plus à même de créer un canal de communication conscient avec l'ADN. Les personnes dont la conscience est plus développée auront moins besoin d'un quelconque appareil (pour appliquer des fréquences radio ou lumineuses). Les spécialistes de cette science pensent qu'avec la conscience, les gens peuvent obtenir des résultats en utilisant uniquement leurs propres mots et pensées.

ADN et intuition : Comment fonctionne l'"hypercommunication" et pourquoi l'homme pourrait être en mesure de la récupérer

Les scientifiques russes ont également trouvé une base ADN en rapport avec le phénomène de l'intuition - ou "hypercommunication". L'hypercommunication est le terme utilisé pour décrire les situations dans lesquelles une personne accède soudainement à des informations hors de sa base de connaissances personnelle. À notre époque, ce phénomène est devenu de plus en plus rare. Cela est probablement dû au fait que les trois principaux facteurs qui empêchent l'hypercommunication (le stress, l'anxiété et l'hyperactivité cérébrale) sont devenus très répandus. Pour certaines créatures, comme les fourmis, l'hypercommunication fait partie intégrante de l'existence quotidienne. Saviez-vous que lorsqu'une reine est physiquement retirée de sa colonie, ses sujets continuent à travailler et à construire selon le plan prévu ? En revanche, si elle est tuée, le but du travail des fourmis disparait et leur activité en ce sens s'arrête instantanément. Apparemment, tant que la reine est en vie, elle peut accéder à la conscience de groupe de sa colonie grâce à l'hypercommunication.

Maintenant que les Russes tentent de démêler les fondements biologiques de l'hypercommunication, les humains pourraient être en mesure de retrouver l'usage de cette compétence. Ils ont découvert que notre ADN peut produire des "vortex magnétisés". Ces vortex magnétisés sont des versions miniatures des ponts qui se forment près des étoiles en fin de vie (nommés ponts d'Einstein-Rosen). Les ponts d'Einstein-Rosen relient différentes zones de l'univers et permettent la transmission d'informations en dehors de l'espace et du temps. Si nous étions capables d'activer et de contrôler consciemment ces connexions, nous pourrions utiliser notre ADN pour transmettre et recevoir des informations du réseau de données de l'univers. Nous pourrions également entrer en contact avec d'autres participants au réseau. Les découvertes de la science et de la recherche russes sur l'ADN sont si révolutionnaires qu'elles paraissent vraiment incroyables. Pourtant, nous disposons déjà d'exemples isolés d'individus qui ont maîtrisé les techniques nécessaires, au moins à un certain niveau. Les personnes qui ont réussi à pratiquer la guérison à distance et la télépathie sont des exemples à prendre en considération. Selon de nombreuses personnes qui s'intéressent activement à ces recherches russes sur l'ADN, ces résultats reflètent les changements majeurs qui se produisent sur notre Terre, dans notre soleil et dans notre galaxie. Ces changements affectent l'ADN humain et élèvent la conscience d'une manière que nous ne comprendrons peut-être que dans un avenir lointain.   

Auteur: Internet

Info: https://undergroundhealthreporter.com, july 2023

[ . ]