dernières paroles

Il m’est arrivé une histoire extraordinaire avec lui. On allait le voir pendant les répétitions du “Roi se meurt” avec Georges Werler, mon metteur en scène.

Ionesco était très malade, on le portait dans un fauteuil voltaire, et sa femme lui apportait des grands verres de thé, mais fort, fort, rouge sang. C’était très impressionnant. Alors il buvait ce thé pour essayer de se garder en vie. Souvent, on parlait de choses et d’autres, il était adorable, c’était un homme exquis, un homme enfant, un homme qui méritait d’être enfant. Il demandait : “Vous croyez que ça vaut quelque chose, tout ça ?” Et je lui disais : “Eugène, enfin, vous êtes le seul auteur vivant qui êtes entré à La Pléiade. Alors quand même, ce n’est pas pour rien. Et toute votre œuvre est là" Et lui : "Oui. Vous trouvez ça intéressant ?" Vraiment, il était très sincère. Et un jour je lui dit : "Vous savez, je ne peux pas venir la semaine prochaine". Lui : "Oh, quel dommage ! Vous ne pouvez vraiment pas venir ?" Je lui réponds : "Non, parce que je suis obligé d’aller voir ma mère". Il fait : "Oh ! Vous avez encore votre maman. Et elle a quel âge ?" Je lui dis : "101 ans". Et alors j’ai senti que ça lui faisait un effet extraordinaire. Comme s’il se disait : “Mais alors, tous les espoirs me sont permis. Si la mère de Michel vit jusqu’à 101 ans, pourquoi pas moi ?"

Nous sommes ensuite partis en tournée. Et puis on a appris sa mort. On a été très secoué, on jouait “Le roi se meurt”, c’était très bizarre. Je suis remonté pour l’enterrement. Puis je suis repassé chez moi après le service, avant de repartir en tournée. Et là, j’ai écouté mon répondeur. Il y avait plusieurs messages et tout à coup j’ai entendu : "Allo ! Ici Ionesco. Comment va votre maman ?".

Auteur: Bouquet Michel

Info: Rapporté par Lionel Chiuch

[ . ]

songes

Il est caractéristique des rêves que souvent le rêveur a l’impression qu’ils demandent à être interprétés. On n’est pratiquement jamais enclin à prendre note d’un rêve éveillé, ou à le raconter à autrui, ou à se demander : "qu’est-ce qu’il signifie ?" Mais les vrais rêves semblent avoir en eux quelque chose de troublant et d’un intérêt spécial, de sorte que nous voulons en avoir l’interprétation (on les a souvent regardés comme des messages). Il semble qu’il existe dans les images du rêve quelque chose qui a une certaine ressemblance avec les signes du langage [...]. Il y a à Moscou une cathédrale à cinq clochers. Sur chacun de ceux-ci, la configuration des spires est différente. On a la vive impression que ces formes et arrangements différents doivent signifier quelque chose. [...]. Quand nous interprétons des rêves, notre démarche n’est pas homogène. Il y a un travail d’interprétation qui, pour ainsi dire, appartient encore au rêve lui-même. Quand on examine un rêve, il est important d’examiner quels sont ses avatars, comment il change d’aspect lorsque, par exemple, il est mis en relation avec d’autres choses remémorées. Au moment du réveil, un rêve peut nous impressionner de diverses façons : on peut être terrifiés, angoissés, excités, etc. Si on se souvient alors de certains événements du jour précédent, et si on les met en relation avec ce qu’on a rêvé, on voit d’ores et déjà apparaître une différence, le rêve change d’aspect. Et si, en réfléchissant sur le rêve, nous sommes amenés à nous ressouvenir de certaines circonstances de notre prime jeunesse, le rêve prendra encore un autre aspect [...]. Nous pourrions dire d’un rêve une fois interprété qu’il s’insère dans un contexte où il cesse d’être troublant. En un sens, le rêveur rêve à nouveau son rêve dans un environnement tel que le rêve change d’aspect. C’est comme si on nous présentait un fragment de toile sur lequel un artiste aurait peint une main, une portion de visage et certaines autres formes dans un arrangement qui nous paraisse incongru et qui nous laisse perplexes.

Auteur: Wittgenstein Ludwig

Info: Leçons et conversations sur l'esthétique, la psychologie et la croyance religieuse

[ introspection ] [ herméneutique ]

big brother

Facebook a manipulé les émotions de ses utilisateurs pour une étude
Une recherche publiée récemment expliquant comment Facebook a manipulé des informations de près de 700'000 utilisateurs anglophones a suscité l'inquiétude d'internautes. Le réseau social voulait étudier "la contagion émotionnelle" dans les groupes d'utilisateurs.
Pendant une semaine, du 11 au 18 janvier 2012, Facebook et des scientifiques des Universités Cornell et de Californie à San Francisco ont utilisé le système d'algorithmes du réseau pour modifier le contenu des informations reçues par un groupe d'utilisateurs afin d'étudier l'impact sur leurs émotions.
La recherche a été publiée dans la revue scientifique américaine Comptes rendus de l'Académie nationale des sciences (PNAS), datée du 17 juin. Les auteurs cherchaient à savoir si le nombre de messages positifs ou négatifs lus par les utilisateurs influençait la teneur de ce qu'ils postaient eux-mêmes sur le site.
Ils ont constaté que les utilisateurs ciblés commençaient à utiliser davantage de mots négatifs ou positifs selon l'ampleur des contenus auxquels ils avaient été "exposés".
"Les états émotionnels sont communicatifs et peuvent se transmettre par un phénomène de contagion, conduisant les autres personnes à ressentir les mêmes émotions sans en être conscientes", écrivent les auteurs de cette recherche. Selon eux, "ces résultats montrent la réalité d'une contagion émotionnelle de masse via les réseaux sociaux."
L'étude suscite une attention grandissante sur la toile après des articles publiés samedi dans la revue en ligne Slate et sur les sites du magazine "The Atlantic" et de "Forbes".
Levée de boucliers
Certains internautes expriment "leur trouble profond" ou qualifient la méthode utilisée "d'alarmante" ou de "démoniaque". Susan Fiske de l'Université de Princeton, qui a édité la recherche, a indiqué à "The Atlantic" avoir contacté les auteurs pour leur faire part de ses préoccupations quant à leurs travaux.
Ils lui ont dit que les autorités de leurs universités avaient approuvé ces travaux "car Facebook, apparemment, manipule systématiquement le contenu des informations diffusées".
Interrogé par l'AFP, Facebook, plus grand réseau social avec plus d'un milliard d'utilisateurs, a rejeté ces accusations. "Cette recherche a été menée pendant seulement une semaine et aucune donnée utilisée n'était liée au compte d'une personne en particulier", indique une porte-parole, Isabel Hernandez, dans un courrier électronique.

Auteur: Internet

Info:

[ pouvoir ] [ influence ]

questions

L'homme moderne a cru pouvoir circonscrire le monde en projetant toute son énergie sur lui. Il a dilapidé son âme aux quatre coins de la terre, voulant tout voir d'elle et se faire payer de retour en l'exploitant. La conscience objective du monde extérieur voudrait nous faire croire qu'à son image, il n'existe qu'une conscience objective du mode intérieur et qu'à défaut de la penser, nous devrions l'exploiter. Comment peut-on se laisser persuader par une idée qui dénie outrageusement nos intuitions les plus évidentes ? Comment arrivons-nous à croire que notre pensée ne peut être que consciente ? Que faisons-nous de l'évidence de nos rêves et des expériences psychiques singulières ou extraordinaires comme celles des E.M.I. ? Par quelle force de persuasion finissons-nous par nous détourner de ces possibles auxquels les messages de l'inconscient nous invitent à nous abandonner ? Pourquoi refusons-nous d'éprouver ces numina et de leur donner une forme, ce qui nous ferait artistes de notre destinée ? Qu'est-ce qui se dissimule derrière les arguments d'autorité affirmant que notre âme n'est qu'une conscience, sinon la terreur face à l'étendue infinie de l'inconscient ? Que craignons-nous en nous-mêmes ? Nous qualifions d'obscurantistes les siècles derniers pour éloigner de nous le souvenir de massacres et de comportements terrifiants et nous brandissons une conscience que l'on imagine raisonnable pour se garder du retour de tels débordements. Mais ce comportement n'est pas celui d'hommes sages qui ont conscience de leurs démons, qui peuvent les identifier et qui restent vigilants lorsque ceux-ci se réveillent, c'est le comportement d'hommes qui refusent de voir leur part sombre, qui la répriment ou la projettent sur d'autres hommes qu'un jour, ils voudront combattre faute d'avoir su s'affronter eux-mêmes. L'inconscient est chargé de tous les maux et pourtant, il est un allié du conscient. De leur dialectique peut se développer un conscient plus fort, plus sûr de son existence, moins suggestible et moins malléable. Par le mythe de l'E.M.I., nous apprenons que le monde extérieur n'est pas tout et qu'il peut être bon de renoncer à nous en faire le maître pour que notre conscient s'abandonne aux messages de l'inconscient, pour qu'il en comprenne les numina. Au lieu que ce soit le destin qui nous attrape, peut-être arriverons-nous à suivre notre destinée à l'endroit où elle souhaite nous conduire.

Auteur: Arcé Alexandra

Info: Expérience de mort imminente : L'approche jungienne

[ rationalisme triomphant ] [ anthropocentrisme ]

dernières paroles

Personnage mythique, le physicien italien de Sicile Ettore Majorana (1906 - 1938 ?) était considéré comme un pur génie par ses pairs. Il trouble le compilateur par la création de dernières paroles "quantiques", très difficilement classables sur le site FLP.

C'est un 26 mars qu'Ettore embarqua dans le paquebot-poste pour Palerme après avoir envoyé deux lettres, dont une à sa famille, où son intention de suicide était clairement énoncée. Mais il débarqua finalement à Palerme et envoya un télégramme et une autre lettre à un dénommé Carelli où il annonçait qu'il revenait à Naples et qu'il renonçait à l'enseignement. Il semble qu'il ait ré embarqué ensuite sur le bateau vers Naples. Depuis Majorana n'a plus jamais donné signe de vie. Toutes les recherches de la police ou de ses proches restèrent sans réponse. Ce qui permit à Pirandello, sicilien lui aussi et auteur favori de Majorana, d'écrire : "Qui peut dire le nombre de ceux qui sont comme moi, mes frères... On laisse son chapeau et sa veste avec une lettre dans sa poche, sur le parapet d'un pont qui enjambe une rivière ; puis, au lieu de se jeter dans l'eau, on s'en va tranquillement en Amérique ou ailleurs." Le mystère prit de l'ampleur lorsqu'on constata qu'Ettore avait vidé son compte en banque et qu'il avait probablement son passeport avec lui. Puis plusieurs témoins affirmèrent l'avoir vu après la date de sa disparition. D'où toutes sortes d'hypothèses...

Une analyse de ses lettres suggère que Majorana a répondu à la question de son propre état de superposition quantique, parvenant à réaliser l'illusion d'être mort et vivant en même temps. Selon le physicien Oleg Zaslavskii, Majorana a voulu refléter ce paradoxe avec les événements de sa propre vie. L'argument porte sur la série de messages que Majorana a envoyés à sa famille et à Carrelli, directeur de l'institut physique à l'Université de Naples. D'abord, Majorana a envoyé une lettre exprimant son intention mettre fin à ses jours, puis il a expédié un télégramme réfutant l'idée qu'il était suicidaire. Enfin, dans sa troisième lettre, il dit espérer que Carrelli a reçu la lettre originale et le télégramme en même temps. Majorana a voulu que deux résultats - son suicide ou sa survie - coexistassent, faisant de lui un "Hamlet quantique".

Auteur: Mg

Info: 7 octobre 2013

[ indéterminisme ]

injonction contradictoire

Vous avez pu entendre Madame Pankow vous parler de quelqu’un qui est loin d’être né de la dernière pluie, à savoir Monsieur G. Bateson, anthropologue et ethnographe, qui a apporté quelque chose qui nous fait réfléchir un peu plus loin que le bout de notre nez, concernant l’action thérapeutique. Il essaye de formuler quelque chose qui est au principe de la genèse du trouble psychotique, dans quelque chose qui s’établit entre la mère et l’enfant, et qui n’est pas simplement l’effet de tension, de rétention, de défense, de ratification, de frustration, au sens élémentaire que je précise, de relation inter-humaine, comme si c’était quelque chose qui se passait au bout d’un élastique, [mais quelque chose] qui essaye de mettre dès le principe la notion de la communication en tant qu’elle est centrée, non pas simplement sur un contact, sur un rapport, sur un entourage, mais sur une signification, de la mettre au principe de ce qui s’est passé d’originairement discordant, déchirant, dans ce qui lie l’enfant dans ses relations avec la mère, et quand il désigne, quand il dénote comme étant l’élément discordant essentiel de cette relation, le fait que la communication se soit présentée sous une forme de double relation, comme vous l’a très bien dit hier soir Madame Pankow en vous disant que dans le message qui est celui où l’enfant a déchiffré le comportement de sa mère, dans le même message il y a deux éléments qui ne sont pas définis l’un par rapport à l’autre, en ce sens simplement que l’un se présente comme la défense du sujet par rapport à ce que veut dire l’autre, ce qui est la notion commune que nous avons dans ce qui se passe au niveau du mécanisme de la défense que vous analysez.

[...] Il s’agit de quelque chose qui concerne l’autre, et qui est reçu par l’autre de telle façon que, s’il répond sur un point, il sait de ce fait même qu’il va se trouver coincé dans l’autre. Comme nous l’a dit hier Madame Pankow, si je réponds à la déclaration d’amour que me fait ma mère, je vais provoquer son retrait, et si je ne l’entends pas comme telle, c’est-à-dire si je ne lui réponds pas, je vais la perdre.

Vous voyez donc que nous voilà introduits dans cette dialectique du double sens, en ceci déjà qu’il intéresse un élément tiers. Ce n’est pas l’un derrière l’autre — c’est-à-dire quelque chose qui est au-delà du sens, un sens qui aurait ce privilège d’être le plus authentique — ces deux messages simultanés dans la même émission, si l’on peut dire, de signification qui créent dans le sujet une position telle qu’il est en impasse. Ceci vous prouve que même en Amérique on est en énorme progrès.

Auteur: Lacan Jacques

Info: Leçon du 8 janvier 1958

[ double bind ] [ parole ] [ impossibilité logique ]

vaccin numérique

Le vaccin est structuré comme un code informatique. Quand vous échangez des données entre systèmes informatiques, vous le faites souvent sous forme de messages, qui sont structurés ainsi :

       - "Entête" sert par exemple à indiquer au récepteur du message qu’il s’agit bien d’un message à interpréter et qu’il s’agit par exemple de données provenant du système comptable qui lui sont bien destinées.

        - "Contenu" contiendra l’ensemble de ces données.

        - "Fin" lui indiquera que les données ont été transmises. Les données sont envoyées sous forme binaire (des "0" et des "1").

La structure du vaccin ARN de Pfizer est strictement identique à ce schéma. Il s’agit ni plus ni moins d’un bout de code contenant ces éléments. La principale différence est que ces données ne sont pas de nature binaire mais quaternaire : les éléments de base sont les briques du vivant, au nombre de 4 : les bases A, C, G et U.

Faire un vaccin ARN, c’est donc concevoir un message informatique. Ce message sera ensuite synthétisé très facilement à l’aide d’imprimantes à ADN.

L'entête

L’entête du vaccin contient différentes informations de type "métadonnées" qui vont indiquer à la cellule où, quand et comment les données génétiques (le contenu du message) doivent être utilisées. Une des prouesses techniques importante pour la réalisation du vaccin est la suivante : la base "U" est remplacée par une base de synthèse nommée Ψ. Cette astuce a pour conséquence principale d’inactiver le système immunitaire. Le message ne sera pas attaqué ni détruit et pourra pénétrer dans la cellule. Ensuite, cette base Ψ est une base de synthèse, qui n’appartient pas au "monde du vivant". Elle ne peut être synthétisée par l’organisme. Aucun virus connu ne peut l’incorporer pour se cacher. Cette molécule Ψ est donc à la fois une des clés de l’efficacité et de la sécurité du vaccin.

Le contenu du message

Le contenu du message contient environ 4 000 lettres représentant le code génétique de la protéine "Spike", caractéristique du COVID. L’ARN ayant pénétré dans la cellule, la protéine Spike" sera ainsi générée et le système immunitaire commencera à produire des anti-corps permettant à l’organisme de détruire le COVID 19, qui expose cette molécule. C’est le mécanisme classique des vaccins, à ceci près qu’ici ce n’est pas le vaccin affaibli qui est introduit dans l’organisme, mais sa signature (la protéine Spike). Là aussi, je passe rapidement sur les prouesses techniques. Pour augmenter le rendement du vaccin, pour optimiser la façon dont la protéine va se configurer, on modifie astucieusement quelques lettres du code génétique. Le vaccin de Pfizer ne fait pas que reproduire la nature, il est plus efficace que la nature.

Auteur: Internet

Info: https://itrmanager.com/articles/188191/pourquoi-le-vaccin-arn-pfizer-est-le-premier-vaccin-numerique.html

[ programme ] [ fabrication ] [ mode d'action ] [ tétravalence ]

insectes

On sait enfin de quoi discutent les araignées ! Cette IA traduit leur conversation

Pour la première fois, grâce à l'intelligence artificielle (IA), nous pouvons comprendre ce que disent les araignées.

Les araignées recourent à des danses complexes pour communiquer, vous le saviez ? Oui, ces fascinantes créatures utilisent des mouvements subtils pour s'exprimer.

Au fil de millions d'années d'évolution, leur capacité à communiquer s'est considérablement raffinée. Les scientifiques analysent ces danses au laboratoire, utilisant des vibromètres laser. Ces dispositifs précis mesurent les vibrations des surfaces. Leur coût élevé et leur fragilité limitent cependant leur application extérieure.

Face à cela, Noori Choi a relevé un grand défi. Il a distingué les sons dans une forêt dense, isolant les vibrations de trois espèces d'araignées.

Normalement, cette analyse aurait pris 1 625 jours, mais grâce à l'IA développée par Choi, ce fut réalisé bien plus rapidement. Choi a non seulement surmonté des obstacles techniques mais a aussi innové dans l'étude des araignées.

(Photo - lien youtube. Un doctorant de l'Université du Nebraska-Lincoln a révolutionné l'étude des araignées en combinant des microphones abordables à un algorithme d'apprentissage automatique avancé pour analyser les sons. Ensuite, il a emmené son invention dans les forêts du Mississippi pour la tester.)

Grâce à cette démarche, le travail de Noori Choi a introduit une méthode innovante pour capturer les mouvements fins des araignées.

Au cours de l'été, il a collecté une quantité considérable de données, atteignant 39 000 heures d'enregistrements. Parmi ces données, on trouve 17 000 séquences distinctes de vibrations produites par les araignées.

Bien sûr, les obstacles étaient nombreux, Le milieu forestier étant un tissu de sons et de vibrations générés par une myriade d'organismes vivants.

Pourtant, malgré les bruits de fond environnementaux, l'IA a réussi à isoler les communications spécifiques des araignées. " Le vibroscape est un espace de signalisation plus fréquenté que prévu ", a déclaré Choi. Cette constatation illustre la complexité du travail d'analyse.

Les secrets de la communication chez les araignéesL'étude minutieuse des données a dévoilé des comportements des araignées auparavant non identifiés. Il semble que ces créatures choisissent soigneusement leurs scènes de communication. Elles préfèrent certains substrats à d'autres pour optimiser leurs messages.

En plus, l'étude a dévoilé que les araignées modifient leurs signaux vibratoires selon la présence et l'espèce d'autres araignées alentour. Cette adaptation minimise la confusion durant les rituels de séduction et augmente la cohésion sociale dans leurs communautés complexes.

Alors, il semble que ces découvertes ouvrent de nouvelles perspectives pour étudier les araignées. En intégrant les microphones et l'IA, on peut mieux surveiller les écosystèmes en se concentrant sur ces créatures.

Choi a souligné que " même si tout le monde s'accorde sur le fait que les arthropodes sont très importants pour le fonctionnement des écosystèmes… s'ils s'effondrent, la communauté entière peut s'effondrer ".

Auteur: Internet

Info: https://www.lebigdata.fr - Nirina R, 9 avril 2024

[ nature ] [ symbiose ] [ messages ] [ échanges ]

perception

Le sixième sens pourrait venir de ce que notre sens de la position compte plus sur les signaux du cerveau plutôt que ceux du corps.
Même les yeux bandé nous pouvons sentir où nos mains et d'autres parties de notre corps se trouvent.
Pour sentir où les diverses parties de notre corps sont, nous comptons parfois sur les signaux qui proviennent de notre cerveau plutôt que dans nos doigts ou orteils.
Le prétendu sixième sens, connu sous le nom de proprioception, est essentiel à beaucoup d'actions de base, y compris la marche sans devoir regarder vos pieds ou toucher votre nez avec vos yeux fermés. Mais les scientifiques ont longtemps considéré comment ce sens fonctionne. On accepte généralement que les senseurs dans la peau et les muscles envoient l'information au cerveau qui est crucial à sentir la position de membre. Maintenant des chercheurs d'Australie ont la preuve de l'importance des messages du cerveau.
"ça va provoquer la discussion, parce que l'idée que le sens de la position est la plupart du temps le résultat des récepteurs sensoriels est difficile à déloger" dit Timothy Miles, physiologiste à l'université d'Adelaïde, Australie, qui est indépendant de l'étude.
Janet Taylor du Prince of Wales Medical Research Institute a Sydney et ses collègues ont attaché l'avant-bras et la main de volontaires dans un appareil couvert qui empêche le sujet de voir la position de ses mains. Dans des conditions normales, le sujet pourrait exactement indiquer comment est sa main est déplacée par un expérimentateur ou par lui-même.
Maladie de Raynaud
Les choses changent quand leur avant-bras et main furent paralysés par une restriction d'écoulement de sang et anesthésiés par injection. Les volontaires ne purent alors pas dire où leur main avait été déplacée quand elle était déplacée par un expérimentateur.
Mais ils avaient toujours l'impression qu'ils pourraient déplacer leur main si on le leur demandait. En fait ils pensaient que leur main était déplacée même lorsqu'elle en avait été empêchée. Plus ils essayaient dur, plus qu'ils jugeaient qu'elle s'étaient déplacée. En l'absence de signaux du monde extérieur, sentiment ou vue, les commandes moteur du cerveau ont dominé le sens de positionnement de la main du volontaire "nous avons été très étonnés que les résultats soient si évidents et si confirmés par les sujets" dit Taylor. Qui rapporte ce travail dans le journal de Physiology.
Dedans et dehors
Les résultats pourraient modifier la compréhension des chercheurs sur d'importance des commandes moteur dans la proprioception. "Il semble qu'il y ait une certaine sorte de comparaison entre les signaux sortants et entrant qui donne le résultat du sens final de la position," indique Miles.
Le travail aide également à expliquer le phénomène 'du syndrome du membre fantôme, quand les amputés ont l'impression que leur membre existe toujours.
Mais il reste beaucoup de travail à faire. "Nous ne savons pas combien la contribution de ce signal sortant l'est au sens de la proprioception dans des conditions normales," dit Taylor. Les chercheurs ne savent également pas quelles sont les voies neurales qui transmettent le signal sortant du cerveau.

Auteur: Internet

Info: Fortean Times, Carina Dennis Références . S. C., Smith J. L., M. De Crawford, Tailleur J.L. J Physiol, 571.3 De Gandevia De Proske U.&.703 - 710, 2006

[ 6e sens ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]