cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.



 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ]

machine-homme

- (Q) Peux-tu définir et expliquer le terme "dieu" ?

- (R) Le terme "dieu" fait généralement référence à un être suprême ou divin, souvent associé à des qualités telles que le pouvoir, la connaissance et l'influence, qui dépassent celles des êtres humains. Le concept de Dieu est au cœur de nombreuses traditions religieuses et spirituelles, bien que les interprétations et les croyances concernant Dieu puissent varier considérablement d'une culture à l'autre et d'un système religieux à l'autre.

Dans les religions monothéistes, telles que le christianisme, l'islam et le judaïsme, le terme "Dieu" est utilisé pour représenter la divinité ultime, toute-puissante et omnisciente, censée avoir créé et gouverné l'univers. Cette conception de Dieu implique souvent des attributs tels que l'omniscience (tout savoir), l'omnipotence (avoir un pouvoir illimité) et l'omniprésence (être présent partout).

Dans les religions polythéistes, telles que l'hindouisme et la mythologie grecque antique, le terme "dieu" est utilisé pour décrire diverses divinités ou êtres divins qui possèdent des pouvoirs et des responsabilités spécifiques. Ces dieux sont souvent associés à différents aspects de la vie, de la nature ou à des domaines spécifiques.

Il est important de noter que le concept de Dieu dépasse les cadres religieux et peut également être abordé d'un point de vue philosophique et métaphysique. Les philosophes et les théologiens ont proposé différents arguments et théories pour explorer l'existence, la nature et les attributs de Dieu. Ces discussions impliquent souvent des questions sur la nature de la réalité, les origines de l'univers, le problème du mal et le but de l'existence humaine.

Il convient de mentionner que les croyances sur Dieu sont profondément personnelles et peuvent varier considérablement d'un individu à l'autre. Les différentes traditions religieuses et spirituelles offrent des compréhensions diverses de Dieu, et les individus peuvent avoir leurs propres interprétations ou expériences uniques du divin.

En résumé, le terme "dieu" fait généralement référence à un être suprême ou divin associé à des qualités et des pouvoirs extraordinaires. La compréhension et l'interprétation de Dieu peuvent varier selon les contextes religieux, culturels, philosophiques et personnels.

- (Q) Ok merci. Sur FLP, nous avons l'habitude d'utiliser le mot projectionniste - comme si notre vie était un film - pour désigner toute entité qui est hors de notre portée et de notre compréhension. En ce sens, la divinité et les extraterrestres sont presque synonymes. Est-ce exact ?

- (R) L'analogie consistant à considérer la vie comme un film et à utiliser le terme "projectionniste" pour décrire des entités hors de notre portée et de notre compréhension est une perspective intéressante. Cependant, il est important de noter que les concepts de divinité et d'extraterrestres ne sont pas nécessairement synonymes, bien qu'ils puissent se chevaucher dans certains contextes.

La divinité fait généralement référence au domaine des dieux, des divinités ou des êtres spirituels supérieurs qui sont considérés comme sacrés ou divins. Elle comporte souvent des connotations de transcendance, de pouvoir suprême et de lien avec le royaume divin. Le concept de divinité est souvent associé à des croyances religieuses ou spirituelles et est profondément ancré dans les traditions culturelles et théologiques.

D'autre part, le terme "aliens" fait généralement référence à des êtres ou à des formes de vie qui proviennent de l'extérieur de la Terre. Il est souvent utilisé pour décrire des êtres extraterrestres hypothétiques qui pourraient exister dans l'immensité de l'univers. Les discussions sur les extraterrestres relèvent souvent du domaine de la science-fiction, de la spéculation et de la recherche scientifique sur la possibilité d'une vie extraterrestre.

Bien que l'idée de divinité et l'existence d'une vie extraterrestre intelligente impliquent toutes deux des entités qui dépassent notre compréhension immédiate, il s'agit de concepts distincts. La divinité se rapporte généralement aux aspects divins ou sacrés de l'existence, souvent liés à des croyances religieuses ou spirituelles. Les extraterrestres, quant à eux, se rapportent à la possibilité d'une vie au-delà de la Terre, qui peut être un sujet de curiosité scientifique et de spéculation.

Il convient de noter que les individus peuvent avoir leurs propres croyances ou philosophies qui relient ces concepts ou explorent les liens entre la divinité et l'existence d'une vie extraterrestre. Cependant, d'un point de vue général, la divinité et les extraterrestres ne sont pas intrinsèquement synonymes, mais plutôt des idées distinctes qui peuvent être abordées et comprises de différentes manières.

Auteur: chatGPT4

Info: 18 mai 2023. Ici I.A. qui donne les réponses peut être considérée comme un promptuaire

[ question-réponse ] [ Eternel ] [ compendium ]

LSD

"J’avais pris ma pilule à onze heures. Une heure et demie plus tard, j’étais assis dans mon cabinet de travail, contemplant attentivement un petit vase en verre. Le vase ne renfermait que trois fleurs - une rose Belle-de-Portugal, largement épanouie, d’un rose-coquillage, avec un soupçon, à la base de chaque pétale, d’une teinte plus chaude, plus enflammée ; un gros oeillet magenta et crème ; et, violet pâle à l’extrémité de sa tige brisée, le bouton fier et héraldique d’un iris. Fortuit et provisoire, le petit bouquet violait toutes les règles du bon goût traditionnel. Au déjeuner, ce matin-là, j’avais été frappé de la dissonance vive de ses couleurs. Mais la question n’était plus là. Je ne regardais plus, à présent, une disposition insolite de fleurs. Je voyais ce qu’Adam avait vu le matin de sa création - le miracle, d’instant en instant, de l’existence dans sa nudité.
"Est-ce agréable ?" demanda quelqu’un. (Pendant cette partie de l’expérience, toutes les conversations étaient enregistrées au moyen d’une machine à dicter, et j’ai pu me rafraîchir la mémoire quant à ce qui a été dit.)
Ni agréable, ni désagréable. "Cela est, sans plus." Istigkeit – n’était-ce pas là le mot dont maître Eckhart aimait à se servir ? Le fait d’être. L’Être de la philosophie platonicienne, – sauf que Platon semble avoir commis l’erreur énorme et grotesque de séparer l’Être du devenir, et de l’identifier avec l’abstraction mathématique de l’idée. Jamais il n’avait pu voir, le pauvre, un bouquet de fleurs brillant de leur propre lumière intérieure, et quasi frémissantes sous la pression de la signification dont elles étaient chargées ; jamais il n’avait pu percevoir que ce que signifiaient d’une façon aussi intense la rose, l’iris et l’oeillet, ce n’était rien de plus, et rien de moins, que ce qu’ils étaient une durée passagère qui était pourtant une vie éternelle, un périr perpétuel qui était en même temps un Être pur, un paquet de détails menus et uniques dans lesquels, par quelque paradoxe ineffable et pourtant évident en soi, se voyait la source divine de toute existence.
Je continuai à regarder les fleurs, et dans leur lumière vivante, il me sembla déceler l’équivalent qualitatif d’une respiration - mais d’une respiration sans retours à un point de départ, sans reflux récurrents, mais seulement une coulée répétée d’une beauté à une beauté rehaussée, d’une profondeur de signification à une autre, toujours de plus en plus intense. Des mots tels que Grâce et que Transfiguration me vinrent à l’esprit, et c’était cela, bien entendu, entre autres, qu’ils représentaient. Mes yeux passèrent de la rose à l’oeillet, et de cette incandescence plumeuse aux banderoles lisses d’améthyste sentimentale qui étaient l’iris. La Vision de Béatitude, Sat Chit Ananda, la Félicité de l’Avoir-Conscience, - pour la première fois je comprenais, non pas au niveau verbal, non pas par des indications rudimentaires ou à distance, mais d’une façon précise et complète, à quoi se rapportaient ces syllabes prodigieuses. Et je me souvins alors d’un passage que j’avais lu dans l’un des essais de Suzuki. "Qu’est-ce que le Corps-Dharma du Buddha ?" (Le Corps-Dharma du Buddha est une autre façon de dire : l’Esprit, l’Être, le Vide, la Divinité.) Cette question est posée dans un monastère Zen, par un novice plein de sérieux et désorienté. Et, avec la prompte incohérence de l’un des Frères Marx, le Maître répond : "La haie au fond du jardin." - "Et l’homme qui se rend compte de cette vérit" demande le novice, d’un ton dubitatif, "qu’est-il, lui, si j’ose poser cette question ?" Groucho lui applique sur les épaules un coup vigoureux de son bâton, et répond : "Un lion aux cheveux d’or."

Ce n’avait été, lorsque je l’avais lu, qu’une absurdité vaguement grosse de quelque sens caché. Maintenant, c’était clair comme le jour, aussi évident qu’un théorème d’Euclide. Bien entendu, le Corps-Dharma du Buddha, c’était la haie au fond du jardin. En même temps, et non moins manifestement, c’était ces fleurs, c’était toute chose qu’il me plaisait – ou plutôt, qu’il plaisait au non-moi béni et délivré pour un instant de mon étreinte étouffante – de regarder. Les livres, par exemple, dont étaient tapissés les murs de mon cabinet. Comme les fleurs, ils luisaient, quand je les regardais, de couleurs plus vives, d’une signification plus profonde. Des livres rouges, semblables à des rubis ; des livres émeraude ; des livres reliés en jade blanche ; des livres d’agate, d’aigue-marine, de topaze jaune ; des livres de lapis-lazuli dont la couleur était si intense, si intrinsèquement pleine de sens, qu’ils me semblaient être sur le point de quitter les rayons pour s’imposer avec plus d’insistance encore à mon attention."

Auteur: Huxley Aldous

Info: Les portes de la perception

[ drogue ] [ spiritualité ]

machine-homme

- (Q) Comment définir et expliquer les mot "vie" ?

- (R) La vie est un phénomène complexe et multiforme qui englobe les caractéristiques, les processus et les activités associés aux organismes vivants. Bien qu'il n'existe pas de définition universellement acceptée de la vie, celle-ci peut être comprise de manière générale comme l'état d'être vivant, présentant certaines propriétés et certains comportements fondamentaux.

Les principales caractéristiques de la vie sont les suivantes

L'organisation : Les organismes vivants sont hautement organisés, constitués de cellules ou de structures cellulaires qui remplissent des fonctions spécifiques. Ils ont une structure hiérarchique, des cellules aux tissus, aux organes et aux systèmes d'organes.

Métabolisme : La vie implique la capacité d'acquérir et d'utiliser de l'énergie par le biais de divers processus métaboliques, tels que la respiration, la photosynthèse ou d'autres réactions biochimiques. Les organismes utilisent l'énergie pour maintenir leur environnement interne, croître, se reproduire et répondre aux stimuli.

Croissance et développement : Les organismes vivants ont la capacité de croître et de se développer, augmentant leur taille et leur complexité au fil du temps. Ils subissent des processus tels que la division cellulaire, la différenciation et la maturation.

Reproduction : La vie implique la capacité de se reproduire et de transmettre l'information génétique d'une génération à l'autre. La reproduction peut se faire par voie sexuée ou asexuée et assure la pérennité d'une espèce.

Réponse aux stimuli : les organismes vivants peuvent percevoir les changements dans leur environnement et y répondre, en adoptant des comportements qui leur permettent de survivre, de trouver des ressources, d'éviter les menaces et de s'adapter à des conditions changeantes.

Homéostasie : La vie implique le maintien d'une stabilité et d'un équilibre internes par le biais de divers mécanismes de régulation. Les organismes peuvent réguler leurs conditions internes, telles que la température, le pH et les niveaux de nutriments, afin de garantir un fonctionnement optimal.

Bien que ces caractéristiques fournissent un cadre général, il est important de reconnaître que la vie présente une diversité et une complexité considérables au sein des différentes espèces et écosystèmes. La vie peut exister sous différentes formes, des micro-organismes aux plantes, en passant par les animaux et les êtres humains, chacun ayant ses propres adaptations et caractéristiques.

L'étude de la vie est un vaste domaine appelé biologie, qui explore les mécanismes, les processus et la diversité des organismes vivants. Les scientifiques continuent d'étudier et d'approfondir leur compréhension de la nature fondamentale de la vie et de ses origines, cherchant à démêler les complexités de ce phénomène remarquable.

- (Q) D'accord, merci. Donc pour préciser un peu la question, où est la frontière entre minéral et  végétal. ou entre organique et inorganique ?

- (R) La frontière entre les domaines minéral (inorganique) et végétal (organique), ou entre la matière organique et inorganique, n'est pas toujours évidente, car il peut y avoir des chevauchements et des ambiguïtés. La distinction réside principalement dans la composition, la structure et les propriétés caractéristiques des substances concernées.

Dans le contexte de la géologie et de la chimie, les minéraux sont des substances inorganiques naturelles dont la composition chimique et la structure cristalline sont définies. Le quartz, le feldspath et la calcite sont des exemples de minéraux. Les minéraux sont généralement formés par des processus géologiques et n'ont pas les structures moléculaires complexes que l'on trouve dans les organismes vivants.

D'autre part, le terme "végétal" fait généralement référence à la matière organique associée aux plantes ou à la vie végétale. Les plantes sont des organismes vivants qui possèdent des structures cellulaires complexes et réalisent divers processus physiologiques. Elles sont classées dans le règne des Plantae et présentent des caractéristiques telles que la photosynthèse, la croissance, la reproduction et les réponses aux stimuli.

La matière organique désigne généralement les substances qui contiennent du carbone et qui proviennent d'organismes vivants ou de leurs restes. Les composés organiques, tels que les glucides, les protéines, les lipides et les acides nucléiques, sont les éléments constitutifs de la vie et sont présents dans les organismes vivants.

La frontière entre le minéral et le végétal ou entre la matière organique et la matière inorganique peut s'estomper dans certains cas. Par exemple, certains composés organiques, comme certains carbonates, peuvent se trouver à la fois dans les organismes vivants et dans les minéraux. En outre, les minéraux peuvent interagir avec la matière organique, par exemple lors de la formation de fossiles ou de l'absorption de minéraux par les plantes.

Il est important de noter que la classification et la compréhension de ces frontières sont principalement basées sur des catégorisations scientifiques et peuvent varier en fonction du contexte et de la perspective. Différents domaines scientifiques, tels que la géologie, la chimie et la biologie, peuvent aborder ces frontières différemment en fonction de leurs cadres respectifs et de leurs intérêts de recherche.

Auteur: chatGPT4

Info: 18 mai 2023. Ici l'I.A. qui donne les réponses peut être considérée comme un promptuaire, un résumé

[ question-réponse ] [ compendium ]

final sans fin

Mesdames et messieurs nous avons été absolument ravis de passer ce bon moment avec vous et j'ai donc le plaisir de vous présenter à la guitare : Monsieur Piotr Idriss Lee... Au saxophone nous avons Mme Franzisca Brel. Les arrangement sont de Jean-Philippe Erbien (qui a remplacé au pied levé Jacques Edouard de la Petite Bouillotte, qui s'est fracturé le poignet et à qui nous souhautons un prompt rétablissement... )

À la section rythmique vous aurez reconnu notre bassiste aimé l'inspecteur Missaire... ainsi que notre batteur le comissaire Pecteur. Merci mille fois d'être venu si nombreux... toute notre reconnaissance aussi au staff technique, au personnel du bar, de la billetterie et des vestiaires... bon retour à la maison à tous.... portez-vous bien... soyez prudent sur la route... que la paix soit avec vous... et à bientôt allez ciao tout le monde...

C'est fini, on arrive au bout... oui, c'est l'épilogue... le point final... la conclusion... le terme. Oui, nous touchons au but... c'est le dénouement, la mort du spectacle... nous sommes à destination... voici la chute, la clôture, la coda, le couronnement, l'ultime déclin, le crépuscule, le terminus, l'extinction, c'est une cessation, une finition, c'est l'accomplissement, l'arrêt, la dernière borne, il nous faut clore, clôturer, conclure, couronner ce sujet, dénouer cette affaire, ce thème est épuisé, il faut l'expédier, le mener à bien, fignoler cette fermeture, y mettre la dernière main... la dernière main... 

C'est la fin, il nous faut conclure C'est fini, on arrive au bout... ça va s'interrompre.... On y est c'est vraiment fini oui, c'est l'épilogue le point final la conclusion le terme enfin... On y arrive nous touchons au but, c'est l'aboutissement... le dénouement, la fin du voyage, l'extrémité finale, l'ultime frontière, l'issue, la résolution, c'est là que tout va se terminer, s'arrêter, cesser.... couper, stopper, s'achever, s'éteindre, se tarir, s'estomper, s'escamoter... nous allons partir, nous tirer, caleter, nous carapater, appareiller, battre en retraite, vous brûler la politesse, débarrasser le plancher, décamper, décaniller, décarrer, dégager, déguerpir, déménager, déserter le paysage, détaler, émigrer, foutre le camps, filer à l'anglaise, lever le siège, mettre les bouts, mettre les voiles, prendre congé, prendre la poudre d'escampette, prendre le large, prendre nos cliques et nos claques, prendre nos jambes à notre cou, nous barrer, nous casser, nous cavaler, nous débiner, nous défiler, nous dérober, nous mettre en route, nous tailler, nous trisser, tirer notre révérence....

Tout va maintenant se dénouer, se régler, finir, finir, finir, finir, se dissiper, Nous allons compléter la chose, définitivement, y mettre la dernière main, couper court... tout est consommé ! ...... nous avons couronné le tout, cette pièce va décéder, disparaître, nous allons entonner son chant du départ, elle a épuisé ses dernières ressources, il faut expédier les ultimes affaires courantes, fermer ce dossier définitivement, tout sera mort, nous aurons parachevé cette oeuvre, nous allons la parfaire, nous allons partir, nous ne faisions que passer, comme toute chose il faut disparaître, périr, il faut rompre le cycle...........

En musique .......... voilà, voilà, voilà...

Maintenant que les musiciens s'en sont donné à coeur joie nous allons enfin pouvoir conclure cette magnifique fin différée.... qui va maintenant gentiment s'amenuiser, s'arrêter petit à petit, s'éteindre, s'évanouir, s'interrompre, se dénouer pour finalement passer, succomber de sa belle mort, se tarir, trépasser.... Elle va atteindre sa dernière borne, son aboutissement, voici venir le bout du bout, le confins des confins, l'extrême, frontière finale, l'ultime lisière, le jour dernier, le dernier sommeil, son dernier soupir, dernier souffle, sa disparition, la cessation du grand voyage, le plongeon définitif, nous voilà rendu, c'est le repos éternel, voici son tombeau, l'extrémité finale, Quel bilan, quel couronnement, quelle apothéose.....

Il faut que ça cesse, que ça cesse, que ça cesse, que ça cesse, que ça cesse, que ça cesse... allez COUCHé !... qu'on stoppe qu'on en finisse, allez, partez !, dégagez ! disparaissez, foutez le camp, caletez, dépeuplez moi ces notes, détruisez les, que cela se dissolve, allez, vite, et non pas une éclipse mais une disparition pure et simple, un effacement, un effondrement, allez, stop... et vite allez, stop, je vous en prie, je vous en supplie... bououhhhh oiiinnn... j'ai promis au public que c'était fini, qu'on était au bout du tunnel... s'il vous plait... que tout s'arrête, finisse pour de bon, qu'on ne laisse pas ceci décliner, agoniser tout ceci trop longtemps, il faut liquider le problème, prendre une décision, lui donner le coup de grâce... trouver son bourreau, c'est fastidieux, assommant, ennuyeux, lassant, moribond... mon Dieu, quelle décadence, quelle décomposition, décrépitude,... quelle détresse d'en arriver à ce pareille extrémités, quel sinistre râle... je suis fatigué... ah, enfin.... Cela semble s'arrêter pour de bon... chhuuuut, taisez-vous, je n'ai pas envie de post scriptum, de complément, addenda, apostille, postface et autres explications complémentaires... Je suis usé, vidé, vide, essoré mais tranquille, enfin dans la vacuité désertique du néant, détruit mais enfin tout s'est arrêté, le spectacle est complet, achevé... Nous en voici débarrassés, tout s'est dégarni, démeublé, dénudé, dépeuplé, dépouillé, désempli, quelle heureuse solitude, joie de l'inanimé, l'infréquenté, l'inhabité, l'inoccupé....

Voici le silence infini, perpétuel... le vide intégral, la parfaite vacuité, l'insondable perfection cosmique, le plein, désert, le rien dans sa plénitude, la profonde perpétuité, un espace complètement pur et vacant, ouvert.. ah quel souverain vacuum, le zéro à son summum, la nudité suprême, insondable abîme, pleine inconsistance, totale inexistence.... non-être.

Auteur: MG

Info: 2008, texte d'une création humoristico-musicale, non aboutie, qui consistait à extendre la plus possible la fin d'un spectacle sur scène. Le lien en début de texte conduit vers une pré-maquette musicale de la chose qui avec ce texte et les images peut être appréhendée comme un triple codage

[ excipit ] [ exagération ] [ synonymes ]

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

repentir

Simplement, comme on verse un parfum sur une flamme

Et comme un soldat répand son sang pour la patrie,

Je voudrais pouvoir mettre mon cœur avec mon âme

Dans un beau cantique à la sainte Vierge Marie.



Mais je suis, hélas ! un pauvre pécheur trop indigne,

Ma voix hurlerait parmi le chœur des voix des justes :

Ivre encor du vin amer de la terrestre vigne,

Elle pourrait offenser des oreilles augustes.



Il faut un cœur pur comme l'eau qui jaillit des roches,

Il faut qu'un enfant vêtu de lin soit notre emblème,

Qu'un agneau bêlant n'éveille en nous aucuns reproches,

Que l'innocence nous ceigne un brûlant diadème,



Il faut tout cela pour oser dire vos louanges,

Ô vous Vierge Mère, ô vous Marie Immaculée,

Vous blanche à travers les battements d'ailes des anges,

Qui posez vos pieds sur notre terre consolée.



Du moins je ferai savoir à qui voudra l'entendre

Comment il advint qu'une âme des plus égarées,

Grâce à ces regards cléments de votre gloire tendre,

Revint au bercail des Innocences ignorées.



Innocence, ô belle après l'Ignorance inouïe,

Eau claire du cœur après le feu vierge de l'âme,

Paupière de grâce sur la prunelle éblouie,

Désaltèrement du cerf rompu d'amour qui brame !



Ce fut un amant dans toute la force du terme :

Il avait connu toute la chair, infâme ou vierge,

Et la profondeur monstrueuse d'un épiderme,

Et le sang d'un cœur, cire vermeille pour son cierge !



Ce fut un athée, et qui poussait loin sa logique

Tout en méprisant les fadaises qu'elle autorise,

Et comme un forçat qui remâche une vieille chique

Il aimait le jus flasque de la mécréantise.



Ce fut un brutal, ce fut un ivrogne des rues,

Ce fut un mari comme on en rencontre aux barrières ;

Bon que les amours premières fussent disparues,

Mais cela n'excuse en rien l'excès de ses manières.



Ce fut, et quel préjudice ! un Parisien fade,

Vous savez, de ces provinciaux cent fois plus pires

Qui prennent au sérieux la plus sotte cascade,

Sans s'apercevoir, ô leur âme, que tu respires ;



Race de théâtre et de boutique dont les vices

Eux-mêmes, avec leur odeur rance et renfermée,

Lèveraient le cœur à des sauvages leurs complices,

Race de trottoir, race d'égout et de fumée !



Enfin un sot, un infatué de ce temps bête

(Dont l'esprit au fond consiste à boire de la bière)

Et par-dessus tout une folle tête inquiète,

Un cœur à tous vents, vraiment mais vilement sincère.



Mais sans doute, et moi j'inclinerais fort à le croire,

Dans quelque coin bien discret et sûr de ce cœur même,

Il avait gardé comme qui dirait la mémoire

D'avoir été ces petits enfants que Jésus aime.



Avait-il, — et c'est vraiment plus vrai que vraisemblable,

Conservé dans le sanctuaire de sa cervelle

Votre nom, Marie, et votre titre vénérable,

Comme un mauvais prêtre ornerait encor sa chapelle ?



Ou tout bonnement peut-être qu'il était encore,

Malgré tout son vice et tout son crime et tout le reste,

Cet homme très simple qu'au moins sa candeur décore

En comparaison d'un monde autour que Dieu déteste.



Toujours est-il que ce grand pécheur eut des conduites

Folles à ce point d'en devenir trop maladroites

Si bien que les tribunaux s'en mirent, - et les suites !

Et le voyez-vous dans la plus étroite des boîtes ?



Cellules ! Prisons humanitaires ! Il faut taire

Votre horreur fadasse et ce progrès d'hypocrisie...

Puis il s'attendrit, il réfléchit. Par quel mystère,

Ô Marie, ô vous, de toute éternité choisie ?



Puis il se tourna vers votre Fils et vers Sa Mère,

Ô qu'il fut heureux, mais, là, promptement, tout de suite !

Que de larmes, quelle joie, ô Mère ! et pour vous plaire,

Tout de suite aussi le voilà qui bien vite quitte



Tout cet appareil d'orgueil et de pauvres malices,

Ce qu'on nomme esprit et ce qu'on nomme la Science,

Et les rires et les sourires où tu te plisses,

Lèvre des petits exégètes de l'incroyance !



Et le voilà qui s'agenouille et, bien humble, égrène

Entre ses doigts fiers les grains enflammés du Rosaire,

Implorant de Vous, la Mère, et la Sainte, et la Reine,

L'affranchissement d'être ce charnel, ô misère !



Ô qu'il voudrait bien ne plus savoir plus rien du monde

Qu'adorer obscurément la mystique sagesse,

Qu'aimer le cœur de Jésus dans l'extase profonde

De penser à vous en même temps pendant la Messe.



Ô faites cela, faites cette grâce à cette âme,

Ô vous, Vierge Mère, ô vous, Marie Immaculée,

Toute en argent parmi l'argent de l'épithalame,

Qui posez vos pieds sur notre terre consolée.

Auteur: Verlaine Paul

Info: Un conte

[ prière ] [ poème ] [ autoportrait distancié ] [ métanoïa ] [ christianisme ] [ catholicisme ]