cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

désinformation

Vous vous souvenez de la psychose sur les punaises de lit à Paris ? C'était de la propagande... russe !

Vous les avez sûrement déjà oubliées, mais les punaises de lit ont pourtant accaparé l'attention de tous les médias en fin d'année dernière. Cet épisode, devenu viral sur les réseaux sociaux, pourrait bien avoir été " artificiellement amplifié " par la Russie, selon le ministre délégué français à l'Europe, Jean-Noël Barrot.

À l'été dernier, qui aurait pu imaginer un seul instant que de si petits insectes parviendraient à accaparer le débat public ? Pourtant, les punaises de lit se sont immiscées dans le quotidien des Français lors de leur dernier séjour à la Ville Lumière, au point de provoquer l'hystérie générale, particulièrement à l'approche des Jeux Olympiques de Paris 2024. D'ailleurs, le phénomène a pris une ampleur considérable sur Tik-Tok.

Pour Jean-Noel Barrot, il ne fait désormais plus l'ombre d'un doute que la Russie a joué un rôle dans le battage médiatique autour des punaises de lit dans l'Hexagone…

La psychose autour des punaises de lit à Paris aurait été amplifiée par la Russie

Si cet épisode semble aujourd'hui loin derrière nous, force est d'admettre que les punaises de lit ont chamboulé le quotidien des parisiens à l'automne dernier. Fauteuils de cinéma, sièges de train, écoles, lits… aucun lieu ne leur résistait pour semer la pagaille autour d'elles et se nourrir du sang des habitants ainsi que des touristes à Paris.

Mais, pour le ministre délégué français à l'Europe Jean-Noël Barrot, " la polémique des punaises de lit (...) a été artificiellement amplifiée sur les réseaux sociaux par des comptes dont il a été établi qu’ils sont d’inspiration ou d’origine russe ".

(Photo - Les punaises de lit sont très douées pour se dissimuler là où vous ne les attendez pas)

Vendredi dernier, sur la chaîne TF1, le ministre a même ajouté que le phénomène a été " très largement été amplifié par des comptes liés au Kremlin ", comme cela nous est rapporté par 20 minutes. 

La Russie, première menace dans la guerre informationnelle ?

En se fondant sur les récentes déclarations de Jean-Noël Barrot, les opérations de cyberattaques et de désinformation en provenance de la Russie se seraient considérablement multipliées ces deux dernières années, coïncidant ainsi avec le début de la guerre en Ukraine. 

Pour soutenir ses propos, celui-ci a même affirmé que " le président de la République a créé en 2021 un service qui s'appelle Viginum, dont la mission est de détecter ces manœuvres qui visent à déstabiliser l'opinion publique en France et à affaiblir le soutien public à l'Ukraine ".

Comme le rappellent nos confrères de la Tribune, Gérald Darmanin, le ministre de l'Intérieur, a déclaré cette semaine que la Russie représentait " la première menace " dans la guerre informationnelle. La France ayant présenté son soutien aux réfugiés ukrainiens, les services russes auraient discrètement contribué à répandre la psychose engendrée par les parasites à l'automne 2023, créant ainsi de faux rapprochements entre l'arrivée des Ukrainiens sur le sol français et l'invasion des punaises de lit.

Auteur: Internet

Info: https://www.clubic.com/, Mérouan Goumiri  2 mars 2024

[ cyberguerre ] [ manipulation ] [ PsyOps ]

préconception

Les préjugés et les assignations annihilent la possibilité d’une première bonne impression. Les expériences ultérieures avec les autres, les deuxième, troisième impressions seront peut-être meilleures. Encore faut-il en avoir l’occasion. Comment ne pas en vouloir à ceux qui chargent une barque déjà fort lestée ?

Auteur: Hemley Boum

Info: Le Rêve du pêcheur

[ fermeture ] [ rapports humains ]

nord-sud

Les étapes du Paris-Dakar, la course de moto des Blancs n’ayant plus de problèmes dans leur vie et s’amusant à parader dans nos villages, sont également des occasions pour nous de gravir la colline, en violation absolue des consignes sécuritaires, de les regarder en se demandant ce que ça fait d’être exempt des contraintes matérielles du monde.

Auteur: Dembélé Diadié

Info: Deux grands hommes et demi

[ post-colonialisme ]

partir

D’autres ont déjà franchi les frontières du Mali pour rejoindre les pays côtiers. En vérité, lorsque le ciel s’assombrit, que la terre se déchire et expulse les graines, que les arbres se meurent et donnent leur corps au feu purificateur des incendies, y a-t-il encore de l’espoir pour le paysan ? Lorsque les pâturages jaunissent, que les puits et les rivières s’assèchent, y a-t-il encore de l’espoir pour l’éleveur ? Lorsque le lit du fleuve devient une forêt, que les barques s’enfoncent dans le sable et que l’odeur des poissons morts envahit les berges, y a-t-il encore de l’espoir pour le pêcheur ? Ça fait longtemps que je cogite également sur le départ.

Auteur: Dembélé Diadié

Info: Deux grands hommes et demi

[ déracinement ] [ motivation ] [ sécheresse ] [ exil ]

maturité

Le vieux forgeron dit que l'enfant sera un homme s'il apprend à souffrir dans le jeu et à s'amuser dans la douleur, sans pleurer dans la défaite.

Auteur: Dembélé Diadié

Info: Le duel des grands-mères

[ distanciation ] [ sagesse ] [ self-contrôle ]

émotion

Tout le monde entend les sanglots. Une mère n'a pas le pouvoir d'un père mais elle a ses larmes. Une mère qui a mal pleure. Une mère qui a mal pour son fils pleure. Si elle ne pleure pas, elle pourrit de l'intérieur. Les larmes soulagent ce que les bras ne peuvent venger. Les larmes nettoient l'affront que l'eau ne peut enlever.

Auteur: Dembélé Diadié

Info: Deux grands hommes et demi

[ soupape ] [ catharsis ] [ femmes-par-homme ]

négociations commerciales

Du temps où je vous parle, les affaires, quelles qu’elles soient, étaient décorées. Pas de chemin de fer sans vins d’honneur. Pas de ciment sans apéritifs. Pour déplacer la moindre benne, il fallait son poids de vespétro*. Tout se faisait dans un décor de café, de bistrot et de cantine. Ne pas boire le coup c’était rater neuf affaires sur dix. De là d’ailleurs, et par des quantités d’autres choses, le billard, nous y viendrons. La matière première, à la base, c’était l’absinthe. Entendons-nous : les plans, les projets, les trucs sur le papier, c’était peut-être fait par des gens sobres ou de petits estomacs, c’est possible, quoique pas même certain, mais dès qu’on disait : exécution ! c’était en premier lieu le bistrot. Pour acheter, pour transporter, pour placer le matériel, pour embaucher, débaucher, payer, rectifier, organiser : c’était le bistrot en premier lieu.

Auteur: Giono Jean

Info: Les âmes fortes, Librairie Gallimard, 1949, page 149 *liqueur italienne d'origine savoyarde ancienne

[ alcool ] [ picole ]

obséquiosité

— Veux-tu me rendre un service ?

— Oui… Oui…

Je craignis qu’il ne me sollicitât d’une chose insignifiante ou bien trop importante. J’aime à rendre des services, de petits services, bien entendu, pour montrer ma bonté.

— Prête-moi cinquante francs.

Nos regards se rencontrèrent. Mille pensées me vinrent à l’esprit. Certainement, il en fut de même chez Billard. Entre nous, il n’y avait plus de barrière. Il lisait dans mon âme aussi facilement que je lisais dans la sienne.

La seconde d’hésitation qui, dans une telle circonstance, frappe chaque homme, disparut et, d’une voix qu’il m’était permis de rendre solennelle, je dis :

— Je vous les prêterai.

J’étais heureux, plus d’inspirer de la reconnaissance que de prêter. La conversation allait reprendre. Maintenant, je ne gênais plus. Je pouvais rester jusqu’à minuit, revenir demain et après-demain et toujours. S’il m’avait emprunté cinquante francs, c’était qu’il avait confiance en moi.

L’argent de ma pension était dans ma poche. Pourtant, je ne donnais pas à Billard ce qu’il m’avait demandé. Je faisais semblant de ne plus y songer. Je sentais que plus j’attendrais, plus on ferait l’aimable.

À présent, je jouais un rôle. À chacun de mes mouvements, on m’épiait, espérant que je sortirais mon portefeuille. Depuis des années, je n’avais eu une pareille importance. Un sourire accueillait chacune de mes paroles. On m’observait ; on craignait que je n’oubliasse.

Il faudrait être un saint pour résister à la tentation de prolonger cette joie.

Ah, comme j’excuse les gens riches !

Auteur: Bove Emmanuel Bobovnikoff Dugast Vallois

Info: Mes amis

[ pouvoir ] [ rapports de force ]

amitié

Je voulais un ami malheureux, un vagabond comme moi, envers qui on n’est tenu à aucune obligation. J’avais cru que Billard était cet ami, pauvre et bon. Je m’étais trompé. À chaque instant, il m’entretenait de sa maîtresse — ce qui me plongeait dans une grande mélancolie.

Auteur: Bove Emmanuel Bobovnikoff Dugast Vallois

Info: Mes amis

[ comparaison ] [ chanceux ] [ heureux ] [ jalousie ]