piratage

Cette cyberguerre sera un conflit marathon continuel qui ne fera que s'aggraver et hyper-évoluer vers la furtivité, la sophistication et les facilités d'accès vu l'évolution accélérée des stratégies d'attaque "vendues comme des services" pour la vente sur le dark web.

Auteur: Scott James

Info: Senior Fellow, Institute for Critical Infrastructure Technology

[ informatique ] [ illégalité ]

désinformation

Vous vous souvenez de la psychose sur les punaises de lit à Paris ? C'était de la propagande... russe !

Vous les avez sûrement déjà oubliées, mais les punaises de lit ont pourtant accaparé l'attention de tous les médias en fin d'année dernière. Cet épisode, devenu viral sur les réseaux sociaux, pourrait bien avoir été " artificiellement amplifié " par la Russie, selon le ministre délégué français à l'Europe, Jean-Noël Barrot.

À l'été dernier, qui aurait pu imaginer un seul instant que de si petits insectes parviendraient à accaparer le débat public ? Pourtant, les punaises de lit se sont immiscées dans le quotidien des Français lors de leur dernier séjour à la Ville Lumière, au point de provoquer l'hystérie générale, particulièrement à l'approche des Jeux Olympiques de Paris 2024. D'ailleurs, le phénomène a pris une ampleur considérable sur Tik-Tok.

Pour Jean-Noel Barrot, il ne fait désormais plus l'ombre d'un doute que la Russie a joué un rôle dans le battage médiatique autour des punaises de lit dans l'Hexagone…

La psychose autour des punaises de lit à Paris aurait été amplifiée par la Russie

Si cet épisode semble aujourd'hui loin derrière nous, force est d'admettre que les punaises de lit ont chamboulé le quotidien des parisiens à l'automne dernier. Fauteuils de cinéma, sièges de train, écoles, lits… aucun lieu ne leur résistait pour semer la pagaille autour d'elles et se nourrir du sang des habitants ainsi que des touristes à Paris.

Mais, pour le ministre délégué français à l'Europe Jean-Noël Barrot, " la polémique des punaises de lit (...) a été artificiellement amplifiée sur les réseaux sociaux par des comptes dont il a été établi qu’ils sont d’inspiration ou d’origine russe ".

(Photo - Les punaises de lit sont très douées pour se dissimuler là où vous ne les attendez pas)

Vendredi dernier, sur la chaîne TF1, le ministre a même ajouté que le phénomène a été " très largement été amplifié par des comptes liés au Kremlin ", comme cela nous est rapporté par 20 minutes. 

La Russie, première menace dans la guerre informationnelle ?

En se fondant sur les récentes déclarations de Jean-Noël Barrot, les opérations de cyberattaques et de désinformation en provenance de la Russie se seraient considérablement multipliées ces deux dernières années, coïncidant ainsi avec le début de la guerre en Ukraine. 

Pour soutenir ses propos, celui-ci a même affirmé que " le président de la République a créé en 2021 un service qui s'appelle Viginum, dont la mission est de détecter ces manœuvres qui visent à déstabiliser l'opinion publique en France et à affaiblir le soutien public à l'Ukraine ".

Comme le rappellent nos confrères de la Tribune, Gérald Darmanin, le ministre de l'Intérieur, a déclaré cette semaine que la Russie représentait " la première menace " dans la guerre informationnelle. La France ayant présenté son soutien aux réfugiés ukrainiens, les services russes auraient discrètement contribué à répandre la psychose engendrée par les parasites à l'automne 2023, créant ainsi de faux rapprochements entre l'arrivée des Ukrainiens sur le sol français et l'invasion des punaises de lit.

Auteur: Internet

Info: https://www.clubic.com/, Mérouan Goumiri  2 mars 2024

[ cyberguerre ] [ propagande ] [ manipulation ] [ PsyOps ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]