nord-sud

L’explosion démographique en Afrique alimente une immigration massive vers l’Europe, à la plus grande joie des économistes et des capitalistes, qui voient là un moyen de "dynamiser la croissance" et d’entretenir la "modération salariale" sur un continent riche et vieillissant. Cependant, les autochtones se montrent de plus en plus dubitatifs quant aux bienfaits que ces mouvements de population sont censés leur procurer. Comment vaincre leurs réticences ? Des chercheurs s’attellent à la tâche : "Face aux tensions croissantes liées aux différences ethniques, religieuses et culturelles, il est urgent de concevoir des stratégies propres à favoriser l’intégration sociale des réfugiés au sein des sociétés caucasiennes" [Nina Marsh et al., "Oxytocin-enforced norm compliance reduces xenophobic outgroup rejection" (2017)]. En l’occurrence, la stratégie proposée consiste à faire inhaler de l’oxytocine, une hormone qui, d’après l’étude, augmenterait la capacité des gens à s’adapter à des "écosystèmes sosciaux en évolution rapide". On croit d’abord à un canular et puis non – l’article est publié dans une revue scientifique communément qualifiée de "prestigieuse".

Auteur: Rey Olivier

Info: Dans "Leurre et malheur du transhumanisme", pages 40-41

[ aliénation ] [ gestion biochimique des conflits ] [ big pharma ]

mathématiques matricielles

En physique classique, la résolution d'une équation d'onde pour, disons, une onde sonore peut vous donner la pression de l'onde sonore à un certain point dans l'espace et le temps. En résolvant l'équation d'onde de Schrödinger, vous obtenez ce que l'on appelle une fonction d'onde. Cette fonction d'onde, désignée par la lettre grecque ψ (psi), est quelque chose d'assez étrange. Elle représente l'état quantique de la particule, mais l'état quantique n'est pas un nombre ou une quantité unique qui révèle, par exemple, que l'électron se trouve à cette position à ce moment et à cette position à un autre moment. Au contraire, ψ est lui-même une vague ondulante qui a, à tel ou tel moment donné, des valeurs différentes dans différentes positions. Plus étrange encore, ces valeurs ne sont pas des nombres réels ; il peut par exemple s'agir  de nombres complexes avec des parties imaginaires. Ainsi, la fonction d'onde à un moment donné n'est pas localisée dans une région de l'espace ; elle est plutôt étalée, elle est partout et a des composantes imaginaires. L'équation de Schrödinger permet donc de calculer comment l'état du système quantique, ψ, change avec le temps.  

Auteur: Ananthaswamy Anil

Info: Through Two Doors at Once: The Elegant Experiment That Captures the Enigma of Our Quantum Reality

[ particules élémentaires ] [ conflits d'ambivalences ]

recherche industrielle

Le lecteur innocent et beaucoup de mathématiciens confirmés seront probablement surpris de trouver dans mon livre quelques allusions très appuyées à des sujets extra-mathématiques et particulièrement aux relations entre science et armement. Cela ne se fait pas : 'la Science est politiquement neutre', même lorsque quelqu’un la laisse par mégarde tomber sur Hiroshima. Ce n’est pas non plus au programme : le métier du mathématicien est de fournir à ses étudiants ou lecteurs, sans commentaires, des instruments dont ceux-ci feront plus tard, pour le meilleur et pour le pire, l’usage qui leur conviendra.

Il me paraît plus honnête de violer ces misérables et beaucoup trop commodes tabous et de mettre en garde les innocents qui se lancent en aveugles dans des carrières dont ils ignorent tout. En raison de ses catastrophiques conséquences passées ou potentielles, la question des rapports entre science, technologie et armement concerne tous ceux qui se lancent dans les sciences ou les techniques ou les pratiquent. Elle est gouvernée depuis un demi-siècle par l’existence d’organismes officiels et d’entreprises privées dont la fonction est la transformation systématique du progrès scientifique et technique en progrès militaire dans la limite, souvent élastique, des capacités économiques des pays concernés.

Il serait impossible de discuter ce sujet, encore moins d’en faire l’histoire d’une façon un tant soit peu systématique, dans le cadre d’un traité de mathématiques, sauf à y ajouter des volumes supplémentaires. On peut toutefois, en quelques dizaines de pages, en donner une idée et, en particulier, montrer que la question et le sujet existent. Dans une France où les discussions sur les relations entre Science et Défense sont dominées depuis des décennies par un épais “consensus”, la chose à dire à la jeunesse est que l’une des formes de la liberté intellectuelle est de ne pas se laisser dominer par les idées dominantes...

Auteur: Godement Roger

Info: Science, technologie, armement Extrait de la Préface à "Analyse Mathématique", Éditions Springer, 1997

[ guerres ] [ conflits d'intérêts ] [ critique ] [ indépendance ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.



 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ]