Citation
Catégorie
Tag – étiquette
Auteur
Info



nb max de mots
nb min de mots
trier par
Dictionnaire analogique intriqué pour extraits. Recherche mots ou phrases tous azimuts. Aussi outil de précision sémantique et de réflexion communautaire. Voir la rubrique mode d'emploi. Jetez un oeil à la colonne "chaînes". ATTENTION, faire une REINITIALISATION après  une recherche complexe. Et utilisez le nuage de corrélats !!!!..... Lire la suite >>
Résultat(s): 36
Temps de recherche: 0.0483s

écologie

Beaucoup de gens demandent : "Pensez-vous que les humains sont des parasites ?" C'est une idée intéressante qui mérite réflexion. On parle volontiers de l'humanité comme d'un virus qui se propage sur la terre. En effet, nous ressemblons à une sorte de biofilm étrange qui se propage dans le paysage. Une bonne métaphore ? Si la biosphère est notre hôte, nous l'utilisons à notre profit. Nous la manipulons. Nous modifions les flux d'éléments tels que le carbone et l'azote à notre avantage, souvent au détriment de la biosphère dans son ensemble. Si on observe la situation actuelle des récifs coralliens ou des forêts tropicales, on s'aperçoit que notre hôte ne se porte pas très bien en ce moment. Les parasites sont très sophistiqués, très évolués et très performants, comme en témoigne leur diversité. Les humains ne sont pas de très bons parasites. Les parasites qui réussissent font un très bon travail d'équilibre, en utilisant leurs hôtes et en les maintenant en vie. Tout est une question d'adaptation à un hôte particulier. Dans notre cas, nous n'avons qu'un seul hôte et devons donc être particulièrement prudents.

Auteur: Zimmer Carl

Info: Discours à l'université de Columbia, "Le pouvoir des parasites".

[ environnementalisme ] [ hommes inconséquents ]

 

Commentaires: 0

Ajouté à la BD par miguel

futur

Je suis d'une famille de forestiers et de paysans et nos discussions convergent souvent vers l'idée que l'homme est bien un virus terrestre, avec de mauvaises perspectives principalement pour lui et sa famille de mammifères qui, plus que la planète et les formes de vie qui y séjournent, payeront peut-être le prix fort de son avidité non contrôlée.
Nous disparaîtrons avant le gros du reste, végétaux, bactéries, fourmis, etc... Trop fragiles, malgré - ou à cause - de notre pseudo grande intelligence d'adaptation. Cette même intelligence qui me fait dire que les pessimistes tout autant que les optimistes ont trop eu tendance à mettre l'humain au centre depuis le développement de l'ère industrielle efficace, pilotée par les européens, principalement protestants.
N'oublions pas : pendant que se déroule notre vie, avec ses pollutions, ses génocides et autres saloperies, tout le reste bouillonne, les plantes poussent, les algues X ou Y prolifèrent à cause des phosphates, les sauterelles envahissent telle ou telle contrée, les bateaux coulés se métamorphosent en refuge pour la faune, etc... Je veux dire : pendant que l'homme détruit, ça construit ailleurs...
Acceptons de n'être rien d'autre que ce qui servira de fumier à la prochaine race d'insectes conscients.

Auteur: Mg

Info: 18 mars 2013

[ spéculation ] [ écologie ]

 

Commentaires: 0

points de vue

Pour Madame Univers l'espèce humaine n'existait pas. Parce qu'il aurait fallu que Médème Kosmos soit moins distraite, pour avoir la moindre chance de percevoir l'imperceptible et fugace trace/reflet laissé par Gaïa au sein d'un banal système stellaire en ceinture de la terne Galaxie BO-FIU29-83FSD878/5234//u, ainsi répertoriée dans les assommantes classifications de sa méta intendance. De plus selon les spécialistes, on trouvait très peu d'observations de ce genre consignées dans les annales des Dames Kosmos. Et Dieu, de ces mémères... de ces archives... Il y en avait.

De la perspective du Cervin l'humanité confinait au prurit : en général invisible, capable de vous agacer, démanger, se faire oublier... Pour revenir vous chatouiller au gré des cycles saisonniers. Des sortes de fourmis qui vous grimpent dessus, affirmait parfois l'énorme pic rocheux à cheval sur la frontière Italo-Suisse. Agréables même à l'occasion, comme si chacune avait un petit outil grattoir pour vous faire des guili-guilis, précisait-il.

Sous l'angle du virus asexué chaque homme se présente comme une multitude d'univers... Ouvertures, ouvertures, ouvertures... propices aux mutations, progressions, propagations... et autres développements de ses chapelets de soeurs-sphères à ventouses. Têtes-de-pont ; vite civilisation devenues. Et puis ces humains "univers agrégés-ouvertures" en croisent d'autres, de la même race donc. Parfois ressemblants... Ou pas. Souvent étranges, déroutants... Incompréhensibles.
Il faut s'adapter.

Auteur: Mg

Info: 28 avril 2020

[ rapports d'échelles ] [ science-fiction ] [ nano-monde ] [ fantaisie ]

 

Commentaires: 0

Ajouté à la BD par miguel

mécanisation

Sous une forme ou une autre, les mesures de distanciation sociale et physique risquent de persister après la fin de la pandémie elle-même, ce qui justifie la décision de nombreuses entreprises issues de différentes industries d'accélérer l'automatisation. Au bout d'un certain temps, les préoccupations persistantes au sujet du chômage technologique s'estomperont à mesure que les sociétés mettront l'accent sur la nécessité de restructurer le lieu de travail de manière à réduire au minimum les contacts humains rapprochés. En effet, les technologies d'automatisation sont particulièrement bien adaptées à un monde dans lequel les êtres humains ne peuvent pas être trop près les uns des autres ou sont prêts à réduire leurs interactions. Notre crainte persistante et peut-être durable d'être infecté par un virus (celui de la COVID-19 ou autre) va donc accélérer la marche implacable de l'automatisation, en particulier dans les domaines les plus sensibles à celle-ci. En 2016, deux universitaires de l'université d'Oxford sont arrivés à la conclusion que jusqu'à 86 % des emplois dans les restaurants, 75 % des emplois dans le commerce de détail et 59 % des emplois dans le secteur du divertissement pourraient être automatisés d'ici 2035. Ces trois industries sont parmi les plus durement touchées par la pandémie et c’est dans celles-ci que l'automatisation, pour des raisons d'hygiène et de propreté, sera une nécessité qui, à son tour, accélérera encore la transition vers plus de technologie et plus de numérique. Un autre phénomène est appelé à soutenir l'expansion de l'automatisation : celui où la "distanciation économique" pourrait suivre la distanciation sociale. À mesure que les pays se tournent vers l'intérieur et que les entreprises mondiales raccourcissent leurs chaînes d'approvisionnement super-efficaces mais très fragiles, l'automatisation et les robots qui permettent une production plus locale, tout en maintenant les coûts à un faible niveau, seront très demandés.

Auteur: Schwab Klaus

Info: Covid-19 la grande réinitialisation

[ crise sanitaire prétexte ] [ homme-machine ]

 
Mis dans la chaine
Commentaires: 3
Ajouté à la BD par Coli Masson

Préambule pour la chaîne : AI, intelligence artificielle ou bêtise humaine ?

Devant l'hyper complexité, la puissance et la versatilité du monde, l'humanité apparait comme bien peu sage et fragile. Nous autres primates retors et pleins d'astuces sommes embringués dans un processus général d'affaiblissement de la race, dégénérescence commencée dès l'usage du premier outil - la première béquille, stigmate de notre éloignement et de notre différenciation égoïste au sein du système Gaïa. Ou de notre spécialisation.
Ce tropisme anthropomorphe toujours plus techno dépendant a apporté au vingtième siècle des résultats étonnants : surpopulation, démolition des biotopes et de la diversité des espèces animales, pollution, épuisement des ressources, réchauffement climatique...
En début de 3e millénaire, plutôt que réagir vigoureusement, les humains semblent entraînés sur une pente trop inclinée et glissante pour pouvoir stopper cette chute sans gros dégâts.
Dans ce tableau, heureusement, un certain optimisme reste de mise, on espère beaucoup des technosciences pour nous en sortir. Dépendance toujours.
C'est ici, vitesse de l'esprit et du développement des inquiétudes, qu'informatique et intelligence artificielle viennent autant nourrir nos espoirs que nos peurs. Il est avancé d'un côté que l'AI permettra de gérer (résoudre?) nos problèmes. De l'autre on prédit la "singularité", ce moment T où les machines surpasseront l'homme pour prendre le pouvoir. Une troisième tendance, mieux balancée peut-être, prévoit que l'humanité virus sera sous la coupe d'une petite oligarchie sur-argentée, installée dans quelque paradis "prévus pour", un peu comme dans le film Elysium, oligarchie tenant les commandes d'un système big brothérien en regard duquel celui d'Orwell fera figure d'aimable gag.
Voici donc l'état d'esprit du concepteur de cette chaîne - le surplomb. Les extraits, contradictoires parfois, sont disposés de manière à tenter d'informer au mieux, avec les meilleurs spécialistes, pour séparer le bon grain de l'ivraie. D'y voir un peu plus clair. N'hésitez pas à en proposer, à nourrir le débat.
Ou proposer une chaîne à la thématique mieux précisée.

Auteur: Mg

Info: On pourra aussi nourrir sa réflexion en cherchant directement dans la base de données avec des termes comme "homme-machine" et bien sûr "intellige" et "artifici", entre autres exemples.

[ machine learning ]

 
Mis dans la chaine

Commentaires: 0

Ajouté à la BD par miguel

covid 2021

Que fut le co-vid, hors du fait qu'il était très peu léthal mais mettait en danger le flux tendu des systèmes médicaux occidentalo-consuméristes - au prétexte que l'homme, même très âgé, doit être protégé à tout prix. Alors que cette épidémie ressemblait plus à un message de notre une mère Gaïa, fatiguée par le désormais insupportable virus humain (rappelons que les bactéries nos mères sont capables d'effectuer un reset au niveau planétaire en une année). 

Cette pandémie ressembla aussi à une fenêtre d'opportunité pour les tenants de la gouvernance mondiale qui développèrent une vérité quasi inattaquable au prétexte qu'elle se fonde sur des bases scientifiques même si ces dernières ressemblent à un argument statistique anthropocentré dangereux à moyen terme. Tout ceci était donc bien naturel. Mais la réflexion générale sur l'anti-acharnement thérapeutique disparut en quelque jours et les cogitations sur "comment réguler la population humaine" s'évanouirent. Avec une surpopulation aucunement affectée par le corona. Et les chinois décidèrent d'autoriser un 3e enfant. Et le ministre Broulis se félicita d'un canton de Vaud à un million d'habitants en 2044, "il faut soutenir la croissance" était son message.

On avait plutôt l'impression que les mesures de controle et de traçage de l'épidémie amenaient de meilleurs outils de gouvernance. Le message de Gaïa unifiait donc les humains en un consensus planétaire difficile à contrer pour n'importe quel idéologue puisqu'à peu près toutes les vérités (surtout officielles) convergeaient vers un modèle de propagande en béton, efficacement appuyé sur la peur des populations. Ecran de fumée potentiel pour les agissements de certains gouvernement et du monde du capital ? Ce bon couple encore et toujours agressivement positionné en défenseur de la liberté d'expression et de l'intérêt général.

Ainsi, confrontée à une censure qui ne dit pas son nom, toute critique des doxas sanitaires et gouvernementales devint un peu plus difficile (et fort peu amenée dans les médias), cache-sexe en forme de masque anti-covid, dissimulant une fois encore et avec art les problèmatiques de l'encombrement de la planète par les humains, tout comme les inégalités qui régissent l'accès aux ressources et à la répartition des richesses pour ces mêmes bipèdes dépoilés.

Auteur: Mg

Info: 10 juin 2021

[ globalisation ] [ moraline personnelle ] [ opinion libre ]

 

Commentaires: 0

Ajouté à la BD par miguel

empathie

Le sentiment de solitude se "transmet", comme la grippe.
Une étude parue dans Journal of Personality and Social Psychology et menée par une équipe mixte de l'école de médecine de Harvard à Boston, de l'Université de Chicago et de l'Université de Californie à San Diego suggère que le sentiment de solitude est contagieux et peut de disséminer dans les réseaux sociaux tel un virus en période d'épidémie. Ainsi, le fait d'être entouré et de rester socialement connecté est aussi important pour la santé que de se laver les mains. Se sentir seul ne signifie pas forcément ne pas avoir de connections mais peut-être que celles-ci ne sont pas assez satisfaisantes.
Ce travail est le résultat de l'analyse et du suivi de plusieurs milliers de sujets pendant près de 60 ans dans la petite ville de Framingham, Massachusetts, dans laquelle la majorité des participants de l'étude se connaissent. Grâce à toutes ces informations, les chercheurs ont reconstruit le réseau social de chaque individu de cette population. Cette étude est la dernière d'une longue série qui a déjà conclue à la contagiosité d'autres caractères physiques et sociaux tels que l'obésité, fumer ou encore la joie. Dans ce nouveau travail, les scientifiques ont démontré qu'il était plus facile "d'attraper" ce sentiment de solitude de ses amis plutôt que de sa famille, que celui-ci se transmettait plus souvent parmi les femmes que parmi les hommes et qu'il était plus contagieux parmi les connections sociales proches vivant à moins de 2 km. De plus, les scientifiques observent que lorsqu'une personne connait un ami avec un sentiment de solitude, celle-ci a 40 à 65% de risques supplémentaires de se sentir seule elle aussi. De la même manière lorsque l'ami d'un ami se sent seul, les risques d'avoir aussi ce sentiment augmentent de 14 à 36% alors que le risque supplémentaire est de 6 à 26% lorsque cela concerne l'ami d'un ami d'un ami.
Pour mesurer ce sentiment de solitude, les auteurs de l'étude ont utilisé un test de diagnostic de la dépression. Il a été montré qu'une fois qu'un individu ressent cette solitude, il a tendance à se localiser sur les extérieurs du réseau social après avoir transmis ce sentiment à ses amis et à ses voisins les plus proches. Sur la périphérie, les individus se sont coupés de leurs amis ou ont perdu leurs connaissances, ce qui les fait se sentir seuls et ils ont alors tendance à transmettre ce sentiment à leurs amis restants impliquant le commencement d'un nouveau cycle. Ces travaux se rapprochent de ceux de Emile Durkheim qui, dès 1951, avait déjà proposé l'hypothèse que les suicides, bien que très personnels, étaient fortement influencés par les forces sociales.

Auteur: Internet

Info:

[ sensibilité ] [ grégaire ]

 

Commentaires: 0

narratif covidiste

Le 11 janvier 2020, un laboratoire de Shanghai publie le génome du nouveau coronavirus. Laboratoire aussitôt fermé par le gouvernement chinois pour "rectification", avant réouverture le lendemain. Mystère. Le 3 février, Shi Zhengli et une trentaine de collègues publient dans Nature le papier fondateur du récit officiel : le SARS-CoV-2 présente une forte similitude (96,2%) avec un virus porté par les chauves-souris du Yunnan, nommé RaTG13. La chaîne de contamination se dessine, depuis les chauves-souris et sans doute via un animal intermédiaire facilitant l’adaptation du virus aux hommes – animal vendu sur le marché de Wuhan. Un pangolin, tiens, ça lui apprendra. Même s’il ne s’en vend pas à Wuhan, sait-on ce que trafiquent les braconniers.

Pour l’heure, cet intermédiaire n’a toujours pas été identifié, et le pangolin ne semble plus si coupable. Le gouvernement chinois a reconnu en mai 2020 que nul cas de Covid-19 n’avait été détecté parmi les animaux vendus sur le marché de Wuhan. On sait en outre que des malades ont contracté le virus sans avoir fréquenté ce marché, bien avant l’alerte officielle. [...]

RaTG13 est donc ce virus de chauve-souris tellement adapté aux hommes. Voyez comme le hasard fait bien les choses. Shi avait isolé cette souche parmi d’autres, dès 2013, dans les échantillons du Yunnan, mais complètement débordée, elle avait oublié de publier son génome. Sans doute désoeuvrée en ce mois de janvier 2020, elle le retrouve dans son tiroir et bingo ! c’est le bon. [...]

Bidon ? C’est ainsi que parlent les scientifiques en dehors des prestigieuses revues.

Traduction : de plus en plus de chercheurs doutent de l’existence de ce RaTG13, tombé à pic pour expliquer l’épidémie. [...]

Les auteurs pointent des énormités. Shi Zhengli n’a mentionné e RaTG13 dans aucun de ses papiers sur les liens entre coronavirus et chauve-souris depuis 2013, alors que cette souche semble particulièrement risquée pour l’homme. "Bizarre", disent-ils. La chercheuse chinoise n’a jamais communiqué les informations usuelles concernant l’identification et l’isolement du RaTG13 [...]. Nul échantillon du virus n’est disponible, et nulle étude n’a été réalisée sur des cellules humaines ou des modèles animaux. Bref, on ne connaît rien de ce RaTG13 à part ce que Shi Zhengli veut bien en dire : un génome écrit dans une base de données. On vous fait grâce des biais de méthodes, des données manquantes, des incohérences dans les dates des expériences. De toute façon, on n’y connaît rien, et vous non plus. [...]

Pour un autre scientifique américain, aussi anonyme que notre comité scientifique – et qui pointe les mêmes incohérences biologiques, créer de toutes pèces le séquençage du génome de RaTG13 serait facile, surtout s’il est similaire à 96% à celui de notre Covid-19. Ce mauvais esprit conclut que ce "fake virus" existe dans Nature, mais non dans la nature.

Pour finir, le feuilleton se corse au printemps 2021 avec la publication de plusieurs thèses réalisées à Wuhan depuis 2014. Publication due à un enquêteur anonyme, The Seeker, peut-être en lien avec un ou des lanceurs d’alerte chinois. De ces thèses, en chinois et en code génétique, donc indéchiffrables pour nous, il ressort que les chercheurs de Wuhan ont dissimulé nombre d’informations, concernant notamment d’autres coronavirus étudiés dans leur labo depuis des années, capables de déclencher une épidémie.

Auteur: PMO Pièces et main-d'oeuvre

Info: Dans "Le règne machinal", éditions Service compris, 2021, pages 146 à 149

[ falsification ] [ historique ]

 

Commentaires: 0

Ajouté à la BD par Coli Masson

neuro psychologie

Pourquoi notre cerveau nous pousse à détruire la planète et comment l’en empêcher.
A l’instar de "Biologie du Pouvoir" et de "La Nouvelle Grille", "Le Bug Humain" a pour ambition de trouver dans le fonctionnement même de notre cerveau des mécanismes qui expliquent nos comportements et nos choix à l’échelle individuelle et sociale et en quoi ces mêmes mécanismes sont responsables de notre déni devant la catastrophe écologique qui arrive à grands pas.
Mais contrairement à ses deux prédécesseurs, Le Bug Humain ne s’avance pas jusqu’à proposer une solution politique claire. Une frilosité que l’on regrettera.

Le constat est édifiant : L’humanité vit largement au dessus de ses moyens et ne semble pas prendre la réelle mesure des conséquences d’une telle surconsommation. A qui la faute ? Au striatum. Cette partie de notre cerveau a pour rôle de récompenser en dopamine des comportements qui favorisent la survie et la diffusion du patrimoine génétique : Se nourrir, avoir des relations sexuelles, le goût du moindre effort, l’utilité ou rang social et l’information. Si ces fonctions du striatum ont permises à l’Homo Sapiens de survivre et de croitre dans un environnement hostile et de rareté, il n’est plus adapté à nos sociétés d’abondance sécurisées. Il devient même dangereux quand il est confronté à des technologies telles que les réseaux sociaux. Car lorsque l’on publie ses photos de vacance sur Facebook ou qu’on se fend d’une réplique cinglante sur Twitter, nous donnons de l’importance aux likes et autres retweets qui vont répondre à la fois à notre besoin de reconnaissance sociale et à notre attirance vers le moindre effort puisque nous n’avons plus besoin d’agir en société ou au travail mais à cliquer sur quelques icônes pour nous situer socialement :

"Si vous obtenez moins de likes que ce que vous attendiez après avoir modifié votre profil, votre striatum s’éteint et votre estime de soi chute; si vous obtenez plus de likes que vous ne le prévoyiez, ce même striatum produit de violentes décharges de dopamine qui vous apporte une bouffée de bien-être. Cela se traduit par une mise à jour de votre estime de soi au sien de vos archives personnelles, lesquelles sont tenues par une zone de votre cerveau localisée deux centimètres en retrait de votre front. Cette zone cérébrale appelée cortex préfrontal ventromédian va en tirer des conclusions sur ce que vous valez à vos propres yeux. Si vous venez d’obtenir une récompense, [il] fait monter d’un cran votre estime de soi. Si vous avez reçu une punition, il la revoit à la baisse. Tout part de ce principe interne de recherche d’approbation par le striatum, une partie de nous-même qui nous enjoint constamment de faire face au jugement d’autrui, en quête de reconnaissance."

Pour autant, Le Bug Humain ne nous livre pas un déterminisme simpliste qui ferait du striatum tel qu’il est décrit le seul facteur déterminant de tous nos comportements. En prenant l’exemple de la prédominance des comportements altruistes chez les femmes par rapport aux hommes, Bohler illustre le concept de "conditionnement opérant". Si les femmes voient leurs comportements altruistes mieux récompensés par leur striatum c’est parce qu’elles ont appris à être altruistes. On leur a signifié dès leur plus jeune âge que le partage était une bonne chose. Le conditionnement socioculturel peut donc, dans une certaine mesure, orienter le système de récompense de notre cerveau.

S’il manque de témérité politique, Le Bug Humain a tout de même le mérite de vulgariser efficacement certaines connaissances et de nous alerter sur des problèmes intrinsèquement liés aux réseaux sociaux, au pouvoir et sur notre capacité à prendre conscience des conséquences de notre activité sur Terre tout en évitant les travers des déterminismes simplistes, qu’ils soient uniquement génétiques ou uniquement socioculturels.

Auteur: Internet

Info: A propos de Le Bug Humain de Sébastien Bohler (2019), Posted https://refractairejournal.noblogs.org 27/02/2019 by REFRACTAIRE

[ humains virus terrestres ] [ récompense ] [ motivation ]

 

Commentaires: 0

Ajouté à la BD par miguel

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

 

Commentaires: 0

Ajouté à la BD par Le sous-projectionniste