spéléo

Grand spécialiste de la plongée spéléo le français Eric Establie (1964 - 2010) se retrouva bloqué par pure malchance au fond d'une rivière souterraine immergée. Les meilleurs plongeurs européens convergèrent rapidement pour le secourir, dont les deux pointes anglaises, Richard "Rick" Stanton et John Volanthen, qui connaissaient le français pour l'avoir déjà croisé dans le milieu confidentiel de la spéléo sous-marine. Ils ont raconté leurs plongées afin d'essayer de le secourir. Ce duet de bénévoles était peut-être le seul au monde capable d'effectuer un sauvetage si difficile. En 10 jours, ils plongèrent trois fois à l'intérieur du dangereux conduit de la "Dragonnière de Gaud" au sud de l'Ardèche en France. John raconte : - La visibilité était au maximum de quelques mètres, très difficile d'agir dans ces conditions. A certains moments les sédiments étaient si épais qu'on pouvait à peine voir les lumières de nos casques...
Après 740m de conduit ils tombèrent sur une avalanche sous-marine qui avait complètement brassé la boue de la grotte piégeant le plongeur français par un entassement de gravier limoneux qui obturait la conduit sur plusieurs mètres. Lors de cette deuxième tentative les plongeurs trouvèrent une "étroiture" permettant de passer de l'autre côté, mais leurs équipements trop volumineux les en empêchaient. Toujours avec l'aide de nombreux autres plongeurs en soutien et en relais, ils repartirent allégés pour un troisième essai au cours duquel ils réussirent à passer l'étranglement. Pour trouver une eau plus claire de l'autre côté. Mais pas de plongeur français.
Rick raconte : - Après l'éboulement nous avons nagé peut-être 150 mètres quand, au milieu d'un passage élargi, nous avons vu le corps d'Eric cinq mètres au-dessous de nous. Comme nous ne l'avions pas aperçu de l'autre côté de l'obstruction nous espérions le trouver plus loin dans un espace à l'air libre. Ce fut donc une surprise... Les anglais purent constater ensuite que le français avait essayé de creuser pour passer la partie bouchée. Sans savoir pourquoi son corps était si loin dans le tunnel. (Afin d'essayer de parvenir à une poche d'air ?...) Rick, pompier à Coventry, précise : - La chose la plus importante était de récupérer son ordinateur de plongée de poignet. Nous avons ensuite jeté un coup d'oeil alentours mais pas très longtemps parce que nous étions quand-même dans une situation extrême... (Il reconnaîtra plus tard que c'est à ce jour la plongée la plus difficile à laquelle il ait été confronté). L'ordinateur bracelet fut ensuite remis à la police française, révélant qu'Establie avait poursuivi l'exploration au-delà des repères connus à 1040 m (environ 200 m plus loin) avant de revenir et se retrouver à se battre jusqu'à être probablement victime d'une hypoxie, car la visibilité ne permettait plus de lire correctement les instruments qui permettent de régler les mélanges gazeux qu'il respirait. Le procureur de Privas a déclaré :
"Son ordinateur a enregistré soit une remontée du boyau vers la surface soit l'existence d'une poche d'air."
La paire anglaise, en accord avec les secouristes français, décida de ne pas prendre le risque de remonter la dépouille. "Au retour il y avait un danger qu'il reste coincé dans le passage étroit au-dessus de l'éboulement. Comme l'un de nous aurait dû rester derrière le corps il pouvait se faire piéger." Ajoutant finalement : - Nous savons qu'il aurait fait la même chose pour nous si nous avions été en difficulté.
Le corps d'Eric Establie reste prisonnier de la Dragonnière de Gaud.

Auteur: Mg

Info: 20 août 2014, grand merci à Arthur, dit le crapaud, fils d'Eric Establie, pour les précisions.

[ plongée ] [ denières paroles ]

animal domestique

Oscar, le petit chat, arrive devant la chambre 313. La porte est ouverte, il entre. Mme K. est allongée paisiblement sur son lit et respire doucement. Autour d'elle, les photos de ses petits-enfants et une de son mariage. Malgré ces souvenirs, elle est seule. Oscar saute sur le lit, renifle l'air et marque une pause, histoire de considérer la situation. Sans plus hésiter, il fait alors deux tours sur lui-même pour se lover contre Mme K. Une heure passe. Oscar attend. Une infirmière entre, vérifie l'état de la malade et note la présence d'Oscar. Préoccupée, elle sort et commence à passer des coups de téléphone. La famille arrive, le prêtre est appelé pour les derniers sacrements. Le matou ne bouge toujours pas. Le petit-fils de Mme K. demande alors :" Mais que fait le chat ici ?* Sa mère, maîtrisant ses larmes, lui répond : " Il est là pour aider grand-mère à arriver au paradis... * Trente minutes plus tard, Mme K. pousse son dernier soupir. Oscar se lève, sort à pas de velours, sans que personne ne le remarque..."
Oscar, présente la particularité incroyable d'identifier les patients dont la mort est imminente. La prestigieuse revue médicale américaine The New England Journal of Medicine, dans son dernier numéro, loin de ses articles austères, a choisi de publier l'histoire vraie et touchante d'un petit chat pas comme les autres. Recueilli dans une unité pour malades d'Alzheimer à Rhode Island aux États-Unis, il présente la particularité incroyable d'identifier les patients dont la mort est imminente et de se blottir alors contre eux pour leur apporter un ultime réconfort. Il s'intéresse à chaque patient, mais ne s'installe sur leur lit que lorsque le moment fatal est arrivé. Le docteur David Dosa, gériatre à l'hôpital Rhode Island de Providence, travaillant dans cette unité, décrit avec précision dans le New England comment ce chat a transformé les pratiques de fin de vie, en prévoyant les décès, permettant d'organiser l'appel aux familles et les derniers offices religieux. "Un indicateur quasi certain"
L'animal, âgé de deux ans, tigré et blanc, a été adopté par le personnel de l'unité de soins spécialisés dans la maladie d'Alzheimer situé au troisième étage. Selon David Dosa, Oscar fait des rondes régulières, observe les patients, les renifle avant de passer son chemin ou de s'installer pour un dernier câlin. Il lui est arrivé d'accompagner jusqu'à leur ultime demeure des mourants qui, faute de famille, seraient morts tout seul.
Ses prévisions se sont révélées jusqu'à présent si exactes que, dès qu'il se blottit contre un patient, les soignants contactent les proches. "Personne ne meurt au troisième étage sans avoir reçu la visite d'Oscar, écrit David Dosa. Sa seule présence au chevet d'un patient est perçue par les médecins et les soignants comme un indicateur quasi certain d'un décès imminent." Jusqu'ici, il a supervisé la mort de plus de 25 pensionnaires, selon David Dosa, qui a précisé de ne pas pouvoir fournir d'explication aux capacités divinatoires du chat. Oscar a-t-il des dons particuliers ? Cette histoire permet de méditer en tout cas sur l'impact des animaux de compagnie dans certaines structures destinées aux personnes âgées.
Les chats, animaux particulièrement affectueux, pourraient jouer un rôle de réconfort pour ces malades atteints d'Alzheimer que la démence éloigne du monde rationnel. L'agence d'hospitalisation locale, en tout cas, a pris la mesure du rôle d'Oscar puisqu'elle a fait graver ces quelques mots sur le mur du service : "Cette plaque récompense Oscar le chat pour ses soins dignement compassionnels."

Auteur: Internet

Info: N.O.T. lundi 30 juillet 2007

[ sixième sens ] [ 6e sens ]

machine pensante

Cette IA de Deepmind pourrait révolutionner les maths et " repousser les frontières de la connaissance humaine "

DeepMind vient de frapper un grand coup : le laboratoire d'IA de Google a annoncé en janvier avoir développé AlphaGeometry, une intelligence artificielle révolutionnaire capable de rivaliser avec les médaillés d'or des Olympiades internationales dans la résolution de problèmes de géométrie. Si cela ne vous parle pas, sachez que les médailles Fields - Terence Tao, Maryam Mirzakhani et Grigori Perelman - ont tous les trois été médaillés d'or lors de cette compétition annuelle de mathématiques qui fait s'affronter les meilleurs collégiens et lycéens du monde. Or, AlphaGeometry a résolu avec succès 25 des 30 problèmes de géométrie de l'Olympiade, se rapprochant ainsi du score moyen des médaillés d'or humains. C'est 15 de plus que son prédécesseur. Mais comment les scientifiques de DeepMind ont-ils accompli un tel exploit ?

L'approche neuro-symbolique, la petite révolution de l'IA

AlphaGeometry est le fruit d'une approche neuro-symbolique, combinant un modèle de langage neuronal (MLN) et un moteur de déduction symbolique (MDS).

Les MLN sont des réseaux de neurones artificiels entraînés sur de vastes ensembles de données textuelles. Ils sont capables d'apprendre et de reconnaître des schémas et des structures dans les données textuelles, ce qui leur permet de générer du texte cohérent et de comprendre le langage naturel. Les MDS sont, pour leur part, particulièrement efficaces pour traiter des problèmes qui nécessitent une manipulation formelle des symboles et des règles logiques.

L'approche neuro-symbolique permet de faire travailler ces deux composantes en tandem : dans le cadre d'AlphaGeometry, le MLN prédit des constructions géométriques potentiellement utiles, puis le MDS utilise ces prédictions pour guider la résolution du problème. Cette combinaison offre à l'IA les capacités intuitives des réseaux de neurones et la rigueur logique des moteurs de déduction symbolique, ce qui lui permet de résoudre efficacement des problèmes de géométrie complexes.

Pour surmonter le manque de problèmes mathématiques de niveau Olympiades qui auraient dû servir de données d'entraînement à AlphaGeometry, les chercheurs ont développé une méthode innovante de génération de données synthétiques à grande échelle, permettant au génial bébé de DeepMind de s'entraîner sur un ensemble de 100 millions d'exemples uniques.

(Image : Alphageometry résoud un problème simple...) 

Mission : repousser les frontières de la connaissance

Cette réalisation marque une avancée significative dans le développement de systèmes d'IA capables de raisonner et de résoudre des problèmes mathématiques complexes, rapportent les chercheurs de DeepMind dans un article paru dans Nature en février dernier. Bien que présentant des résultats impressionnants, AlphaGeometry se heurte tout de même à quelques défis, notamment celui de s'adapter à des scénarios mathématiques de plus en plus complexes et à mobiliser ses compétences dans des domaines mathématiques autres que la géométrie. 

Malgré tout, cette avancée ouvre la voie à d'extraordinaires possibilités dans les domaines des mathématiques, des sciences et de l'IA. Ses créateurs ne cachent d'ailleurs pas leur ambition : " Notre objectif à long terme reste de construire des IA capables de transférer leurs compétences et leurs connaissances dans tous les domaines mathématiques en développant la résolution de problèmes et le raisonnement sophistiqués dont dépendront les systèmes d'IA généraux ", assènent Trieu Trinh et Thang Luong, les responsables du projet dans un communiqué. 

Le ton est donné : autrement dit, les systèmes d'IA développés par DeepMind doivent acquérir des capacités de résolution de problèmes sophistiquées et de raisonnement, ce qui implique la capacité à identifier des schémas, à formuler des hypothèses, à déduire des conclusions et à prendre des décisions logiques dans des contextes variés. Le tout en " repoussant les frontières de la connaissance humaine ". Très ambitieux, mais peut-être pas impossible.

Auteur: Internet

Info: https://www.futura-sciences.com/ - mars 2024

[ robot intelligent ] [ historique ]

femmes-hommes

La fonction du fantasme, duquel se soutient notre désir, est de nous protéger de la fatale attraction du désir de l'Autre, originellement représenté par la mère - que me veut-elle? quel sorte d'objet suis-je pour elle? que voit-elle en moi? - sans le fantasme, qui est un séquence narrative originelle produite pour colmater le vide de l'inquiétante question, le sujet est sans recours...

Le phantasme originel est un scénario à partir duquel s'articule notre propre désir, mais il reste toujours référent du désir de l'Autre, voilà pourquoi notre désir, c'est toujours le désir de l'Autre, au double sens du génitif objectif et subjectif: ce que l'Autre désire de moi - ce que je désire en l'Autre.

Le désir de l'Autre, par delà le fantasme, reste toujours une question, une énigme, un mystère (sauf pour le sujet pervers qui s’imagine qu’il sait comment faire jouir l’autre...)

Comment se manifeste la différence sexuelle à partir de la formule lacanienne "le désir est toujours le désir de l’Autre ?"

Du côté masculin, pour le dire vite, les choses sont plutôt simples, voire simplistes : "le désir c’est toujours le désir de l’autre" signifie d’abord la compétition, l’envie, la concurrence : je veux ça parce que toi tu veux ça, tant que tu voudras ça, je le voudrai aussi, ce qui confère a priori sa désirabilité à un objet, c’est que quelqu’un d’autre le veuille ; l’objectif final est ici la négation de l’Autre (ce qui in fine ferait perdre toute valeur à l’objet, mais c’est précisément le paradoxe du désir envisagé du point de vue masculin).

Du côté féminin, "le désir est toujours le désir de l’Autre" s’entend plutôt : ce que je désire, je le désire à travers l’autre, à la fois dans le sens de: "laisser le soin à l’autre de le faire, posséder et jouir pour moi..." (mon mari, mon fils, mon amour, qui réussissent pour moi...) ; et aussi dans le sens de "mon désir est ce qu’il désire, la satisfaction de son désir comblera mon désir..." (Antigone, par exemple, qui désire satisfaire au désir de l’Autre en accomplissant le rituel funéraire pour son frère...)

La thèse qui en découle: que l’homme tendrait à agir directement en assumant son acte, tandis qu’une femme préfère agir par procuration, laissant l’autre faire à sa place (ou manipulant l’autre pour qu’il fasse...) peut apparaître ici comme un cliché donnant corps à la fameuse image de la femme dissimulée derrière chaque homme qui agit...

Et si pourtant ce cliché éculé était malgré tout ce qui pointe le plus sûrement vers la nature originellement féminine de la notion même de sujet ?

Et si le geste constitutif du sujet émergeant de sa gangue subjective n’était pas cette forme revendiquée d’autonomie de "faire quelque chose", mais bien plutôt la substitution primordiale qui laisse l’Autre faire pour moi, à ma place ?

Les femmes, bien plus que les hommes, ont cette capacité de "jouir par procuration", éprouver une intense satisfaction dans la conscience aiguë que leur "bien-aimé" jouit ou réussit d’une manière ou d’une autre à atteindre ses buts.

En ce sens précis, la "ruse de la raison" hégélienne repose sur la nature constitutivement féminine de ce que Hegel a appelé "raison".

La raison qui se cache tout en se réalisant elle-même dans l’apparente confusion des motifs et des actes égoïstes apparaît donc comme une variante hegelienne de la célèbre formule: "Cherchez la femme!", nous permettant ainsi de restituer sa complexité originelle à l’opposition courante entre l’homme "actif" et la femme "passive" ; la femme peut bien continuer à paraître passive tout en étant réellement active à travers l’Autre, tandis que l’homme peut bien se montrer actif alors qu’en vérité, il subit sa passivité, déniée, à travers l’Autre...

Auteur: Dubuis Santini Christian

Info:

[ mimétisme ] [ mâles-femelles ] [ femmes-par-hommes ]

pédagogie

Apprentissage par récompense ou par punition: quelles différences ?
Apprendre à rechercher le plaisir ("récompenses") et à éviter la douleur ("punitions") joue un rôle fondamental pour la survie de tout animal, homme inclus. C'est ce que viennent de démontrer dans un article paru dans la revue Nature Communications, des chercheurs issus du CNRS - et notamment du Groupe d'analyse et de théorie économique Lyon St-Etienne
Malgré leur égale importance, l'apprentissage par récompense est beaucoup mieux compris que l'apprentissage par punition, d'un point de vue non seulement psychologique mais aussi neurobiologique. La principale raison à cela est que l'apprentissage par récompense est plus simple: il suffit de répéter les choix qui ont amené dans le passé à l'obtention du plaisir. En d'autres termes, il y a une association directe entre le "bon choix à faire" et le stimulus qui motive l'apprentissage (la récompense, qui a une valeur positive).
La figure montre des activations cérébrales dans deux régions, le striatum ventral (en vert) et l'insula antérieur (en rouge), qui sont connues pour travailler en opposition et être impliquées dans l'apprentissage par récompense et celui par punition, respectivement. Dans notre étude nous montrons que la contextualisation des valeurs supprime la nécessité d'activer l'insula, lors de l'apprentissage par punition, produisant un transfert d'activation du système de punition vers le système de récompense à mesure que les actions acquièrent une valeur relative positive.
L'apprentissage par punition est cognitivement plus complexe, car cette association n'est justement pas directe. Prenons l'exemple d'un animal qui est poursuivi par un prédateur. Le bon choix consisterait à se cacher dans un trou pour fuir le prédateur et amènerait à la disparition du stimulus qui motive l'apprentissage (le prédateur, qui a une valeur négative). Par conséquent, il est difficile d'expliquer comment ce bon choix se maintient en l'absence du stimulus. Les théories courantes ont ainsi du mal à démontrer comment les hommes peuvent être aussi performants dans le domaine de la punition que dans celui de la récompense.
L'équipe de recherche a découvert récemment un algorithme permettant au cerveau humain d'apprendre à éviter des punitions aussi efficacement qu'il apprend à rechercher des récompenses. La clef de voûte de cet algorithme - appelé "RELATIVE" - consiste à calculer les résultats des actions de manière dépendante du contexte dans lequel le résultat est obtenu. Ainsi, dans l'apprentissage par punition, le résultat d'une action qui a une valeur nulle (voire légèrement négative) - se cacher dans un trou - est rapporté au contexte dans lequel ce résultat a été obtenu, qui a une valeur très négative - être poursuivi par un prédateur. Si l'on considère que la valeur de l'action est plus grande que la valeur moyenne du contexte, le bon choix acquiert ainsi une valeur "relative" positive. Il permet donc un apprentissage par récompense aussi bien que par punition.
Grâce à l'imagerie par résonance magnétique cérébrale, l'équipe de recherche a aussi pu valider cet algorithme d'un point de vue neurobiologique, en montrant qu'il explique les variations d'activité cérébrale dans le cortex préfrontal médian, une zone du cerveau connue pour être impliquée dans la prise de décision. L'IRM a également permis de trancher un débat contradictoire important en sciences et dans la littérature: y a-t-il des systèmes ou réseaux distincts dans le cerveau pour l'apprentissage basé sur la récompense et celui basé sur la punition ?
L'analyse démontre qu'au départ, lorsque les sujets ne semblent pas encore avoir bien appris la valeur du contexte, le système d'apprentissage basé sur la récompense (le striatum ventral) et celui basé sur la punition (l'insula) sont tous les deux activés. Puis, à mesure que la contextualisation des valeurs négatives se met en place, l'insula s'active de moins en moins, et les essais d'apprentissage dans le contexte de punition se mettent à impliquer le striatum ventral qui s'active de plus en plus.

Auteur: Internet

Info: Contextual modulation of value signals in reward and punishment learning. Stefano Palminteri, Mehdi Khamassi, Mateus Joffily, Georgio Coricelli, Nature Communications, 25 août 2015

[ reptilien ]

prospective FLP

Les listes furent parmi les premiers emplois, sinon le premier, quant à l'utilisation humaine de l'écriture comme outil communautaire. Elles avaient fonction d'inventaire, c'est à dire de faire un état des lieu des réserves dans un but de survie du groupe. C'est dire si ces signes alignés sur un mur de pierre avaient une réalité, une durabilité, en eux - signifiés avec signifiants en béton. Ces marques "pour mémoire" portaient donc une réelle valeur de conservation temporelle et ce qui était ainsi catégorisé, mis dans un rayonnage, l'était pour plusieurs jours au moins.

Il semble assez clair que les milliers d'années  de développement du langage, en partie "sur support externe", déployement dans le temps qu'on résumera par foisonnement-accélération, (c'est à dire la virtualisation d'un réel qui restera à tout jamais la roche-mère des signes et idiomes), ont accentué un décalage. Une déconnection pas assez soulignée à notre sens.

La réalité, priméité source (clin d'oeil à C.S. Peirce), déformée par cet emballement, se retrouve du coup "distancié", superficialisée. Avec pour défaut central une déformation du TEMPS sémantique dans sa valeur anthropique (il n'en a pas d'autre d'ailleurs, ah ah ah). C'est à dire que le fonctionnement biologique du primate humain reste beaucoup plus proche du réel sumérien, alors que son "réel projeté" actuellement par le langage (pour les images c'est pire) s'est accéléré/complexifié. 

L'idée sur laquelle nous voulons insister est celle d'une déconnexion entre mots/phrases consensuels acceptés et leurs valeurs réelles en terme de signification/classification - le temps des hommes s'écoulant. Nous considérons que les qualités sémantiques actuelles n'ont plus le poids et la durabilités qui étaient les leurs jadis, que ce soit il y a 200, 500, ou 5000 ans.

Faut-il tenter de l'expliquer mieux, pour que les gens acquiérent un certain recul ? Faut-il clarifier/consolider les dictionnaires, thésaurus et autres définitions sémantiques actuelles ? Nous n'en savons rien. 

Nous voulons juste pointer sur ceci : "il y a un déphasage, un manque de sagesse, à ne pas prendre en compte ce constat, à savoir que les significations des mots et des expressions, elles-mêmes issues d'habitudes de rangements avec base durable en arrière-plan, méritent qu'on se ré-attarde dessus". 

Il faut préciser et sans cesse repréciser leurs sens, dans leurs contextualisations bien sûr. Avec deux a priori : 

a) Une volonté de ralentir le plus possible la précipitation de la pensée, c'est à dire en réfrénant les pulsions "pousse-à-jouir" de nos organismes, que la clinquante pub capitaliste ne s'est pas gênée d'exploiter à mort, et les routines de langages inhérentes - qui pensent à notre place - et nous amènent à dégueuler des avis "sans réfléchir". 

b) Toute classification doit être considérée comme éphémère/transitoire, puisque toujours établie en fonction d'un objectif : se justifier, expliquer, définir, raconter, etc...

Poussant cette idée plus avant FLP s'imagine un développement permettant de présenter n'importe quel concept/extrait (ou une base de 2 ou plusieurs mots/termes ou autre) via une résentation planétoïde de ses tags/catégories. C'est à dire une sphère de corrélats (convexe ou concave, c'est à voir), qu'on pourra faire pivoter à loisir, à la surface de laquelle il sera également possible de déplacer et agencer chaque mot-corrélat en fonction des autres afin de modifier-orienter-préciser l'ordre des termes, ou les résultats, d'une recherche. Chacune de ces dispositions globulaire "catégorie-corrélats" pouvant aussi être mémorisée par l'utilisateur selon ses convenances, afin, par exemple, de la comparer avec d'autres extraits/écrits/concepts via leur présentations globulaires de corrélats... voire même avec certaines situations/contextualisations - imaginaires ou pas - pareillement bien fixées/précisées.

Ainsi sera-il peut-être possible de déceler certaines similitudes entre topologies sémantiques complexes (toujours via leurs dispositions planétoïdes) et ainsi débuter ce que nous nommerons "recueil atemporel comparé d'intrication sémantiques complexes." 

C'est ici que, peut-être, appaitrons des analogies entre langage et biologie... Ou autre.

Auteur: Mg

Info: début août 2021

[ statistiques linguistiques ] [ pré-mémétique ] [ réidentification ] [ tétravalence ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

homme-machine

Quand la plupart des gens pensent aux risques potentiels de l'intelligence artificielle et du machine learning, leur esprit va immédiatement vers "Terminator" - cet avenir où les robots, selon une vision dystopique, marcheraient dans les rues en abattant tous les humains sur leur passage.

Mais en réalité, si l'IA a le potentiel de semer le chaos et la discorde, la manière dont cela peut se produire est moins excitante qu'un "Skynet" réel. Les réseaux d'IA qui peuvent créer de fausses images et de fausses vidéos - connues dans l'industrie sous le nom de "deepfakes" - impossibles à distinguer du réel, qui pourraient engendrer des risques.

Qui pourrait oublier cette vidéo du président Obama ? Inventée et produite par un logiciel d'intelligence artificielle, une vidéo quasi impossible à distinguer de vraies images.

Eh bien, dans une récente présentation des capacités de l'IA dans un avenir pas si lointain, un chroniqueur de TechCrunch a mis en avant une étude présentée à une conférence importante de l'industrie en 2017. Les chercheurs y expliquent comment un réseau d'opposition générationnelle (Generative Adversarial Network) - l'une des deux variétés courantes d'opérateur de machine learning - a résisté aux intentions de ses programmeurs et a commencé à produire des cartes synthétiques après avoir reçu l'ordre de faire correspondre des photographies aériennes aux cartes routières correspondantes.

L'objectif de l'étude était de créer un outil permettant d'adapter plus rapidement les images satellites aux cartes routières de Google. Mais au lieu d'apprendre à transformer les images aériennes en cartes, l'opérateur de machine learning a appris à coder les caractéristiques de la carte sur les données visuelles de la carte topographique.

L'objectif était de permettre à l'opérateur d'interpréter les caractéristiques de l'un ou l'autre type de carte et de les faire correspondre aux caractéristiques de l'autre. Mais ce sur quoi l'opérateur était noté (entre autres choses), c'était la proximité de correspondance d'une carte aérienne par rapport à l'original et la clarté de la carte topographique.

Il n'a donc pas appris à faire l'une à partir de l'autre. Il a appris à coder subtilement les caractéristiques de l'une dans les "modèles de bruit" de l'autre. Les détails de la carte aérienne sont secrètement inscrits dans les données visuelles réelles de la carte des rues : des milliers de petits changements de couleur que l'œil humain ne remarquera pas, mais que l'ordinateur peut facilement détecter.

En fait, l'ordinateur est si bon à glisser ces détails dans les plans qu'il a appris à encoder n'importe quelle carte aérienne dans n'importe quel plan de rues ! Il n'a même pas besoin de faire attention à la "vraie" carte routière - toutes les données nécessaires à la reconstitution de la photo aérienne peuvent être superposées sans danger à une carte routière complètement différente, comme l'ont confirmé les chercheurs :

Cette pratique d'encodage des données en images n'est pas nouvelle ; il s'agit d'une science établie appelée stéganographie, et elle est utilisée tout le temps pour, disons, filigraner des images ou ajouter des métadonnées comme les réglages de caméra. Mais un ordinateur qui crée sa propre méthode stéganographique pour éviter d'avoir à apprendre à exécuter la tâche à accomplir c'est plutôt nouveau.

Au lieu de trouver un moyen d'accomplir une tâche qui dépassait ses capacités, l'opérateur de machine learning a développé sa propre méthode pour tricher.

On pourrait facilement prendre cela comme un pas vers l'idée "les machines deviennent plus intelligentes", mais la vérité est que c'est presque le contraire. La machine, qui n'est pas assez intelligente pour faire le travail difficile de convertir ces types d'images sophistiqués les unes avec les autres, a trouvé un moyen de tricher que les humains ont de la peine à détecter. Cela pourrait être évité avec une évaluation plus rigoureuse des résultats de l'opérateur, et il ne fait aucun doute que les chercheurs vont poursuivre dans cette voie.

Et même si ces chercheurs sophistiqués ont failli ne pas le détecter, qu'en est-il de notre capacité à différencier les images authentiques de celles qui fabriquées par simulation informatique ?

Auteur: Internet

Info: Zero Hedges 4 janvier 2018

[ vrai du faux ]

humaine syntonisation

À la suite de Bernard d’Espagnat qui a proposé une interprétation permettant de résoudre les problèmes soulevés par la théorie des états relatifs d’Everett, j’ai développé une position, le solipsisme convivial, qui s’intègre dans le cadre de la théorie de la décohérence. Cette position suppose qu’on refuse de se placer dans le cadre du réalisme empirique pragmatique. Bien que défendant par ailleurs une position différente qu’il serait trop long de détailler ici, je me placerai ici dans le cadre du réalisme métaphysique.

La décohérence est alors le mécanisme qui explique l’apparence classique pour nous d’une réalité qui demeure essentiellement quantique, c’est-à-dire enchevêtrée. Le solipsisme convivial fait entrer l’observateur lui-même dans le grand système. Le raisonnement que nous avons décrit conduit alors à considérer que l’observateur est aussi dans un état enchevêtré avec le système, l’appareil et l’environnement. Du point de vue de la réalité profonde (et non de l’apparence de cette réalité pour nous), seule une fonction d’ondes globale superposée "existe". Dans cette fonction d’ondes, les différents résultats possibles de mesure sont présents et sont corrélés ainsi que tous les états correspondants de l’observateur. La décohérence intervient et permet de régler un certain nombre de problèmes que nous n’avons pas eu la possibilité d'évoquer : quelle est la grandeur mesurée par exemple, ce qui a pour effet de résoudre la difficulté que nous avons signalée à propos de l’interprétation d’Everett. Le solipsisme convivial consiste alors à considérer que la conscience de l’observateur est "accrochée" à l’une des branches de la fonction d’ondes ne lui permettant d’observer que la partie classique correspondante. La conscience joue en quelque sorte le rôle d’un filtre ne permettant de voir qu’une partie de la fonction d’ondes globale.

Une définition précise de ce processus permet de montrer que les prédictions habituelles de la mécanique quantique sont respectées malgré le fait que la fonction d’ondes n’est jamais rigoureusement réduite. Le point surprenant est alors que rien n’oblige deux observateurs différents à être accrochés à la même branche. Pour une mesure donnée, un observateur peut être accroché à la branche donnant le résultat A alors qu’un autre le sera à la branche donnant le résultat B. Comment peut-il en être ainsi alors qu’on sait que deux observateurs de la même expérience sont ”en général” d’accord sur le résultat ? La raison en est que la communication entre observateurs est elle-même un processus de mesure et que le mécanisme d’accrochage garantit la cohérence des observations pour un observateur.

Supposons qu’André a observé le résultat A et Bernard le résultat B. Les deux observations ne sont que l’accrochage de la conscience d’André et de Bernard à leur branche propre de la fonction d’ondes globale qui contient les deux possibilités. Si André demande à Bernard ce qu’il a vu, l’interaction entre André et Bernard qui en résulte contient la totalité des possibilités, donc à la fois une branche où Bernard répond A et une branche où Bernard répond B. La fonction d’ondes d’André sera après l’interaction avec Bernard dans un état enchevêtré contenant les deux réponses mais la conscience d’André s’accrochera à la branche correspondant à la réponse cohérente avec son observation précédente, il entendra donc Bernard répondre A conformément à son attente. C’est la raison pour laquelle cette interprétation porte le nom de solipsisme convivial : chaque observateur vit dans son monde qui peut être totalement différent de celui des autres, mais il n’existe aucun moyen de se rendre compte des désaccords et les observateurs sont en parfait accord. Ceci fournit une nouvelle explication de l’intersubjectivité : il n’y a aucun moyen de constater un désaccord.

Signalons pour terminer une conséquence étrange sur l’indéterminisme de la mécanique quantique. La fonction d’ondes de l’Univers évolue de manière parfaitement déterministe par l'équation de Schrödinger, seul le mécanisme d’accrochage tire au sort la branche à laquelle chaque observateur s’accroche. Ce n’est donc plus Dieu qui joue aux dés, c’est l’homme, mais avec le constat étrange que deux joueurs peuvent voir le même dé tomber sur une face différente. 

Auteur: Zwirn Hervé

Info: Mécanique quantique et connaissance du réel.

[ prospective scientifique ]

spiritualité

Le contexte des Dialogues avec l'ange est le suivant : en 1943, en Hongrie, quatre amis (Hanna, Joseph, Lili et Gitta) se réunissent régulièrement pour des discussions sur le sens de leurs vies. Au cours d'une de ces discussions, Hanna déclare soudainement : "Attention ! Ce n'est plus moi qui parle." Hanna deviendra le relais des paroles d'une entité mystérieuse qu'ils appelleront l'Ange. Gitta fera la transcription de ces dialogues. Seule survivante des tueries nazies de cette époque, c'est aussi elle qui fera le travail de diffusion de ces entretiens avec l'Ange qui dureront jusqu'à la fin de l'année 1944. Plus rien après la mort de Hanna, le "petit serviteur".

La beauté et l'horreur se répondent en arrière-plan de ces dialogues. Leur intensification suit le déploiement et l'extension de la fureur nazie. Dans les premiers dialogues, l'Ange prend le temps de s'adresser individuellement à ses interlocuteurs à qui il attribue un symbole comme une mission de vie à laquelle il faut se vouer et comme une voie parmi tant d'autres permettant de rejoindre Dieu. L'Ange des premiers dialogues peut sembler tempétueux, lunatique et direct, comme le Yahvé de l'Ancien testament. Un Ange qui, d'inconscient, deviendra de plus en plus conscient ?

Mais les conditions politiques à l'extérieur deviennent de plus en plus menaçantes. "Les juifs sont entassés dans un quartier de Budapest transformé en ghetto, et dont les entrées sont surveillées. Nous ne savons pas à quel moment Joseph et Hanna seront touchés aussi." Les dialogues avec l'Ange permettent de nourrir un espace mental hors du temps même si les paroles de l'Ange semblent répondre indirectement - symboliquement - aux périls du moment. "Grâce au dernier entretien, nous sommes capables d'affronter cette menace avec un calme relatif. La situation extérieure ne s'est pas améliorée, bien au contraire, mais nous, nous avons changé. C'est pourquoi le message d'aujourd'hui est un chant de joie." le ton change. L'Ange ne s'adresse plus individuellement à chacun. Au-delà des singularités et des voies apparemment dissemblables, l'expression devient poétique mais occulte et se lit comme un texte dont il nous faut acquérir la clé de compréhension. Dans l'urgence des derniers mois de l'année 1944, alors que les nazis hongrois menacent l'atelier de couture que dirige Gitta et dans lequel se cachent et travaillent une quasi centaine de femmes juives, l'Ange se manifeste brutalement, en-dehors du cadre régulateur des séances du vendredi, affirmant avec une volonté constante de précision quelle est la place de l'homme dans l'univers.

L'Ange est-il réellement ange ? "Tout le monde peut parler avec son ange", affirmait Gitta Mallasz dans une de ses dernières interviews dans les années 90 – même si cela n'arrive pas à beaucoup d'entre nous.

L'Ange est-il l'inconscient personnel de Hanna ? L'évolution du discours semble trop complexe pour pouvoir n'être qu'une émanation immédiate d'un arrière-plan psychique individuel. Tout au long des deux années d'entretiens, le discours (sur la souffrance, sur l'individualisme, sur le nouveau) évolue et s'adapte à la capacité de compréhension de ses interlocuteurs pour s'offrir en fracas dans le dernier dialogue. On ne peut que penser à une offrande verbale soigneusement préparée, mais peut-être s'agit-il aussi du mouvement naturel de la croissance des pensées.

L'Ange est-il transcription de pensées sauvages attendant leur propriétaire dans le vaste espace de l'univers ? Hanna aurait alors développé une fonction médiumnique permettant de penser des pensées encore non accessibles à la plupart d'entre nous. Que ne pouvons-nous encore penser, ne disposant pas de la capacité mentale nécessaire à métaboliser des aliments psychiques encore trop riches pour nous ? Ces dialogues avec l'Ange pourraient-ils nous en donner un aperçu ?

Toutes ces hypothèses ne sont bien sûr que pure spéculation et manière de m'aider à rêver les Dialogues avec l'ange. Car, comme le dit l'Ange :

"Faites attention ! Si l'adulte grandit encore,

c'est la tumeur ou la graisse et ce n'est pas beau.

Vous êtes devenus adultes.

Vous avez à mettre au monde le Nouveau, l'Enfant.

Déjà, ce n'est plus vous-même

que vous avez à faire grandir."

Auteur: Arcé Alexandra

Info: Sur Babelio, 21 nov. 2019

[ critique littéraire ] [ questions ]