origine de la vie

Une IA découvre que plusieurs bases de la vie, notamment sur l'ADN, peuvent émerger naturellement

L'Université de Floride annonce une avancée majeure dans la compréhension de la formation des molécules de la vie. À travers une expérimentation novatrice, des chercheurs ont utilisé le superordinateur HiPerGator pour démontrer que des molécules essentielles à la vie, comme les acides aminés et les bases de l'ADN, peuvent se former naturellement dans des conditions spécifiques.

Le superordinateur HiPerGator, reconnu pour être le plus rapide dans le milieu universitaire américain, a permis de franchir une nouvelle étape dans la recherche moléculaire grâce à ses modèles d'intelligence artificielle et à sa capacité exceptionnelle en unités de traitement graphique (GPU). Ces outils ont rendu possible l'étude des interactions et de l'évolution de vastes ensembles d'atomes et de molécules, une tâche auparavant inenvisageable avec les capacités de calcul disponibles.

Jinze Xue, doctorant à l'Université de Floride, a mené pendant les vacances d'hiver 2023 une expérience de chimie prébiotique. Utilisant plus de 1000 GPU A100, l'expérience a permis d'identifier 12 acides aminés, trois nucléobases, un acide gras et deux dipeptides parmi 22 millions d'atomes. Cette découverte marque un progrès significatif, révélant la formation de molécules complexes qui n'auraient pas été détectables avec des systèmes de calcul moins puissants.

La réussite de cette recherche repose sur l'utilisation de l'apprentissage automatique et de l'intelligence artificielle pour calculer les énergies et les forces agissant sur les systèmes moléculaires. Ces méthodes, selon Adrian Roitberg, professeur au Département de Chimie de l'Université de Floride, fournissent des résultats comparables à ceux de la chimie quantique de haut niveau, mais environ un million de fois plus rapidement.

Erik Deumens, directeur senior pour UFIT Research Computing, souligne la capacité unique de HiPerGator à réaliser de grands calculs, ouvrant la voie à des percées scientifiques majeures. Cette collaboration étroite entre l'université et l'équipe de Ying Zhang, responsable du soutien à l'intelligence artificielle chez UFIT, a permis d'accélérer l'analyse des données, réduisant le temps d'analyse à seulement sept heures, contre trois jours initialement estimés.

Cette recherche illustre le potentiel des simulations informatiques de grande envergure pour découvrir comment les molécules complexes peuvent se former à partir de blocs de construction simples. Elle marque une étape vers la compréhension des origines de la vie sur Terre et démontre l'importance des infrastructures de calcul avancées dans la recherche scientifique contemporaine.

Auteur: Internet

Info: https://www.techno-science.net/ - Adrien le 15/02/2024, Source: Université de Floride

linguistique expérimentale

Si on pense FLP comme un dictionnaire, ce sera alors un dictionnaire de séquences, plus précisément de chaines de caractères. 

Un mot fonctionne comme un carrefour, une image, voire comme un univers si on veut s'y apesantir.  

Alors qu'une séquence (un chiffre et une lettre, trois caractères, deux mots, une phrase... un extrait) nous en dit beaucoup plus sur la nature et les potentialités du langage à partir de ses rudiments, puisqu'elle explose exponentiellement  les représentations possibles, ouvrant à l'infini ses possibilités et ses limites. 

Chacun sait que l'émergence de l'écriture eut pour première conséquence la création de listes, d'inventaires. 

FLP ne fait pas autre chose, mais, en les intriquant, l'application présente souvent, par un dispositif qui peut s'avérer sérendipitaire, des combinaisons auxquelles on n'aurait pas forcément pensé ; pour parfois mieux réaliser certaines choses. Par exemple que tout concept/séquence sémantique est simultanément autonome et partie d'un tout. Autonome au sens d'une histoire ou au sens d'une monade. 

Ou partie d'un tout, pour mille raisons : la plus importante étant les possibilités combinatoires de lettres/caractères/mots et chiffres consensuels, un peu à l'image de la génétique.

L'idiome francophone est donc ici la souche consensuelle précise qu'utilise l'outil "homme-machine" FLP, cette application communautaire qui s'essaye au classement/recensement d'un maximum de descriptions sémantiques (tiercités collectives anthropomorphes), représentations internes et externes, évidemment a posteriori, d'une espèce qui a développé un langage et une mémoire communautaire externalisable. 

Ici on s'apercevra que même le plus pur et efficace esprit incarné aura besoin de temps, de durées. Soit très peu, au sens de la conscience de Peirce, soit beaucoup, pour qui voudra commencer à réfléchir et comparer ces séquences sémantiques afin de les intégrer au mieux dans le corpus FLP. Ainsi, les possibilités "full search" de l'informatique permettront véritablement, par l'usage rétroactif de cette machine onomastique, une recherche qui ouvrira les perpectives au sens où elle casse littéralement les lignes de la pensée habituelle. Une pensée  horizontale induite par la lecture (surtout) et l'écriture. En effet le lecteur est toujours embarqué dans cette sorte de conduit forcé que matérialise l'infinie chaine de caractères qui constitue un ouvrage.

On verra donc qu'une recherche rétroactive sur FLP ouvre vers une sorte de lecture mutidimensionnelle, qui peut s'avérer surprenante et raffraichissante.

Auteur: Mg

Info: octobre 2020

[ citation s'appliquant a ce logiciel ] [ polysémie ]

Usages potentiels de l'application FLP

- Je pratique la lecture réflexive (je suis d'accord, ou pas, ou partiellement... avec la citation et/ou l'étiquetage.)

- Je participe et développe une réflexion communautaire avec mes inserts, mes commentaires sur les tags, mes chaines, etc. 

- J'enrichis une base de données orthogonale collective en coopérant avec une entreprise qui veut sans cesse préciser les mots, les phrases, la sémantique, le sens, la signification des textes... en allant au plus bref, c'est à dire à l'essentiel. 

- Je développe et intègre mon esprit critique et mon idiosynchrasie en rencontrant des avis différents ou opposés.

- Je soulage - ou me soulage - psychologiquement en trouvant certaines formulations qui, ne m'étant pas venues à l'esprit, dévoilent un pan de réalité. Je peux aussi pratiquer  l'écriture thérapie.  De ce fait je communique mieux aussi, via la reformulation d'idées concepts, puisqu'elles sont dès lors mieux comprises/intégrées

- Je m'auto-analyse, non perturbé par la curiosité prédatrice du spécialiste qui m'observe, et retrouve une liberté véritable, dans les mots. (Merci à ceux qui nous apporterons des pistes) Balise de vie. Développer et stocker les extraits vus comme importants pour soi. (développement de sa personnalité virtuelle réflexive) Evasions, ouvertures, portes de sorties, refuges.

- Je suis écolo : parce que par la Lecture FLPienne - je m'évade, je passe le temps, etc...  sans consommer de biens tangibles, sans polluer... ou très peu. Je justifie aussi ma paresse et ma posture écolo-responsable avec des slogans comme :

"Pour occuper mon temps sans dépenser de pognon : je vais sur FLP."

"Tu as une pulsion pour aller au mac-donald.... prends plutôt un verre d'eau et passe une heure sur FLP"

"La société te répugne, les infos resassées, surrenchères émotives, crimes médiatisés et autres effets de loupes te fatiguent... Viens te dépayser sur FLP et rencontre des pensées qui correspondent - ou pas - à tes états d'âme."

"Je développe mon langage en me distrayant avec ces jeux.

- Je demande à Chatgpt4 (ou un autre agent dialoguant) d'étiqueter une citation afin d'avoir un avis "lissé" par cet intéressant compendium informatique (qui est aussi une sorte de dictionnaire intriqué), ce qui permet de confronter ma subjectivité avec une certaine objectivité des métadonnées traitée par apprentissage automatique. Ceci en donnant ces instructions au chatbot :  

En cours de développement

Auteur: Mg

Info: 25 novembre 2018. [a http ]mot[/a] 2024

[ outil numérique ] [ propagande ] [ homme-machine ]

prospective

On ne se lasse pas, chez FLP, de découvrir, décrypter, traduire et analyser tous types d'écrits dont les extraits considérés comme intéressants et/ou significatifs sont ensuite intégrés dans la base de données. Les langages humains, centrés/rassemblés ici en français, sont d'une immense diversité.

Nous constatons en parallèle que le langage est, pour ce que nous pouvons constater, une émergence assez miraculeuse et étonnante puisqu'elle constitue un importante particularité de l'humain en tant qu'espèce. On constate aussi que les signes écrits sont une apparition très très tardive au regard de l'évolution terrestre et même de celle des mammifères hominidés. 

Ce développement récent, cette ouverture sémantique, est très probablement propice aux outrecuidances ; L'homme se met au centre de l'univers, développe des religions et voilà qu'arrivent ceux qui, avec force contorsions linguistiques, viennent nous expliquer l'être, le non-être, l'infini... toutes choses ma foi fort intéressantes en termes de développement des idiomes et des approches syntaxiques, mais qui semblent de bien pâles et simplistes explications si on veut bien comparer ces développement onomasiologiques et sémasiologiques avec l'incroyable et semble-t'il infini développement que le vivant (où est la frontière avec le non vivant ?) présente devant nos yeux ébahis.

FLP, outil lexicographique d'une certaines complexité, voudrait sans cesse remettre cette idée sur le tapis : les langages humains actuels, de par leurs  simplicités conceptuelles et donc les limites qu'elles imposent, sont porteurs d'extraordinaires développements futurs, développements potentiels qu'il faut stimuler sans se refuser, comme ici, à l'utilisation de la technologie informatique. Ainsi sera-t'il peut-être possible de se libérer de carcans idiomatiques tels que le binarisme, un certain mécanisme grammatical ou autres manies analogiques. 

Avec "Les Fils de La Pensée" nous voulons aussi nous positionner sur une voie pragmatique, en prolongement des fondements sémiotiques logiques apportés par C.S. Peirce, c'est à dire en tentant de rester en contact avec un réel dit scientifique, à l'image, par exemple, des développements de l'épigénétique. Avec cette phrase de Bruce H. Lipton au passage : "Il faut que les gens réalisent que leurs pensées sont plus primaires que leurs gènes, car l'environnement, qui est influencé par nos pensées, contrôle les gènes." Voilà probablement une piste pour éviter le langage pulsionnel simpliste et ses effets, par comparaison avec une sagesse de la matière vivante, progressivement développée dans le temps via d'itératives résonances que nous commençons à découvrir..

Le langage n'est que consensus grégaire provisoire pour communiquer, conserver et développer le savoir. Nous croyons donc que ce consensus s'appuiera de manière plus heureuse sur le réél (priméité) tel que délivré par nos sens et les outils mis à leur disposition, qu'en prenant pour acquis on ne sait quels raisonnements métaphysiques abstraits ou religieux qui, avec l'inertie et les routines du temps, ont pris des positions sémantiques bien trop importantes au regard de leurs réalités démontrées. Les mondes astraux, la télépathie ou les Ovnis, si on veut s'amuser avec d'autres concepts ésotériques et/ou proches de la simple croyance religieuse, ne semblent pas avoir moins de consistance que les diverses traditions spirituelles humaines, en termes de témoignages rapportés en tous les cas.

Auteur: Mg

Info: 30 août 2020

[ citation s'appliquant à ce logiciel ]

citation s'appliquant à ce logiciel

FLP est grand jeu francophone qui, par la magie de l'informatique, propose et permet de réfléchir, seul ou ensemble, sur le sens des mots et des phrases. 

Chaque terme isolé peut déjà aller assez loin  en lui-même dans la précision (pour l'anecdote le dernier en date est "hybristophilie", qui définit l’attirance d’une femme par un homme reconnu coupable de crimes atroces). Pour les phrases, évidemment, les possibilités se démultiplient.

Pensons au gamin qui s'ennuie et feuillète distraitement le dictionnaire... pour s'arrêter à la page des avions parce qu'il y a des images et des lance-missiles... ou qui s'attarde sur un mot à la consonnance curieuse et exotique, nouveau, surprenant, etc.  Pensons en parallèle à une personne qui consulte un dico afin de comprendre, ou préciser le sens d'un mot...

Sur FLP on feuillette différement, d'ailleurs on ne feuillette pas, on clique. On peut déjà partir d'un mot unique (qu'on renforcera d'un synonyme proche pour vraiment "centrer" la recherche) afin de voir comment les esprits humains ont rayonnés à partir du terme-concept choisi.  

Mais FLP est plus pensé dans l'autre sens : celui d'une quête par combinaison de mots ou bouts de mots (chaine de caractères donc). Ainsi les possibilités de recherche avec plusieurs termes, ou débuts de termes (radicaux qui permettent d'élargir l'exploration), amènent vers un nouveau "feuilletage" sémantique, qui va vers la complexité, voire l'égarement, vu que la curiosité du lecteur investigateur se voit immédiatement proposer d'innombrables pistes... 

Parlons maintenant du FLPiste initié, conscient et organisé, qui emploie et participe au concept, c'est à dire que s'il tombe sur quelque chose "qui résonne en lui" au cours d'une lecture il pense à FLP. Dans ces termes : "ce bout de texte est-il déjà dans la base de données ?" Et, si ce n'est pas le cas : "ah, je vais pouvoir l'insérer et bien réfléchir à l'étiquetage".

Une fois l'extrait choisi viennent les réflexions qui confrontent sa subjectivité propre avec la supposée objectivité du langage consensus, au-delà d'une réflexivité personnelle Très Importante et à conserver toujours. Elles pourront se développer et se mélanger sur trois axes, dans cet ordre. 1) Recherches web pour vérifications sémantiques et autres précisions des sources et des auteurs 2) Investigations diverses pour trouver des tags adéquats, via les sites de synonymes par exemple. Avec aussi l'usage de FLP en rétroaction, avec son nuage de corrélats qui ouvrira parfois de nouveaux horizons. 3) Discussion entre flpistes, en général via les commentaires pour expliquer, justifier, se mettre d'accord. Ou pas.

Concernant la sandbox, outil pour les écoles ou autres débutants, il est conseillé de ne pas entrer trop rapidement dans les complexités des 3 axes évoqués ci-dessus. Il vaut mieux rester dans l'idée de discussions ponctuelles à partir d'un extrait simple. Déjà pour voir comment telle classe, ou groupe... ou individu... réagissent à l'exercice avant d'aller plus loin. 

Les vrais passionnés pourront ensuite se diriger vers les liaisons de citations et autres chaines. Ces dernières aidant à la continuité d'un raisonnement, souvent chronologique. Espace chaines qui aide à préciser les termes-pensées en les recontextualisant à la sauce du créateur de la chaine.

Auteur: Mg

Info: 10 mars 2022

[ méthodologie ]

régénération

Des scientifiques découvrent accidentellement des métaux qui se réparent d'eux-mêmes sans intervention humaine.

Le concept des métaux auto-cicatrisants - ponts, vaisseaux spatiaux ou robots capables de se réparer spontanément - est peut-être un peu plus proche de la réalité. Pour la première fois, des scientifiques ont observé un métal solide réparer ses propres fissures sans intervention humaine, défiant ainsi les théories fondamentales de la science des matériaux.

"Nous n'aurions jamais pensé que le métal puisse réparer lui-même ses fissures", déclare Zhenan Bao, ingénieur chimiste à l'université de Stanford, qui n'a pas participé à la nouvelle étude. Selon la théorie conventionnelle des matériaux, l'application d'une contrainte à un métal fissuré ne peut qu'élargir les fissures. Les nouvelles découvertes "vont certainement amener les gens à repenser la manière dont nous prévoyons la fiabilité mécanique des structures et des équipements métalliques", déclare Bao.

Michael Demkowicz, spécialiste des matériaux à l'université A&M du Texas et coauteur de la nouvelle étude, récemment publiée dans Nature, a théorisé pour la première fois l'autoréparation des métaux il y a dix ans, lorsque ses simulations informatiques ont montré que les métaux solides pouvaient se "souder" d'eux-mêmes pour fermer de petites fissures. Comme les métaux ont généralement besoin de températures élevées pour changer de forme, de nombreux scientifiques pensaient que les simulations étaient erronées, explique M. Demkowicz.

"Je pensais qu'il s'agissait d'un joli modèle de jouet, mais qu'il était très difficile de l'explorer expérimentalement à l'époque", déclare Khalid Hattar, coauteur de l'étude et ingénieur nucléaire à l'université du Tennessee, à Knoxville. C'est alors qu'il est tombé sur des preuves concrètes de la théorie de Demkowicz. En 2016, il a étudié, avec des scientifiques des laboratoires nationaux Sandia, la manière dont les fissures se propagent sur des morceaux de platine de taille nanométrique dans le vide. À l'aide d'un microscope électronique spécialisé, ils ont stimulé le métal 200 fois par seconde et ont observé les fractures se propager en toile d'araignée sur sa surface. Puis, au bout d'une quarantaine de minutes, les dommages ont commencé à disparaître ; les chercheurs ont vu les fissures se reconstituer comme dans une vidéo jouée à l'envers. "Je suppose que Mike avait raison après tout", se souvient Hattar.

La capacité d'auto-réparation semble apparaître lorsque les bords d'une fissure sont suffisamment rapprochés pour que leurs atomes respectifs se lient. Dans certaines zones, les irrégularités de la structure cristalline nette d'un métal se déplacent sous l'effet d'une tension externe, telle que la force exercée par l'usure naturelle. En se déplaçant, ces irrégularités induisent une contrainte de compression qui déclenche l'effet de recollage.

L'équipe de Sandia et Demkowicz ont reproduit leurs observations avec le platine et le cuivre. Les simulations informatiques suggèrent que l'aluminium et l'argent devraient également s'auto-guérir, mais les chercheurs ne savent pas si des alliages tels que l'acier peuvent réaliser cette prouesse. Il n'est pas non plus certain que l'autoréparation puisse jamais être un outil pratique en dehors du vide ; les particules atmosphériques à l'intérieur d'une fissure peuvent l'empêcher de se recoller, explique l'équipe. Quoi qu'il en soit, ce phénomène amènera certains spécialistes des matériaux à repenser ce qu'ils savent du métal. "Dans les bonnes circonstances", déclare M. Demkowicz, "les matériaux peuvent faire des choses auxquelles nous ne nous attendions pas".

Auteur: Internet

Info: https://www.scientificamerican.com, Lucy Tu, le 1 octobre 2023

étiquetage

Le référencement, c'est à dire le fait de créditer l'auteur d'une phrase/idée, présente, si on se met dans l'optique FLP, plus d'inconvénients que d'avantages. Déjà parce nous sommes dans un monde sémantique à fond anthropocentrique - voire androcentrique - dont il va falloir rapidement se distancier puisque ces deux instanciations fondatrices ont suffisamment montré leurs limites au vu de la situation globale des humains en 2022.

En réalité une quête de pureté onomasiologique devrait pouvoir s'en abstraire, si on veut bien réaliser qu'une immense partie des référencements furent motivés et articulés sur des bases douteuses, dues probablement - si on veut être optimiste - à une espèce humaine extrêmement jeune en terme de développement, espèce principalement soumise à son avidité et à des pulsions primitives, défauts trop souvent concentrés et démultipliés par des dirigeants désireux de maintenir/consolider leurs pouvoirs. Grand manque de conscience et de sagesse donc. 

Pour argumenter un peu plus en détails en ce sens on citera, entre autres, les diverses "vérités des vainqueurs", "damnatio memoriae"... et autres inerties de "savoirs établis" bien en peine de reconnaitre la fugacité de leurs vérités... Sans parler des arguments d'autorité qui vous assèneront que tel extrait de Shakespeare ou Einstein est plus vrai/pertinent que la parole d'un individu lambda ayant vraiment expérimenté une situation. 

Pour faire très court, on dira que pouvoir et linguistique forment dès le départ un curieux ménage puisque les mots furent et sont encore bel et bien orientés et décidés "d'en haut" via les règlements nationaux, dogmes politico/religieux, etc. 

Imprégnation sémantique devenue plus géopolitique actuellement à voir combien les médias, loisirs, systèmes comptables, universités et hautes écoles... sont noyautés par la pensée US post ww2.

Bien sûr la culture d'en-bas, celle de la masse, réseaux sociaux et des démographies... génère d'autres biais, pensons aux deux "biens" que sont l'Etat Providence et la culture de l'émotion, avec tous les excès qu'ils portent en  eux.

FLP penche cependant vers cette seconde catégorie... n'est que par envie de compensation historique. Pour notre système le sens des mots et des phrases devraient donc plutôt être discutés, mis en question et continuellement définis... "par tous", surtout via la fonction "chaines" qu'on pourra éventuellement apparenter à une forme de lemmatisation dans l'avenir.

Et puis il y a l'accélération des choses, l'informatique y aura bien aidé... Mais aussi les bienfaits des inerties, paliers historiques, stases dans l'évolution... Les bénéfices de ces arrêts... de la prise du temps de réflexion, du temps long... de la pondérations des équilibres. Timing des actions synchronisées... Diachronies discontinues... Uchronies créatrices.... Toutes idées au regard desquelles le langage apparait comme bien dérisoire. Mais stop.

Il faudrait donc avoir bien des trucs en tête lorsqu'on s'amuse à insérer un extrait sur FLP.... Se situer quelque part en-deça de soi-même dans l'idéal... et ne s'appuyer que sur le SENS de "l'agencement des mots". En faisant aussi bien gaffe à être le plus précis et pointilleux pour ce qui concerne le paramétrage des auteurs et des infos concernant le texte inséré. 

Alors, la classification enchevêtrée du système FLP et la souple puissance de son moteur de recherche, alliées aux outils étymologiques et lexicologiques d'Internet, ainsi qu'aux interventions des participants et de la modération, devraient permettre d'ordonner, contextualiser, intriquer, verticaliser... telle pensée ou extrait... le moins mal possible... Et faire avancer ce grand jeu pré-mémétique de la pensée humaine.

Auteur: Mg

Info: 15 juin 2022

[ citation s'appliquant à ce logiciel ] [ indexation ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

homme-machine

Quand la plupart des gens pensent aux risques potentiels de l'intelligence artificielle et du machine learning, leur esprit va immédiatement vers "Terminator" - cet avenir où les robots, selon une vision dystopique, marcheraient dans les rues en abattant tous les humains sur leur passage.

Mais en réalité, si l'IA a le potentiel de semer le chaos et la discorde, la manière dont cela peut se produire est moins excitante qu'un "Skynet" réel. Les réseaux d'IA qui peuvent créer de fausses images et de fausses vidéos - connues dans l'industrie sous le nom de "deepfakes" - impossibles à distinguer du réel, qui pourraient engendrer des risques.

Qui pourrait oublier cette vidéo du président Obama ? Inventée et produite par un logiciel d'intelligence artificielle, une vidéo quasi impossible à distinguer de vraies images.

Eh bien, dans une récente présentation des capacités de l'IA dans un avenir pas si lointain, un chroniqueur de TechCrunch a mis en avant une étude présentée à une conférence importante de l'industrie en 2017. Les chercheurs y expliquent comment un réseau d'opposition générationnelle (Generative Adversarial Network) - l'une des deux variétés courantes d'opérateur de machine learning - a résisté aux intentions de ses programmeurs et a commencé à produire des cartes synthétiques après avoir reçu l'ordre de faire correspondre des photographies aériennes aux cartes routières correspondantes.

L'objectif de l'étude était de créer un outil permettant d'adapter plus rapidement les images satellites aux cartes routières de Google. Mais au lieu d'apprendre à transformer les images aériennes en cartes, l'opérateur de machine learning a appris à coder les caractéristiques de la carte sur les données visuelles de la carte topographique.

L'objectif était de permettre à l'opérateur d'interpréter les caractéristiques de l'un ou l'autre type de carte et de les faire correspondre aux caractéristiques de l'autre. Mais ce sur quoi l'opérateur était noté (entre autres choses), c'était la proximité de correspondance d'une carte aérienne par rapport à l'original et la clarté de la carte topographique.

Il n'a donc pas appris à faire l'une à partir de l'autre. Il a appris à coder subtilement les caractéristiques de l'une dans les "modèles de bruit" de l'autre. Les détails de la carte aérienne sont secrètement inscrits dans les données visuelles réelles de la carte des rues : des milliers de petits changements de couleur que l'œil humain ne remarquera pas, mais que l'ordinateur peut facilement détecter.

En fait, l'ordinateur est si bon à glisser ces détails dans les plans qu'il a appris à encoder n'importe quelle carte aérienne dans n'importe quel plan de rues ! Il n'a même pas besoin de faire attention à la "vraie" carte routière - toutes les données nécessaires à la reconstitution de la photo aérienne peuvent être superposées sans danger à une carte routière complètement différente, comme l'ont confirmé les chercheurs :

Cette pratique d'encodage des données en images n'est pas nouvelle ; il s'agit d'une science établie appelée stéganographie, et elle est utilisée tout le temps pour, disons, filigraner des images ou ajouter des métadonnées comme les réglages de caméra. Mais un ordinateur qui crée sa propre méthode stéganographique pour éviter d'avoir à apprendre à exécuter la tâche à accomplir c'est plutôt nouveau.

Au lieu de trouver un moyen d'accomplir une tâche qui dépassait ses capacités, l'opérateur de machine learning a développé sa propre méthode pour tricher.

On pourrait facilement prendre cela comme un pas vers l'idée "les machines deviennent plus intelligentes", mais la vérité est que c'est presque le contraire. La machine, qui n'est pas assez intelligente pour faire le travail difficile de convertir ces types d'images sophistiqués les unes avec les autres, a trouvé un moyen de tricher que les humains ont de la peine à détecter. Cela pourrait être évité avec une évaluation plus rigoureuse des résultats de l'opérateur, et il ne fait aucun doute que les chercheurs vont poursuivre dans cette voie.

Et même si ces chercheurs sophistiqués ont failli ne pas le détecter, qu'en est-il de notre capacité à différencier les images authentiques de celles qui fabriquées par simulation informatique ?

Auteur: Internet

Info: Zero Hedges 4 janvier 2018

[ vrai du faux ]

homme-animal

Les bras de la pieuvre sont capables de prendre des décisions sans l'apport de leur cerveau.

Avec la capacité d'utiliser des outils, de résoudre des énigmes complexes et même de jouer des tours aux humains juste pour le plaisir, les poulpes sont extrêmement intelligents.
Mais leur intelligence est assez bizarrement construite, puisque les céphalopodes à huit bras ont évolué différemment de presque tous les autres types d'organismes sur Terre.

Plutôt qu'un système nerveux centralisé comme celui des vertébrés, les deux tiers des neurones d'une pieuvre sont répartis dans tout son corps, dans ses bras. Dorénavant les scientifiques ont déterminé que ces neurones peuvent prendre des décisions sans l'apport du cerveau.

"L'une des grandes questions que nous nous posions est de savoir comment fonctionnerait un système nerveux réparti, surtout lorsqu'il essaie de faire quelque chose de compliqué, comme se déplacer dans un liquide et trouver de la nourriture sur un fond océanique complexe", a déclaré le neuroscientifique David Gire de l'Université de Washington.

Il y a beaucoup de questions ouvertes sur la façon dont ces nodules du système nerveux sont reliés les uns aux autres.

La recherche a été menée sur des poulpes géants du Pacifique (Enteroctopus dofleini) et des poulpes rouges du Pacifique Est (Octopus rubescens), tous deux originaires du Pacifique Nord.

Ces poulpes ont environ 500 millions de neurones, dont environ 350 millions le long des bras, disposés en groupes appelés ganglions. Ils permettent de traiter l'information sensorielle à la volée, ce qui permet à la pieuvre de réagir plus rapidement aux facteurs externes.

"Les bras de la pieuvre ont un anneau neural qui contourne le cerveau, et donc les bras peuvent s'envoyer de l'information sans que le cerveau s'en rende compte", a déclaré le neuroscientifique comportemental Dominic Sivitilli de l'Université de Washington.

"Le cerveau ne sait pas exactement où sont les bras dans l'espace, mais les bras savent où sont les autres, ce qui leur permet de coordonner leurs actions, comme la locomotion à quatre pattes."

L'équipe a donné aux céphalopodes une variété d'objets tels que des blocs de cendres, des roches texturées, des pièces de Lego et des labyrinthes complexes contenant des friandises, et les a filmés.

Les chercheurs ont également utilisé des techniques de suivi comportemental et d'enregistrement neuronal. Il s'agissait de déterminer comment l'information circule dans le système nerveux d'une pieuvre au fur et à mesure qu'elle se nourrit ou est sondée/étudiée, selon que les bras fonctionnent soit en synchronisation, ce qui suggère un contrôle central, ou seuls, ce qui signifie une prise de décision indépendante.

Ils ont constaté que lorsque les ventouses de la pieuvre acquièrent de l'information sensorielle et motrice de leur environnement, les neurones du bras peuvent la traiter et passer à l'action. Le cerveau n'a rien à faire.

"On voit beaucoup de petites décisions prises par ces ganglions distribués, simplement en regardant le bras bouger, donc une des premières choses que nous faisons est d'essayer de décomposer à quoi ressemble réellement ce mouvement, d'un point de vue informatique", dit M. Gire.

"Ce que nous examinons, plus que ce qui a été étudié dans le passé, c'est comment l'information sensorielle est intégrée dans ce réseau pendant que l'animal prend des décisions complexes."

Tout ceci est conforme aux recherches antérieures, qui ont révélé que non seulement les bras de la pieuvre se nourrissent indépendamment du cerveau, mais qu'ils peuvent continuer à répondre aux stimuli même après avoir été séparés d'un animal mort.

C'est tellement étonnant que les poulpes sont souvent considérés comme aussi proches de l'extraterrestre qu'une intelligence terrestre puisse l'être (et dans certaines propositions, peut-être même carrément extraterrestre).
Il est donc considéré comme non seulement utile de les étudier pour comprendre l'intelligence sur Terre, mais peut-être aussi comme un moyen de se préparer à la rencontre avec des aliens intelligents - si cela arrive un jour.

"C'est un modèle alternatif pour une intelligence" dit Sivitilli. "Qui nous donne une compréhension de la diversité des cognitions dans le monde, et peut-être dans l'Univers.

Les recherches de l'équipe ont été présentées à la Conférence scientifique d'astrobiologie 2019.

Auteur: Internet

Info: Michelle Starr, 26 juin 2019, https://www.sciencealert.com

[ externalisation cérébrale ]