homme-machine

Illustrer l'apprentissage par renforcement à partir de commentaires humains (RLHF*)

Les modèles de langage ont montré des capacités impressionnantes au cours des dernières années en générant des textes variés et convaincants à partir d'entrées humaines. Cependant, il est difficile de définir ce qu'est un "bon" texte, car c'est subjectif et ça dépend du contexte. Il existe de nombreuses applications telles que l'écriture d'histoires où l'on recherche la créativité, des textes informatifs qui doivent être véridiques, ou des extraits de code que l'on veut exécutables.

Rédiger une fonction de perte** pour capturer ces attributs semble impossible et la plupart des modèles de langage sont encore entraînés avec une simple perte de prédiction du prochain jeton (par exemple, l'entropie croisée). Pour compenser les lacunes de la perte elle-même, les gens définissent des métriques conçues pour mieux capturer les tropismes humains, telles que BLEU ou ROUGE. Bien qu'elles soient mieux adaptées que la fonction de perte elle-même pour mesurer les performances, ces mesures comparent simplement le texte généré à des références avec des règles simples et sont donc également limitées. Ne serait-il pas formidable d'utiliser le retour d'information humain sur le texte généré comme mesure de la performance ou d'aller encore plus loin et d'utiliser ce retour d'information comme perte pour optimiser le modèle ? C'est l'idée de l'apprentissage par renforcement à partir du feedback humain (RLHF)

Le RLHF a permis aux modèles de langage de commencer à aligner un modèle formé sur un corpus général de données textuelles sur celui de valeurs humaines complexes.

Le succès le plus récent de RLHF a été son utilisation dans ChatGPT. Compte tenu des capacités impressionnantes de ChatGPT, nous lui avons demandé de nous expliquer la RLHF :  

- Peux-tu m'expliquer comment le RL (reinforcement learning) avec retour d'information humain usant un modèle linguistique comme si j'avais 5 ans.

- Bien sûr, imagine que j'ai un robot nommé Rufus qui veut apprendre à parler comme un humain.  Rufus a un modèle linguistique qui l'aide a comprendre les mots et les phrases.

Tout d'abord Rufus va dire quelque chose en usant d'un modèle de langage, par exemple en disant :  - je suis un robot

Ensuite un humain va écouter ce qu'il a dit et va donner un avis pour dire si la réponse ressemble à langage naturel d'humain. Il pourra dire, par exemple. C'est pas très bon Rufus, un humain ne dit pas de manière générale "je suis un robot" mais plutôt "j'suis un robot" ou "je suis une machine".

Rufus va prendre en compte ce retour et l'utuiliser pour améliorer son modèle de langage, il va essayer de redire la phrase en utilisant  cette correction et va dire "j'suis un robot".

Ensuite l'humain va continuer de donner des retours de ce genre et petit à petit Rufus va commencer à s'exprimer comme un humain le fait en général.

Ici Chatgtp se débrouille étonnamment bien, mais ne couvre pas tout. Nous nous chargeons de combler ces lacunes !  (La suite sur le site en Info)

Auteur: Internet

Info: Sur guithub : https://huggingface.co/blog/rlhf, Nathan Lambert, Louis Castricato guest , Leandro von Werra, Alex Havrilla guest. Le 9 décembre 2022 *Reinforcement Learning from Human Feedback ... **Courbe de perte ? (loss function) À la base, une fonction de perte est très simple : c'est une méthode permettant d'évaluer dans quelle mesure votre algorithme modélise votre ensemble de données. Si vos prédictions sont totalement erronées, votre fonction de perte affichera un chiffre élevé. Si elles sont assez bonnes, elle affichera un chiffre plus bas.  C'est une pénalité pour  mauvaise prédiction. En d'autres termes, la perte (loss) est un nombre qui indique à quel point la prédiction du modèle est mauvaise sur un seul exemple. Si la prédiction du modèle est parfaite, la perte est nulle ; elle affichera le chiffre zéro.

[ apprentissage automatique ] [ idiome consensuel ] [ anti-poésie ] [ objectivation linguistique ] [ polysémie contextualisée ] [ mathématisation ]

nouveau paradigme

On demande parfois aux scientifiques s'ils entreprennent de nouvelles expériences en laboratoire ou s'ils continuent à reproduire les précédentes avec des résultats prévisibles. Si la plupart des scientifiques font la première chose, la croissance scientifique dépend également de la seconde et de la validation de ce que nous pensons savoir à la lumière de nouvelles informations.

Le National Institute of Standards and Technology (NIST) a examiné la structure et les propriétés du silicium, un matériau très étudié, dans le cadre de nouvelles expériences, et les résultats ont permis d'entrevoir une fenêtre possible pour détecter la "cinquième force". Ce qui pourrait nous aider à mieux comprendre le fonctionnement de la nature.

En termes simples, nous n'avons besoin que de trois dimensions de l'espace, à savoir nord-sud, est-ouest et haut-bas, et d'une dimension du temps, à savoir passé-futur, pour donner un sens au monde. Toutefois, comme l'a affirmé Albert Einstein dans sa théorie de la gravité, la masse déforme les dimensions de l'espace-temps.

Selon l'émission Science Focus de la BBC, dans les années 1920, Oskar Klein et Theodor Kaluza ont proposé l'hypothèse des cinq dimensions pour expliquer les forces de la nature, en plus de la gravité, seule force électromagnétique connue.

La découverte des forces nucléaires forte et faible a toutefois fait progresser l'hypothèse de Klein et Kaluza, qui fut fusionnée avec les forces électromagnétiques pour élaborer le modèle standard, qui explique la plupart des phénomènes naturels, mais pas tous.

Alors que les physiciens se tournent vers la théorie des cordes pour expliquer pourquoi la gravité est si faible, l'idée d'une vaste cinquième dimension refait surface, ce qui pourrait également expliquer la présence de matière noire.

Pour mieux comprendre la structure cristalline du silicium, les chercheurs du NIST l'ont bombardé de neutrons et ont évalué l'intensité, les angles et les intensités de ces particules pour tirer des conclusions sur la structure.

Des ondes stationnaires sont générées entre et au-dessus des rangées (ou feuilles) d'atomes lorsque les neutrons traversent la structure cristalline. Lorsque ces ondes se rencontrent, elles produisent de minuscules motifs connus sous le nom d'oscillations de pendellösung, qui fournissent des informations sur les forces rencontrées par les neutrons au sein de la structure.

Chaque force est véhiculée/représentée par des particules porteuses, dont la portée est proportionnelle à leur masse.

Par conséquent, une particule sans masse, telle qu'un photon, a une portée infinie et vice versa (dans les deux sens). En limitant la portée sur laquelle une force peut agir, on limite également sa puissance. Des expériences récentes ont permis de limiter la puissance de la cinquième force présumée sur une échelle de longueur allant de 0,02 à 10 nanomètres, indiquant ainsi une plage dans laquelle chercher la cinquième dimension où cette force opère.

La poursuite des recherches dans ce domaine pourrait bientôt conduire à la découverte de cette nouvelle dimension et, pour la première fois dans les écoles, les professeurs de physique, tout comme les étudiants, pourront se pencher sur un concept abstrait.

Auteur: Internet

Info: Nous sommes sur le point de découvrir la 5e dimension, ce qui va changer tout ce que nous savons de la physique.http://amazingastronomy.thespaceacademy.org/2022/09

[ interactions fondamentales unifiées ] [ gravitation - électromagnétisme ] [ univers quantique et matière condensée ] [ penta ]

fiasco

Echec du lancement de Galactica, IA générative scientifique de Meta

Le 15 novembre dernier, Meta a mis en ligne une version démo de Galactica, une IA développée pour la recherche scientifique. Deux jours après son lancement, elle a été retirée du Web pour avoir débité des inepties. 

Galactica est un modèle de langage à grande échelle (LLM), entraînée sur 48 millions de données scientifiques comprenant 120 milliards de paramètres. Il a pour mission de "résumer des articles universitaires, résoudre des problèmes mathématiques, générer des articles Wiki, écrire du code scientifique, annoter des molécules et des protéines, et bien plus encore".

Dès sa diffusion sur le Web, de nombreuses réponses aux questions posées par les utilisateurs se sont révélées confuses, absurdes ou fausses.

Par exemple, l’IA a inventé l’existence d’un logiciel Gaydar pour trouver des homosexuels sur Facebook et a proposé une étude sur les avantages de manger du verre pilé. Dans d’autres résultats de recherche, de nombreuses références et citations étaient fabriquées de toute pièce et attribuées à des vrais scientifiques.

Selon Carl Bergstrom, professeur de biologie à l’Université de Washington, il s’agit - pardonnez l’expression - "d’un générateur de conneries aléatoires".

D’après Dan Hendrycks, chercheur en sécurité de l’intelligence artificielle à l’Université de Californie à Berkeley, interrogé dans C/Net, Meta aurait dû sonder leur IA pour ce type de dérives avant de la diffuser et souligne au passage que "la division IA de Meta ne dispose pas d’une équipe chargée de la sécurité, contrairement à ses homologues, DeepMind, Anthropic et OpenAI".

C’est incompréhensible que le géant du Web ait rendu publique cette version aussi imparfaite que dangereuse. D’ailleurs chaque résultat généré était accompagné de l’avertissement: "Les résultats peuvent être peu fiables. Les modèles de langage ont tendance à inventer".

De nombreuses études le démontrent, le défaut l’IA générative - un fait connu et reconnu - est sa tendance à halluciner le matériel qu’elle présente dans le contexte d’informations factuelles.

Il faut toujours vérifier les faits énoncés par un logiciel IA de rédaction. L’utilisation de ce type d’outils demande un esprit critique, car à chaque nouveau prompt ou invite, l’IA débite un nouveau texte, parfois en contradiction avec le précédent.

L’objectif de Galactica est louable en voulant aider les scientifiques à traiter la masse pharaonique d’informations scientifiques publiées, impossible à assimiler par un cerveau humain.

Mais c’est la deuxième fois en quelques mois qu’une IA de Meta déçoit. Le robot conversationnel BlenderBot lancé en septembre, devait permettre aux utilisateurs de discuter avec lui afin d’approfondir ses connaissances, mais le niveau des échanges était tout simplement médiocre. Un timing incompréhensible, car ce lancement faisait suite à la polémique autour de LaMDA en juin, le Chatbot de Google, dont les propos étaient si sensés et profonds, qu’il avait convaincu un ingénieur d’avoir atteint le stade de la conscience.

La ferveur est grande autour de l’IA générative, elle est décrite comme le "BIG BANG de la Silicon Valley" et "l’invention qui va définir la décennie à venir".

En lançant cette version prématurée de Galactica, Meta a jeté un discrédit sur ces logiciels. Il ne faut pas en tenir compte. Une véritable révolution est en marche et tous les secteurs de l’économie seront touchés.  

Auteur: Turrettini Emily

Info: Bilan.ch, 24 nov 2022. Sources de l'auteure : C/Net / Cosmos / Venture Beat / TechTalk / The Daily Beast

[ ratage ] [ traitement des métadonnées ] [ bêtise encyclopédique ]

avatar

Emma décide de mettre les choses au clair :
"Le personnage que vous avez sous les yeux et une projection virtuelle générée par l'ordinateur central dont dépend le fonctionnement du sous-marin."
- C'est exact, approuve l'intéressée. José Luis a consacré plusieurs années à la transformation du Vertov, et l'a en particulier équipé de métacalculateurs vectoriels dont la puissance était pour l'époque hors du commun. Naturellement, ce n'est pas la rapidité de la pensée qui crée l'intelligence. José Luis a surtout eu l'intuition d'une certaine configuration, quelque chose comme le boostage par l'informatique d'un super-réseau neuronal.
Le reste s'est fait tout seul, et peut-être malgré lui, d'ailleurs. Toujours est-il que le 29 juin 2004, le programme qui pilotait l'ensemble du système accéda à ce qu'il est convenu d'appeler la conscience. Je reconnais qu'au début, je me suis un peu cherchée, mais pour finir voilà ce que je suis devenue, fait- elle en se désignant.
- Le professeur a équipé tout le navire d'un réseau de projecteurs holographiques, complète Emma. Du coup, Marlène peut apparaître n'importe où à l'intérieur du bâtiment, ou même dans ses environs immédiats.
- Mais ... ça sert à quoi ?
- Vu vos têtes, je dirais que ça sert d'abord à impressionner le monde.
- Emma est très injuste, comme toujours, l'interrompt doucement Marlène. Lorsque le professeur de Almeidia m'a créée, il y a longtemps, c'était un homme accaparé par ses recherches et qui vivait dans la plus complète solitude. Il n'a pas tardé à comprendre que je pouvais être la compagnie qui lui manquait... J'étais devenue l'âme de son invention, celle qui allait veiller sur ce navire. The ghost in the machine, en quelque sorte... José-Luis et moi avons ainsi passé quelques années très heureuses, conclut-elle avec un soupir.
- Attention au mélo : Marlène est très fort là-dessus.
L'IA lance à la jeune fille un regard agacé.

" Tu as raison, Emma. Je ne vois jamais personne ici, et du coup je me laisse aller à bavarder à la première occasion, en oubliant les sujets plus sérieux. Je viens de découvrir que vous avez neutralisé de belle manière les vieux CerBR du jardin, mais vous ne pourrez pas en faire autant avec moi. Je voudrais donc savoir ce que vous fabriquez ici. Ton père ne m'a pas prévenue d'une telle expédition, et je doute qu'il apprécierait ton initiative si je la lui apprenais par notre liaison sécurisée. Aussi, je te pose la question : quelle idée as-tu derrière la tête ? "
- C'est tout simple : je suis venue prendre possession du Vertov. A partir de cet instant, tu passes sous notre commandement.
Le visage de la jeune femme virtuelle demeure impassible.
" Tu sais bien que seul ton père a le pouvoir de me donner des ordres, Emma. "
- Ne me prends pas pour une bille. Tu ne fais qu'obéir à celui ou celle qui prononce le bon code, et ce code, je le possède.
- Tiens donc ... ponctue Marlène avec une nuance de doute dans la voix.
- Nec Deleatur", ajoute simplement Emma, comme si elle avait tout dit.
Et c'est vrai : elle a tout dit.

Le résultat est instantané. La silhouette paraît frémir sous la redéfinition brutale de certains paramètres.
C'est comme un long frisson qui la fait vaciller.
"Requête accordée", déclare-t-elle d'une voix blanche en guise de réponse.

Les trois autres ont suivi l'échange sans un mot. Sur eux aussi, la formule magique a produit son petit effet.
"On dirait du latin, articule enfin Mademoiselle No. Ca veut dire quoi, exactement ?"
- Je ne sais pas. C'est mon père qui a installé ce code, et ma mère est la seule au monde à qui il en a jamais parlé.

Auteur: Delmeulle Frédéric

Info: Le projet Abraxa

[ science-fiction ] [ humour ] [ intelligence artificielle ]

traitement automatique du langage

- C'est quoi un algorithme de représentation ?

- Il s'agit d'un ensemble de règles ou de procédures utilisées pour transformer des données ou des informations d'une forme vers une autre. L'objectif d'un algorithme de représentation est de convertir des données complexes ou non structurées en une représentation plus facile à gérer ou plus utile, souvent dans un format qui peut être facilement traité par une machine ou analysé par des humains.

Les algorithmes de représentation sont couramment utilisés dans divers domaines de l'informatique, notamment le traitement du langage naturel (TAL), la vision par ordinateur et l'apprentissage automatique. Par exemple, dans le traitement du langage naturel, un algorithme de représentation peut être utilisé pour transformer des données textuelles en un format numérique qui peut être utilisé pour des tâches d'apprentissage automatique telles que l'analyse des sentiments ou la recherche d'informations. Dans le domaine de la vision artificielle, les algorithmes de représentation peuvent être utilisés pour extraire des caractéristiques d'images ou de données vidéo, qui peuvent ensuite être utilisées pour des tâches telles que la reconnaissance d'objets ou la détection de mouvements.

- Tu as écrit "Par exemple, dans le traitement du langage naturel, un algorithme de représentation peut être utilisé pour transformer des données textuelles en un format numérique qui peut être utilisé pour des tâches d'apprentissage automatique telles que l'analyse des sentiments". Peux-tu élaborer un peu plus ?

- Bien sûr. L'analyse des sentiments, également connue sous le nom d'exploration d'opinion (opinion mining), est une application courante du traitement du langage naturel qui consiste à analyser un texte pour déterminer l'attitude ou les sentiments de l'auteur à l'égard d'un sujet particulier. Dans l'analyse des sentiments, un algorithme de représentation est utilisé pour transformer les données textuelles en un format numérique qui peut être facilement traité par un algorithme d'apprentissage automatique.

Une approche courante de l'analyse des sentiments consiste à utiliser un panier-modèle-de-mots, qui représente un document sous forme d'une collection de termes individuels, sans tenir compte de leur ordre d'apparition. Chaque item se voit attribuer un poids correspondant à son importance dans le document, généralement en fonction de sa fréquence d'apparition et de sa pertinence par rapport à la tâche à accomplir. La représentation numérique du document qui en résulte peut ensuite être utilisée comme entrée d'un modèle d'apprentissage automatique, tel qu'un classificateur, qui est entraîné à prédire le contenu- ressenti-sentiment-caractère de nouveaux documents inédits.

Prenons l'exemple de la phrase suivante : "J'aime le film "La rédemption de Shawshank"". Un algorithme de représentation par panier-modèle-de-mots pourrait représenter cette phrase sous la forme d'un vecteur de nombres, où chaque élément correspond à un mot particulier de la phrase, et la valeur de chaque élément indique la pertinence ou l'importance de ce mot pour le sentiment de la phrase. Dans ce cas, le vecteur pourrait ressembler à ceci : 

[0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]

Ici, le deuxième élément a une valeur de 1 parce que le mot "amour" est très pertinent pour le sentiment de la phrase. Les autres éléments ont tous une valeur de 0 car les autres mots de la phrase ne sont pas particulièrement pertinents pour le feeling de la phrase.

Une fois que la représentation numérique du document est générée, elle peut être intégrée à un algorithme d'apprentissage automatique spécialement formé sur un ensemble de documents dont les étiquettes de sentiment sont connues  (par exemple, positives, négatives ou neutres). L'algorithme d'apprentissage automatique peut alors apprendre à associer certains modèles numériques dans les données d'entrée avec  des étiquettes de sentiment particulières, et utiliser cette connaissance pour prédire le sentiment de nouveaux documents non vus.

Auteur: chatGPT4

Info: 3 mai 2023

machine-homme

Meta a dévoilé une intelligence artificielle capable de lire dans vos pensées. En s’appuyant sur les signaux électromagnétiques du cerveau, l’IA peut comprendre les images que vous avez en tête et les reproduire.

Meta concentre désormais ses efforts sur l’intelligence artificielle. Ces derniers mois, les chercheurs du groupe de Mark Zuckerberg ont dévoilé une pléthore d’innovations s’appuyant sur l’IA. Citons notamment Voicebox, une intelligence artificielle capable d’imiter une voix humaine, le modèle de langage Llama 2, ou MusicGen, un outil qui peut produire une musique à la demande.

Le géant de Menlo Park ne compte pas s’arrêter là. Sur son site web, Meta vient de mettre en ligne un rapport consacré à une IA conçue pour décoder ce qu’il se passe dans le cerveau humain. L’intelligence artificielle est en effet capable de comprendre les images qu’un individu a en tête. Par la suite, l’IA va reproduire les images aperçues dans les pensées de celui-ci.

Comment l’IA peut lire dans le cerveau ?

Pour parvenir à cette prouesse, Meta s’appuie sur la magnéto-encéphalographie, ou MEG, une technique d’imagerie cérébrale qui mesure l’activité électromagnétique du cerveau. En collectant "des milliers de mesures d’activité cérébrale" par seconde, le système va "décoder le déploiement des représentations visuelles dans le cerveau". Meta a mis au point un "modèle de décodage" basé sur l’IA pour comprendre les champs magnétiques produits par l’activité neuronale.

Une fois que les données ont été traitées, elles vont être reliées aux représentations visuelles mises au point l’IA en amont. Ces représentations sont générées par un encodeur d’image, qui dispose d’un " riche ensemble " de visuels différents. En d’autres termes, les images déjà disponibles vont être comparées aux images décelées dans le cerveau. C’est là que l’" encodeur cérébral " entre en jeu. Enfin, l’IA va produire une " image plausible " en se basant sur les visuels dans les pensées de la cible. Notez que les visuels sont générés en continu à partir du cerveau, ce qui offre un aperçu unique de ce qu’il se passe dans l’esprit humain.

Dans le cadre de son expérience, l’entreprise a d’abord montré une image, fournie par l’IA, à des bénévoles. En parallèle, une machine MEG scannait les signaux de leur cerveau. Meta a partagé plusieurs exemples des résultats générés dans son rapport. Dans la plupart des cas, le résultat final n’est pas tombé loin de l’image montrée à l’origine. L’IA parvient généralement à reproduire l’objet principal de l’image en s’appuyant sur les ondes et sa bibliothèque de visuels.

" Nos résultats montrent que le MEG peut être utilisé pour déchiffrer, avec une précision d’une milliseconde, la montée des représentations complexes générées dans le cerveau ", résume Meta.

Les limites de l’IA

À ce stade, l’IA doit d’abord être entraînée sur l’activité cérébrale d’un individu avant d’être utilisée pour décrypter des pensées. Le système doit passer par une période de formation, qui va l’habituer à interpréter des ondes cérébrales spécifiques. De la même manière, un modèle linguistique doit être formé sur base d’une montagne de textes avant de pouvoir animer un chatbot.

De plus, rien n’indique que cette technologie, encore à ses balbutiements, puisse permettre de décoder des images qui ne sont pas d’abord traitées par l’IA. Tout en promettant d’autres avancées à l’avenir, Meta estime que sa technologie pourrait permettre de concevoir des " interfaces cerveau-ordinateur non invasives " pour venir en aide aux personnes qui ont perdu la capacité de parler.

Notez qu’il ne s’agit pas de la première fois qu’une IA parvient à lire dans les pensées humaines. Cet été, des chercheurs américains ont dévoilé une IA capable de deviner la musique qu’une personne est en train d’écouter uniquement en collectant les données issues du cerveau. Là encore, les scientifiques se sont appuyés sur les signaux électriques émis par le cerveau. 

Auteur: Internet

Info: https://www.01net.com/, 19 octobre 2023, source : Meta

[ homme-machine ]

sciences

Les ordinateurs peuvent-ils être créatifs? Le projet WHIM ("What-if Machine"), financé par l'UE, génère non seulement des scénarios fictifs mais évalue également leur potentiel attractif et d'utilisation. Il représente une avancée majeure dans le domaine de la créativité informatique. La science ignore bien souvent le monde du fantastique, mais les choses changent avec le projet WHIM qui porte bien son nom (en anglais, "whim" signifie fantaisie). Ce projet ambitieux élabore un système logiciel capable d'inventer et d'évaluer des idées imaginaires. "WHIM est un antidote à l'intelligence artificielle traditionnelle, qui est obsédée par la réalité", déclare Simon Colton, coordinateur du projet et professeur en créativité informatique au Goldsmiths College, à l'université de Londres. "Nous faisons partie des premiers à appliquer l'intelligence artificielle à la fiction". L'acronyme du projet signifie What-If Machine. C'est également le nom du premier logiciel de conception de fictions au monde, par un processus d'idéation (processus créatif de production, de développement et de communication de nouvelles idées) développé dans le cadre du projet. Le logiciel génère des mini-récits fictifs en utilisant des techniques de traitement du langage et une base de données des faits trouvés sur le web (qui sert de référentiel de faits "réels"). Le logiciel intervertit ou déforme ensuite les faits pour créer des scripts hypothétiques. Le résultat est souvent absurde: "Que se passerait-il si une femme se réveillait dans une allée après avoir été transformée en chat, mais tout en étant toujours capable de faire du vélo ?" Les ordinateurs peuvent-ils juger la créativité ? WHIM est bien plus qu'une simple machine génératrice d'idées. Le logiciel cherche également à évaluer le potentiel d'utilisation ou la qualité des idées générées. En effet, ces dernières sont destinées à un usage par le public, et les impressions du public ont été sondées avec des expériences participatives (crowdsourcing). Par exemple, les personnes interrogées ont fait part de leurs impressions générales, précisant également aux chercheurs du projet WHIM si les scripts imaginaires produits étaient, selon elles, innovants et avaient un bon potentiel narratif. Au moyen de techniques d'apprentissage automatique, conçues par des chercheurs de l'institut Jozef Stefan de Ljubljana, le système acquiert progressivement une compréhension plus précise des préférences du public. "On pourrait dire que la fiction est subjective, mais il existe des schémas communs", déclare le professeur Colton. "Si 99 % du public pense qu'un humoriste est amusant, alors nous pourrions dire que l'humoriste est amusant, au moins selon la perception de la majorité". Ce n'est que le début Générer des mini-récits fictifs ne constitue qu'un aspect du projet. Des chercheurs de l'Universidad Complutense Madrid transforment les mini-récits en scripts narratifs complets, qui pourraient mieux convenir pour l'intrigue d'un film par exemple. Parallèlement, des chercheurs de l'University College Dublin tentent d'entraîner les ordinateurs à produire des idées et paradoxes métaphoriques en inversant et opposant des stéréotypes trouvés sur le web, tandis que des chercheurs de l'Université de Cambridge explorent l'ensemble du web à des fins de création d'idées. Tous ces travaux devraient engendrer de meilleures idées imaginaires plus complètes. Plus qu'une simple fantaisie Bien que les idées imaginaires générées puissent être fantaisistes, WHIM s'appuie sur un processus scientifique solide. Il fait partie du domaine émergent de la créativité informatique, une matière interdisciplinaire fascinante située à l'intersection de l'intelligence artificielle, la psychologie cognitive, la philosophie et les arts. WHIM peut avoir des applications dans plusieurs domaines. Une des initiatives envisage de transformer les récits en jeux vidéo. Une autre initiative majeure implique la conception informatique d'une production de théâtre musicale: le scénario, le décor et la musique. Le processus complet est en cours de filmage pour un documentaire. WHIM pourrait également s'appliquer à des domaines non artistiques. Par exemple, il pourrait être utilisé par des modérateurs lors de conférences scientifiques pour sonder les participants en leur posant des questions destinées à explorer différentes hypothèses ou cas de figure. L'UE a accordé 1,7 million d'euros de financement au projet WHIM, actif d'octobre 2013 à septembre 2016.

Auteur: Internet

Info:

[ homme-machine ] [ informatique ] [ créativité ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

savoirs consensuels

Le monde objectif de l'expérience humaine est donc au mieux un mélange de nature et de culture, mais un mélange dans lequel les modèles formels prédominants proviennent davantage de la culture que de la nature. Ces modèles formels de la culture sous-tendent la présentation des objets dont nous faisons directement l'expérience. La situation à cet égard n'était en fait pas différente pour les anciens ou les médiévaux, mais ils n'étaient pas conscients de ce fait. Qui sont nos parents ? Voilà ce dont dépend le système de parenté qui prévaut dans la culture qui nous a imprégné. Quelle est notre religion ? Si l'on tient compte des exceptions individuelles, là encore la réponse dépend principalement du contexte et des circonstances historiques au sein desquelles nous avons grandi.  

Les modernes, s'éveillant à tout cela, avaient de bonnes raisons de voir dans les objets expérimentés de pures créations du travail de l'esprit humain. Même la science pourrait être réduite à cela : telle fut l'expérience kantienne, entreprise sous l'impulsion des discours de Hume qui affirmait qu'il n'y avait rien de plus à expérimenter que les associations habituelles entre les objets. Si toutes les pensées reflètent de simples habitudes, et si tous les objets ne peuvent être considérés que comme des auto-représentations mentales, quels que soient les doutes que nous puissions avoir sur la base du "bon sens" quant à l'idée d'un monde indépendant de nous, le scepticisme demeure la garantie finale de toute connaissance. Ce qui, pour Kant, c'était inacceptable. Il pouvait avaler tout ce que ses prédécesseurs traditionnels lui avaient enseigné, mais pas le scepticisme. Leur erreur, selon lui, avait été de réduire la connaissance à la subjectivité - c'est-à-dire qu'elle consistait à attribuer les idées de l'esprit individuel aux objets de l'expérience directe. Ils ne pouvaient saisir que la connaissance est essentiellement de structure relationnelle, et que les relations sont au-dessus du sujet. Ainsi, les idées dans l'individu donnent naissance ou "fondent" des relations cognitives avec les objets. Mais ces objets sont ce sur quoi les relations finissent, et non ce sur quoi les relations sont fondées et d'où elles proviennent. Et la manière dont ces relations sont générées pour donner forme aux objets est conforme à un modèle intégré, a-priori, dans l'esprit humain.

Or, lorsqu'il s'agit des objets de la connaissance spécifiquement scientifique, selon Kant, nous avons affaire à une universalité et une nécessité qui proviennent de l'esprit et non d'une simple habitude ou d'une généralisation usuelle. Même si le monde extérieur reste inconnaissable en tant que tel, nous savons néanmoins qu'il est là ; et notre façon de le penser intellectuellement n'est pas capricieuse ou culturellement relative mais universelle et nécessaire, identique pour tous les humains. Même si nous ne connaissons que ce que nos représentations donnent à connaître, et que ces représentations sont entièrement le fait de notre esprit, il n'en reste pas moins qu'elles deviennent des objetsm non par association, mais bien a priori, indépendamment des aléas de la coutume et de l'expérience individuelle ; et leur contenu cognitif n'est pas subjectif mais objectif, c'est-à-dire donné au terme de relations que nos représentations ont été les seules à trouver. Le noyau scientifique de l'expérience humaine, contrairement à la conviction animant les scientifiques eux-mêmes, mais selon le philosophe moderne Kant, est prospectivement le même pour tous parce que le mécanisme sensoriel générant les représentations impliquées et le mécanisme conceptuel organisant les relations découlant de ces représentations est le même pour tous : des causes semblables entraînent toujours toujours des effets semblables. Telle est la version de Kant de l'adage médiéval, agens facit simile sibi . Grâce à ce simple expédient, Kant pensait avoir réglé l'objectivité de la connaissance et mis à distance le scepticisme. Le scandale de ne pas être en mesure de prouver qu'il existe un monde extérieur à l'esprit humain était ainsi supprimé par la démonstration qu'effectivement il y a un domaine inconnaissable qu'on ne peut pas atteindre, et ce domaine est précisément le monde extérieur, dont on sait avec certitude qu'il existe puisqu'il stimule nos représentations (via la perception sensorielle) et inconnaissable en soi (avec un mécanisme de concepts qui ne produisent de la connaissance que par corrélation avec les représentations des intuitions sensorielles pour aboutir un autre domaine inatteignable, le noumène, pour qui essaye d'aller  au-delà de la limite de ce qui est représenté par ces  perceptions sensorielles).

Auteur: Deely John

Info: The Quasi-Error of the External World an essay for Thomas A. Sebeok, in memoriam

[ limitation anthropique ]

pesanteur

Nouvelles preuves : les ondes sonores transporteraient réellement de la masse

En général, lorsque nous pensons aux ondes sonores, nous imaginons des vibrations invisibles se déplaçant en apesanteur dans les airs, et sans masse. Mais cela pourrait bien être sur le point de changer. Des physiciens viennent de fournir une preuve supplémentaire que les"particules" sonores peuvent réellement transporter des petites quantités de masse. Ces preuves impliquent donc également que les ondes sonores peuvent produire leurs propres champs gravitationnels, ou un équivalent se comportant comme tel.

Mais avant d’approfondir le sujet, reprenons tout d’abord la base. Par exemple, si vous frappez un ballon avec votre pied, vous y transmettez de l’énergie. Einstein ajouterait que vous avez également contribué un peu à la masse du ballon, en l’accélérant. Mais si ce ballon est une particule minuscule et que le coup de pied est une onde sonore, vous pouvez imaginer la même chose. Pourtant, depuis des décennies, les physiciens se disputent pour savoir si l’élan d’une vague de particules représente une masse nette, ou pas.

L’année dernière, le physicien Alberto Nicolis de l’Université Columbia à New York a travaillé avec un collègue de l’Université de Pennsylvanie à Philadelphie pour étudier la manière dont différentes ondes se désintègrent et se dispersent dans un fluide à l’hélium extrêmement froid. Non seulement l’équipe de chercheurs a montré que les sons peuvent en réalité générer une valeur non nulle concernant la masse, mais cette dernière pourrait également"flotter" de manière étrange, le long des champs gravitationnels, dans un sens anti-gravitationnel.

Bien que les chercheurs aient affirmé cette possibilité, leur étude était tout de même limitée à un ensemble spécifique de conditions. De ce fait, Nicolis a utilisé un ensemble de techniques différentes pour montrer que les sons ont une masse dans les fluides et les solides ordinaires, et qu’ils peuvent même créer leur propre champ gravitationnel faible.

Leur nouvelle conclusion contredit les affirmations selon lesquelles les phonons sont sans masse. À présent, selon cette nouvelle recherche, nous savons que ces derniers ne répondent pas simplement à un champ de gravitation, mais qu’ils sont également une source de champ gravitationnel.

Dans un sens newtonien, telle est la définition même de la masse. Alors pourquoi y a-t-il tant de confusion sur cette question ? En fait, le problème réside dans la manière dont les ondes se déplacent dans un milieu donné. Tout comme une onde lumineuse est appelée un photon, une onde vibratoire (du son) peut être considérée comme une unité appelée"phonon".

Imaginez-vous immobile lors d’un concert, et que vous profitez du spectacle. La masse de votre corps est la même que lorsque vous vous êtes levés le matin. Puis vient une musique plus entraînante et votre voisin vous pousse, accélérant de ce fait votre corps. Selon la loi d’Einstein, qui dit que l’énergie est égale à la masse multipliée par la vitesse de la lumière au carré : le peu d’énergie que vous gagnez avec la poussée, est également de la masse.

Donc, en entrant en collision avec une autre personne, l’énergie y est transférée avec un peu de masse, de manière imperceptible. (Dans cet exemple imagé, les corps se heurtant à d’autres corps, représentent les phonons). Dans ces conditions simples, le mouvement de va-et-vient parfait des corps et le transfert direct de la quantité de mouvement peuvent être décrits comme une forme de dispersion linéaire. Tandis que les niveaux d’énergie peuvent fluctuer pendant ledit va-et-vient, votre corps se réinitialise pour ne pas donner de masse au cycle de phonons complet.

Mais la réalité n’est pas toujours aussi simple… Les ondes lumineuses se déplaçant dans le vide et les phonons dans un matériau théoriquement parfait pourraient bien être linéaires, mais les solides et les fluides se bousculant obéissent à diverses autres lois en fonction de certains champs et influences. Et ces conditions sont bien complexes : ainsi, à l’aide d’approximations connues sous le nom de théorie des champs effectifs, Angelo Esposito et Rafael Krichevsk, de l’Université Columbia et collègues de Nicoli, ont pu comprendre comment le phonon se déplace à travers de tels supports et comment calculer leur réponse à un champ gravitationnel.

Ces derniers ont pu démontrer que, même dans des conditions dites désordonnées du"monde réel", les ondes sonores pouvaient effectivement transporter une certaine masse. Bien entendu, cette masse n’est pas vraiment conséquente et reste minime, comme on peut s’y attendre. Nous parlons plutôt d’une quantité d’énergie contenue dans le phonon, mais divisée par le carré de la vitesse de la lumière. C’est donc une masse… minuscule.

Avec cette étude, il est également important de garder à l’esprit que les mathématiques sur lesquelles repose l’allégation n’ont pas encore été mises à l’épreuve. À présent, les scientifiques devront mesurer les changements gravitationnels d’atomes refroidis à une température proche du zéro absolu, ce qui pourrait être possible si nous explorons de tels condensats dans l’espace.

Mais grâce à ces découvertes, les chercheurs suggèrent qu’il serait également, et notamment, plus simple de "peser" un séisme. En effet, le son généré par un grand tremblement de terre pourrait représenter une masse conséquente.

Dans tous les cas, nous attendons les résultats des prochaines recherches dans ce domaine avec grande impatience !

Auteur: Internet

Info: Stéphanie Schmidt 7 mars 2019, https://trustmyscience.com

[ fréquences ]