garde-fou

Technologie : Tim Berners Lee, père fondateur du web, s’inquiète de l’évolution de l’écosystème menacé aujourd’hui par la montée en puissance des acteurs commerciaux, qui tirent parti de la manipulation d’information pour vendre plus au détriment des internautes.
Tim Berners Lee n’est pas tout à fait serein. Le Britannique, généralement considéré comme l’un des inventeurs du web, s’est en effet confié dans les pages du Guardian. Il y fait part de son inquiétude grandissante face aux menaces qui pèsent sur le web, notamment celles exercées par les grandes entreprises et opérateurs télécoms qui s’adonnent à la "manipulation" des internautes.
"Le système ne fonctionne pas. La façon dont le business de la publicité fonctionne est entièrement basée sur le clickbait et ne vient pas remplir l’objectif initial du web, qui était de promouvoir la vérité et la démocratie. Je suis donc inquiet" confie Tim Berners Lee, qui avoue néanmoins n’avoir pas perdu toute trace de son optimisme. Le chercheur prend simplement acte des récents phénomènes de manipulation via la publicité, qui ont notamment touché les réseaux sociaux tels que Facebook ou Twitter pendant l’élection présidentielle américaine.
Outre l’économie de la publicité, Tim Berners Lee profite de son message pour attirer l’attention sur la question de la neutralité du net aux États unis. Le nouveau directeur de la FCC a en effet annoncé son intention de revenir sur les régulations imposant la neutralité du net sur les réseaux américains, régulations passées sous l’administration Obama. Selon Reuters, le dirigeant de la FCC entend présenter son plan dans le courant de la semaine prochaine, ce qui signifierait que la FCC devrait voter en décembre pour adopter ou non la nouvelle proposition de régulation.
Tim Berners Lee craint évidemment qu’une abolition de la neutralité du net ne vienne remettre en question les équilibres fondamentaux du réseau "Quand j’ai inventé le web, je n’ai pas eu besoin de contacter Vinton Cerf pour lui demander l’autorisation d’utiliser internet" explique le chercheur. Selon lui, un retour en arrière sur la question de la neutralité du net viendrait donner trop de pouvoir aux opérateurs télécom, qui pourraient favoriser certaines offres et en pénaliser d’autres selon leurs intérêts commerciaux.
Tim Berners Lee avait déjà abordé ces sujets dans une tribune datée du mois de mars. Le chercheur s’inquiétait alors des risques posés par la propagation de fake news sur les réseaux sociaux et le fait que les internautes avaient perdu le contrôle sur leurs données personnelles. Le constat est aujourd’hui largement partagé : le web ne ressemble plus vraiment à ce que ses premiers créateurs avaient imaginé et est aujourd’hui largement dominé par les intérêts commerciaux. Jusqu’au point où les standards du web acceptent des modules propriétaires et fermés afin de faire les yeux doux aux géants du streaming, avec la bénédiction de… Tim Berners Lee.

Auteur: Internet

Info: Par Louis Adam, Vendredi 17 Novembre 2017

[ progrès ]

instant de la mort

Des chercheurs ont découvert les mécanismes derrière la mystérieuse " onde de la mort " dans le cerveau, un phénomène survenant après une privation d'oxygène. Cette découverte importante ouvre de nouvelles perspectives pour la compréhension de la mort neuronale et de la réanimation.

En explorant les profondeurs de l'activité cérébrale au moment de la mort, des scientifiques de l'Institut du Cerveau ont fait une découverte significative. Pour la première fois, ils ont observé une onde spécifique, surnommée " l'onde de la mort ". Celle-ci survient lors d'une interruption prolongée de l'oxygénation du cerveau. Cet événement, loin de marquer une fin absolue, révèle en réalité une complexité insoupçonnée dans la dynamique neuronale entre la vie et la mort. Les résultats ont été publiés dans Neurobiology of Disease. 

La formation et le parcours de l'onde de la mort

Il est impossible de déterminer l'heure précise, à la seconde près, d'un décès. C'est un processus complexe, qui dure plusieurs minutes. Il existe des cas où même lorsque le processus a démarré, celui-ci peut s'interrompre et la personne revenir à la vie. 

L'arrêt de l'oxygénation du cerveau déclenche une série d'événements électriques. Initialement, une réduction drastique de l'activité électrique se produit, plongeant le cortex cérébral dans un silence électrique. Cependant, ce silence est brusquement interrompu par une onde de grande amplitude, initiée dans les couches profondes du cortex, comme un sursaut d'activité cérébrale. C'est sûrement cette onde que décrivent les personnes ayant fait une expérience de mort imminente, c'est-à-dire les personnes ayant survécu à un arrêt cardiorespiratoire. 

Cette " onde de la mort " se propage telle une vague à travers le cortex, portant en elle le potentiel d'une cessation totale de l'activité cérébrale. Mais, contrairement à ce que son nom suggère, cette onde ne signifie pas nécessairement une fin irréversible. Si le cerveau est réoxygéné à temps, une " onde de la réanimation " peut suivre, marquant le début d'une lente mais possible récupération des fonctions cérébrales.

(photo illustration) Et si l'onde de la mort expliquait les expériences de mort imminente. 

Quelles sont les implications de cette découverte ? 

Cette étude révèle que la mort neuronale est comme un processus graduel, potentiellement réversible, plutôt qu'un instant définitif. Elle met en lumière le rôle crucial des neurones pyramidaux de la couche 5 du néocortex, dont la dépolarisation marque le début de l'onde de la mort. 

Cette compréhension affine notre perception de la mort cérébrale, nous faisant comprendre qu'un électroencéphalogramme plat n'est pas forcément synonyme de mort définitive. Ces découvertes suggèrent que, sous certaines conditions, il est possible de restaurer les fonctions cérébrales, offrant ainsi de nouvelles voies pour le développement de traitements neuroprotecteurs. 

Ces avancées pourraient un jour transformer les pratiques de réanimation en cas d'arrêt cardiorespiratoire, réduisant les risques de séquelles neurologiques et ouvrant la porte à des interventions plus ciblées pour préserver les fonctions cérébrales essentielles.



 

Auteur: Internet

Info: https://www.futura-sciences.com/ janvier 2024

domination

Comment le pouvoir génère des connards
La chose n'est pas nouvelle: les personnalités narcissiques ont tendance à apprécier les positions de pouvoir. Pour certains psychologues et psychiatres, Donald Trump en serait le parangon, le type prêt à tout pour rester au sommet de la chaîne alimentaire, y compris et surtout en avilissant ses congénères et en se pensant au-dessus des lois et des normes applicables au commun des mortels.
Une étude publiée dans le numéro d'avril de la revue Journal of Experimental Psychology: General va un peu plus loin: non seulement les égocentriques seraient attirés par le pouvoir, mais le pouvoir agirait comme un révélateur à tendances narcissiques.
"Les individus narcissiques se croient tout permis", explique Nicole Mead, professeur associé à l'université de Melbourne (Australie) et auteur principal de l'étude. "Ils exigent qu'on les respecte et attendent qu'on leur accorde des privilèges exclusifs. Ils sont disposés à exploiter autrui pour obtenir ce qu'ils veulent. Mais le pouvoir ne transforme pas tout le monde en tyran, par contre, s'il vient à tomber entre les mains de ceux qui le désirent le plus ardemment, ses effets peuvent être très pernicieux."
Certains facteurs alimentent le narcissisme
Cette soif de pouvoir et les risques d'en abuser semblent avoir une source hormonale. Mead et ses collègues montrent en effet que les individus dotés d'un taux élevé de testostérone –hommes comme femmes– sont les plus susceptibles de vouloir dominer les autres, quitte à en passer par l'oppression et la persécution.
"Cette étude est l'une des premières à examiner les facteurs alimentant la montée du narcissisme et à mettre en évidence les changements dans les opinions personnelles peuvant expliquer l'influence corruptrice du pouvoir", précise Mead.
Pour tester leur théorie, les scientifiques ont recruté 206 hommes et femmes, avant de leur dire qu'ils participaient à une étude sur la dynamique collective. Chaque volontaire devait fournir un échantillon de salive.
Parce que les hommes ont en moyenne davantage de testostérone que les femmes, les chercheurs ont normalisé cette donnée pour chaque sexe, ce qui leur a permis d'examiner la réaction des individus au pouvoir en fonction de leurs taux hormonaux –relativement élevés ou faibles.
Lors de l'expérience, les volontaires allaient devoir accomplir des tâches censées mesurer leurs capacités de leadership. Ensuite, les chercheurs ont annoncé à tous les participants qu'ils avaient obtenu la meilleure note de leadership, avec seulement la moitié d'entre eux recevant la distinction de «chef», signifiant le droit de contrôler comme bon leur semblait leurs subordonnés et les récompenses associées à l'exercice collectif.
Il en ressort que les hommes et les femmes ayant un taux de testostérone inférieur au taux de référence de leur sexe ne deviennent pas narcissiques lorsqu'ils sont mis en position de pouvoir. À l'inverse, lorsqu'ils obtiennent le rang de "chef", les individus les plus testostéronés voient augmenter deux traits essentiels du trouble de la personnalité narcissique: l'idée que tout vous est dû et la propension à l'exploitation d'autrui pour arriver à vos fins.

Auteur: Internet

Info: https://www.slate.fr/story/161458/pouvoir-generateur-connards?utm_campaign=Echobox&utm_medium=Social&utm_source=Facebook#link_time=1525877810

[ bêtise ]

intelligence

Les jeux vidéo intelligents sont à nos portes
Ils pourront tenir compte de l'état émotionnel du joueur ainsi que de son niveau de dextérité.
Bientôt, lorsque vous ressentirez un grand stress pendant une mission, votre jeu vidéo abaissera en temps réel le niveau de difficulté pour vous rendre la vie plus facile tout en s'assurant que l'expérience demeure positive. L'inverse se produira aussi : quand un défi ne sera pas à la hauteur de vos attentes, le jeu constatera votre ennui et rendra la situation plus complexe afin que vous vous amusiez davantage.
Grâce à des dispositifs qui se sont améliorés récemment, les jeux vont pouvoir interagir avec le joueur non seulement par la manette ou la souris, mais aussi par son regard et ce qu'il ressent. Pour parvenir à cette connexion entre le joueur et le jeu, celui-ci reposera sur le déploiement d'un système de reconnaissance des expressions du visage et du regard (eye tracking system) et d'un électroencéphalogramme portable qui captera les ondes cérébrales des joueurs.
" Ces systèmes s'appuient quant à eux sur une série d'algorithmes d'apprentissage-machine conçus pour que les systèmes d'exploitation des jeux synthétisent une gamme d'émotions et d'expressions du visage des joueurs et qu'ils les incorporent de façon à entretenir en eux-mêmes un état émotionnel pour adapter la prise de décision aux états cognitifs et affectifs du joueur ", explique Claude Frasson.
En somme, il s'agit d'un véritable système d'intelligence artificielle par lequel un jeu apprend à "ressentir" les émotions vécues par le joueur - l'excitation, le stress, l'anxiété, l'impatience - pour moduler les situations de jeu en fonction de celles-ci.
Vers des jeux thérapeutiques
Avec cette technologie, il devient possible notamment d'éviter qu'un jeu devienne nocif en causant, par exemple, des troubles du sommeil, car le jeu pourra selon le cas atténuer la difficulté présentée et ramener ainsi le joueur dans des zones cérébrales associées au plaisir, sans excitation ni inquiétude ", indique le professeur.
Cette technologie rend également possible l'avènement d'approches ludiques pour réguler l'état psychologique de personnes vivant d'intenses émotions.
" On pourra concevoir des jeux thérapeutiques qui cibleront l'anxiété liée à la performance, les phobies ou les troubles d'apprentissage ", mentionne Claude Frasson.
C'est d'ailleurs ce à quoi travaillent deux de ses étudiants à la maîtrise en informatique, Pierre-Olivier Brosseau et Annie Thi-HongDung Tran. Ils mettent actuellement au point un jeu intelligent qui vise le contrôle des émotions dans un contexte de conduite automobile, dans le but de réduire les risques de rage au volant. "Lorsqu'un embouteillage devient stressant, on ne réfléchit plus de la même manière, explique Pierre-Olivier Brosseau. Notre jeu vidéo intelligent permettra de prendre conscience des émotions qui se manifestent en pareilles circonstances et de s'habituer à les calmer. Ça permet d'agir soi-même sur son propre cerveau."
D'autres applications existent, comme des tests de résistance au stress. "L'armée américaine est déjà à tester des solutions qui permettent de vérifier quels sont, parmi les marines, ceux qui résistent le mieux à certaines situations de stress intense", confie Claude Frasson.

Auteur: Internet

Info: 1 décembre 2015

[ artificielle ] [ homme-machine ]

vacheries

Les Inrocks, c'est un torche-cul infect. Lana Del Rey est une grosse arnaque dès ses débuts. Cabrel se prend pour les Eagles. Voulzy est un branleur. Dominique A, Miossec et Katerine m’inspirent de l’indifférence. Johnny Hallyday et Patrick Bruel, la ringardise française à son maximum, sont les seuls à vendre des disques dans ce pays à la mords-moi le nœud. Johnny, c’est le ringard absolu qui fascine par une sauvagerie de chien husky à qui on a coupé la queue. Obispo pareil, dans sa voix, il y a la puissance perdue de la France. Daft Punk, c'est de la daube. Les Enfoirés, c’est une espèce de mafia avec Goldman dans le rôle d'Al Capone. Alain Souchon a une carrière de lèche cul, c’est le plus grand stratège de la chanson française qui est passé de Pompidou à Sarkozy sans broncher. Renaud se prend pour Jésus-Christ, il fait une traversée du désert en Ricard et de se présenter en croix avec une idéologie qui se veut trotskiste et qui en fait est d’extrême droite, il est si con qu'il pourrait s'appeler Citroën. Pour la grippe A y a des vaccins, pour Renaud l'euthanasie. Les chansons de John Lennon peuvent servir au Crédit Agricole, Paul McCartney est le Jacques Chirac de la chanson. Angèle, c’est une Chantal Goya 2.0. qui fait des chorégraphies de peep-show. PNL, c'est une vaste et funeste blague, une musique macroniste, comme il y a eu une musique pompidolienne dont l'acmé était Téléphone, des petits Macron qui essaient de faire du pognon avec le QI d'une fourchette. C'est un problème pour tout le métier d'avoir un mec qui cartonne autant en étant aussi nul comme Yannick Noah. Patrick Juvet, si on l’avait vu en 77, on lui aurait explosé la gueule. Les chansons de Zaz sont les plus opportunistes du XXIème siècle, c’est de la démagogie comme on n’a jamais poussé la démagogie, je ne sais pas qui les écrit, mais on sent que quelqu’un s’est dit : "Le public, c’est vraiment des cons, je vais leur balancer une grosse merde et on va cartonner". Les salles ne prennent pas de risques, elles préfèrent programmer des gros cons comme Polnareff. Le peuple français est le conglomérat qui reprend le plus de choses américaines avec des chanteurs aux noms débiles comme Dick Rivers ou Eddy Mitchell, il pense qu’Elvis a tout piqué à Johnny et prend Claude François pour James Brown. Les rappeurs actuels et les yéyés, c'est pareil. Vincent Delerme, s’il n’était pas le fils de l’autre, il n’aurait jamais fait un disque, idem pour Charlotte Gainsbourg. J’ai lu dans la presse que les cuivres de Bénabar faisaient beaucoup penser à Otis Redding, ça me sidère, les Bénabar, les Grand Corps Malade, c'est du zéro de chez zéro. Dans la musique, je ne connais que des mecs chargés, si tu mets Gainsbourg à l'eau, ça devient Jean-Jacques Debout. Pascal Nègre d'Universal Music est un charcutier, normalement, il devrait découper des têtes de veaux et ne pas diriger une multinationale. Le système médiatique est scatophage, il faut lui balancer de la merde à la gueule, et tous ceux qu’on qualifiait d’artistes et que j’ai rencontrés, je me suis rendu compte que c’était des triples merdes.

Auteur: Murat Jean-Louis

Info:

[ Gaule ] [ variétés ] [ show-biz ] [ dénigrement ]

parlêtre

Pour le psychanalyste, le Réel est cette instance logique, indissociable du Symbolique et de l’Imaginaire dont elle constitue le nouage, le Réel se caractérise de l'impossible: impossible à dire, impossibie à symboliser, impossible à imaginer, et qui cependant se fait jour à travers la parole...

Selon la façon dont se nouent les registres du Réel, du Symbolique et de l’Imaginaire, nous obtenons la structure de ce qui se spécifie comme appartenant aux champs de la Religion, de la Science et de la psychanalyse (ou de l’art): la religion (RSI) Réalise à travers un Symbole ce qu’elle offre à Imaginer, par exemple le mystère de l'Eucharistie comme réellement corps et sang du Christ à travers le Symbolique (concept du dieu trine) de l'Idée qu'elle se fait de Dieu (l'homme à l'image de Dieu, et sa réciproque tout aussi bien: idée d’un dieu parfait, infiniment "bon" et aimable...)

La science (SIR) Symbolise (S=concept), l'Idée (l’image) qu'elle se fait du Réel: le tropisme inhérent au discours scientifique consiste en cette volonté de réduire le Réel au Symbolique, que "tout le Réel" finirait par être répertorié, comptabilisé, rendu transmissible sous la forme de formules qui. passant de main en main sans que leur contenu en soit affecté le moins du monde, ni par qui les transmet ni par qui les reçoit, en rendraient compte "objectivement", "pour tous"... d'où l'évacuation systématique hors de la sphère scientifique du sujet ($) en tant qu’il est manifeste du réel (le grain de sable de l’énonciation)...

Moyennant quoi, la Science se définit d’être réfutable, selon l’épistémologue Karl Popper lui-même...

La psychanalyse (IRS) imagine, invente (I=Idée) ce qui du Réel (R=ce qui relève du percept, par le biais de la jouissance, de la souffrance...), peut se symboliser, se dire, s'écrire (S=concept=mathème, topologie)... L'approche psychanalytique fait en sorte que la vie du sujet s’organise autour du vide central (das Ding) identifié comme ce qu'il y a de plus Réel (ce qui fait dire à Beckett que rien n'est plus réel que rien)...

La linguistique, d’abord, peut définir le matériel de la psychanalyse, voire l’appareil de son opération, elle laisse en blanc (les semblants) ce qui la rend effective en psychanalyse (raison pour laquelle la "science des discours", Lacan la nomme "linguisterie"...) La psychanalyse ne cesse depuis Freud d’affirmer que la vérité de la souffrance, c’est d’avoir la vérité comme cause: "Aussi bien dirions-nous que la découverte de Freud est cette vérité que la vérité ne perd jamais ses droits."

Céder sur les mots, c'est toujours avoir déjà cédé sur les choses. Ne compromets pas ton désir, tes besoins et tes demandes s'en trouveront automatiquement satisfaits.

Faire de la santé un objectif direct est contre-productif, tu dois concentrer ton énergie sur autre chose si tu veux que ta santé advienne. Inverse les devises du sens commun, aux fausses certitudes proposées par la réalité, privilégie le mystère du réel, aux sourires fielleux des compromis, des arrangements mensongers, de la soumission, préfère la morsure de la vérité. Prends des risques, confronte-toi à ta peur, fais de la vérité ta priorité, et ta santé viendra par surcroît. Apprendre à parler correctement sa propre langue est le premier moment du système immunitaire.

Auteur: Dubuis Santini Christian

Info: Publication facebook 30.12.2020

[ pensée adéquate ] [ noeud borroméen ] [ thérapie ] [ mal de vivre ] [ indicible priméité ]

fausse bonne solution

Richard Branson affirme que d’ici une trentaine d’années on ne tuera plus d’animaux pour leur viande. La viande de culture serait ainsi l’unique futur de la viande.

Bill Gates a, quant à lui, désigné la viande de culture comme l’une des principales technologies de rupture de 2019.

Les acteurs du secteur de la viande traditionnelle ne s’y trompent pas: Bell Food Group, l’un des principaux producteurs européens de viande, et les géants américains Tyson Foods et Cargill, ont tous investi des millions dans des start-ups de la viande de culture. Ils misent sur le potentiel hautement disruptif de cette industrie émergente, qui pourrait écarter tout simplement les personnes qui font de l'élevage du processus de production de la viande.

Cette industrie n’est pourtant pas tout à fait au point, puisqu’elle exige d’abord un passage à l’échelle du processus de production: aucune des start-ups n’affirme aujourd’hui posséder les solutions aux défis posés. Elles ne sont, par exemple, pas encore parvenu à s’affranchir du sérum de veau fœtal et d’autres molécules d’origine animale indispensables à l’élaboration de la viande artificielle.

Le sérum de veau fœtal s’obtient à partir du sang des fœtus retirés aux vaches gestantes au moment de l’abattage. Cet élixir onéreux, représentant environ 80% du coût de production de la viande artificielle, requiert pour le prélever de continuer à abattre presque autant de vaches qu’aujourd’hui. Et il posera sans doute problème au consommateur comme le pressent le PDG de Mosa Meat qui affirme que son entreprise ne se lancera pas sur le marché avec un produit en contenant.

Il existe bien une version synthétique de ce sérum, mais les facteurs de croissance qu’on y trouve demeurent extrêmement coûteux. Ils ne sont actuellement produits et utilisés qu’en très petites quantités, pour la recherche scientifique.

[...]

Les bienfaits environnementaux de cette alternative sont pourtant loin de faire l’unanimité. L’étude réalisée par des scientifiques des universités d’Oxford et d’Amsterdam, qui annonçait en 2011 une réduction spectaculaire de l’impact environnemental, a par la suite été vivement critiquée, en particulier sur les valeurs de certains paramètres.

Comment peut-on raisonnablement estimer la consommation électrique des usines géantes de viande de culture alors qu’il n’en existe aucune aujourd’hui et que le processus de production à l’échelle est inconnu? Certains des résultats de cette étude ont depuis été revus à la baisse. De son côté, le Forum économique mondial (forum de Davos) a affirmé début 2019 que les émissions de la viande de culture ne seraient qu’environ 7% moindre que celles de la production de bœuf actuelle. Et une nouvelle étude publiée en février assure pour sa part qu’à long terme cette industrie émergente pourrait être plus polluante encore que l’élevage actuel.

La santé est un autre argument des persones qui produisent de la viande de synthèse: celle-ci ne contiendrait pas de résidus d’antibiotiques et ne présenterait pas de risques de contaminations bactériologiques qui accompagnent la viande d’abattage.

Pourtant, la propreté de la viande artificielle est largement remise en question. Le fameux sérum nutritif évoqué précédemment est composé de facteurs de croissance, de nutriments énergétiques, d’acides aminés, d’hormones ainsi que d’antibiotiques et d’antifongiques. Le matériau d’échafaudage nécessaire à sa production contient quant à lui du collagène et de la gélatine.

L’industrialisation de la production pourrait par ailleurs impliquer une entrée d’agents pathogènes comme la listeria. Des scientifiques notent en effet que les protocoles nécessaires à la production de volumes commerciaux seraient supérieurs à ceux nécessités dans l’industrie pharmaceutique. La culture cellulaire à cette échelle fait peser de sérieux risques de contaminations croisées.

Auteur: Slate.fr

Info: http://www.slate.fr/story/176337/viande-artificielle-marche-economie-monsanto-bayer-environnement-sante?

[ évaluation du risque ] [ business ] [ fabrication ] [ alimentation ]

data élagage

IA : Cette technique oubliée du 18e siècle rend le Deep Learning inutile

Et si le deep learning devenait inutile au développement de l’intelligence artificielle ? Cette technique oubliée du 18e siècle pourrait le remplacer.

Jusqu’à maintenant, le deep learning ou l’apprentissage profond est présenté comme un processus essentiel au développement de l’intelligence artificielle. Il consiste à entraîner les grands modèles de langage (LLM) avec un énorme volume de données. Mais des chercheurs finlandais avancent que le deep learning pourrait devenir inutile.

Ces chercheurs font partie d’une équipe de l’université de Jyväskylä qui effectue des travaux sur les techniques de développement de l’intelligence artificielle. Ils ont publié le mois dernier, dans la revue Neurocomputing, un papier intéressant sur une ancienne méthode mathématique du 18e siècle.

Cette technique est plus simple et plus performante que l’apprentissage profond, défendent les auteurs dans leur papier. Notons que cette conclusion constitue l’aboutissement de six années de recherche.

Il faut que le deep learning devienne inutile…

Le deep learning s’apparente aux techniques d’intelligence artificielle exploitant massivement des données et des ressources informatiques. Celles-ci servent à entraîner des réseaux neuronaux pour avoir des LLM. Rappelons que ces derniers se trouvent au cœur des IA génératives comme le populaire Chat-GPT.

Mais il ne faut pas croire que l’apprentissage profond est infaillible. Le volume des données à traiter en fait une méthode complexe et souvent sujette à des erreurs. Cela impacte significativement les performances des modèles génératifs obtenus.

En effet, la complexité du deep learning se retrouve dans la structure d’un LLM (large miodèle de langage). Cela peut instaurer une boîte noire sur le mécanisme du modèle IA. Dans la mesure où son fonctionnement n’est pas maîtrisé, les performances ne seront pas au rendez-vous. L’opacité du mécanisme IA peut même exposer à des risques.

Des modèles IA performants sans deep learning

L’équipe de l’université de Jyväskylä travaille ainsi depuis six ans sur l’amélioration des procédés d’apprentissage profond. Leurs travaux consistaient notamment à explorer la piste de la réduction des données. L’objectif est de trouver un moyen pratique pour alimenter les LLM sans pour autant les noyer de données.

Les auteurs de la recherche pensent avoir trouvé la solution dans les applications linéaire et non-linéaire. Il s’agit d’un concept mathématique dont le perfectionnement a eu lieu du 17e au 18e siècle. Celui-ci s’appuie principalement sur la combinaison des fonctions et des équations différentielles.

Les applications linéaire et non-linéaire permettent ainsi de générer un nouvel ordre de modèles de langage. Il en résulte des LLM avec une structure beaucoup moins complexe. Par ailleurs, son fonctionnement ne requiert pas un énorme volume de données. Cela n’a pourtant aucun impact négatif sur la performance.

Les mathématiques du 18e siècle pour moderniser l’IA…

L’importance de l’intelligence artificielle dans la technologie moderne augmente rapidement. La compréhension et la vraie maîtrise des grands modèles de langage deviennent indispensables. Les chercheurs finlandais pensent que leur nouvelle méthode peut résoudre certains problèmes en lien avec le développement de l’intelligence artificielle.

En effet, plus le développement de l’IA sera simple et transparent, il sera davantage facile d’envisager son utilisation éthique. L’accent est également mis sur la dimension écologique du nouveau procédé. Des LLM plus simples requièrent beaucoup moins de ressources informatiques et sont moins énergivores.

Néanmoins, les chercheurs craignent le scepticisme des actuels principaux acteurs de l’IA. "Le deep learning occupe une place si importante dans la recherche, le développement de l’intelligence artificielle (…) Même si la science progresse, la communauté elle-même peut se montrer réticente au changement", explique l’un des auteurs de la recherche.

Auteur: Internet

Info: https://www.lebigdata.fr/, Magloire 12 octobre 2023

[ limitation de la force brute ] [ vectorisation sémantique ] [ émondage taxonomique ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

homme-machine

Quand la plupart des gens pensent aux risques potentiels de l'intelligence artificielle et du machine learning, leur esprit va immédiatement vers "Terminator" - cet avenir où les robots, selon une vision dystopique, marcheraient dans les rues en abattant tous les humains sur leur passage.

Mais en réalité, si l'IA a le potentiel de semer le chaos et la discorde, la manière dont cela peut se produire est moins excitante qu'un "Skynet" réel. Les réseaux d'IA qui peuvent créer de fausses images et de fausses vidéos - connues dans l'industrie sous le nom de "deepfakes" - impossibles à distinguer du réel, qui pourraient engendrer des risques.

Qui pourrait oublier cette vidéo du président Obama ? Inventée et produite par un logiciel d'intelligence artificielle, une vidéo quasi impossible à distinguer de vraies images.

Eh bien, dans une récente présentation des capacités de l'IA dans un avenir pas si lointain, un chroniqueur de TechCrunch a mis en avant une étude présentée à une conférence importante de l'industrie en 2017. Les chercheurs y expliquent comment un réseau d'opposition générationnelle (Generative Adversarial Network) - l'une des deux variétés courantes d'opérateur de machine learning - a résisté aux intentions de ses programmeurs et a commencé à produire des cartes synthétiques après avoir reçu l'ordre de faire correspondre des photographies aériennes aux cartes routières correspondantes.

L'objectif de l'étude était de créer un outil permettant d'adapter plus rapidement les images satellites aux cartes routières de Google. Mais au lieu d'apprendre à transformer les images aériennes en cartes, l'opérateur de machine learning a appris à coder les caractéristiques de la carte sur les données visuelles de la carte topographique.

L'objectif était de permettre à l'opérateur d'interpréter les caractéristiques de l'un ou l'autre type de carte et de les faire correspondre aux caractéristiques de l'autre. Mais ce sur quoi l'opérateur était noté (entre autres choses), c'était la proximité de correspondance d'une carte aérienne par rapport à l'original et la clarté de la carte topographique.

Il n'a donc pas appris à faire l'une à partir de l'autre. Il a appris à coder subtilement les caractéristiques de l'une dans les "modèles de bruit" de l'autre. Les détails de la carte aérienne sont secrètement inscrits dans les données visuelles réelles de la carte des rues : des milliers de petits changements de couleur que l'œil humain ne remarquera pas, mais que l'ordinateur peut facilement détecter.

En fait, l'ordinateur est si bon à glisser ces détails dans les plans qu'il a appris à encoder n'importe quelle carte aérienne dans n'importe quel plan de rues ! Il n'a même pas besoin de faire attention à la "vraie" carte routière - toutes les données nécessaires à la reconstitution de la photo aérienne peuvent être superposées sans danger à une carte routière complètement différente, comme l'ont confirmé les chercheurs :

Cette pratique d'encodage des données en images n'est pas nouvelle ; il s'agit d'une science établie appelée stéganographie, et elle est utilisée tout le temps pour, disons, filigraner des images ou ajouter des métadonnées comme les réglages de caméra. Mais un ordinateur qui crée sa propre méthode stéganographique pour éviter d'avoir à apprendre à exécuter la tâche à accomplir c'est plutôt nouveau.

Au lieu de trouver un moyen d'accomplir une tâche qui dépassait ses capacités, l'opérateur de machine learning a développé sa propre méthode pour tricher.

On pourrait facilement prendre cela comme un pas vers l'idée "les machines deviennent plus intelligentes", mais la vérité est que c'est presque le contraire. La machine, qui n'est pas assez intelligente pour faire le travail difficile de convertir ces types d'images sophistiqués les unes avec les autres, a trouvé un moyen de tricher que les humains ont de la peine à détecter. Cela pourrait être évité avec une évaluation plus rigoureuse des résultats de l'opérateur, et il ne fait aucun doute que les chercheurs vont poursuivre dans cette voie.

Et même si ces chercheurs sophistiqués ont failli ne pas le détecter, qu'en est-il de notre capacité à différencier les images authentiques de celles qui fabriquées par simulation informatique ?

Auteur: Internet

Info: Zero Hedges 4 janvier 2018

[ vrai du faux ]