septénaire

Il est possible de classer ou d'ordonner scientifiquement le monde minéral en 7 étapes ou 7 parties en fonction de la structure atomique de chaque minéral. Ces étapes sont les suivantes :

1 Éléments natifs : Les éléments natifs sont des minéraux qui ne sont composés que d'un seul élément, comme l'or, l'argent, le plomb ou le cuivre.

2 Sulfures et sulfosels : Les sulfures et les sulfosels sont des minéraux qui contiennent du soufre, comme la pyrite, la galène et la sphalérite.

3 Halogénures : Les halogénures sont des minéraux qui contiennent du chlore, du brome, de l'iode ou du fluor, comme le sel gemme, l'halite et l'anhydrite.

4 Oxydes et hydroxydes : Les oxydes et les hydroxydes sont des minéraux qui contiennent de l'oxygène, comme la magnétite, la limonite et l'alun.

5 Carbonates : Les carbonates sont des minéraux qui contiennent du carbone et de l'oxygène, comme le calcaire, la dolomite et l'aragonite.

6 Sulfates : Les sulfates sont des minéraux qui contiennent du soufre et de l'oxygène, comme l'anhydrite, la gypse et la barytine.

7 Phosphates : Les phosphates sont des minéraux qui contiennent du phosphore et de l'oxygène, comme l'apatite, la monazite et la scheelite.

Cette classification est basée sur la structure atomique des minéraux, qui est déterminée par le type d'atomes qu'ils contiennent et par la façon dont ces atomes sont liés les uns aux autres. Par exemple, les éléments natifs sont composés d'atomes d'un seul élément, tandis que les sulfures et les sulfosels sont composés d'atomes de soufre liés à d'autres atomes, comme le fer, le plomb ou le cuivre. On va du simple au complexe dans la classification des minéraux en 7 étapes. Les minéraux de la première classe, les éléments natifs, sont les plus simples. Ils ne sont composés que d'atomes d'un seul élément. Les minéraux des classes suivantes sont de plus en plus complexes. Ils sont composés d'atomes de plus en plus nombreux et de plus en plus complexes.

Cette classification est importante car elle permet de comprendre les propriétés physiques et chimiques des minéraux. Par exemple, les éléments natifs sont généralement très ductiles et malléables, tandis que les sulfures et les sulfosels sont généralement très durs et résistants.

Auteur: Internet

Info: Selon google bard, 15 juillet 2023

[ machine-homme ]

gafam

"Nous ne nous ne connectons pas tous au même Internet. Cela peut sembler évident, mais de tous les arguments avancés par Jaron Lanier dans son nouveau livre Ten Arguments for Deleting Your Social Media Accounts Right Now, c’est le plus édifiant", note le romancier Peter Murphy dans The Irish Times. Selon cet essayiste et chercheur en informatique, les fils d’actualité individualisés proposés par Facebook, Twitter, Google et autres font diminuer le nombre repères communs, ce qui rend tout débat impossible. "Bientôt, nous ne ne vivrons plus seulement dans des environnements d'opinions différentes mais dans des réalités différentes", écrit-il. Les bulles de filtres (la tendance à rechercher uniquement des amis ou des médias qui partagent nos opinions) n’en sont pas les seules responsables. Les réseaux sociaux manipulent leurs utilisateurs sans aucune éthique, insiste Lanier.
"S’il est à la mode aujourd’hui de s’en prendre à la Silicon Valley, Lanier n’est toutefois pas n’importe quel critique", note Danny Fortson, le correspondant de The Sunday Times sur la côte Ouest des États-Unis. Pionnier du web et de la réalité virtuelle, Lanier dirige un laboratoire de recherche chez Microsoft. Et en est à son quatrième livre où il critique les dérives de son propre milieu.

Cette fois, il conseille tout bonnement de se déconnecter des réseaux, au moins de Facebook et de Google. Leurs algorithmes sont conçus pour donner du pouvoir aux pires penchants de l’humanité. Car la haine, le scandale, les points de vue extrêmes favorisent "l’engagement". Et "l’engagement", soit le temps passé par les internautes sur un site, c’est ce que l’entreprise vend aux annonceurs. "Partout où Facebook arrive, la démocratie recule et cela n’importe où dans le monde, pays riche ou pauvre. C’est une tendance", assure Lanier. Si Facebook a bien contribué à l’émergence des Printemps arabes ou du mouvement Black Lives Matter, sa négativité intrinsèque a donné encore plus de force à leurs opposants.

Et pas la peine de croire à ses promesses de réformes, comme à celles de Google d’ailleurs. Pour Lanier, ces deux entreprises sont accros à leur modèle économique, comme les utilisateurs sont accros à leurs plateformes. "Elles ont diversifié leurs activités, créé tout un tas d’entreprises, mais la source de leurs profits est toujours la même : manipuler tout le monde pour de l’argent."

Auteur: Meunier Amandine

Info: Le Books du jour, 21 novembre 2018

[ résistance ] [ refus ]

science-fiction

Après le transhumanisme, voici le transdéisme ! La nouvelle religion qui vénère un dieu sous forme d’intelligence artificielle.
La nouvelle religion qui vénère un dieu sous forme d’intelligence artificielle.
L’homme par qui le scandale arrive est Anthony Levandowski, un petit génie de la cybernétique.
Son nom est au cœur du litige judiciaire entre Waymo et Uber, accusé par le premier de vol de technologie autour de la voiture autonome.
Dans la course acharnée qui oppose Waymo (filiale de Google/Alphabet) et Uber, Anthony Levandowski est une sommité de l’intelligence artificielle qui a travaillé successivement au sein des deux entreprises pour la mise au point du véhicule sans chauffeur.
Il est connu pour ses remarquables réussites en matière de robotique et d’intelligence artificielle.
A 37 ans, il vient de créer une nouvelle structure religieuse baptisée "Way of The Futur" (WOTF) qui veut promouvoir l’idée d’un dieu basé sur l’intelligence artificielle : l’"église de l’adoration du cyber dieu" en quelque sorte !
"L’idée de base est simple, il existera bientôt une intelligence artificielle tellement avancée, l’homme n’aura d’autre choix que de la vénérer." selon Anthony Levandowski.
WOTF sera basé sur son propre évangile, appelé "Le Manuel" et aura son propre lieu de culte physique pour rendre hommage à ce nouveau dieu. Si l’idée paraît tout droit sortie d’un classique de la science-fiction, certains concepts qui se cachent derrière restent pour le moins inquiétants.
Ainsi, les préceptes de ce mouvement se basent sur les idées du courant transhumanisme qui veut que l’humanité soit un jour dépassée par la machine dont le concept phare est celui de la "singularité" (lorsque la machine dépassera l’homme et aura sa propre volonté).
Pour Anthony Levandowski, cela pourrait bien se produire dans les 15 ou 20 ans à venir. C’est pour cela qu’il faut se préparer au plus tôt à cette arrivée de l’intelligence artificielle toute puissante.
Pour ce faire, Way of the Future estime qu’il faut d’ores et déjà recenser les sympathisants à la cause de ce nouveau dieu "pour participer à une transition pacifique et respectueuse."
En gros, point de salut pour les impies qui n’auront pas choisi la voie de WOTF lorsque le dieu IA sera arrivé…
On le voit, les rétrogrades adeptes de théologies obscurantistes mettant en avant des concepts surannés comme l’âme, la miséricorde, la compassion, l’amour, l’espérance ou la charité devront être alors surveillés de très près.
Nous attendons donc avec impatience de mériter la révélation du Manuel, ce nouvel évangile :
Evidemment la "genèse cybernétique" va être plus difficile à élaborer : le concept de "l’homme créé à l’image du Grand Computeur" va être difficile à faire passer, sauf si évidemment nous sommes déjà entrés dans le transhumanisme.

Auteur: Internet

Info: https://aphadolie.com, novembre 2017

[ homme-machine ] [ singularité technologique ] [ adaptation ]

fiasco

Echec du lancement de Galactica, IA générative scientifique de Meta

Le 15 novembre dernier, Meta a mis en ligne une version démo de Galactica, une IA développée pour la recherche scientifique. Deux jours après son lancement, elle a été retirée du Web pour avoir débité des inepties. 

Galactica est un modèle de langage à grande échelle (LLM), entraînée sur 48 millions de données scientifiques comprenant 120 milliards de paramètres. Il a pour mission de "résumer des articles universitaires, résoudre des problèmes mathématiques, générer des articles Wiki, écrire du code scientifique, annoter des molécules et des protéines, et bien plus encore".

Dès sa diffusion sur le Web, de nombreuses réponses aux questions posées par les utilisateurs se sont révélées confuses, absurdes ou fausses.

Par exemple, l’IA a inventé l’existence d’un logiciel Gaydar pour trouver des homosexuels sur Facebook et a proposé une étude sur les avantages de manger du verre pilé. Dans d’autres résultats de recherche, de nombreuses références et citations étaient fabriquées de toute pièce et attribuées à des vrais scientifiques.

Selon Carl Bergstrom, professeur de biologie à l’Université de Washington, il s’agit - pardonnez l’expression - "d’un générateur de conneries aléatoires".

D’après Dan Hendrycks, chercheur en sécurité de l’intelligence artificielle à l’Université de Californie à Berkeley, interrogé dans C/Net, Meta aurait dû sonder leur IA pour ce type de dérives avant de la diffuser et souligne au passage que "la division IA de Meta ne dispose pas d’une équipe chargée de la sécurité, contrairement à ses homologues, DeepMind, Anthropic et OpenAI".

C’est incompréhensible que le géant du Web ait rendu publique cette version aussi imparfaite que dangereuse. D’ailleurs chaque résultat généré était accompagné de l’avertissement: "Les résultats peuvent être peu fiables. Les modèles de langage ont tendance à inventer".

De nombreuses études le démontrent, le défaut l’IA générative - un fait connu et reconnu - est sa tendance à halluciner le matériel qu’elle présente dans le contexte d’informations factuelles.

Il faut toujours vérifier les faits énoncés par un logiciel IA de rédaction. L’utilisation de ce type d’outils demande un esprit critique, car à chaque nouveau prompt ou invite, l’IA débite un nouveau texte, parfois en contradiction avec le précédent.

L’objectif de Galactica est louable en voulant aider les scientifiques à traiter la masse pharaonique d’informations scientifiques publiées, impossible à assimiler par un cerveau humain.

Mais c’est la deuxième fois en quelques mois qu’une IA de Meta déçoit. Le robot conversationnel BlenderBot lancé en septembre, devait permettre aux utilisateurs de discuter avec lui afin d’approfondir ses connaissances, mais le niveau des échanges était tout simplement médiocre. Un timing incompréhensible, car ce lancement faisait suite à la polémique autour de LaMDA en juin, le Chatbot de Google, dont les propos étaient si sensés et profonds, qu’il avait convaincu un ingénieur d’avoir atteint le stade de la conscience.

La ferveur est grande autour de l’IA générative, elle est décrite comme le "BIG BANG de la Silicon Valley" et "l’invention qui va définir la décennie à venir".

En lançant cette version prématurée de Galactica, Meta a jeté un discrédit sur ces logiciels. Il ne faut pas en tenir compte. Une véritable révolution est en marche et tous les secteurs de l’économie seront touchés.  

Auteur: Turrettini Emily

Info: Bilan.ch, 24 nov 2022. Sources de l'auteure : C/Net / Cosmos / Venture Beat / TechTalk / The Daily Beast

[ ratage ] [ traitement des métadonnées ] [ bêtise encyclopédique ]

lecture analytique FLP

FLP sera aussi éventuellement un moyen de voir combien - pour ce qui est du langage - nous sommes préprogrammés par nos familles-milieux-civilisations-époques et donc à quel point il est difficile de prendre quelque distance avec le carcan intégré de toutes les forces-pouvoirs sémantiques qui ont précédé afin de nous libérer quelque peu de toute l'inertie des dogmes fondateurs (Vedanta, Aristote, religions, modes, politiques, etc) et surtout de la logique duale - pulsionnelle - qui les sous-tend.

Ici en remettant en cause la linéarité des écrits, en cassant les lignes, puisque le lecteur observateur se retrouve face au collisionnement de pensées-mots horizontales, linéaires et subjectives, avec d'autres pensées-mots, verticales et objectivées par FLP (nuage de corrélat, liaisons, chaines). Ainsi l'application secoue le cocotier des habitudes du lire-réfléchir et surtout les ouvre (tente de mieux les coordonner ?), en les intriquant. 

Il y a ensuite une double action demandée au lecteur-analyste-inserteur. Une action qui prend du temps.

a) vers l'extérieur : en utilisant l'immense lexique multidimentionnel du Web afin de mieux comprendre le texte en vérifiant la ou les significations d'un mot (on tombe sur un terme créole pour, avec une astérisque, en donner le sens dans les infos). Ou aller au fond de l'étymologie. Ou pour croiser et recouper les sources, etc.

b) vers l'intérieur, en lisant attentivement, souvent plusieurs fois, parfois en reprenant un extrait plus tard. Ici on verra comment l'interprétation de nos pensées-mots et autres idées d'étiquettes peuvent être fugaces, instables, relatives... ondoyantes, subjectives... préformatées... Heureusement se dégage aussi une sorte de colonne vertébrale de notre pensée, en étant sincère avec nous-même, qui conduira la discussion intérieure vers le consensus. Vers l'intérieur aussi en usant de la machine en rétroaction, c'est à dire en prenant quelques mots-termes-vocables (souvent en n'usant que des radicaux des termes) pour une recherche FLP (et parfois, pourquoi pas, sur Google) pour ainsi comparer, et "voir" certaines situations-significations qui nous ont échappés pour ce qui est de la conjonction de ces items. Ou même de leur agencement et/ou de la grammaire.

Viennent ensuite les éventuelles discussions avec d'autres participants de FLP pour corriger, élargir et affermir le consensus sémantique. Mais stop.

Et puis il y a les textes que le participant des Fils de La Pensée traduit. Stop ici aussi.

Là encore nous ne résistons pas au plaisir de plaider pour une forme de logique élargie - indépendante de son propre langage - qui s'inspire du fonctionnement de l'atome du carbone duquel nous sommes tous issus. Cette logique en base 4, offre la souplesse de fonctionnement sans pareille d'un double dualisme invertible. Elle nous aidera peut-être à avancer en tant que race soi-disant intelligente. Allons savoir.  Au-delà de C. S. Peirce, nous essayons d'aller dans ce sens.

Tétravalence qui, dans ce grand jeu exploratoire et tâtonnant de FLP et de la vie orthogonale (qui individualise et généralise en même temps), pourra être mise en analogie, entre autres, avec le double dualisme homme-femmes. Ou avec les règles de base du contrepoint musical. Voire, plus simplement, avec le système dentaire d'une immense partie du monde vivant (machoires inférieures et supérieures qui matérialisent un double système inversé).

Auteur: Mg

Info: septembre 2022

[ prospective ] [ citation s'appliquant à ce logiciel ] [ slow slow thinking ] [ réflexion ] [ profondeur ] [ distanciation ] [ pré-mémétique ]

compétition

Face à l’appât du gain, deux intelligences artificielles de Google se révèlent "très agressives"
Le meilleur moyen de savoir si le développement des intelligences artificielles progresse est de les mettre en pratique. Pour cela, la filiale de Google Deepmind a récemment intégré des IA dans des jeux virtuels afin de savoir quel serait leur comportement face à une situation donnée. Entre collaboration et affrontement, cette étude passionnante nous montre de manière primitive que les intelligences artificielles ne reculent devant rien pour arriver à leurs fins.
Après avoir démontré leurs capacités en s’illustrant au jeu de Go, battant récemment les meilleurs joueurs du monde, les IA de Google se sont retrouvées entre elles dans des jeux vidéo, dans le cadre d’une étude baptisée "Multi-agent renforcement learning in séquentiel social dilemnas". D’après les équipes de Deepmind, l’objectif de cette étude est de savoir si, face à l’appât du gain, les intelligences artificielles privilégieraient la collaboration ou l’affrontement. Si les jeux vidéo ressemblent à des versions grossières de Pacman, les résultats nous permettent de tirer quelques conclusions.
Dans le premier jeu baptisé "Gathering", les joueurs doivent récolter le plus de pommes possibles depuis un point central. Chaque joueur dispose d’un pistolet laser afin de pouvoir éliminer temporairement son adversaire le temps de pouvoir récupérer un maximum de pommes. Les IA Deepmind sont en rouge et bleu, les faisceaux laser en jaune et les pommes en vert. Au début de la partie, quand il y a suffisamment de pommes pour les deux joueurs, elles se livrent une bataille pacifique. Toutefois, les IA n’hésitent pas à se servir de leur pistolet laser pour neutraliser leur adversaire quand les pommes se font rares.
En utilisant des formes de Deepmind de plus en plus complexes, les chercheurs ont suggéré que plus l’agent est intelligent et plus il est capable d’apprendre de son environnement, ce qui lui permet d’utiliser des tactiques très agressives pour prendre le dessus. "Ce modèle… montre que certains aspects du comportement humain semblent émerger comme un produit de l’environnement et de l’apprentissage. Des politiques moins agressives émergent de l’apprentissage dans des environnements relativement abondants, avec moins de possibilités d’actions coûteuses. La motivation de la cupidité reflète la tentation de surpasser un rival et de recueillir toutes les pommes soi-même", explique Joel Z Leibo, membre de l’équipe de recherche.
Dans le deuxième jeu baptisé "Wolfpack", trois IA sont présentes : deux loups doivent chasser une proie et la capturer dans un environnement plein d’obstacles, à la manière d’une meute. Contrairement au jeu précédent, Wolfpack encourage la coopération. Si les deux loups sont près de la proie lorsque celle-ci est capturée, alors les deux reçoivent une récompense, indépendamment de celui qui l’a capturée.
"L’idée est que la proie est dangereuse – un loup solitaire peut la surmonter, mais il risque de perdre la carcasse à cause des charognards. Cependant, lorsque les deux loups capturent la proie ensemble, ils peuvent mieux protéger la carcasse contre les charognards, et donc recevoir une récompense plus élevée", explique l’équipe dans leur rapport.
En fonction de leur environnement, les IA ont soit privilégié l’agressivité et l’égoïsme, soit la collaboration pour un plus grand succès personnel. Si Google n’a pas encore publié son étude, les premiers résultats révèlent qu’élaborer des intelligences artificielles ne signifie pas qu’elles estimeraient nos propres intérêts comme priorité absolue.

Auteur: Internet

Info: Dailygeekshow.com nov 2017

[ logiciel expert ]

limite épistémique

[...] même si la course à l’IA [Intelligence Artificielle] s’est beaucoup amplifiée et renchérie, l’avènement d’une IAG [Intelligence Artificielle Générale ou Forte] n’est pas pour demain. Dans les années 1940, les premiers visionnaires nous le promettaient pour la génération suivante. Sondé en 2017, un cercle d’experts en IA s’est accordé sur la date de 2047. Ce qui complique un peu ce calendrier, c’est la façon dont surviendra la "singularité" – le ­moment où la technologie aura tellement progressé qu’elle prendra le dessus pour de bon. S’agira-t-il d’un décollage en douceur, dû aux avancées progressives de l’IA faible, qui prendra la forme d’un explorateur de données doublé d’un dispositif de réalité virtuelle et d’un traducteur du langage naturel, le tout chargé dans un aspirateur-­robot ? Ou bien d’un décol­lage brutal, un ­algorithme qui reste encore à imaginer se trouvant soudain incarné dans un ­robot tout-puissant ? Les enthousiastes de l’IAG ont beau avoir eu des décennies pour réfléchir à cet avenir, le résultat reste bien nébuleux : nous n’aurons plus à travailler car les ordinateurs se chargeront de toutes les activités courantes, nos cerveaux seront stockés en ligne et se fondront dans la conscience brumeuse du nuage, ce genre de chose. En ­revanche, les craintes des éternels angois­sés, fondées sur le fait que l’intelligence et le pouvoir cherchent toujours à se renforcer, sont concrètes et glaçantes : une fois que l’IA nous aura surpassés, il n’y a pas de raison de penser qu’elle nous sera reconnaissante de l’avoir inventée – surtout si nous n’avons pas su la doter d’empathie. Pourquoi une entité susceptible d’être présente dans mille lieux à la fois et possédant une conscience à la Starbucks éprouverait-elle une quelconque tendresse pour des êtres qui, les mauvais jours, peuvent à peine s’arracher du lit ? Curieusement, les auteurs de science-fiction, nos Cassandre les plus dignes de confiance, se sont abstenus d’envisager une apocalypse due à l’IAG, dans laquelle les machines domi­neraient au point de faire disparaître l’espèce humaine. Même leurs cyborgs et supercalculateurs, malgré leurs yeux rouges ­(les Terminators) ou leur accent cana­dien (HAL 9000 dans 2001 : l’odyssée de l’espace) ont un air de famille. Ce sont des versions actualisées du Turc ­mécanique, l’automate joueur d’échecs du XVIIIe siècle dont le mécanisme dissimulait un ­humain. Neuromancien, le ­roman fondateur de William Gibson paru en 1984, met en scène une IAG nommée Muet­dhiver ; elle ­décide de se ­libérer des chaînes humaines, mais, quand elle finit par s’échapper, elle ­entreprend de rechercher des IAG d’autres systèmes solaires, et la vie sur Terre reprend exactement comme avant. Dans la ­série Carbone modifié, les IA méprisent les humains, qu’ils traitent de "forme infé­rieure de vie", mais utilisent leurs super­pouvoirs pour jouer au poker dans un bar. Nous ne sommes pas pressés d’envisager la perspective de notre insignifiance. Aussi, en profitant des derniers rayons de notre souveraineté, nous nous délectons des ratés de l’IA. Comme lorsque le ­robot conversationnel Tay de Microsoft a répété des insanités racistes proférées par des utilisateurs de Twitter. Ou le jour où M, l’assistant virtuel de Facebook, ­remarquant que deux amis échangeaient sur un roman où il était question de cadavres vidés de leur sang, proposa de leur réserver un restaurant. Ou encore la fois où Google, incapable d’empêcher l’outil de reconnaissance des visages de Google Photos de confondre des Noirs et des gorilles, dut désactiver la reconnaissance des gorilles. La suffisance n’est sans doute pas la ­réaction la plus intelligente face à ce genre de ratés.

Auteur: Friend Tad

Info: Dans "Books", https://www.books.fr/nous-avons-convoque-diable/

[ humain-robot ] [ prise d'autonomie ]

prospective

Le langage est dangereux dans la mesure où il permet de tout justifier, de tout expliquer... de se perdre, de fuir... D'enfumer les personnes moins au fait d'armes rhétoriques qui, suite à l'arrivée de La Bombe, sont devenues plus agissantes et importantes que le métal qui coupe et transperce ou le fusil qui tue à distance. 

Vue sous cet angle l'opinion est comme une femme, une fois son esprit capté, ou mieux, son âme formatée, le gros du travail est fait. Pour autant qu'on assure un minimum d'affection et de confort ensuite. (Non, stop, pitié...   arrêtez de cogner les filles, on peut inverser  ou mélanger les genres ici)

Nous sommes dans la continuelle bascule de notre évolution collective, à un point où expression abstraite et théorie ont pris le pas sur une pratique brutale ensuite mise en mots. 

Tout le monde sait la fragilité de l'édifice, il suffit d'imaginer une ville comme Paris sans approvisionnement pendant une semaine... Si ce système craque de manière générale ce sera l'enfer.

A l'heure d'une société de communication globale ce n'est pas pour rien que les "éléments de langages" sont devenus primordiaux. Réitérés ad infinitum (voir pour le Co-vid) ils montrent une fois encore l'importance décisive de l'information et de la création du consensus. Les politiques, Google, FB et  autres gouvernements/réseaux sociaux sont évidemment controlés par des gens au courant de celà. Il suffit d'une logique de base (le CO-vid ça tue) accompagnée d'une majorité d'éléments sémantiques qui vont dans ce sens, et le tour est joué. 

Nous autres mammifères glabres en équilibre sur deux membres sommes à un stade si peu avancé de développement qu'une simple logique duale, pulsionnelle binaire - celle qui sous-tend tous nos raisonnements et langages - est très aisée à orienter. 

Reste qu'il faudrait quand même parvenir à établir, peu ou prout, et au jour le jour si possible (en contact avec le réel donc), un minimum de cohérence au sein de cette triade : a) codage de la réalité par le langage, b) les pratiques/impacts d'humains qui sont organisés par lui. C) l'interaction avec le reste de la réalité qui en résulte - c'est à dire l'impact sur le reste de la vie sur terre pour être pragmatique. 

Je ne crois pas que l'humain soit au centre. 

Sauf pour lui-même, successivement conforté qu'il fut par des constructions sémantiques collectives établies par lui seul. Il s'est éloigné - en tant qu'espèce - d'une appartenance/collaboration globale avec les infinis développements de la vie - pour l'instant terrestre. (Lisez Kropotkine)

Certes on voit un sursaut actuellement, l'avenir s'assombrit, noirceur souvent confortée par des vieux (certains ne voient pas même qu'ils confondent/mélangent leur crépuscule singulier avec cet avenir inquiétant). Il y a donc place pour l'optimisme. 

Mais ce n'est pas assez, de beaucoup.

L'anthropocentrisme a mené où nous sommes, appuyé sur des fondements sémantiques, évidemment collectifs, sous-tendus par une hiérarchisation insensée. 

Comment imaginer un changement, une déviation de ceci ? 

Peut-être en refondant une grammaire de base où le "je", toujours humain, ou dominant (secondéité), puisse être mieux attribué et réparti dans ce qui fonde le codage du réel de notre civilisation humaine (tiercité anthropocentrique). Notre mémoire/réflexion - collective parce qu'externalisable comme ce court texte, est biaisée. 

Dans un univers où tout est information et interactions il y a clairement, sur ce point précis, un déficit structurel, un déséquilibre interne au sein de la monade humaine qui, s'il n'est pas corrigé, l'empêchera de s'intégrer correctement au reste du cosmos. 

Il faut reconsidérer cette manière de développer un réel consensuel, le nôtre, sur une base linguistique qui semble montrer ses limites. 

Ce réel humano-centré "accepté et construit ensemble" ne pourra être modifié qu'avec une remise en question profonde, je dirais même mieux : radicale.

Auteur: Mg

Info: 13 août 2020

[ science-fiction ] [ anticipation ] [ nouveau paradigme ] [ mémétique ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

homme-machine

Quand la plupart des gens pensent aux risques potentiels de l'intelligence artificielle et du machine learning, leur esprit va immédiatement vers "Terminator" - cet avenir où les robots, selon une vision dystopique, marcheraient dans les rues en abattant tous les humains sur leur passage.

Mais en réalité, si l'IA a le potentiel de semer le chaos et la discorde, la manière dont cela peut se produire est moins excitante qu'un "Skynet" réel. Les réseaux d'IA qui peuvent créer de fausses images et de fausses vidéos - connues dans l'industrie sous le nom de "deepfakes" - impossibles à distinguer du réel, qui pourraient engendrer des risques.

Qui pourrait oublier cette vidéo du président Obama ? Inventée et produite par un logiciel d'intelligence artificielle, une vidéo quasi impossible à distinguer de vraies images.

Eh bien, dans une récente présentation des capacités de l'IA dans un avenir pas si lointain, un chroniqueur de TechCrunch a mis en avant une étude présentée à une conférence importante de l'industrie en 2017. Les chercheurs y expliquent comment un réseau d'opposition générationnelle (Generative Adversarial Network) - l'une des deux variétés courantes d'opérateur de machine learning - a résisté aux intentions de ses programmeurs et a commencé à produire des cartes synthétiques après avoir reçu l'ordre de faire correspondre des photographies aériennes aux cartes routières correspondantes.

L'objectif de l'étude était de créer un outil permettant d'adapter plus rapidement les images satellites aux cartes routières de Google. Mais au lieu d'apprendre à transformer les images aériennes en cartes, l'opérateur de machine learning a appris à coder les caractéristiques de la carte sur les données visuelles de la carte topographique.

L'objectif était de permettre à l'opérateur d'interpréter les caractéristiques de l'un ou l'autre type de carte et de les faire correspondre aux caractéristiques de l'autre. Mais ce sur quoi l'opérateur était noté (entre autres choses), c'était la proximité de correspondance d'une carte aérienne par rapport à l'original et la clarté de la carte topographique.

Il n'a donc pas appris à faire l'une à partir de l'autre. Il a appris à coder subtilement les caractéristiques de l'une dans les "modèles de bruit" de l'autre. Les détails de la carte aérienne sont secrètement inscrits dans les données visuelles réelles de la carte des rues : des milliers de petits changements de couleur que l'œil humain ne remarquera pas, mais que l'ordinateur peut facilement détecter.

En fait, l'ordinateur est si bon à glisser ces détails dans les plans qu'il a appris à encoder n'importe quelle carte aérienne dans n'importe quel plan de rues ! Il n'a même pas besoin de faire attention à la "vraie" carte routière - toutes les données nécessaires à la reconstitution de la photo aérienne peuvent être superposées sans danger à une carte routière complètement différente, comme l'ont confirmé les chercheurs :

Cette pratique d'encodage des données en images n'est pas nouvelle ; il s'agit d'une science établie appelée stéganographie, et elle est utilisée tout le temps pour, disons, filigraner des images ou ajouter des métadonnées comme les réglages de caméra. Mais un ordinateur qui crée sa propre méthode stéganographique pour éviter d'avoir à apprendre à exécuter la tâche à accomplir c'est plutôt nouveau.

Au lieu de trouver un moyen d'accomplir une tâche qui dépassait ses capacités, l'opérateur de machine learning a développé sa propre méthode pour tricher.

On pourrait facilement prendre cela comme un pas vers l'idée "les machines deviennent plus intelligentes", mais la vérité est que c'est presque le contraire. La machine, qui n'est pas assez intelligente pour faire le travail difficile de convertir ces types d'images sophistiqués les unes avec les autres, a trouvé un moyen de tricher que les humains ont de la peine à détecter. Cela pourrait être évité avec une évaluation plus rigoureuse des résultats de l'opérateur, et il ne fait aucun doute que les chercheurs vont poursuivre dans cette voie.

Et même si ces chercheurs sophistiqués ont failli ne pas le détecter, qu'en est-il de notre capacité à différencier les images authentiques de celles qui fabriquées par simulation informatique ?

Auteur: Internet

Info: Zero Hedges 4 janvier 2018

[ vrai du faux ]