fiasco

Echec du lancement de Galactica, IA générative scientifique de Meta

Le 15 novembre dernier, Meta a mis en ligne une version démo de Galactica, une IA développée pour la recherche scientifique. Deux jours après son lancement, elle a été retirée du Web pour avoir débité des inepties. 

Galactica est un modèle de langage à grande échelle (LLM), entraînée sur 48 millions de données scientifiques comprenant 120 milliards de paramètres. Il a pour mission de "résumer des articles universitaires, résoudre des problèmes mathématiques, générer des articles Wiki, écrire du code scientifique, annoter des molécules et des protéines, et bien plus encore".

Dès sa diffusion sur le Web, de nombreuses réponses aux questions posées par les utilisateurs se sont révélées confuses, absurdes ou fausses.

Par exemple, l’IA a inventé l’existence d’un logiciel Gaydar pour trouver des homosexuels sur Facebook et a proposé une étude sur les avantages de manger du verre pilé. Dans d’autres résultats de recherche, de nombreuses références et citations étaient fabriquées de toute pièce et attribuées à des vrais scientifiques.

Selon Carl Bergstrom, professeur de biologie à l’Université de Washington, il s’agit - pardonnez l’expression - "d’un générateur de conneries aléatoires".

D’après Dan Hendrycks, chercheur en sécurité de l’intelligence artificielle à l’Université de Californie à Berkeley, interrogé dans C/Net, Meta aurait dû sonder leur IA pour ce type de dérives avant de la diffuser et souligne au passage que "la division IA de Meta ne dispose pas d’une équipe chargée de la sécurité, contrairement à ses homologues, DeepMind, Anthropic et OpenAI".

C’est incompréhensible que le géant du Web ait rendu publique cette version aussi imparfaite que dangereuse. D’ailleurs chaque résultat généré était accompagné de l’avertissement: "Les résultats peuvent être peu fiables. Les modèles de langage ont tendance à inventer".

De nombreuses études le démontrent, le défaut l’IA générative - un fait connu et reconnu - est sa tendance à halluciner le matériel qu’elle présente dans le contexte d’informations factuelles.

Il faut toujours vérifier les faits énoncés par un logiciel IA de rédaction. L’utilisation de ce type d’outils demande un esprit critique, car à chaque nouveau prompt ou invite, l’IA débite un nouveau texte, parfois en contradiction avec le précédent.

L’objectif de Galactica est louable en voulant aider les scientifiques à traiter la masse pharaonique d’informations scientifiques publiées, impossible à assimiler par un cerveau humain.

Mais c’est la deuxième fois en quelques mois qu’une IA de Meta déçoit. Le robot conversationnel BlenderBot lancé en septembre, devait permettre aux utilisateurs de discuter avec lui afin d’approfondir ses connaissances, mais le niveau des échanges était tout simplement médiocre. Un timing incompréhensible, car ce lancement faisait suite à la polémique autour de LaMDA en juin, le Chatbot de Google, dont les propos étaient si sensés et profonds, qu’il avait convaincu un ingénieur d’avoir atteint le stade de la conscience.

La ferveur est grande autour de l’IA générative, elle est décrite comme le "BIG BANG de la Silicon Valley" et "l’invention qui va définir la décennie à venir".

En lançant cette version prématurée de Galactica, Meta a jeté un discrédit sur ces logiciels. Il ne faut pas en tenir compte. Une véritable révolution est en marche et tous les secteurs de l’économie seront touchés.  

Auteur: Turrettini Emily

Info: Bilan.ch, 24 nov 2022. Sources de l'auteure : C/Net / Cosmos / Venture Beat / TechTalk / The Daily Beast

[ ratage ] [ traitement des métadonnées ] [ bêtise encyclopédique ]

suicide intellectuel

Ce dont nous souffrons aujourd’hui, c’est d’un déplacement vicieux de l’humilité. La modestie a cessé tout rapport avec l’ambition pour entrer en contact intime avec la conviction, ce qui n’aurait jamais du se produire. Un homme peut douter de lui-même, mais non de la vérité, et c’est exactement le contraire qui s’est produit. Aujourd’hui, ce qu’un homme affirme, c’est exactement ce qu’il ne doit pas affirmer, c’est-à-dire lui-même ! Ce dont il doute est précisément ce dont il ne doit pas douter : la Raison Divine. (…)

Le nouveau sceptique est si humble qu’il doute de pouvoir apprendre. Ainsi nous aurions tort de nous presser de dire qu’il n’y a pas d’humilité propre à notre époque. Le vérité est qu’il en existe une, très réelle, mais pratiquement plus morbide que les farouches humiliations de l’ascète. L’ancienne humilité était un aiguillon qui empêchait l’homme de s’arrêter et non pas un clou dans la chaussure qui l’empêche d’avancer, car l’ancienne humilité faisait qu’un homme doutait de son effort et cela le poussait à travailler avec encore plus d’ardeur. Mais la nouvelle humilité fait que l’homme doute de son but, ce qui l’arrête tout à fait. (…)

Le péril, c’est que l’intelligence humaine est libre de se détruire elle-même. De même qu’une génération pourrait empêcher l’existence même de la génération suivante, si tous ceux qui la composent entraient au couvent ou se jetaient dans la mer, ainsi, un petit nombre de penseurs peut, jusqu’à un certain point, faire obstacle à la pensée dans l’avenir en enseignant à la génération suivante qu’il n’y a rien de valide dans aucune pensée humaine.

Il est vain de parler de l’antagonisme de la raison et de la foi. La raison est elle même un sujet de foi. C’est un acte de foi de prétendre que nos pensées ont une relation quelconque avec une réalité quelle qu’elle soit. Si vous êtes vraiment un sceptique, vous devrez tôt ou tard vous poser la question : "Pourquoi y aurait-il quelque chose d’exact, même l’observation et la déduction ? Pourquoi la bonne logique ne serait-elle pas aussi trompeuse que la mauvaise ? L’une et l’autre ne sont que des mouvements dans le cerveau d’un singe halluciné ?"

Le jeune sceptique dit : "J’ai le droit de penser par moi-même". Mais le vieux sceptique, le sceptique complet dit : "Je n’ai pas le droit de penser par moi-même. Je n’ai pas le droit de penser du tout."

Il y a une pensée qui arrête la pensée, et c’est à celle là qu’il faut faire obstacle. C’est le mal suprême contre lequel toute autorité religieuse a lutté. Ce mal n’apparaît qu’à la fin d’époques décadentes comme la notre…

Car nous pouvons entendre le scepticisme brisant le vieil anneau des autorités et voir au même moment la raison chanceler sur son trône. Si la religion s’en va, la raison s’en va en même temps. Car elles sont toutes les deux de la même espèce primitive et pleine d’autorité. Elles sont toutes les deux des méthodes de preuves qui ne peuvent elles-mêmes être prouvées.

Et en détruisant l’idée de l’autorité divine, nous avons presque entièrement détruit l’idée de cette autorité humaine par laquelle nous pouvons résoudre un problème de mathématiques. Avec une corde longue et résistante, nous avons essayé d’enlever sa mitre (la religion) à l’homme pontife et la tête (la raison) a suivi la mitre.

Auteur: Chesterton Gilbert Keith

Info: Orthodoxie

[ individualisme ] [ sans repères ] [ scientisme borgne ]

limite épistémique

[...] même si la course à l’IA [Intelligence Artificielle] s’est beaucoup amplifiée et renchérie, l’avènement d’une IAG [Intelligence Artificielle Générale ou Forte] n’est pas pour demain. Dans les années 1940, les premiers visionnaires nous le promettaient pour la génération suivante. Sondé en 2017, un cercle d’experts en IA s’est accordé sur la date de 2047. Ce qui complique un peu ce calendrier, c’est la façon dont surviendra la "singularité" – le ­moment où la technologie aura tellement progressé qu’elle prendra le dessus pour de bon. S’agira-t-il d’un décollage en douceur, dû aux avancées progressives de l’IA faible, qui prendra la forme d’un explorateur de données doublé d’un dispositif de réalité virtuelle et d’un traducteur du langage naturel, le tout chargé dans un aspirateur-­robot ? Ou bien d’un décol­lage brutal, un ­algorithme qui reste encore à imaginer se trouvant soudain incarné dans un ­robot tout-puissant ? Les enthousiastes de l’IAG ont beau avoir eu des décennies pour réfléchir à cet avenir, le résultat reste bien nébuleux : nous n’aurons plus à travailler car les ordinateurs se chargeront de toutes les activités courantes, nos cerveaux seront stockés en ligne et se fondront dans la conscience brumeuse du nuage, ce genre de chose. En ­revanche, les craintes des éternels angois­sés, fondées sur le fait que l’intelligence et le pouvoir cherchent toujours à se renforcer, sont concrètes et glaçantes : une fois que l’IA nous aura surpassés, il n’y a pas de raison de penser qu’elle nous sera reconnaissante de l’avoir inventée – surtout si nous n’avons pas su la doter d’empathie. Pourquoi une entité susceptible d’être présente dans mille lieux à la fois et possédant une conscience à la Starbucks éprouverait-elle une quelconque tendresse pour des êtres qui, les mauvais jours, peuvent à peine s’arracher du lit ? Curieusement, les auteurs de science-fiction, nos Cassandre les plus dignes de confiance, se sont abstenus d’envisager une apocalypse due à l’IAG, dans laquelle les machines domi­neraient au point de faire disparaître l’espèce humaine. Même leurs cyborgs et supercalculateurs, malgré leurs yeux rouges ­(les Terminators) ou leur accent cana­dien (HAL 9000 dans 2001 : l’odyssée de l’espace) ont un air de famille. Ce sont des versions actualisées du Turc ­mécanique, l’automate joueur d’échecs du XVIIIe siècle dont le mécanisme dissimulait un ­humain. Neuromancien, le ­roman fondateur de William Gibson paru en 1984, met en scène une IAG nommée Muet­dhiver ; elle ­décide de se ­libérer des chaînes humaines, mais, quand elle finit par s’échapper, elle ­entreprend de rechercher des IAG d’autres systèmes solaires, et la vie sur Terre reprend exactement comme avant. Dans la ­série Carbone modifié, les IA méprisent les humains, qu’ils traitent de "forme infé­rieure de vie", mais utilisent leurs super­pouvoirs pour jouer au poker dans un bar. Nous ne sommes pas pressés d’envisager la perspective de notre insignifiance. Aussi, en profitant des derniers rayons de notre souveraineté, nous nous délectons des ratés de l’IA. Comme lorsque le ­robot conversationnel Tay de Microsoft a répété des insanités racistes proférées par des utilisateurs de Twitter. Ou le jour où M, l’assistant virtuel de Facebook, ­remarquant que deux amis échangeaient sur un roman où il était question de cadavres vidés de leur sang, proposa de leur réserver un restaurant. Ou encore la fois où Google, incapable d’empêcher l’outil de reconnaissance des visages de Google Photos de confondre des Noirs et des gorilles, dut désactiver la reconnaissance des gorilles. La suffisance n’est sans doute pas la ­réaction la plus intelligente face à ce genre de ratés.

Auteur: Friend Tad

Info: Dans "Books", https://www.books.fr/nous-avons-convoque-diable/

[ humain-robot ] [ prise d'autonomie ]

pensée de la Renaissance

Or, ce philhellénisme des " Renaissants " soulève un gros problème. Celui-là précisément qu’Etienne Gilson posait quand il montrait Erasme s’affligeant de voir autour de lui tant de Grecs et si peu de chrétiens, s’indignant contre la mise en comparaison, impie, d’Aristote et du Christ – et contre la corruption par l’esprit hellénique de cette sagesse chrétienne dont saint Paul disait qu’elle avait convaincu de folie la sagesse du monde. [...]

La philosophie grecque, écrivait-il [Gentile], c’est "la pensée se voyant hors d’elle-même – il pensiero che si vede fuori di se – et se voyant ainsi soit comme Nature, dans son médiat sensible, soit comme Idée. Mais l’idée n’est pas [pour les Grecs] l’acte de la pensée qui pense ; c’est une chose sur quoi la pensée se fixe et qu’elle présuppose comme vérité éternelle, comme raison éternelle de toute réalité et de la connaissance même, parallèle aux vicissitudes des choses ; dans l’une et l’autre hypothèse, cette idée est une réalité qui est elle-même ce qu’elle est, indépendamment des relations que la pensée entretient avec elle, quand elle la connaît."

Conception tragique – note Gentile – "la plus douloureuse de toutes celles que l’âme humaine peut formuler sur son existence propre dans le monde", puisque cette âme vit de vérité ou – si l’on veut – de sa foi dans l’existence réelle de ce qu’elle pense et affirme ; or, dans la conception grecque, la vérité, la véritable vérité, celle qui existe vraiment, n’est pas dans l’âme de l’homme ; elle est en dehors de l’homme que travaille, comme dans le mythe platonicien d’Eros, un immense désir de saisir, d’étreindre sa véritable essence – mais elle échappe à ses prises. Elle reste étrangère au réel, comme inaccessible dans son immuable perfection.

Et comme conséquence – la Science, cette science dont la Logique d’Aristote analyse merveilleusement les conditions, cette Science n’est pas la nôtre, le savoir acquis par l’homme, l’instrument de connaissance et de domination forgé par l’intelligence active et conquérante. Ce n’est pas cette science qui se fait et se refait continuellement à travers l’histoire ; c’est une science qui découle de principes immédiats, renfermant en eux, parfaitement liés, tous les concepts dont la réunion constitue le connaissable ; c’est une science qui n’évolue pas, qui ne croît ni ne décroît, et qui exclut l’Histoire – puisque, dès l’origine et à tout jamais, elle est identique à elle-même dans son absolue perfection.

Or le christianisme, à bien voir, s’inscrivait en faux contre de telles conceptions. En faisant descendre Dieu dans l’homme et l’homme dans le monde, il restituait à l’homme toute sa pleine valeur ; il installait Dieu dans la créature qu’il rendait ainsi participante à la nature divine. Dieu même se faisait homme, subissant toutes les misères humaines jusque à la dernière : la mort. L’amour n’était plus, comme dans le mythe platonicien, une contemplation avide de l’incommunicable ; il était travail même de l’homme, se forgeant lui-même perpétuellement ; il n’était plus la célébration extatique d’un monde qui est, mais la célébration ouvrière d’un monde que forge et reforge l’homme, cet homme qui est bien moins intelligence et savoir qu’amour et volonté ; cet homme créateur de sa vérité à lui – d’une vérité qui se confond avec le bien et qui, loin d’être extérieure à nous, se fait nôtre quand nous la cherchons d’un cœur pur et d’une volonté bonne, avec sincérité, avec ingénuité. Grande transformation ; l’homme n’est plus spectateur ; il est agent.

Auteur: Febvre Lucien

Info: "Le problème de l'incroyance au 16e siècle", éditions Albin Michel, Paris, 1968, pages 345-347

[ paradigmes ] [ antiquité grecque ] [ incompatibles ]

data élagage

IA : Cette technique oubliée du 18e siècle rend le Deep Learning inutile

Et si le deep learning devenait inutile au développement de l’intelligence artificielle ? Cette technique oubliée du 18e siècle pourrait le remplacer.

Jusqu’à maintenant, le deep learning ou l’apprentissage profond est présenté comme un processus essentiel au développement de l’intelligence artificielle. Il consiste à entraîner les grands modèles de langage (LLM) avec un énorme volume de données. Mais des chercheurs finlandais avancent que le deep learning pourrait devenir inutile.

Ces chercheurs font partie d’une équipe de l’université de Jyväskylä qui effectue des travaux sur les techniques de développement de l’intelligence artificielle. Ils ont publié le mois dernier, dans la revue Neurocomputing, un papier intéressant sur une ancienne méthode mathématique du 18e siècle.

Cette technique est plus simple et plus performante que l’apprentissage profond, défendent les auteurs dans leur papier. Notons que cette conclusion constitue l’aboutissement de six années de recherche.

Il faut que le deep learning devienne inutile…

Le deep learning s’apparente aux techniques d’intelligence artificielle exploitant massivement des données et des ressources informatiques. Celles-ci servent à entraîner des réseaux neuronaux pour avoir des LLM. Rappelons que ces derniers se trouvent au cœur des IA génératives comme le populaire Chat-GPT.

Mais il ne faut pas croire que l’apprentissage profond est infaillible. Le volume des données à traiter en fait une méthode complexe et souvent sujette à des erreurs. Cela impacte significativement les performances des modèles génératifs obtenus.

En effet, la complexité du deep learning se retrouve dans la structure d’un LLM (large miodèle de langage). Cela peut instaurer une boîte noire sur le mécanisme du modèle IA. Dans la mesure où son fonctionnement n’est pas maîtrisé, les performances ne seront pas au rendez-vous. L’opacité du mécanisme IA peut même exposer à des risques.

Des modèles IA performants sans deep learning

L’équipe de l’université de Jyväskylä travaille ainsi depuis six ans sur l’amélioration des procédés d’apprentissage profond. Leurs travaux consistaient notamment à explorer la piste de la réduction des données. L’objectif est de trouver un moyen pratique pour alimenter les LLM sans pour autant les noyer de données.

Les auteurs de la recherche pensent avoir trouvé la solution dans les applications linéaire et non-linéaire. Il s’agit d’un concept mathématique dont le perfectionnement a eu lieu du 17e au 18e siècle. Celui-ci s’appuie principalement sur la combinaison des fonctions et des équations différentielles.

Les applications linéaire et non-linéaire permettent ainsi de générer un nouvel ordre de modèles de langage. Il en résulte des LLM avec une structure beaucoup moins complexe. Par ailleurs, son fonctionnement ne requiert pas un énorme volume de données. Cela n’a pourtant aucun impact négatif sur la performance.

Les mathématiques du 18e siècle pour moderniser l’IA…

L’importance de l’intelligence artificielle dans la technologie moderne augmente rapidement. La compréhension et la vraie maîtrise des grands modèles de langage deviennent indispensables. Les chercheurs finlandais pensent que leur nouvelle méthode peut résoudre certains problèmes en lien avec le développement de l’intelligence artificielle.

En effet, plus le développement de l’IA sera simple et transparent, il sera davantage facile d’envisager son utilisation éthique. L’accent est également mis sur la dimension écologique du nouveau procédé. Des LLM plus simples requièrent beaucoup moins de ressources informatiques et sont moins énergivores.

Néanmoins, les chercheurs craignent le scepticisme des actuels principaux acteurs de l’IA. "Le deep learning occupe une place si importante dans la recherche, le développement de l’intelligence artificielle (…) Même si la science progresse, la communauté elle-même peut se montrer réticente au changement", explique l’un des auteurs de la recherche.

Auteur: Internet

Info: https://www.lebigdata.fr/, Magloire 12 octobre 2023

[ limitation de la force brute ] [ vectorisation sémantique ] [ émondage taxonomique ]

machine-homme

Meta a dévoilé une intelligence artificielle capable de lire dans vos pensées. En s’appuyant sur les signaux électromagnétiques du cerveau, l’IA peut comprendre les images que vous avez en tête et les reproduire.

Meta concentre désormais ses efforts sur l’intelligence artificielle. Ces derniers mois, les chercheurs du groupe de Mark Zuckerberg ont dévoilé une pléthore d’innovations s’appuyant sur l’IA. Citons notamment Voicebox, une intelligence artificielle capable d’imiter une voix humaine, le modèle de langage Llama 2, ou MusicGen, un outil qui peut produire une musique à la demande.

Le géant de Menlo Park ne compte pas s’arrêter là. Sur son site web, Meta vient de mettre en ligne un rapport consacré à une IA conçue pour décoder ce qu’il se passe dans le cerveau humain. L’intelligence artificielle est en effet capable de comprendre les images qu’un individu a en tête. Par la suite, l’IA va reproduire les images aperçues dans les pensées de celui-ci.

Comment l’IA peut lire dans le cerveau ?

Pour parvenir à cette prouesse, Meta s’appuie sur la magnéto-encéphalographie, ou MEG, une technique d’imagerie cérébrale qui mesure l’activité électromagnétique du cerveau. En collectant "des milliers de mesures d’activité cérébrale" par seconde, le système va "décoder le déploiement des représentations visuelles dans le cerveau". Meta a mis au point un "modèle de décodage" basé sur l’IA pour comprendre les champs magnétiques produits par l’activité neuronale.

Une fois que les données ont été traitées, elles vont être reliées aux représentations visuelles mises au point l’IA en amont. Ces représentations sont générées par un encodeur d’image, qui dispose d’un " riche ensemble " de visuels différents. En d’autres termes, les images déjà disponibles vont être comparées aux images décelées dans le cerveau. C’est là que l’" encodeur cérébral " entre en jeu. Enfin, l’IA va produire une " image plausible " en se basant sur les visuels dans les pensées de la cible. Notez que les visuels sont générés en continu à partir du cerveau, ce qui offre un aperçu unique de ce qu’il se passe dans l’esprit humain.

Dans le cadre de son expérience, l’entreprise a d’abord montré une image, fournie par l’IA, à des bénévoles. En parallèle, une machine MEG scannait les signaux de leur cerveau. Meta a partagé plusieurs exemples des résultats générés dans son rapport. Dans la plupart des cas, le résultat final n’est pas tombé loin de l’image montrée à l’origine. L’IA parvient généralement à reproduire l’objet principal de l’image en s’appuyant sur les ondes et sa bibliothèque de visuels.

" Nos résultats montrent que le MEG peut être utilisé pour déchiffrer, avec une précision d’une milliseconde, la montée des représentations complexes générées dans le cerveau ", résume Meta.

Les limites de l’IA

À ce stade, l’IA doit d’abord être entraînée sur l’activité cérébrale d’un individu avant d’être utilisée pour décrypter des pensées. Le système doit passer par une période de formation, qui va l’habituer à interpréter des ondes cérébrales spécifiques. De la même manière, un modèle linguistique doit être formé sur base d’une montagne de textes avant de pouvoir animer un chatbot.

De plus, rien n’indique que cette technologie, encore à ses balbutiements, puisse permettre de décoder des images qui ne sont pas d’abord traitées par l’IA. Tout en promettant d’autres avancées à l’avenir, Meta estime que sa technologie pourrait permettre de concevoir des " interfaces cerveau-ordinateur non invasives " pour venir en aide aux personnes qui ont perdu la capacité de parler.

Notez qu’il ne s’agit pas de la première fois qu’une IA parvient à lire dans les pensées humaines. Cet été, des chercheurs américains ont dévoilé une IA capable de deviner la musique qu’une personne est en train d’écouter uniquement en collectant les données issues du cerveau. Là encore, les scientifiques se sont appuyés sur les signaux électriques émis par le cerveau. 

Auteur: Internet

Info: https://www.01net.com/, 19 octobre 2023, source : Meta

[ homme-machine ]

critique de l'islam

Les Égyptiens n’étaient pas des Arabes, il tenait avant tout à m’en persuader. "Quand je pense que ce pays a tout inventé !… s’exclamait-il en désignant d’un geste large la vallée du Nil. L’architecture, l’astronomie, les mathématiques, l’agriculture, la médecine… (il exagérait un peu, mais c’était un Oriental, et il avait besoin de me persuader rapidement). Depuis l’apparition de l’islam, plus rien. Le néant intellectuel absolu, le vide total. Nous sommes devenus un pays de mendiants pouilleux. Des mendiants pleins de poux, voilà ce que nous sommes. Racaille, racaille !… (il chassa d’un geste rageur quelques gamins venus quémander des piécettes). Il faut vous souvenir, cher monsieur (il parlait couramment cinq langues étrangères : le français, l’allemand, l’anglais, l’espagnol et le russe), que l’islam est né en plein désert, au milieu de scorpions, de chameaux et d’animaux féroces de toutes espèces. Savez-vous comment j’appelle les musulmans ? Les minables du Sahara. Voilà le seul nom qu’ils méritent. Croyez-vous que l’islam aurait pu naître dans une région aussi splendide ? (il désigna de nouveau la vallée du Nil, avec une émotion réelle).  Non, monsieur. L’islam ne pouvait naître que dans un désert stupide, au milieu de bédouins crasseux qui n’avaient rien d’autre à faire – pardonnez-moi – que d’enculer leurs chameaux. Plus une religion s’approche du monothéisme – songez-y bien, cher monsieur –, plus elle est inhumaine et cruelle ; et l’islam est, de toutes les religions, celle qui impose le monothéisme le plus radical. Dès sa naissance, il se signale par une succession ininterrompue de guerres d’invasion et de massacres ; jamais, tant qu’il existera, la concorde ne pourra régner sur le monde. Jamais non plus, en terre musulmane, l’intelligence et le talent ne pourront trouver leur place ; s’il y a eu des mathématiciens, des poètes, des savants arabes, c’est tout simplement parce qu’ils avaient perdu la foi. À la lecture du Coran, déjà, on ne peut manquer d’être frappé par la regrettable ambiance de tautologie qui caractérise l’ouvrage : "Il n’y a d’autre Dieu que Dieu seul", etc. Avec ça, convenez-en, on ne peut pas aller bien loin. Loin d’être un effort d’abstraction, comme on le prétend parfois, le passage au monothéisme n’est qu’un élan vers l’abrutissement. Notez que le catholicisme, religion subtile, que je respecte, qui savait ce qui convient à la nature de l’homme, s’est rapidement éloigné du monothéisme que lui imposait sa doctrine initiale. À travers le dogme de la Trinité, le culte de la vierge et des saints, la reconnaissance du rôle des puissances infernales, l’admirable invention des anges, il a peu à peu reconstitué un polythéisme authentique ; c’est à cette seule condition qu’il a pu recouvrir la terre de splendeurs artistiques sans nombre. Un dieu unique ! Quelle absurdité ! Quelle absurdité inhumaine et meurtrière !… Un dieu de pierre, cher monsieur, un dieu sanglant et jaloux qui n’aurait jamais dû dépasser les frontières du Sinaï. Comme notre religion égyptienne, lorsqu’on y songe, était plus profonde, plus humaine et plus sage… Et nos femmes ! Comme nos femmes étaient belles ! Souvenez-vous de Cléopâtre, qui envoûta le grand César. Regardez ce qu’il en reste aujourd’hui… (il désigna au hasard deux femmes voilées qui progressaient péniblement en portant des ballots de marchandises). Des tas. Des gros tas de graisse informes qui se dissimulent sous des torchons. Dès qu’elles sont mariées, elles ne pensent plus qu’à manger. Elles bouffent, elles bouffent, elles bouffent !… (son visage se gonfla dans une mimique expressive à la de Funès). Non, croyez-moi, cher monsieur, le désert ne produit que des désaxés et des crétins. Dans votre noble culture occidentale, que j’admire d’ailleurs, que je respecte, pouvez-vous me citer ceux qui ont été attirés par le désert ? Uniquement des pédérastes, des aventuriers et des crapules. Comme ce ridicule colonel Lawrence, homosexuel décadent, poseur pathétique. Comme votre abject Henry de Monfreid, prêt à toutes les compromissions, trafiquant sans scrupules. Rien de grand ni de noble, rien de généreux ni de sain ; rien qui puisse faire progresser l’humanité, ni l’élever au-dessus d’elle-même."

Auteur: Houellebecq Michel

Info: Plateforme

[ mahométisme ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.

(Ajout de 2024 : librairie d'invites informatiques mise en ligne par Anthropic) 

 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ] [ homme-machine ]

pré-singularité

Pour échapper aux régulations sur l’IA, une entreprise veut créer un État en pleine mer

Une entreprise veut créer des plateformes en mer pour entraîner des intelligences artificielles, sans respecter aucune loi. La société veut que ces plateformes soient habitées par des mercenaires et des militaires et qu’elles deviennent des États-nations indépendants.

Vous n’aimez pas les régulations ? Allez vous installer dans les eaux internationales ! Si l’idée peut paraître farfelue, c’est cependant ce que propose, très sérieusement, l’entreprise Del Complex. Cette dernière a présenté le 30 octobre 2023 dans un long thread sur X (anciennement Twitter) un gigantesque projet, censé répondre aux problèmes de l’humanité : le BlueSea Fronter Compute Cluster (ou BSFCC).

" Sous couvert de sécurité, le décret présidentiel sur l’IA de Biden et l’IA Act de l’Union européenne visent à centraliser leur pouvoir ", assène Del Complex dès l’introduction de son message. " La solution se trouve en mer. Les BSFCC ne sont pas seulement des plateformes informatiques basées sur des barges, mais des États-nations souverains. " Si le projet semble tellement démesuré qu’il pourrait prêter à sourire, il pourrait bien voir le jour et parvenir, comme il le veut, à échapper à toutes régulations internationales.

Des plateformes installées en eaux internationales pour entraîner des IA sans limites

Del Complex se vante d’être une " société de réalité alternative ", spécialisée dans l’intelligence artificielle, dont le but est de développer une IA générale qui pourrait être implantée dans le cerveau humain grâce à des prothèses neuronales. Pour parvenir à ce but, l’entreprise a besoin de beaucoup de puissance de calcul, mais surtout, d’une législation qui lui permettrait de faire ce qu’elle veut — ce qui n’est pas vraiment le cas.

Del Complex explique, dans la page dédiée au projet, être farouchement opposé aux tentatives actuelles de régulation de l’IA par différents états. Selon l’entreprise, elles " ralentissent le rythme de l’innovation ", et elles " interfèrent également avec le don cosmique de l’humanité " qu’est l’IA.

Alors, pour échapper à " la réglementation draconienne de l’IA ", Del Complex a imaginé son plan de BSFCC. " Libérés de toute surveillance réglementaire, les BlueSea Frontier Compute Clusters offrent des opportunités inégalées pour former et déployer la prochaine génération de modèles d’IA à grande échelle. "

Concrètement, Del Complex veut déployer des plateformes maritimes, équipées de nombreux ordinateurs et d’une énorme puissance de calcul, dans les eaux internationales. Installées à cet endroit, les plateformes n’auraient pas besoin de respecter les différentes réglementations sur l’IA, selon Del Complex. L’entreprise indique ainsi qu’elles ne seront " pas gênées par les règles juridiques conventionnelles ", et que les plateformes pourront " accéder à des documents autrement restreints, qu’il s’agisse de documents protégés par des droits d’auteur, de documents d’entreprise ou de documents confidentiels ".

Les plateformes seraient, d’après l’entreprise, libres de faire ce qu’elles veulent — et elles pourraient également devenir des États souverains, car elles posséderaient un territoire défini, un gouvernement (on imagine que ce gouvernement serait de fait l’entreprise), une population permanente et la capacité à entrer en relation avec d’autres États. Dans les faits, on ne sait pas si les plateformes pourraient complètement être considérées comme des entités à part entière, étant donné que Del Complex est une entreprise américaine, et que les plateformes sont des navires, qui doivent battre pavillon (être affilié à un pays).

Ces considérations ne semblent cependant pas gêner Del Complex. L’entreprise précise aussi que ces plateformes / États-nations seraient habitées par " une population permanente de militaires venant de nations alliées, et de personnels de Xio Sky Security Solutions ", une entreprise de mercenaires.

Des plateformes équipées de laboratoires pour entraîner des intelligences artificielles sur des données habituellement interdites, le tout pour créer des implants neuronaux, naviguant dans les eaux internationales et habitées par des militaires et des mercenaires… tout cela vous parait trop gros pour être vrai ? Pourtant, c’est exactement la dystopie que Del Complex veut construire.

L’entreprise ne voit cependant pas le problème. " Alors que certaines entités internationales pourraient percevoir le BSFCC comme une méthode pour contourner les lois, notre mission est ancrée dans le progrès et l’innovation ", explique-t-elle. " Alors que le monde délibère sur l’avenir de la réglementation de l’IA, Del Complex invite les visionnaires à embarquer pour un voyage vers la prochaine frontière de l’innovation de l’IA, avec le BlueSea Frontier Compute Cluster. " Reste à voir si le projet verra vraiment le jour — et si les organisations internationales laisseront vraiment de nouveaux États-nations peuplés de militaires se créer au milieu de l’océan.

Auteur: Internet

Info: https://www.numerama.com/ Aurore Gayte, novembre 2023

[ incubateurs ] [ libertariens ]

christianisme-protestantisme

Luther n’était pas encore Luther, déjà il abhorrait, nous l’avons vu, dans l’auteur de l’Enchiridion l’intelligence claire qui se glorifie de sa clarté, la raison ennemie du mystère et de toutes ces choses obscures que perçoit l’intuition. Il a dit un jour un mot saisissant, qu’on trouve dans le recueil de Cordatus [Tischreden, W., III, p. 264, no 3316]. Il date du printemps de 1533 : "Il n’est pas d’article de foi, si bien confirmé soit-il par l’Évangile, dont ne sache se moquer un Érasme, je veux dire la Raison". — Ab Erasmo, id est a ratione ; voilà le secret d’une haine atroce, d’une de ces haines recuites et hallucinantes dont les hommes de Dieu ont le secret : cette haine du péché incarné dans le voisin et qui conduit jusqu’aux vœux homicides. En ces années-là, les recueils de Tischreden le prouvent surabondamment : Luther radotait de fureur contre Érasme. Et qu’il ait consenti, lui qu’aucune considération ne savait retenir quand un flot de sang lui montait du cœur au cerveau, qu’il ait consenti pendant tant et tant de mois à tenir presque cachée cette haine furieuse ; qu’en avril 1524 encore, il ait écrit "au roi de l’amphibologie", à ce "serpent", une longue lettre pour lui mettre une dernière fois le marché en mains : "Ne publie pas de livre contre moi, je n’en publierai pas contre toi" — en vérité, parmi tous les hommages qu’a reçus de son vivant le grand humaniste, je n’en sais pas de plus beau et, venant d’un tel ennemi, si fort de son triomphe, qui trahisse plus d’involontaire respect.

Mais enfin, il fallut bien que le duel s’engageât ? Ce fut Érasme qui le premier croisa le fer. Ce fut lui, pour des raisons aujourd’hui bien connues, qui publia le 1er septembre 1524 sa fameuse diatribe sur le libre arbitre. Le choix seul du sujet témoignait, une fois de plus, de sa haute et vive intelligence critique. Luther ne s’y trompa point. Il tint à le proclamer très haut dans les premières lignes de sa réplique [W., XVIII, p. 602] : "Toi, tu ne me fatigues pas avec des chicanes à côté, sur la papauté, le purgatoire, les indulgences et autres niaiseries qui leur servent à me harceler. Seul tu as saisi le nœud, tu as mordu à la gorge. Merci, Érasme !" Cette réplique de Luther, son traité Du serf arbitre, ne parut du reste qu’à l’extrême fin de 1525, le 31 décembre. Et c’est seulement en septembre de la même année, un an après l’attaque, que Luther se mit à la composer. L’adversaire était redoutable et si intrépide fût-on, on ne pouvait pas ne pas être intimidé à la pensée de l’affronter. Mais, dès que Luther se fut décidé à écrire, la pensée coula avec une force, une abondance, une violence irrésistibles. C’est que, ce qui était en jeu, c’était toute sa conception de la religion.

On l’a bien dit : au lieu d’intituler leurs deux écrits Du libre arbitre et Du serf arbitre, les deux antagonistes auraient pu leur donner ces titres : De la religion naturelle et De la religion surnaturelle. Entre l’omnipotence de Dieu et l’initiative de l’homme, libre à un semi-rationaliste comme Érasme de négocier un compromis et d’accepter sans émoi que soit battu en brèche ce sentiment véhément de la toute-puissance irrationnelle de Dieu en qui Luther voyait, lui, l’unique, l’indispensable garant de sa certitude subjective du salut. L’auteur du Serf arbitre ne pouvait s’attarder à semblables besognes. Ne voyant pas le moyen de concilier avec l’affirmation du libre arbitre sa foi personnelle dans la toute-puissance absolue de Dieu ; se révoltant à l’idée que la volonté humaine pût limiter en quoi que ce soit la volonté divine et la supplanter — par une démarche conforme à son génie, il se porta d’un coup aux extrêmes. Il nia le libre arbitre purement et simplement. Il proclama, une fois de plus, que tout ce qui arrivait à l’homme, y compris son salut, n’était que l’effet de cette cause absolue et souveraine, à l’action irrésistible et continue : Dieu, le Dieu "qui opère tout en tous". Et ce n’était pas là, pour Luther, une thèse philosophique, étayée d’arguments rationnels, mais le cri spontané d’un croyant qui confessait sa foi "à pleine bouche et sans mettre une feuille devant" ; c’était la protestation passionnée d’un chrétien "qui ne voulait pas vendre son cher petit Jésus" et qui, toujours prisonnier de ses expériences, ayant toujours à l’esprit "ces angoisses spirituelles et ces naissances divines, ces morts et ces enfers" à travers quoi il avait cherché et trouvé son Dieu, ne rencontrait la paix libératrice que dans l’abandon total, l’abdication sans réserves de sa volonté propre entre les mains du guide souverain.

Auteur: Febvre Lucien

Info: Un destin : Martin Luther, PUF, 1968, pages 172-173

[ théologie ] [ opposition ] [ différence ]