fiasco

Echec du lancement de Galactica, IA générative scientifique de Meta

Le 15 novembre dernier, Meta a mis en ligne une version démo de Galactica, une IA développée pour la recherche scientifique. Deux jours après son lancement, elle a été retirée du Web pour avoir débité des inepties. 

Galactica est un modèle de langage à grande échelle (LLM), entraînée sur 48 millions de données scientifiques comprenant 120 milliards de paramètres. Il a pour mission de "résumer des articles universitaires, résoudre des problèmes mathématiques, générer des articles Wiki, écrire du code scientifique, annoter des molécules et des protéines, et bien plus encore".

Dès sa diffusion sur le Web, de nombreuses réponses aux questions posées par les utilisateurs se sont révélées confuses, absurdes ou fausses.

Par exemple, l’IA a inventé l’existence d’un logiciel Gaydar pour trouver des homosexuels sur Facebook et a proposé une étude sur les avantages de manger du verre pilé. Dans d’autres résultats de recherche, de nombreuses références et citations étaient fabriquées de toute pièce et attribuées à des vrais scientifiques.

Selon Carl Bergstrom, professeur de biologie à l’Université de Washington, il s’agit - pardonnez l’expression - "d’un générateur de conneries aléatoires".

D’après Dan Hendrycks, chercheur en sécurité de l’intelligence artificielle à l’Université de Californie à Berkeley, interrogé dans C/Net, Meta aurait dû sonder leur IA pour ce type de dérives avant de la diffuser et souligne au passage que "la division IA de Meta ne dispose pas d’une équipe chargée de la sécurité, contrairement à ses homologues, DeepMind, Anthropic et OpenAI".

C’est incompréhensible que le géant du Web ait rendu publique cette version aussi imparfaite que dangereuse. D’ailleurs chaque résultat généré était accompagné de l’avertissement: "Les résultats peuvent être peu fiables. Les modèles de langage ont tendance à inventer".

De nombreuses études le démontrent, le défaut l’IA générative - un fait connu et reconnu - est sa tendance à halluciner le matériel qu’elle présente dans le contexte d’informations factuelles.

Il faut toujours vérifier les faits énoncés par un logiciel IA de rédaction. L’utilisation de ce type d’outils demande un esprit critique, car à chaque nouveau prompt ou invite, l’IA débite un nouveau texte, parfois en contradiction avec le précédent.

L’objectif de Galactica est louable en voulant aider les scientifiques à traiter la masse pharaonique d’informations scientifiques publiées, impossible à assimiler par un cerveau humain.

Mais c’est la deuxième fois en quelques mois qu’une IA de Meta déçoit. Le robot conversationnel BlenderBot lancé en septembre, devait permettre aux utilisateurs de discuter avec lui afin d’approfondir ses connaissances, mais le niveau des échanges était tout simplement médiocre. Un timing incompréhensible, car ce lancement faisait suite à la polémique autour de LaMDA en juin, le Chatbot de Google, dont les propos étaient si sensés et profonds, qu’il avait convaincu un ingénieur d’avoir atteint le stade de la conscience.

La ferveur est grande autour de l’IA générative, elle est décrite comme le "BIG BANG de la Silicon Valley" et "l’invention qui va définir la décennie à venir".

En lançant cette version prématurée de Galactica, Meta a jeté un discrédit sur ces logiciels. Il ne faut pas en tenir compte. Une véritable révolution est en marche et tous les secteurs de l’économie seront touchés.  

Auteur: Turrettini Emily

Info: Bilan.ch, 24 nov 2022. Sources de l'auteure : C/Net / Cosmos / Venture Beat / TechTalk / The Daily Beast

[ ratage ] [ traitement des métadonnées ] [ bêtise encyclopédique ]

judéo-christianisme

De fait, la Bible ne prône nulle part l’épanouissement du vivant, le body-building, la relaxation, les loisirs, le télé-travail, l’Internet-citoyen, la réduction du temps de travail, les trente-cinq heures, les trente-deux heures, les vingt-sept heures, les dix-huit heures, les deux heures, la disparition des heures, les vide-greniers, les pique-niques citoyens, la gymaquatique, la muscu, les randonnées en tenue fluo, les félicités électroniques, la movida hilare et les Gay Prides.

On n’y trouve aucune contribution à l’accroissement des droits des malades, du droit au logement et de celui des handicapés, des sans-fenêtres, des sans-portes ou des sans-papiers. L’épisode de Babel est une insulte à notre idéal de culture interculturelle et transfrontalière. La différence des sexes marquée à jamais, dans la Genèse, comme condition de possibilité de toute humanité (avec l’énoncé des maux différents, ou plutôt différenciés avec une extrême précision, que Dieu promet à l’homme et à la femme après l’épisode du péché : multiplication des peines de grossesse pour elle, souffrance du travail quotidien pour lui et retour à la terre par la mort), justifie la haine de tous les transgenristes, de tous les partisans du "l’un et l’autre" ou du "ni l’un ni l’autre", de tous les déligitimeurs de l’ "ordre symbolique" et de tous les apologistes du "contre-pouvoir féminin" menacé par le front réactionnaire de l’Internationale machiste.

Et, assurément, les guerres et les massacres qui sont évoqués dans l’Ecriture ont le malheur d’avoir été "réels" ; de ne pas s’être rapprochés de l’idéal "zéro mort" des guerres "parfaites" d’aujourd’hui. […]

Quant à l’hostilité vétérotestamentaire vis-à-vis de ce qui relève de l’occultisme ("Si un homme ou une femme ont en eux un esprit de divination, ils seront punis de mort, on les lapidera", etc.), elle ne peut qu’apparaître odieuse à nos esprits modernes où cohabitent si harmonieusement les inepties des cartomanciennes et les prestiges de la technique la plus ravageante.

Et je ne parle même pas du paternalisme abusif dont le Livre regorge, ni de sa prétention paranoïaque à un châtiment descendu du ciel. Ou plutôt si, j’en parle. Je ne parle que de ça : de la fonction centrale du Père dans la Bible et du caractère spécifiquement douteux de la paternité réelle, introduisant la dimension symbolique et la parole articulée (du moins jusqu’à ce que les récentes conquêtes de la science n’en finissent avec ce doute et ne rendent la paternité possiblement certaine, donc sans intérêt, en même temps que d’autres conquêtes, sociétales celles-là, annonçant la joyeuse destruction du langage articulé et le retour à l’inceste).

En tous ces domaines, et en bien d’autres, la Bible n’a cessé de se rendre antipathique. Elle n’est pas du tout glamrock. Elle ne cultive pas le maximum respect. Les démocraties terminales d’Occident, dans leur frénésie de chasser tout ce qui a pu être différent, à un degré ou à un autre, de ce qu’elles considèrent maintenant comme le devenir enviable de l’humanité, ne peuvent donc qu’être conduites à mettre en accusation ses "passages sanglants" et "contraires aux droits de l’homme". […] La part d’ombre, le flou, le louche, le tortueux, l’ambivalent, la négativité, caractéristiques il n’y a pas si longtemps de ce qu’il y avait de plus humain et de plus libre dans la condition humaine, ne sont plus que des crimes ou des infirmités.

Auteur: Muray Philippe

Info: Dans "Exorcismes spirituels, tome 3", Les Belles Lettres, Paris, 2002, pages 37 à 39

[ anti-moderne ] [ liste des griefs ] [ choc des discours ] [ révisionnisme ] [ évolution ]