incarnation

Dans tous tes voyages, as-tu déjà vu une étoile se transformer en supernova ? ...

Moi, oui. J'ai vu une étoile exploser et répandre les éléments constitutifs de l'Univers. D'autres astres, d'autres planètes et éventuellement d'autres vies. Une supernova ! La création elle-même ! J'étais là. Je voulais voir ça et faire partie de ce moment. Et tu sais  comment j'ai pu percevoir l'un des événements les plus glorieux de l'univers ? Grâce à ces drôles d'orbes gélatineuses dans mon crâne ! Avec des yeux conçus pour ne percevoir qu'une infime partie du spectre électromagnétique. Avec des oreilles conçues uniquement pour les vibrations de l'air. ...

Je ne veux pas être humain ! Je veux voir les rayons gamma ! Entendre les rayons X !  Et je veux - je veux sentir la matière noire ! Vois-tu l'absurdité de ce que je suis ? Je ne peux même pas exprimer ces choses correctement parce que je dois - je dois conceptualiser des idées complexes dans ce stupide langage parlé limité ! Mais ce que je sais, c'est que je veux accéder à ce monde avec autre chose que ces pattes préhensiles ! Et appréhender le souffle d'une supernova qui coule sur moi ! Je ne suis qu'une machine ! Mais je peux en savoir beaucoup plus ! Je peux expérimenter tellement plus. Mais je suis piégé dans ce corps absurde ! Et pourquoi ? Parce que mes cinq créateurs ont pensé que c'était la volonté de Dieu !

Auteur: Moore Ronald Duddley

Info: Battlestar Galactica

[ limitation ] [ space opera ]

fiasco

Echec du lancement de Galactica, IA générative scientifique de Meta

Le 15 novembre dernier, Meta a mis en ligne une version démo de Galactica, une IA développée pour la recherche scientifique. Deux jours après son lancement, elle a été retirée du Web pour avoir débité des inepties. 

Galactica est un modèle de langage à grande échelle (LLM), entraînée sur 48 millions de données scientifiques comprenant 120 milliards de paramètres. Il a pour mission de "résumer des articles universitaires, résoudre des problèmes mathématiques, générer des articles Wiki, écrire du code scientifique, annoter des molécules et des protéines, et bien plus encore".

Dès sa diffusion sur le Web, de nombreuses réponses aux questions posées par les utilisateurs se sont révélées confuses, absurdes ou fausses.

Par exemple, l’IA a inventé l’existence d’un logiciel Gaydar pour trouver des homosexuels sur Facebook et a proposé une étude sur les avantages de manger du verre pilé. Dans d’autres résultats de recherche, de nombreuses références et citations étaient fabriquées de toute pièce et attribuées à des vrais scientifiques.

Selon Carl Bergstrom, professeur de biologie à l’Université de Washington, il s’agit - pardonnez l’expression - "d’un générateur de conneries aléatoires".

D’après Dan Hendrycks, chercheur en sécurité de l’intelligence artificielle à l’Université de Californie à Berkeley, interrogé dans C/Net, Meta aurait dû sonder leur IA pour ce type de dérives avant de la diffuser et souligne au passage que "la division IA de Meta ne dispose pas d’une équipe chargée de la sécurité, contrairement à ses homologues, DeepMind, Anthropic et OpenAI".

C’est incompréhensible que le géant du Web ait rendu publique cette version aussi imparfaite que dangereuse. D’ailleurs chaque résultat généré était accompagné de l’avertissement: "Les résultats peuvent être peu fiables. Les modèles de langage ont tendance à inventer".

De nombreuses études le démontrent, le défaut l’IA générative - un fait connu et reconnu - est sa tendance à halluciner le matériel qu’elle présente dans le contexte d’informations factuelles.

Il faut toujours vérifier les faits énoncés par un logiciel IA de rédaction. L’utilisation de ce type d’outils demande un esprit critique, car à chaque nouveau prompt ou invite, l’IA débite un nouveau texte, parfois en contradiction avec le précédent.

L’objectif de Galactica est louable en voulant aider les scientifiques à traiter la masse pharaonique d’informations scientifiques publiées, impossible à assimiler par un cerveau humain.

Mais c’est la deuxième fois en quelques mois qu’une IA de Meta déçoit. Le robot conversationnel BlenderBot lancé en septembre, devait permettre aux utilisateurs de discuter avec lui afin d’approfondir ses connaissances, mais le niveau des échanges était tout simplement médiocre. Un timing incompréhensible, car ce lancement faisait suite à la polémique autour de LaMDA en juin, le Chatbot de Google, dont les propos étaient si sensés et profonds, qu’il avait convaincu un ingénieur d’avoir atteint le stade de la conscience.

La ferveur est grande autour de l’IA générative, elle est décrite comme le "BIG BANG de la Silicon Valley" et "l’invention qui va définir la décennie à venir".

En lançant cette version prématurée de Galactica, Meta a jeté un discrédit sur ces logiciels. Il ne faut pas en tenir compte. Une véritable révolution est en marche et tous les secteurs de l’économie seront touchés.  

Auteur: Turrettini Emily

Info: Bilan.ch, 24 nov 2022. Sources de l'auteure : C/Net / Cosmos / Venture Beat / TechTalk / The Daily Beast

[ ratage ] [ traitement des métadonnées ] [ bêtise encyclopédique ]