machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

géopolitique

L’Allemagne était [au début du 16e siècle] un pays sans unité : voilà l’essentiel. Il y avait, nombreux, forts, actifs, des Allemands, beaucoup d’Allemands parlant des dialectes voisins les uns des autres, ayant dans une large mesure des mœurs, des usages, des façons d’être et de penser communes. Ces Allemands formaient une "nation" au sens médiéval du mot. Ils n’étaient point groupés, tous, solidement, dans un État bien unifié et centralisé, corps harmonieux aux mouvements commandés par un unique cerveau.

Dans une Europe qui, partout, s’organisait autour des rois, l’Allemagne restait sans souverain national. Il n’y avait pas de roi d’Allemagne, comme il y avait, et depuis bien longtemps, un roi de France, un roi d’Angleterre, riches, bien servis, prestigieux, et sachant rallier aux heures de crise toutes les énergies du pays autour de leur personne et de leur dynastie. Il y avait un empereur, qui n’était plus qu’un nom, et un Empire qui n’était plus qu’un cadre. Dans ce cadre démesuré, le nom, le trop grand nom écrasait de son poids un homme faible, un homme pauvre — parfois un pauvre homme — qu’un vote, disputé comme un marché de foire, élevait finalement à la dignité suprême, mais impuissante.

En un temps où se révélait la valeur de l’argent, au temps décrit dans le livre classique d’Ehrenberg, l’empereur en tant que tel était un indigent. De son Empire il ne tirait plus rien de substantiel. La valeur d’une noisette, disait Granvelle — moins que, de leur évêché, certains évêques allemands. Fondus, les immenses domaines impériaux qui avaient fait la force des Saxons et des Franconiens. Concédés, aliénés, usurpés les droits régaliens, les droits de collation, tout ce qui aurait pu nourrir un budget régulier. Et cependant, plus que tout autre souverain de son temps, le prince au titre retentissant mais à qui les diètes, s’ingéniant, refusaient tout subside, aurait eu pour agir besoin d’être riche. Car, titulaire d’une dignité éminente et qui ne se transmettait pas, comme un royaume, par hérédité ; né d’un vote en faveur d’un prince chrétien qui n’était pas plus obligatoirement allemand que le pape n’était forcément italien   — l’empereur, courbé sous le poids d’une couronne lourde d’un trop lourd passé, devait courir partout, et veiller au monde en même temps qu’à l’Allemagne. Si, dans ce pays, son autorité de jour en jour périclitait — c’est que sa grandeur même empêchait d’agir ce souverain d’un autre âge. Elle le tenait enchaîné devant les véritables maîtres des pays germaniques : les princes, les villes.

Les princes avaient sur l’empereur une grande supériorité. Ils étaient les hommes d’un seul dessein. Et d’une seule terre. Ils n’avaient pas de politique mondiale à suivre, eux — pas de politique "chrétienne" à conduire. L’Italie ne les sollicitait pas. Ils ne dédaignaient point, certes, d’y faire de temps à autre un voyage fructueux. Mais ils n’allaient point là-bas, comme les empereurs, poursuivre des chimères vieillies ou d’illusoires mirages. Tandis que les Césars fabriqués à Francfort par les soins diligents de quelques-uns d’entre eux, se ruinaient en de folles et stériles aventures, une seule chose tenait les princes en souci : la fortune de leur maison, la grandeur et la richesse de leur dynastie. Précisément, à la fin du XVe siècle, au début du XVIe siècle, on les voit opérer un peu partout, en Allemagne, un vigoureux effort de concentration politique et territoriale. Plusieurs d’entre eux, profitant de circonstances favorables, de hasards heureux, s’employaient à constituer des états solides, moins morcelés qu’auparavant. Dans le Palatinat, en Wurtemberg, en Bavière, en Hesse, dans le Brandebourg et le Mecklembourg, ailleurs encore, la plupart des maisons qui, à l’époque moderne, joueront dans l’histoire allemande un rôle de premier plan, affirment dès le début du XVIe siècle une vigueur nouvelle et unifient leurs forces pour de prochaines conquêtes.

On va donc vers une Allemagne princière. On y va seulement. N’ayant point à sa tête de chef souverain vraiment digne de ce nom, l’Allemagne paraît tendre à s’organiser sous huit ou dix chefs régionaux, en autant d’états solides, bien administrés, soumis à un vouloir unique. Mais cette organisation, elle n’existe point encore. Au-dessus des princes il y a toujours l’empereur. Ils ne sont souverains que sous sa souveraineté. Et au-dessous d’eux, ou plutôt, à côté d’eux, il y a (pour ne point parler des nobles indisciplinés et pillards), les villes.

Les villes allemandes au seuil du XVIe siècle : une splendeur. Et telle, que les étrangers ne voient qu’elles lorsqu’ils visitent l’Allemagne, comme si l’éclat des cités éblouissait leurs yeux. Vingt capitales, chacune possédant en propre ses institutions, ses industries, ses arts, ses costumes, son esprit. Celles du Sud : l’Augsbourg des Fugger, porte d’entrée et de sortie du trafic italo-germain, préface pittoresque avec ses maisons peintes à fresque, du monde ultramontain. Mieux encore, Nuremberg, la patrie de Durer, de Fischer, d’Hans Sachs, de Martin Behaim, assise au pied de son Burg à mi-chemin entre Main et Danube. Mais celles du Nord aussi : l’industrieuse et réa-iste Hambourg, légère de scrupules et commençant sa magnifique ascension ; Lübeck, reine déjà déclinante de la Hanse ; Stettin, la ville du blé, et, tout au loin, Dantzig, ses vastes édifices, ses grandes églises de brique, enseignes d’une propriété sans défaillance. Sur le front oriental, Francfort-sur-l’Oder, entrepôt du trafic polonais ; Breslau, porte naturelle de la Silésie. Et à l’Ouest, sur le grand fleuve fougueux, la brillante pléiade des villes rhénanes, de Cologne à Bâle ; par-derrière, l’énorme marché francfortois ; et par-derrière encore Leipzig, un carrefour, au vrai cœur de cette Allemagne multiple. 

[…] Implantées au milieu des domaines princiers, elles [les villes] les trouent, les déchiquettent, limitent leur expansion, les empêchent de se constituer fortement. Elles-mêmes, peuvent-elles s’étendre ? Non. Se fédérer ? Non plus. Autour de leurs murailles, le plat pays : des campagnes soumises à un droit dont le droit de la ville est la négation. Là, sous des maîtres avides, des paysans incultes et grossiers, parfois misérables, prêts à se révolter et grondant sous le joug, étrangers en tout cas à la culture urbaine, si particuliers que les artistes peintres et graveurs ne se lassent pas de décrire leurs aspects sauvages, leurs mœurs primitives. Les villes veulent-elles s’entendre, collaborer ? Ce ne peut être que par-dessus de larges étendues, de vastes territoires hétérogènes qui contrastent avec elles, vigoureusement, en tout. Ces civilisations urbaines, si prestigieuses : des civilisations d’oasis. Ces villes : des prisonnières, vouées à l’isolement, et que guettent les princes, et qui se guettent l’une l’autre.

Leurs ressources, leurs richesses, à quoi vont-elles ? Aux arsenaux dont elles s’enorgueillissent, mais qui les ruinent. Aux canonniers, techniciens exigeants, qu’il faut payer très cher. Aux remparts, aux bastions sans cesse à réparer, parfois à modifier de fond en comble... Et encore, ces ressources, elles vont aux ambassades, aux missions diplomatiques lointaines, aux courriers sans cesse sur les hauts chemins et pour quelles randonnées furieuses ! Villes libres, elles payent leur liberté : trop cher. Car malgré tous les sacrifices, elles sont faibles, à la merci du prince qui s’installe sur le fleuve, en amont, en aval, pour barrer le trafic ; à la merci du hobereau qui les détrousse et les nargue, du haut de son nid d’aigle imprenable pour des milices bourgeoises, à la merci de la cité rivale, qui, rompant les accords, se retourne contre la voisine jalousée.

Faiblesse, sous des apparences de prospérité ; surprenante faiblesse politique contrastant avec tant de puissance économique. Ces cités si brillantes et qui offusquent de leur éclat nos villes françaises du temps, comme leurs bourgeois sont loin de ce sens national, de ce sens politique qui, aux époques de crise, groupe autour du roi toutes les bonnes villes de France empressées à maintenir Louis XI contre les hommes du Bien public, ou, contre les princes, Charles VIII ! Parties d’un tout bien ordonné, les cités françaises d’où la culture rayonne sur les campagnes qu’elles "urbanisent" à leur image. Les villes allemandes : des égoïsmes furieux, en lutte sans répit contre d’autres égoïsmes.

D’une telle situation, si fiers de leurs fortunes, de leur sens des affaires, de leurs belles réussites, les Allemands souffraient. Ils souffraient de ne former qu’un pays divisé, fait de pièces et de morceaux, sans chef, sans tête : un amalgame confus de villes autonomes et de dynasties plus ou moins puissants.

Auteur: Febvre Lucien

Info: Un destin : Martin Luther, PUF, 1968, pages 64 à 67

[ historique ] [ teutons ] [ renaissance ]