machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

co-vid-19

A tous les gens raisonnables et très intelligents qui s’indignent devant ceux qui ne veulent pas se faire vacciner.

Pardonnez-moi d’avoir des doutes sur la sûreté de ce que vous appelez en chœur des "vaccins". Je devrais en effet faire aveuglément confiance à la télé et aux autorités. Je devrais faire confiance aux études fournies par les laboratoires pharmaceutiques même s’ils ont été condamnés ces dernières années à des milliards de dollars d’amendes notamment pour fraude scientifique.

Pardonnez-moi mon égarement et mon effort pour comprendre la justification scientifique des mesures qui sont prises.

Pardonnez-moi de chercher à évaluer la proportionnalité des mesures prises par rapport aux risques encourus.

Pardonnez-moi de confronter le discours des scientifiques lourds de liens et de conflits d’intérêts avec ceux qui n’en ont pas.

Pardonnez-moi de chercher à comprendre la nature des controverses scientifiques plutôt que de me ranger dans la dictature d’une pensée autorisée arrogante et partiale.

Pardonnez-moi de ne pas vouloir être le cobaye d’injections expérimentales en cours d’essais cliniques.

Pardonnez-moi d’oser regarder les chiffres officiels (pourtant largement sous-évalués) des morts et des effets indésirables graves liés aux différents vaccins en cours au lieu de laisser cela aux "experts" ou bien de reconnaître simplement que tous ces évènements ne sont que des coïncidences sans lien de causalité établie.

Pardonnez-moi de ne pas vouloir faire prendre le risque d’effets secondaires graves à mes enfants alors qu’ils n’ont quasiment aucune chance de faire une forme grave du covid et que personne n’est capable honnêtement et scientifiquement de reconnaître un rapport bénéfice risque favorable pour eux d’une telle vaccination.

Pardonnez-moi d’exister

Vous avez raison, je ne suis qu’un insolent. Après tout nous sommes dans l’urgence et nous n’avons pas le temps de s’encombrer de la réflexion et de la morale. Ne brisons pas l’unité du troupeau et laissons-nous guider par les "experts" honnêtes et fiables qui nous gouvernent. L’important ce n’est pas la vérité, ce n’est même pas la réalité, c’est d’être uni dans la guerre contre le virus.

Vous avez raison le plus grand danger, ce sont les "complotistes", c’est-à-dire tous ceux qui osent remettre en cause l’intégrité des autorités politiques et scientifiques ou des médias de masse. Ces vilains conspirationnistes vont semer les germes du doute et de la division. Ils risquent, par leur impudence, de pousser les gens à réfléchir.

Merci en revanche à Pfizer et à Moderna, et à tous les autres, de penser à nous et de nous proposer une offre d’abonnement à vie.

Merci à leurs amis de longue date dès les bancs de l’université de médecine puis à travers une collaboration étroite de devenir leurs relais et contribuer ensemble à construire une science véritable au service de la santé.

Merci aux médias dominants, neutres et indépendants de faire un travail si important de réinformation des masses incultes dont je fais partie.

Merci bien évidemment aussi à toute l’équipe dirigeante de faire de son mieux, pour notre bien.

C’est pour notre bien.

Oui, c’est pour notre bien en effet que les autorités ont continué depuis un an et demi à supprimer des lits à l’hôpital.

C’est pour notre bien qu’ils nous ont imposé le port du masque à l’extérieur sans aucun fondement scientifique.

C’est pour notre bien qu’ils refusent de recommander de la vitamine D et du zinc en prévention pour renforcer nos défenses immunitaires malgré toutes les études qui confirment leur rôle.

C’est pour notre bien qu’ils refusent de recommander des traitements précoces peu onéreux malgré l’abondante littérature scientifique et les expériences de terrain qui en montrent l’efficacité et qu’ils recommandent seulement du doliprane et de rester à la maison.

C’est pour notre bien qu’ils menacent et suspendent tous les médecins qui ont soigné leurs patients avec des résultats époustouflants au lieu de les renvoyer chez eux avec du doliprane.

C’est pour notre bien qu’ils commandent des millions de dose de remdesivir à 3000 euros la dose en intraveineuse sans études validant ces effets et malgré un retour sur le terrain qui a conclu à son inefficacité, sa toxicité pour les reins et son rôle mutagène.

C’est pour notre bien qu’ils refusent de s’intéresser au vaccin chinois ou russe, (uniquement pour des raisons sanitaires ! ), même quand on ne disposait pas d’assez de vaccins.

C’est pour notre bien qu’ils terrorisent et menacent la population pour aller se faire injecter un médicament expérimental sur lequel nous n’avons aucun recul à moyen et long terme.

C’est pour notre bien que le pouvoir exécutif a créé un conseil de défense totalement secret (pour 50 ans) avec une haute autorité de santé composée d’acteurs en conflits d’intérêt.

C’est pour notre bien qu’ils incitent les enfants à se faire vacciner alors qu’ils risquent davantage de souffrir des effets secondaires des "vaccins" que du covid.

C’est pour notre bien qu’ils lancent une vaccination de masse en pleine pandémie contrairement aux règles habituelles de prudence.

C’est pour notre bien qu’ils piétinent les libertés les plus fondamentales et scindent à présent le peuple en deux avec deux régimes de droits.

C’est pour notre bien qu’ils ont interdit la prescription d’hydroxychloroquine jusque-là en vente libre par les médecins.

C’est pour notre bien qu’ils refusent de recommander l’usage de l’ivermectine, de macrolides et du zinc.

C’est pour notre bien qu’ils ont méprisé tout le travail de l’IHU méditerranée, le lieu le plus à la pointe de la recherche en France en infectiologie et dont les résultats ont été bien meilleurs qu’ailleurs.

C’est pour notre bien qu’ils mobilisent et financent des tests PCR peu fiables avec des cycles d’amplifications si nombreux que le test perd de toute sa pertinence.

C’est pour notre bien qu’ils comptabilisent comme mort du covid une majorité de gens morts avec le covid.

C’est pour notre bien qu’ils se sont associés avec les Gafam pour censurer les lanceurs d’alerte sur youtube, sur twitter, Facebook...

C’est pour notre bien qu’ils acceptent de décharger les industries pharmaceutiques de toute responsabilité juridique en cas d’effets secondaires des vaccins et qu’ils nous font signer une déclaration de consentement.

C’est pour notre bien qu’il a été décidé de créer une scission en France entre les vaccinés et les non-vaccinés alors même que les vaccinés peuvent être contaminants.

C’est pour notre bien qu’on a déclaré comme fou, gâteux, dangereux tous les scientifiques parmi les plus brillants et aux titres académiques les plus prestigieux qui ont eu le malheur de contester la narration officielle sur les évènements.

Pardonnez-moi de finir par me méfier de ceux qui veulent mon bien. Je suis trop bête pour comprendre.

Trop bête pour comprendre

Qu’on a dû changer la définition de ce qu’est un vaccin pour pouvoir dire que ces expériences géniques sont des vaccins.

Que nous sommes face à un vaccin si nouveau et si révolutionnaire qu’il n’empêche pas de tomber malade ni d’être contaminant.

Que nous prétendons "vacciner" les gens avec des techniques inédites qui sont en phase expérimentale et dont nous ne connaissons pas les conséquences à moyen terme et à long terme, mais que ceux qui se font vacciner ne seraient pas des cobayes.

Trop bête pour comprendre

Qu’on ne connaît pas exactement l’intégralité de la composition des vaccins au nom du secret industriel, mais qu’on ne peut pourtant affirmer qu’il n’y a pas de problèmes.

Que les industries pourvoyeuses des vaccins dont Pfizer ont été condamnés à plusieurs milliards d’amendes pour fraude scientifique, mais qu’on peut s’appuyer sur leurs seules études pour lancer la campagne vaccinale.

Que si des spécialistes de la vaccination et des scientifiques dans le monde entier mettent en garde contre les risques de ces vaccins à adénovirus ou à ARN messager, c’est parce qu’ils sont devenus fous ou séniles.

Que si une personne âgée meurt en ayant le covid, elle meurt du covid mais que si une personne âgée meurt après s’être fait vaccinée elle meurt de vieillesse.

Que le nombre de morts et d’effets indésirables officiellement signalés par les agences de pharmacovigilance chez les "vaccinés" est sans commune mesure par rapport aux vaccins habituels mais que nous devons fermer les yeux.

Trop bête pour comprendre

Que ces injections géniques évitent les formes graves alors que pourtant en Israël et en Angleterre ultra vaccinés une partie non négligeable des personnes en réanimation sont doublement vaccinés.

Que ce vaccin est tellement protecteur qu’il faut continuer les gestes barrières, continuer à porter les masques et surtout continuer à craindre les non-vaccinés.

Qu’il est tellement efficace qu’on parle déjà de "baisse immunitaire", de troisième ou de quatrième dose et pourquoi pas d’un abonnement annuel ou biannuel.

Trop bête pour comprendre

Qu’on n’a jamais mis fin aux épidémies de grippe mais qu’on prétend qu’en "vaccinant" tout le monde nous allons vaincre le coronavirus.

Que nous faisons partie des pays au monde qui ont le plus de morts par millions d’habitants, mais que nous sommes pourtant les meilleurs et que nous pouvons continuer à nous fier à la même équipe scientifico-politique.

Que les pays les plus vaccinés sont ceux qui sont les plus touchés par les nouveaux variants mais que c’est parce que nous ne sommes pas suffisamment vaccinés.

Que si les vaccinés tombent malades, c’est à cause des non-vaccinés.

Que l’État est surendetté et n’a pas d’argent, mais qu’il peut débloquer des milliards et des milliards pour financer sa politique sanitaire.

Que les tests et les vaccins sont gratuits, mais que ce sont les contribuables qui vont devoir les payer.

Qu’en prétendant sauver une partie infime de la population, nous allons sacrifier la vie de beaucoup d’autres et détruire l’avenir de la nation.

Oui, je suis trop bête pour comprendre tout cela.

Je dois avoir l’esprit tellement confus que tout semble s’inverser dans ma tête.

Je dois apprendre grâce à vous à remettre les choses dans le bon ordre.

Inversion

Je dois, en effet, comprendre que :

La liberté, c’est de se soumettre au pass sanitaire.

L’immunité artificielle est meilleure que l’immunité naturelle.

Si les gens vaccinés tombent malades ou développent des formes graves, c’est la preuve que le vaccin marche.

Si le vaccin fonctionne moins bien contre un nouveau variant, c’est qu’il faut reprendre une dose du même vaccin.

Toute personne testée positive à un test PCR est une personne malade.

Toute personne en bonne santé est un malade qui s’ignore et dont il faut se méfier.

Je suis désolé, je suis un peu lent et il va falloir que je me répète souvent tout cela pour réussir à l’intégrer. Heureusement que les journalistes sont là pour faire preuve de pédagogie et de répétition.

Merci à vous, tous les gens raisonnables et très intelligents, de veiller sur nous.

Merci de nous dispenser de penser.

Auteur: Moghaddassi Reza

Info: le 23 juillet 2021

[ défiance ] [ méfiance ]