impuissance

La pitié est le sentiment de gens bien intentionnés qui sont incapables d'agir.

Auteur: Pramoedya Ananta Toer

Info:

[ empathie ] [ apitoiement ]

oppression

Censurer ce que tu dis est l'un des moyens par lesquels les gens mal intentionnés peuvent te priver de ta liberté personnelle.

Auteur: Zappa Frank

Info:

[ politiquement correct ]

orient-occident

Kong-tong, le Chaos, ne possédait aucun organe sensoriel. Ses amis, qui lui devaient leur perfection, par reconnaissance, décidèrent de lui en donner. En huit jours, ils réussirent à lui façonner yeux, nez, bouche, oreilles, mais le neuvième jour, Chaos, transformé en être sensible comme eux, mourut. L’Orient est Chaos, l’Occident, le groupe de ses amis bien intentionnés, mais sans discernement.

Auteur: Suzuki Daisetz Téitaro

Info: Dans "Bouddhisme Zen et psychanalyse", page 12

[ incompatibles ] [ Asie-Europe ]

civilisation de profit

Parler de "limites à la croissance" dans une économie de marché capitaliste n'a pas plus de sens que parler de limites à la guerre dans une société guerrière. Les voeux pieux moralistes exprimés aujourd'hui par de nombreux écologistes bien intentionnés sont aussi naïfs que sont manipulatrices les diatribes morales des multinationales .
On ne peut pas plus "persuader" le capitalisme de limiter la croissance qu'un être humain ne peut être "persuadé" d'arrêter de respirer. Les tentatives de capitalisme "vert", pour le rendre "écologique", sont condamnées par la nature même du système en tant que système de croissance sans fin.

Auteur: Bookchin Murray

Info:

[ impasse ]

multiculturalisme

[…] parce que ces inclinations et ces attitudes sont, en quelque sorte, consubstantielles à notre espèce, nous n’avons pas le droit de nous dissimuler qu’elles jouent un rôle dans l’histoire : toujours inévitables, souvent fécondes, et en même temps grosses de dangers quand elles s’exacerbent. J’invitais donc les lecteurs à douter avec sagesse, avec mélancolie s’ils voulaient, de l’avènement d’un monde où les cultures, saisies d’une passion réciproque, n’aspiraient plus qu’à se célébrer mutuellement, dans une confusion où chacune perdrait l’attrait qu’elle pouvait avoir pour les autres et ses propres raisons d’exister. […] il ne suffit pas de se gargariser année après année de bonnes paroles pour réussir à changer les hommes, […] en s’imaginant qu’on peut surmonter par des mots bien intentionnés des propositions antinomiques comme celles visant à “concilier la fidélité à soi et l’ouverture aux autres” ou à favoriser simultanément “l’affirmation créatrice de chaque identité et le rapprochement entre toutes les cultures”.

Auteur: Lévi-Strauss Claude

Info: Race et culture 1971

[ globalisation ] [ injonctions contradictoires ]

mondialisation numérique

Les intentions de la tribu cybernétique totaliste sont bonnes. Elles suivent simplement une voie qui fut tracée par le passé par des freudiens et autres marxistes bien intentionnés - et je ne dis pas cela de manière péjorative. Je pense aux premières incarnations du marxisme, par exemple, avant que le stalinisme et le maoïsme ne tuent des millions de personnes.

Les mouvements associés à Freud et Marx revendiquaient tous deux des fondements de rationalité et de compréhension scientifique du monde. Les deux se perçoivent comme étant en guerre avec les fantasmes étranges et manipulateurs des religions. Et pourtant, tous deux ont inventé leurs propres fantasmes qui étaient tout aussi bizarres.

La même chose est en train de se reproduire. Un mouvement matérialiste autoproclamé qui tente de se baser sur la science commence gentiment à ressembler à une religion. Il a vite présenté sa propre eschatologie et ses propres révélations sur ce qui se passe réellement - événements prodigieux que seul un initié peut apprécier. La singularité et la noosphère, l'idée qu'une conscience collective émerge de tous les utilisateurs du web, tout ça fait écho au déterminisme social marxiste et au calcul des perversions de Freud. Nous allons ainsi à nos risques et périls au-delà de l'enquête scientifique sceptique, tout comme les marxistes et les freudiens.

Auteur: Lanier Jaron

Info: You Are Not a Gadget

[ Internet ] [ dénigrement ]

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]