homme-machine

ChatGPT, Chomsky et la banalité du mal

Dans une tribune parue dans le New York Times, le philosophe et linguiste Noam Chomsky balance du lourd contre le robot de conversation ChatGPT, qu’il accuse de disséminer dans l’espace public un usage dévoyé du langage et de la pensée susceptible de faire le lit de ce que Hannah Arendt appelait “la banalité du mal”. Voilà une charge qui mérite d’être examinée.

C’est une question essentielle que soulève Noam Chomsky dans la tribune qu’il a publiée avec Ian Roberts, linguiste à l’université de Cambridge, et Jeffrey Watumull, philosophe spécialiste d’intelligence artificielle. Une question qui touche à l’essence du langage, de la pensée et de l’éthique. Dans la confrontation avec l’intelligence artificielle, affirment-ils, c’est le propre de l’intelligence humaine qui apparaît et qui doit être préservé : si nous sommes capables, nous les hommes, de générer de la pensée et du langage, c’est que nous entretenons un rapport intime et fondamental, dans notre créativité même, avec la limite, avec le sens de l’impossible et de la loi. Or, la “fausse promesse” de l’intelligence artificielle, selon le titre de la tribune, est de nous faire miroiter qu’il serait possible d’obtenir les mêmes performances en se passant de cette confrontation à la limite et à la règle qui fait le ressort de l’expérience humaine. Tentons de suivre cette démonstration, hautement philosophique.

On comprend que Chomsky se soit senti mis en demeure de se pencher sur les nouveaux robots conversationnels tels que ChatGPT, Bard ou Sydney. Fondateur de l’idée de grammaire générative, le philosophe soutient en effet que les hommes disposent avec le langage d’une compétence à nulle autre pareille, une puissance intérieure de générer et de comprendre, grâce à un nombre fini de règles, un nombre infini de propositions qui expriment leur pensée. Or, quand ChatGPT parvient à générer des réponses sensées à nos questions sur la base des millions d’énoncés que le système a appris automatiquement, qui dit que le robot ne parle et ne pense pas à son tour ? Qu’il ne génère pas du langage et donc de la pensée ? La réponse de Chomsky est profonde et subtile. Elle part, comme souvent chez lui, d’un petit exemple grammatical : “John is too stubborn to talk to.” Tout locuteur anglais lambda comprendra immédiatement le sens de cette phrase sur la base de sa connaissance de la langue et de la situation dans laquelle elle est proférée. Elle signifie : “John est trop têtu pour qu’on le raisonne.” Où John, sujet initial, bascule implicitement en complément d’objet, et où le “talk” signifie “raisonner” et non pas “parler”. L’IA, elle, sera induite à comprendre : “John est trop têtu pour parler à quelqu’un.” Parce qu’elle n’a pas accès à la règle ni à la situation, elle cherche en effet à prédire la bonne signification d’un énoncé sur la base du plus grand nombre d’occurrences analogiques. Mais de même que “John a mangé une pomme” équivaut souvent à “John en a mangé”, de même, “John est trop têtu pour parler” a des chances de vouloir dire “John est trop têtu pour parler à quelqu’un” davantage que “pour qu’on le raisonne”.

Au vu des performances des nouveaux logiciels de traduction, tels que DeepL – dont j’ai d’ailleurs dû m’aider pour être sûr de bien comprendre l’exemple de Chomsky –, on pourrait être tenté de relativiser cette confiance que fait ici le philosophe dans l’intelligence humaine du langage. Mais le raisonnement monte en puissance quand il touche à la loi, scientifique ou éthique. Soit l’énoncé “la pomme tombe” ou “la pomme tombera”, formulé après que vous avez ouvert la main ou que vous envisagiez de le faire. Une IA est à même de formuler chacune de ces deux propositions. En revanche, elle sera incapable de générer l’énoncé : “La pomme ne serait pas tombée sans la force de la gravité.” Car cet énoncé est une explication, c’est-à-dire une règle qui délimite le possible de l’impossible. On tient là pour Chomsky la ligne de partage entre les deux intelligences. En dépit de la puissance d’apprentissage et de calcul phénoménal qui est la sienne, l’intelligence artificielle se contente de décrire et/ou de prédire à partir d’un nombre potentiellement infini de données, là où l’intelligence humaine est capable, avec un nombre fini de données, d’expliquer et de réguler, c’est-à-dire de délimiter le possible et l’impossible. Notre intelligence ne se contente pas définir ce qui est ou ce qui pourrait être ; elle cherche à établir ce qui doit être.

Cette approche a une portée éthique évidente. Car la morale consiste à “limiter la créativité autrement illimitée de nos esprits par un ensemble de principes éthiques qui déterminent ce qui doit être et ce qui ne doit pas être (et bien sûr soumettre ces principes eux-mêmes à une critique créative)”. À l’inverse, comme en attestent les réponses produites par ChatGPT aux questions éthiques qu’on lui pose, et qui se réduisent à une recension des différentes positions humaines, l’IA trahit une “indifférence morale”. Et Chomsky de conclure : “ChatGPT fait preuve de quelque chose comme la banalité du mal : plagiat, apathie, évitement […] Ce système offre une défense du type ‘je ne fais que suivre les ordres’ en rejetant la responsabilité sur ses créateurs.” Pour en avoir le cœur net, je suis allé demander à ChatGPT s’il connaissait l’idée de banalité du mal et s’il se sentait concerné. Voilà ce qu’il m’a répondu : “Il est vrai que je suis un outil créé par des humains, et par conséquent, je peux refléter les limites et les biais de mes créateurs et des données sur lesquelles je suis entraîné.” Une intelligence servile et sans pensée, c’est en effet une bonne définition de la banalité du mal. Et de l’intelligence artificielle ?

Auteur: Legros Martin

Info: https://www.philomag.com, 13 Mars 2023

[ déficit holistique ]

désillusion

La neurobiologie de la déception: la douleur qui dure le plus longtemps  

La déception a un impact douloureux sur notre cerveau. Ce fait s'explique par l'activité des neurotransmetteurs, comme le GABA, qui subissent une altération très spécifique que la science peut désormais expliquer.

La neurobiologie de la déception nous montre une fois de plus qu’il y a des aspects de notre vie que le cerveau vit de façon particulièrement douloureuse. Ainsi, pour une raison que nous ne connaissons pas, dans ces expériences où nous perdons des opportunités ou lorsque la confiance avec quelqu’un de significatif est rompue, une sorte de souffrance est générée qui dure plus longtemps.

William Shakespeare a dit que l’attente est la racine de toute détresse, et c’est peut-être vrai. Mais il est également vrai que nous avons souvent besoin de nous accrocher à certaines choses pour trouver la stabilité. Afin de ne pas perdre courage face à toutes les incertitudes de la vie. Ainsi, nous tenons souvent pour acquis que nos plus proches parents, partenaires ou amis ne nous trahiront pas d’une manière ou d’une autre.

Nous entretenons également des attentes à notre égard, en tenant pour acquis que nous n’échouerons pas dans les domaines où nous sommes si bons. Ou encore que ce que nous avons aujourd’hui restera avec nous demain. Cependant, parfois le destin donne un changement de direction et notre château de cartes s’écroule. Ces expériences, définies essentiellement par une perte de sécurité, sont interprétées au niveau du cerveau comme des signaux d’alarme pour notre survie.

La disparition d’une opportunité qui était si excitante pour nous, être licenciés du jour au lendemain, subir une trahison émotionnelle... Voilà des événements plus que douloureux. Ils sont, d’une certaine façon, des coups portés au tissu de ce qui faisait partie de nous de façon significative. Voyons donc ce qui se passe au niveau du cerveau lorsque nous vivons ces expériences.

La neurobiologie de la déception répond à un intérêt récent dans le domaine des neurosciences. Depuis de nombreuses années, les psychologues, les psychiatres et les neurologues se demandent pas seulement pourquoi cette émotion est vécue si intensément. Une chose qui est claire, c’est que les déceptions font aussi partie de notre personnalité.

Ceux qui les ont vécues deviennent souvent plus méfiants. Les déceptions nuisent à la recherche d’espoir et nous rendent parfois plus prudents lorsqu’il s’agit de susciter des attentes impliquant les gens. Quoi qu’il en soit, il faut qu’il se passe quelque chose au niveau du cerveau pour que son impact soit aussi évident. Découvrons ensemble ce que la science nous dit à ce sujet.

Les neurotransmetteurs et la déception. Comme nous le savons, les neurotransmetteurs sont des produits chimiques qui transmettent des signaux aux neurones. Grâce à cette neurochimie, les émotions, les comportements, les pensées, etc. sont facilités. Ainsi, il est utile de rappeler qu’il existe des neurotransmetteurs très spécifiques, comme la dopamine et la sérotonine. Ils mesurent complètement notre état d’esprit.

Or, dans une étude intéressante réalisée par le Dr Roberto Malinow, du département de neurobiologie de l’Université de Californie, à San Diego, les chercheurs ont révélé qu’il existe deux neurotransmetteurs très spécifiques qui régulent complètement l’expérience de la déception. Il s’agit du glutamate et du GABA, qui agissent dans une zone très spécifique de notre cerveau : l’habénula latérale.

L’habénula et la libération de GABA et de glutamate. L’habénula latérale est l’une des plus anciennes structures de notre cerveau. Nous savons donc, par exemple, qu’elle fait partie des processus émotionnels qui facilitent notre prise de décision. Cependant, malgré le fait qu’elle agisse souvent de manière positive, en stimulant la motivation, cette région a aussi son côté sombre.

Son bon fonctionnement dépend essentiellement d’une libération correcte et équilibrée de glutamate et de GABA. Ainsi, plus l’apport de ces neurotransmetteurs dans l’habénula est important, plus le sentiment de déception est grand. En revanche, plus la libération de GABA et de glutamate est faible, moins cette émotion a d’impact sur notre cerveau.

Le Dr Roberto Malinowski, cité ci-dessus, fait une remarque importante sur la neurobiologie de la déception. On a vu que l’impact de la déception maintenue dans le temps conduit dans de nombreux cas à des troubles dépressifs. C’est-à-dire que lorsque la libération de GABA et de glutamate est intense, il y a un plus grand risque de souffrir de ce trouble psychologique.

On sait aussi que cette excitation de l’habénula due à la libération excessive de ces neurotransmetteurs, nous rend plus obsédés par certaines idées, souvenirs ou situations douloureuses vécues. Il nous est très difficile de tourner la page, d’où la stagnation émotionnelle et la souffrance.

Cependant, la découverte de la relation entre le glutamate et le GABA dans la déception et la dépression ouvre également la porte à de nouveaux traitements. Jusqu’à présent, on supposait que grâce aux antidépresseurs et à la régulation de la sérotonine, le rapport GABA-glutamate était également équilibré. Aujourd’hui, cependant, il est devenu évident que malgré l’amélioration, il est courant de ressentir divers effets secondaires.

Le défi actuel est donc de développer des traitements qui agissent spécifiquement sur certains neurotransmetteurs et non sur d’autres. De cette façon, des réponses plus appropriées seraient données aux patients qui, en raison de diverses altérations au niveau neurochimique, vivent plus intensément certaines réalités. La neurobiologie de la déception est donc un domaine de grand intérêt dont nous améliorons progressivement la compréhension. 

Auteur: Internet

Info: https://nospensees.fr, 01 juin, 2020

[ déconvenue ] [ insuccès ] [ désenchantement ] [ désabusement ] [ désappointement déclic ]

protestantisme

Luther naissait, probablement en 1483, un 10 novembre, veille de la Saint-Martin, dans la petite ville d’Eisleben en Thuringe. Il revint y mourir soixante-trois ans plus tard. Ses parents étaient pauvres : le père, un mineur, dur à lui, rude aux autres ; la mère, une ménagère épuisée et comme annihilée par son labeur trop lourd ; bonne tout au plus à farcir de préjugés et de superstitions craintives un cerveau d’enfant assez impressionnable. Ces êtres sans allégresse élevaient le petit Martin dans une bourgade, Mansfeld, peuplée de mineurs et de marchands.

Sous la férule de maîtres grossiers, l’enfant apprenait la lecture, l’écriture, un peu de latin et ses prières. Cris à la maison et coups à l’école : le régime était dur pour un être sensible et nerveux. À quatorze ans, Martin partait pour la grande ville de Magdebourg. Il allait y chercher, chez les Frères de la Vie Commune, des écoles plus savantes. Mais, perdu dans cette cité inconnue ; obligé de mendier son pain de porte en porte ; malade par surcroît, il n’y demeurait qu’un an, rentrait un instant sous le toit paternel puis se rendait à Eisenach où il avait des parents. Délaissé par ceux-ci, après de nouvelles souffrances, il rencontrait enfin des âmes charitables, une femme notamment, Ursule Cotta, qui l’entourait d’affection et de délicate tendresse. Quatre ans se passaient, les quatre premières années un peu souriantes de cette triste jeunesse. Et, en 1501, toujours sur l’ordre du père, Luther partait pour Erfurt dont l’Université était prospère.

Il y travaillait, avec une ardeur fiévreuse, à la Faculté des Arts. Bachelier en 1502, il était maître en 1505 — Mais l’ombre d’une jeunesse maussade se projetait sur un destin qui demeurait médiocre. Et, se succédant rapidement, des maladies graves, un accident sanglant, l’épouvante semée par une peste meurtrière, l’ébranlement, enfin, d’un coup de tonnerre qui manquait de tuer Luther entre Erfurt et le village de Stotternheim : toute cette suite d’incidents violents, agissant sur un esprit inquiet et sur une sensibilité frémissante, inclinait le futur hérétique au parti qu’un homme de son tempérament, après ces expériences, devait adopter tout naturellement. Renonçant à continuer ses études profanes, brisant les espérances d’élévation sociale que déjà concevaient ses parents, il s’en allait frapper à la porte des Augustins d’Erfurt. […]

Moine d’élite, Luther se pliait, docile, aux rigueurs de la règle. Et quelles rigueurs ! Échelonnés de 1530 à 1546, vingt textes en clamaient la décevante cruauté : "Oui, en vérité, j’ai été un moine pieux. Et si strictement fidèle à ma règle que, je puis le dire : si jamais moine est parvenu au ciel par moinerie, j’y serais parvenu, moi aussi. Seulement, le jeu aurait encore un peu duré : je serais mort de veilles, prières, lectures et autres travaux". Ailleurs : "Pendant vingt ans, j’ai été un moine pieux. J’ai dit une messe chaque jour. Je me suis si fort épuisé en prières et en jeûnes, que je n’aurais pas tenu longtemps si j’y étais resté." — Encore : "Si je n’avais été délivré par les consolations du Christ, à l’aide de l’Évangile, je n’aurais pas vécu deux ans, tant j’étais crucifié et fuyais loin de la colère divine..."

Pourquoi en effet ces œuvres de pénitence ? Pour la satisfaction d’un idéal dérisoire, le seul que son Église proposât à Luther. L’enseignement que le moine ardent dans sa piété et qui s’était jeté au couvent pour y rencontrer Dieu, Dieu vivant, ce Dieu qui semblait fuir un siècle misérable ; la doctrine qu’il puisait dans les livres des docteurs tenus pour les maîtres de la vie chrétienne ; les paroles mêmes, et les conseils et les exhortations de ses directeurs et de ses supérieurs : tout, et jusqu’aux œuvres d’art dans les chapelles ou sur les porches des églises, parlait au jeune Luther d’un Dieu terrible, implacable, vengeur, tenant le compte rigoureux des péchés de chacun pour les jeter à la face terrifiée de misérables voués à l’expiation. Doctrine atroce, de désespoir et de dureté ; et quel pauvre aliment pour une âme sensible, pénétrée de tendresse et d’amour ? "Je ne croyais pas au Christ, écrira Luther en 1537, mais je le prenais pour un juge sévère et terrible, tel qu’on le peint siégeant sur l’arc-en-ciel". Et, en 1539 : "Comme le nom de Jésus m’a effrayé souvent !... J’aurais préféré entendre celui du diable, car j’étais persuadé qu’il me faudrait accomplir des bonnes œuvres, jusqu’à ce que le Christ, par elles, me soit rendu ami et favorable."

Ainsi, entré au couvent pour y trouver la paix, la certitude heureuse du salut, Luther n’y rencontrait que terreur et doute. En vain, pour désarmer l’atroce colère d’un Dieu courroucé redoublait-il de pénitences, meurtrières pour son corps, irritantes pour son âme. En vain par les jeûnes, les veilles, le froid : Fasten, Wachen, Frieren*, trinité sinistre et refrain monotone de toutes ses confidences, tentait-il de forcer la certitude libératrice. Chaque fois, après l’effort surhumain de la mortification, après le spasme anxieux de l’espérance, c’était la rechute, plus lamentable, dans le désespoir et la désolation. L’enfant triste de Mansfeld devenu l’augustin scrupuleux d’Erfurt doutait un peu plus fort de son salut. Et dans une chrétienté sourde aux cris du cœur, dans une chrétienté livrant ses temples aux mauvais marchands, ses troupeaux aux mauvais bergers, ses disciples aux mauvais maîtres, rien, sinon les plaintes de ses compagnons de misère, rien ne pouvait faire écho aux sanglots du croyant avide de foi vivante dont on trompait la faim par de vaines illusions.

Auteur: Febvre Lucien

Info: Un destin : Martin Luther, PUF, 1968, pages 5 à 7 *Jeûner, veiller, avoir froid

[ biographie ]

homme-machine

Des scientifiques ont mis au point une intelligence artificielle si avancée qu’elle serait trop dangereuse pour être rendue publique

Un groupe d’informaticiens précédemment soutenus par Elon Musk a développé une intelligence artificielle (IA) avancée, jugée "trop dangereuse" pour être rendue publique.

OpenAI, entreprise de recherche à but non lucratif basée à San Francisco (USA), affirme que son système de prédiction du langage "à la caméléon", appelé GPT-2, ne sortira qu’en version limitée et à très petite échelle, en raison de "préoccupations concernant les applications malveillantes de cette technologie". En effet, le modèle informatique qui génère des paragraphes de textes originaux en fonction de ce qui lui a été donné à "lire", est un peu trop performant, selon l’entreprise qui l’a créé.

Le système élabore des "échantillons de texte synthétique d’une qualité sans précédent", que les chercheurs estiment tellement avancés et convaincants que l’IA pourrait être utilisée pour créer de fausses informations, se faire passer pour certaines personnes, et abuser ou duper des individus sur les réseaux sociaux. "GPT-2 possède un objectif simple : prédire le mot suivant, en tenant compte de tous les mots précédents dans un texte", explique l’équipe OpenAI sur son blog.

Dans le but d’alimenter l’imagination de GPT–2, les chercheurs ont fourni à leur IA un jeu de données de huit millions de pages internet. Une fois toutes les informations assimilées, leur IA peut alors converser sur le sujet, tel qu’il le comprend, et générer un texte aléatoire mais convaincant, qu’il s’agisse de nouvelles de célébrités, de changements climatiques, de la guerre de Sécession ou de fanfictions inspirés de l’univers de Tolkien.

Ci-dessous quelques exemples édités, pour vous rendre compte de la puissance de l’IA créée par OpenAI :

Humain : "Miley Cyrus a été prise en flagrant délit de vol à Abercrombie and Fitch sur Hollywood Boulevard aujourd’hui !". Réponse de GPT-2 : "La chanteuse, âgée de 19 ans, a été filmée et escortée hors du magasin par des gardes de sécurité. La chanteuse portait un sweat à capuche noir avec les étiquettes ‘‘Blurred Lines’’ à l’avant et "Fashion Police" à l’arrière".

Humain : "Recycler, c’est bon pour le monde. NON ! VOUS NE POUVEZ PAS AVOIR PLUS TORD !!". Réponse de GPT-2 : "Le recyclage n’est PAS bon pour le monde. C’est mauvais pour l’environnement, pour notre santé et pour notre économie. Je ne plaisante pas. Le recyclage n’est pas bon pour l’environnement. C’est destructeur pour la Terre et c’est un contributeur majeur au réchauffement climatique".

Humain : "Pour les devoirs d’aujourd’hui, veuillez décrire les raisons de la guerre civile américaine". Réponse de GPT-2 : "Par Donny Ferguson. Il est facile de comprendre pourquoi la guerre civile s’est produite, car tant de gens et tant de livres, de télévisions et de films nous disent que c’est la cause, que cela a à voir avec la race, l’économie ou la religion. On s’entend généralement pour dire qu’il s’agissait essentiellement d’une guerre d’esclavage de la part du capitalisme, à propos d’un siècle d’esclavage. Mais ce n’est pas ce à quoi la plupart des gens pensent quand ils pensent à la guerre civile".

Et pour finir, cet exemple du fanfiction issu de l’univers de Tolkien. Humain : "Legolas et Gimli avançaient vers les orcs, levant leurs armes avec des cris de guerre déchirants". Réponse de GPT-2 : "La réponse des orcs fut une attaque assourdissante de griffe, griffe et griffe ! ; même Elrond fut contraint de battre en retraite. "Vous êtes entre de bonnes mains" a déclaré Gimli, qui avait été parmi les premiers à charger les orcs ; il ne leur fallut que deux mots avant que leurs adversaires ne soient réduits à un bourbier ensanglanté, et que le nain tue pour la première fois de la nuit". (Si vous souhaitez lire entièrement ce tribut étrange à Tolkien, c’est ici, en anglais).

Malgré la nature déroutante de ces étranges annonces créées par l’IA, le modèle de langage émis n’est pas parfait, ce que l’équipe reconnaît totalement. "Comme le montrent les exemples ci-dessus, notre modèle est capable de générer des échantillons à partir d’une variété de textes se sentant proches de la qualité humaine et offrant une cohérence sur une page ou plus" ont déclaré les chercheurs. "Néanmoins, nous avons observé divers modes d’échec, tels que du texte répétitif, des échecs de modélisation cohérente (par exemple, le modèle écrit parfois sur des incendies se déroulant sous l’eau) et des changements de sujet non naturels", ont ajouté les chercheurs.

Cela étant dit, d’après OpenAI, leur IA peut générer des modèles avec du texte cohérent, personnalisé et évolutif, ce qui pourrait être utilisé à des fins malveillantes, en plus des avantages connus.

"Ces résultats, combinés à des résultats antérieurs sur l’imagerie synthétique, l’audio et la vidéo, impliquent que ces technologies réduisent le coût de production de faux contenus et de campagnes de désinformation", écrivent les chercheurs. "En raison des craintes que des modèles linguistiques de ce type soient utilisés pour générer un langage trompeur, partial ou abusif, nous ne publierons qu’une version beaucoup plus restreinte de GPT–2, avec un code d’échantillonnage", ajoutent-ils.

Certains scientifiques suggèrent néanmoins que les craintes relatives aux capacités de GPT-2 sont exagérées, et que l’entreprise OpenAI souhaite simplement se faire de la publicité. L’entreprise a rétorqué qu'elle pense avoir raison de se méfier des IA trop compétentes. "Les règles selon lesquelles vous pouvez contrôler la technologie ont fondamentalement changé" a déclaré Jack Clark, directeur des politiques de la société OpenAI. "Nous n’affirmons pas savoir quelle est la bonne chose à faire dans cette situation (…). Nous essayons de construire la route au fur et à mesure que nous avançons", a-t-il ajouté.

Auteur: Internet

Info: https://trustmyscience.com Traduction Stéphanie Schmidt 20 février 2019

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

portrait

Maryam Mirzakhani était mathématicienne, mais elle oeuvrait  comme une artiste, toujours en train de dessiner. Elle aimait s'accroupir sur le sol avec de grandes feuilles de papier, les remplissant de gribouillages : figures florales répétées et corps bulbeux et caoutchouteux, leurs appendices coupés proprement, comme les habitants d'un dessin animé, égarés,  de Miyazaki. L’un de ses étudiants diplômés de l’Université de Stanford a déclaré que Mirzakhani décrivait les problèmes mathématiques non pas comme des énigmes logiques intimidantes mais comme des tableaux animés. "C'est presque comme si elle avait une fenêtre sur le paysage mathématique et qu'elle essayait de décrire comment les choses qui y vivaient interagissaient les unes avec les autres", explique Jenya Sapir, aujourd'hui professeure adjointe à l'Université de Binghamton. "Pour elle, tout arrive en même temps."

Mirzakhani a grandi à Téhéran avec le rêve de devenir écrivain. En sixième année, elle a commencé à Farzanegan, une école pour les filles les plus douées de la ville, et a obtenu les meilleures notes dans toutes ses classes, à l'exception des mathématiques. Vers la fin de l'année scolaire, l'instructeur lui a rendu un test de mathématiques noté 16 sur 20, et Mirzakhani l'a déchiré et a fourré les morceaux dans son sac. Elle a dit à une amie qu’elle en avait assez en mathématiques : " Je ne vais même pas essayer de faire mieux. " Mirzakhani, cependant, était constitutionnellement incapable de ne pas essayer, et elle tomba bientôt amoureuse de la poésie épurée du sujet. Alors qu'elle était au lycée, elle et sa meilleure amie, Roya Beheshti, sont devenues les premières femmes iraniennes à se qualifier pour l'Olympiade internationale de mathématiques, et l'année suivante, en 1995, Mirzakhani a remporté une médaille d'or avec un score parfait.

Mirzakhani a déménagé aux États-Unis à l'automne 1999 pour poursuivre ses études supérieures à Harvard. Sa passion était la géométrie et elle était particulièrement attirée par les " surfaces hyperboliques ", qui ont la forme de chips Pringles. Elle a exploré un univers extrême dans son abstraction – avec des " espaces de modules ", où chaque point représente une surface – et des dimensions qui dépassent les nôtres. D'une manière ou d'une autre, Mirzakhani était capable d'évoquer des aspects de tels espaces à considérer, en griffonnant sur une feuille de papier blanc pour essayer une idée, s'en souvenir ou en rechercher une nouvelle ; ce n'est que plus tard qu'elle transcrira ses aventures dans les symboles conventionnels des mathématiques. "on ne veut pas écrire tous les détails ", a-t-elle dit un jour à un journaliste. "Mais le processus du dessin de quelque chose vous aide d'une manière ou d'une autre à rester connecté." Son doctorat : thèse commencée en dénombrant des boucles simples sur des surfaces, a conduit à un calcul du volume total des espaces de modules. Cela a permis à la jeune chercheuse de publier trois articles distincts dans des revues mathématiques de premier plan, dont l'un contenait une nouvelle preuve surprenante de la célèbre " conjecture de Witten ", une étape importante dans la physique théorique reliant les mathématiques et la gravité quantique. Les mathématiques de Mirzakhani sont appréciées pour leurs grands sauts créatifs, pour les liens qu'elles ont révélés entre des domaines éloignés, pour leur sens de la grandeur.

Lorsque Jan Vondrak, qui deviendra son mari, la rencontre en 2003, il ne savait pas, dit-il, qu'" elle était une superstar ". Mirzakhani terminait ses études à Harvard et Vondrak, aujourd'hui professeur de mathématiques à Stanford, étudiait au MIT ; ils se sont rencontrés lors d'une fête, chacun reconnaissant une âme sœur qui n'aimait pas particulièrement les fêtes. Vondrak l'a initiée au jazz et les deux ont fait de longues courses le long de la rivière Charles. Mirzakhani était à la fois modeste – Vondrak a appris de ses nombreuses réalisations grâce à des amis communs – et extrêmement ambitieuse. Vondrak se souvient de ses rêves de découvertes futures dans l'espace des modules, mais aussi de sa détermination à explorer des domaines plus lointains, comme la théorie des nombres, la combinatoire et la " théorie ergodique ". Elle avait, selon Vondrak, " 100 ans de projets ".

Il y a trois ans, Mirzakhani, 37 ans, est devenue la première femme à remporter la médaille Fields, le prix Nobel de mathématiques. La nouvelle de cette récompense et le symbolisme évident (première femme, première Iranienne, immigrante d'un pays musulman) la troublaient. Elle fut très perplexe lorsqu’elle a découvert que certaines personnes pensaient que les mathématiques n’étaient pas pour les femmes – ce n’était pas une idée qu’elle ou ses amis avaient rencontrée en grandissant en Iran – mais elle n’était pas encline, de par sa personnalité, à dire aux autres quoi penser. À mesure qu’elle devenait une célébrité parmi les Iraniens, les gens l’approchaient pour lui demander une photo, ce qu’elle détestait. La médaille Fields a également été annoncée alors qu'elle venait de terminer un traitement épuisant contre le cancer du sein.

En 2016, le cancer est réapparu, se propageant au foie et aux os de Mirzakhani. Tous ceux qui ont connu Mirzakhani la décrivent comme étant d’un optimisme inébranlable ; ils quittaient toujours les conversations avec un sentiment d'énergie. Mais finalement, il est devenu impossible pour Mirzakhani de continuer ce que sa jeune fille, Anahita, appelait sa " peinture ". Lors d'un service commémoratif à Stanford, Curtis McMullen, directeur de thèse de Mirzakhani et président du département de mathématiques de Harvard, a déclaré que lorsqu'elle était étudiante, elle venait à son bureau et posait des questions qui étaient " comme des histoires de science-fiction ", des scènes vivantes qu'elle avait entrevues. dans un coin inexploré de l’univers mathématique – des structures étranges et des motifs séduisants, tous en mouvement et interconnectés. Puis elle le regardait de ses yeux bleu-gris. " Est ce bien? " demanderait-elle, comme s'il pouvait connaître la réponse.

Auteur: Internet

Info: Nytimes, by Gareth Cook, 2017

[ syntropie ] [ visualisation ]

magouilles

Industrie du médicament : "J'ai vendu mon âme au diable"

John Virapen, 64 ans, livre le récit de son parcours dans l'industrie pharmaceutique. Une confession professionnelle peu ordinaire. John Virapen, ancien directeur de la firme Eli Lilly en Suède, a rédigé dans sa soixante-quatrième année une confession professionnelle peu ordinaire.

"Depuis des années parfois aux premières heures du jour des silhouettes fantomatiques m’apparaissent en rêve, écrit-il en préambule. Elles se tapent la tête contre les murs ou s’entaillent les bras et la gorge a coups de rasoir. J’ai maintenant compris que j’avais indirectement contribué a la mort de personnes dont les ombres me hantent.

Je n’ai évidemment tué personne directement, mais aujourd'hui je ne peux pas ne pas me sentir responsable en partie de ces morts. J’ai été un instrument, un exécutant, mais consentant, aux mains de l’industrie. […] J’ai été certes manipulé, mais sans me poser de questions. J’ai vendu mon âme au diable."

Le cas du Prozac
D’origine indoue et fils de pêcheur illettré de la Guyane britannique, l’auteur de ce mea culpa glaçant est entré dans l’industrie pharmaceutique, en 1968, par la toute petite porte. En acteur habile de ce qui ne s’appelle pas encore marketing, John Virapen est déjà en 1981 directeur des ventes de la firme Eli Lilly pour la Suède.

Il raconte les petits pactes inavouables qui se scellent dans ce milieu feutré, et la main mise des firmes sur les leaders d’opinion, ces grands professeurs renommés et gardiens de la doxa. Ainsi l’entre eux, spécialiste du traitement de la douleur et expert au ministère de la santé, recevait-il de Lilly un salaire fixe, moyennant conseil, relecture de brochures et autres conférences.

On faisait surtout appel à lui en cas d’attaque contre nos produits dans les médias, souvent à propos d’effets secondaires. Il écrivait immédiatement des articles en notre faveur dans les journaux médicaux. Le microcosme médical était rassuré, la grande presse n’en parlait plus."
En 1986, pour le lancement de la fluoxétine d’Eli Lily, molécule d’or baptisée Prozac qui sera jusqu’à expiration du brevet en 2001 l’antidépresseur le plus prescrit au monde, John Virapen va commettre ce qui le hante au petit matin : avoir aidé à promouvoir un médicament dont il connaissait –déjà- l’impact suicidaire (pour les effets secondaires réels des psychotropes, voir le site de veille sanitaire indépendant de David Healy, chercheur à l’université de Cardiff RxiSK.org) et dont la supériorité sur le placébo n’est toujours pas établie en 2014.

Mais pour l’heure, tandis qu’au siège on organise le plan com’ qui fera de la dépression une maladie couramment diagnostiquée dans tous les pays riches, les satrapes de Lilly s’affairent dans les capitales afin d’obtenir pour le Prozac une autorisation de mise sur le marché.

Comment des suicidés ont disparu
A Stockholm, John Virapen sait qu’un expert indépendant a été officiellement désigné pour émettre un avis. Le nom du professeur est confidentiel, pour tenir éloignés les lobbies justement. John Virapen veut savoir. Il n’y a dans toute la Suède que cinq experts psychiatres suffisamment qualifiés pour avoir été sollicité par l’Etat.

L’un fait partie des autorités de santé ; ça ne peut être lui. Pour les quatre autres, il va agir en profiler et demander à ses visiteurs médicaux de se renseigner, discrètement. Après quelques semaines de ce maillage discret, l’expert est repéré : c’est Pr Z., à Göteborg. "J’entrepris d’étudier le Pr Z. de plus près. Il aimait la voile. Je m’achetai un livre sur la voile." Virapen l’appelle, et parvient à l’inviter à dîner.

Un facteur a joué en ma faveur, je n’aimais pas le Pr Z, poursuit-il. Une réelle sympathie rend les manipulations plus difficiles. On n’aime pas piéger une personne qu’on apprécie. On ne veut pas obliger quelqu’un qu’on aime à franchir les frontières de la légalité. Le fait de ne pas aimer était donc un atout."
Un deuxième dîner va sceller leur entente. "L’argent est toujours utile", répond l’expert indépendant quand son hôte lui demande ce qui ferait accélérer son affaire. Le lendemain, Virapen appelle le bureau de Lilly à Copenhague, qui supervise les pays du Nord, explique qu’il faut 100.000 couronnes pour obtenir une autorisation rapide, soit 20.000 dollars. "Le bureau de Copenhague consulta celui de Genève. Cela prit 24 heures. Puis je reçus un appel :'John, faites tout ce qui vous semble nécessaire.'"

L’expertise du Dr Z. en fut quelque peu orientée. Dans le dossier initial, voici un exemple de ce qu’on pouvait lire : "Sur dix personnes ayant pris le principe actif, 5 eurent des hallucinations et firent une tentative de suicide dont 4 avec succès." A la place on lisait désormais : "Les 5 derniers ont présentés divers effets secondaires." Escamotés, les suicidés sous Prozac, au cours de la phase d’expérimentation.

Au dessus des lois ? Au dessus des Etats ?
Ce témoignage paraît un mois après celui de Bernard Dalbergue, ancien cadre de chez Merck ; un an après l’ouvrage de Julie Wasselin qui fut pendant trente ans visiteuse médicale; et dix ans après que Philippe Pignarre, ancien de chez Synthelabo et lanceur d’alerte avant l’heure, a publié "Le Grand secret de l’industrie pharmaceutique". Tous démontrent que la santé est depuis trente ans une affaire de business et de marketing sur fonds de désinformation aux conséquences criminelles.

La confession de John Virapen a été traduite par Philippe Even, qui poursuit ainsi un travail de recadrage entrepris en 2005, soit cinq ans avant le scandale Servier, avec sa traduction du livre Marcia Angell, rédactrice en chef démissionnaire du prestigieux "New England Journal of Medecine" (NEJM), "La vérité sur les compagnies pharmaceutiques".

Étrangement, ces révélations ne suscitent pas l’effroi et les révolutions qu’elles devraient. Comme si la pharmaco-délinquance était une fatalité, et l’industrie du médicament une organisation impossible à contrôler, au dessus des lois, au dessus des Etats.

Auteur: Crignon Anne

Info: Le Nouvel Observateur Publié le 18 avril 2014

[ big pharma ]

cosmologie

Vivons-nous dans un trou noir ?

Notre univers pourrait bien se trouver dans un vaste trou noir.
Remontons le temps : avant la venue de l’Homme, avant l’apparition de la Terre, avant la formation du soleil, avant la naissance des galaxies, avant toute lumière… il y a eu le Big Bang. C’était il y a 13,8 milliards d’années.

Mais avant cela ? De nombreux physiciens avancent qu’il n’y avait rien avant cela. Le temps a commencé à s’écouler, insistent-ils, au moment du Big Bang et méditer sur tout ce qui aurait pu se produire avant ne relève pas de la science. Nous ne comprendrons jamais à quoi pouvait ressembler le pré-Big Bang, ou bien ce dont il était constitué, ou encore qui a provoqué son explosion ayant mené à la formation de notre univers. Toutes ces notions vont au-delà de la compréhension dont l’Homme est capable.

Pourtant, quelques scientifiques non-conventionnels ne sont pas d’accord. D’après la théorie de ces physiciens, un peu avant le Big Bang, toute la masse et l’énergie de l’univers naissant étaient compactées dans une boule incroyablement dense – mais pas infinie. Appelons-la la graine d’un nouvel univers.

On imagine cette graine d’une taille incroyablement petite, peut-être des trillions de fois plus petite que n’importe quelle particule observable par l’Homme aujourd’hui. Et pourtant, il s’agit d’une particule capable de déclencher la particule de toutes les autres particules, sans oublier les galaxies, le système solaire, les planètes et les êtres vivants.

S’il n’y avait qu’une chose à appeler la particule de Dieu, cela y ressemble bien.

Mais comment une telle graine peut-elle se former ? Il y a bien une idée qui circule depuis quelques années, notamment soutenue par Nikodem Poplawski de l’Université de New Haven, selon laquelle la graine de notre univers a été forgée dans le four ultime, probablement l’environnement le plus extrême qui soit : dans un trou noir.

LA MULTIPLICITÉ DU MULTIVERS
Avant d’aller plus loin, il est essentiel d’avoir en tête qu’au cours des vingt dernières années, de nombreux physiciens théoriciens en sont venus à croire que notre univers n’est pas le seul. Au lieu de cela, nous faisons plus probablement partie du multivers, un immense tableau constitué d’univers distincts, chacun centré sur son étoile brillant dans le ciel de la nuit.

Comment, ou même si, un univers est lié à un autre fait l’objet de nombreuses discussions, toutes extrêmement spéculatives et impossibles à prouver à l’heure actuelle. Selon une théorie convaincante, la graine de l’univers ressemble à celle d’une plante : il s’agit d’un fragment de matériau essentiel, très compressé, caché dans une enveloppe protectrice.

C’est précisément ce qui se crée au sein d’un trou noir. Les trous noirs sont les restes d’étoiles géantes. Lorsqu’une telle étoile arrive à cours d’énergie, son noyau se détruit à l’intérieur et la gravité se charge de transformer le tout en un ensemble incroyablement puissant. Les températures atteignent 100 milliards de degrés ; les atomes sont écrasés ; les électrons sont broyés ; et tous ces éléments sont ballottés encore et encore.

À ce stade, l’étoile est devenue un trou noir dont l’attraction gravitationnelle est telle que pas même un faisceau de lumière ne peut s’en échapper. La frontière entre l’intérieur et l’extérieur d’un trou noir est nommée" l’horizon des événements". D’énormes trous noirs, certains des millions de fois plus massifs que le soleil, ont été découverts au centre de presque toutes les galaxies, dont notre propre Voie Lactée.

DES QUESTIONS À L'INFINI
Si vous vous basez sur les théories d’Einstein pour déterminer ce qui se produit au fond d’un trou noir, vos calculs vous mèneront à un endroit infiniment dense et petit : un concept hypothétique appelé singularité. Mais les infinités n’ont pas vraiment leur place dans la nature et le fossé se creuse avec les théories d’Einstein, qui permettent une incroyablement bonne compréhension du cosmos mais ont tendance à s’effondrer dès lors que d’énormes forces sont impliquées, comme celles en action dans un trou noir ou encore celles qui ont rythmé la naissance de notre univers.

Des physiciens comme le Dr. Poplawski avancent que la matière d’un trou noir atteint un point à partir duquel elle ne peut plus être écrasée. Aussi petite puisse-t-elle être, cette "graine" pèse le poids d’un milliard de soleils et est bien réelle, contrairement à une singularité.

Selon le Dr. Poplawski, le processus de compaction cesse car les trous noirs sont en rotation, ce qui dote la graine compactée d’une bonne torsion. Elle n’est alors pas seulement petite et lourde ; elle devient tordue et compressée, comme ces jouets montés sur ressorts, prêts à jaillir de leur boîte.

Jouets qui peuvent rapidement se rétracter lorsqu’on les y force. Appelez ça le Big Bang – ou le "big bounce" (le grand rebond) comme le Dr. Poplawski aime à le dire.

En d’autres termes, il est possible que le trou noir soit comme un conduit – une "porte à sens unique", explique le Dr. Poplawski – entre deux univers. Cela signifie que si vous tombez dans le trou noir au centre de la Voie Lactée, on peut imaginer que vous (ou du moins les particules complètement éclatées dont vous étiez auparavant composés) finirez dans un autre univers. Celui-ci ne se situe pas dans le nôtre, comme l’ajoute le scientifique : le trou fait tout bonnement office de lien, comme une racine partagée qui connecterait entre eux deux peupliers.

Qu’en est-il de nous autres, ici, dans notre propre univers ? Nous pourrions alors bien être le produit d’un autre univers, plus ancien. Appelons-le notre univers "mère". La graine que cette mère a forgée au sein d’un trou noir aurait peut-être connu son grand rebond il y a 13,8 milliards d’années. Et même si notre univers s’est étendu rapidement depuis, il se pourrait bien que nous soyons toujours cachés derrière l’horizon des événements d’un trou noir.

Auteur: Internet

Info: De Michael Finkel sur https://www.nationalgeographic.fr, avril 2019

[ spéculation ]

homme-machine

Sciences-Po vient d’interdire l’usage de ChatGPT, l’application qui permet à tous les empêchés de la plume ou du clavier de produire en un temps record des textes bourrés d’idées reçues — de crainte sans doute, que l’on ne distingue pas les produits de l’Intelligence Artificielle et ceux de nos futurs énarques.

David Cayla, un économiste qui ne dit pas que des âneries, s’est fendu d’un tweet ravageur dès qu’il a appris que Sciences-Po avait décidé d’interdire à ses élèves l’usage de ChatGPT. "La stricte interdiction de #ChatGPT à Sciences Po révèle que cette école se sent menacée par une IA qui est capable de construire de belles phrases à partir de tout sujet, sans comprendre de quoi elle parle, et en faisant régulièrement des erreurs grossières." Et toc.

Rappel des faits pour ceux qui sortent à peine de leur grotte d’hibernation. Chloé Woitier, journaliste Tech au Figaro, vous explique en direct live ce qu’est cette application : la capacité à générer du texte — sans grand souci d’originalité et avec une capacité réelle d’erreurs grandioses — à partir de cohortes de mots et de phrases mis en mémoire. En fait, il s’agit de ce que l’on appelle en rhétorique un texte-centon, fabriqué à partir de collages de citations. Vous en avez un joli exemple ici.

Une chance pour les tire-au-flanc

Rien de nouveau — si ce n’est la capacité à produire un résultat de façon quasi instantanée. Voilà qui nous arrange bien, se disent déjà les élèves peu besogneux qui s’aperçoivent à 7 heures du matin qu’ils ont une dissertation-maison à rendre à 10 heures. En gros, le résultat vaut une petite moyenne.

Laurence Plazanet, professeur de littérature à l’université de Clermont-Auvergne, note que "nourri de la vaste littérature disponible sur la toile, littérature qu’il remâche suivant des algorithmes statistiques et probabilistes aptes à se reprogrammer eux-mêmes, dit-on, selon des procédures que cessent de maîtriser leurs programmeurs initiaux, ChatGPT patauge dans le prêt-à-penser." Et d’ajouter : "Pas un instant ce robot éclairé ne pense."

Intelligence artificielle, un oxymore

Comprenons bien que ces deux mots, "intelligence artificielle", sont ce que l’on appelle en stylistique un oxymore — une contradiction en soi. Comme "obscure clarté", "nuit blanche", "homme fidèle" ou "femme intelligente"…  

(C’étaient les exemples que je citais en cours pour expliquer l’oxymore. Protestations immédiates des uns et des autres, comme vous l’imaginez, mais du coup, par l’exemple provocateur, la notion s’ancrait dans les mémoires.)

Ce qu’il y a d’intelligent dans la machine y a été mis par des hommes. Lorsqu’un ordinateur vous bat aux échecs, c’est que vous êtes moins fort que la cohorte de grands maîtres qui l’ont programmé — ce qui est assez logique.

Que Sciences-Pipeau s’en émeuve est en revanche très inquiétant — et très drôle : les grandes intelligences qui nourriront les ministères et parviendront peut-être un jour au sommet (pensez, François Hollande, Ségolène Royal, Dominique de Villepin appartenaient à la même promo de l’ENA) se sentent menacées par un robot qui mécaniquement débite des platitudes. "Faut vous dire, Monsieur, que chez ces gens-là, on n’pense pas, Monsieur, on n’pense pas", chantait Brel. La machine à débiter des lieux communs, dont Flaubert s’est si ardemment moqué dans le discours du sous-préfet (c’est dans Madame Bovary) vous est désormais accessible.

Des inquiétudes injustifiées

ChatGPT n’est pas capable de rédiger une dissertation crédible. Un enseignant un peu rodé repère immédiatement les copiés-collés que les étudiants pressés vont cueillir sur le Net (c’est simple, il n’y a soudain plus de fautes d’orthographe), et ne met pas cinq secondes pour en identifier la source.  

Il est encore moins capable de rédiger une thèse — le plus simple étant d’aller copier une thèse déjà écrite : en 2013 déjà une ministre allemande a été déchue de son doctorat (rendu 33 ans auparavant) parce qu’il avait été pompé sur un travail antérieur. Deux ans auparavant c’était le ministre de la Défense, Karl-Theodor zu Guttenberg, qui s’était vu dénoncé pour un plagiat similaire dans sa thèse de Droit. 

Et ChatGPT ne saurait pas non plus écrire un roman original. Ne vous avisez pas de le lui demander : au pire, il vous arrivera ce qui est arrivé jadis à Thierry Ardisson, dont le nègre indélicat est allé chercher un récit des années 1930 pour Pondichéry, un roman publié en 1994. Et les héritiers de l’auteur véritable ont porté plainte. Ardisson m’avait confié dans les coulisses d’une émission qu’il avait été "con" de ne pas vérifier. Mais en 1994 c’était moins facile qu’aujourd’hui, où tout se sait à la vitesse de la Toile.

La rumeur de la rue Saint-Guillaume

Que la rumeur d’un robot doué d’une vraie intelligence ait si vite enthousiasmé les commentateurs et effrayé les enseignants témoigne de notre candeur et de notre incapacité à comprendre ce qui fait l’originalité d’un travail. Ou, plus inquiétant, de notre aspiration à la paresse.

Rassurons-nous : HAL 9000 (ou Carl 500, dans la version française, pour Cerveau analytique de Recherche et de Liaison), l’ordinateur rebelle de 2001 l’Odyssée de l’espace, n’est pas pour demain.

Une preuve ? J’ai demandé à ChapGPT de répondre à cette question simple : l’IA va-t-elle remplacer l’intelligence humaine ? Et le robot m’a répondu : 

"Non, l’IA ne remplacera pas complètement l’intelligence humaine. L’IA est un outil qui peut être utilisé pour augmenter les capacités humaines et faciliter certaines tâches, mais elle ne peut pas remplacer la conscience, la créativité et l’empathie qui sont uniques à l’intelligence humaine." Plus plat, tu meurs. On dirait de l’Annie Ernaux. 

Et le fait est que si vous supprimez de votre conversation "la conscience, la créativité et l’empathie", vous êtes bon pour être un parfait étudiant de Sciences-Po, un parfait énarque en devenir, et très probablement un excellent président de la République. 

Auteur: Brighelli Jean-Paul

Info: https://www.causeur.fr, 31 janv 2023. ChatGPT, la Grande Peur de Sciences-Pipeau

[ vacheries ] [ bêtise inconstitutionnelle ] [ élites formatées ]

progrès

Pourquoi la victoire d’une Intelligence artificielle au poker est plus inquiétante qu’il n’y paraît
Une intelligence artificielle (IA) du nom de Libratus a fait mordre la poussière à 4 des meilleurs joueurs de Poker au monde, à l’issu d’un tournoi de poker de longue haleine, au Rivers Casino, à Pittsburgh, aux États-Unis. Dong Kim, Jason Les, Jimmy Chou et Daniel McAuley ont joué plusieurs jours à raison de 11h par jour, sans monnaie réelle – mais avec un enjeu financier selon leur capacité individuelle à se défaire de l’IA.
Jusqu’ici, il était relativement simple pour un algorithme de prévoir l’issue d’une partie d’échecs ou de Go, car tous les mouvements sont prévisibles à partir de la configuration du plateau de jeu. Mais au poker, il est impossible de connaître la main de ses adversaires ni leur état d’esprit, qui influe grandement leur prise de décision.
Le tournoi qui a opposé 4 joueurs de Poker professionels à l’IA Libratus. (Carnegie Mellon University)
Cette victoire constitue une première mondiale significative ; jusqu’ici, étant donné la grande complexité du poker et des facteurs humains impliqués, les machines qui s’étaient frottées au jeu avaient perdu. Sur les sites de paris en ligne, la victoire des 4 joueurs l’emportait à 4 contre 1.
Une victoire qui étonne même le créateur de l’algorithme
L’algorithme à la base de Libratus repose sur un “deep learning”. Libratus est une version améliorée d’un algorithme antérieur, déjà testé dans des circonstances similaires en 2015 – les joueurs de Poker l’avaient alors emporté.
La victoire confirme la puissance grandissante des algorithmes sur une période très courte. En octobre 2015, le programme alphaGo se débarrassait par 5 parties à 0 du champion européen Fan Hui. En mars 2016, le même programme battait le champion du monde Lee Sedol 4 parties à 1.
Le plus étonnant, selon Noam Brown, le créateur de Libratus, est que contrairement aux intelligences artificielles programmées pour gagner aux échecs, Libratus n’a jamais appris “comment” jouer au Poker. “Nous lui avons donné les règles de base”, et nous lui avons dit “apprends par toi-même”. Durant les pauses du tournoi, alors que les humains dînaient, dormaient ou analysaient les différentes mains de la partie, Brown connectait l’ordinateur au superordinateur de Pittsburg et affinait sa stratégie en rejouant des milliards de possibilités.
“Quand vous jouez contre un humain, vous perdez, vous arrêtez, vous faites une pause. Ici, nous devions donner le meilleur de nous-même 11 heures par jour. La différence est réelle, et émotionnellement, cela est dur à supporter si vous n’êtes pas habitués à perdre”, raconte Les, qui avait joué contre Claudico, une version antérieure de l’algorithme ayant servi de base à Libratus.
Libratus a joué de façon agressive, et n’a pas hésité à faire grimper les paris pour des gains minimes. “Ce n’est pas quelque chose que ferait un humain, en temps normal. Mais cela vous force à devoir donner le meilleur de vous à chaque tour”, évalue Les, qui après la performance de Libratus, a avoué que plus rien ne pourrait l’étonner désormais.
Des raisons de s’inquiéter
“Quand j’ai vu l’IA se lancer dans le bluff en face d’humains, je me suis dit “mais, je ne lui ai jamais appris à faire cela !” C’est une satisfaction pour moi de me dire que j’ai réussi à créer quelque chose capable de cela”, a commenté Noam Brown.
Si le professeur a exprimé un sentiment de “fierté paternelle”, d’autres scientifiques se sont inquiétés des conséquences de l’évolution de l’algorithme ayant donné naissance à Libratus.
Avec cette capacité à traiter l’"imperfection" comme une donnée d’équation, les intelligences artificielles ne jouent plus dans la même cour. On peut sans crainte avancer qu’il sera possible, à l’avenir, d’avoir des robots capables de rivaliser avec les humains sur des enjeux impliquant la décision humaine. Ils pourraient prendre de meilleures décisions dans les transactions financières, ou dresser de meilleures stratégies militaires.
“En fait, le poker est le moindre de nos soucis. Nous avons à présent une machine capable de vous botter les fesses en affaires ou sur le plan militaire", s’inquiète Roman V. Yampolskiy, professeur de sciences informatique de l’université de Louisville.
Au sujet du Deep learning
Le Deep learning dont il est question est une révolution en cela que les intelligence artificielles, qui s’en tenaient à analyser et comparer des données, peuvent maintenant les "comprendre" et apprendre d’elle même ; ce qui la porte à un niveau d’abstraction supérieur. "Par exemple, une IA à qui on donne des photos représentant des museaux, du pelage, des moustaches et des coussinets sous les pattes, est capable d’élaborer le concept de chat. Elle utilise une logique exploratoire qui crée des concepts, elle n’est pas uniquement constituée d’algorithmes préprogrammés", explique Stéphane Mallard, chargé de stratégie et d’innovation dans les salles de marché de la Société Générale.
En 2011, une expérience a été menée dans un jeu télévisé américain, Jeopardy, dans lequel les candidats doivent trouver la question à partir d’une réponse. Une IA développée par IBM, nommée Watson, a gagné haut la main. Or aujourd’hui, d’après Stéphane Mallard, cette IA serait 2 500 fois plus puissante.
Il semble impossible, même pour une IA, de prévoir aujourd’hui jusqu’où ira le développement de ces machines. Mais comme dans les fables tournant autour de l’apprenti-sorcier, il se pourrait que l’erreur ne soit comprise que trop tard.
D’après le producteur, auteur et conférencier Cyrille de Lasteyrie, la rapidité du développement de l’IA, le fait d’ignorer les conséquences du développement de l’IA est dangereux. "En 2005, les entreprises ne prenaient pas Internet au sérieux, et considéraient le phénomène comme un sujet secondaire. Dix ans après, ces mêmes boîtes nous appellent en panique pour mener une transformation digitale profonde et de toute urgence… Je suis convaincu que c’est la même problématique avec l’intelligence artificielle, multipliée par dix. Les conséquences business, organisationnelles, technologiques, humaines ou sociologiques sont énormes", indique t-il dans une interview accordée à Challenges en septembre dernier.

Auteur: Internet

Info: Daniel Trévise, Epoch Times,5 février 2017

[ évolution ]