intelligence artificielle

Cinq indices pour repérer les contenus écrits par ChatGPT, Bard ou d'autres robots conversationnels

Voici des astuces pour détecter ces textes qui ne sont pas écrits par des humaines.

1) Elles font des répétitions (mais pas de fautes)

Donc Si vous trouvez une coquille (faute de frappe, de grammaire, etc.) dans un texte, il s'agit d'un bon moyen de voir que l'article que vous lisez a été au minimum retouché par un être humain. En revanche, les articles rédigés par une IA sans supervision humaine sont souvent truffés de répétitions. L'écriture générative a en effet tendance à reproduire les mêmes termes et structures de phrases – même si c'est de moins en moins le cas. Les IA sont de plus en plus performantes et leurs utilisateurs savent également de mieux en mieux les utiliser pour contourner ces écueils.

Des logiciels ont même été développés afin de rendre encore plus humains les textes écrits par une IA. Le plus connu s'appelle Undetectable.ai et permet "d'humaniser" les textes artificiels en les confrontant aux principaux détecteurs d'IA qui existent. De fait, ces détecteurs deviennent de moins en moins fiables. "Open AI [l'entreprise créatrice de ChatGPT] a récemment abandonné son détecteur, car ça ne marche pas", fait remarquer Virginie Mathivet, spécialiste en la matière.

2 Elles sont capables d'affirmer des absurdités

Les IA sont très performantes pour les tâches très codifiées, comme l'orthographe, mais elles peuvent affirmer des absurdités sans sourciller. "Si vous demandez à une IA d'écrire une recette d'omelette aux œufs de vache, elle peut tout à fait le faire." Indique Amélie Cordier, ingénieure spécialiste des IA. 

Les sites qui utilisent des IA pour produire des articles à la chaîne, à partir de contenus trouvés sur internet, sont souvent confrontés à ce problème. Récemment, le site The Portal, qui traite de l'actualité du jeu vidéo, s'est fait épingler sur Twitter par le journaliste Grégory Rozières. Certains articles contiennent en effet de fausses informations grossières, car l'IA qui les rédige a repris au premier degré des blagues trouvées sur Reddit.

Lorsque vous lisez un article et qu'une information semble absurde, ou qu'un chiffre vous paraît démesuré, cela peut donc être la marque d'une rédaction non-humaine. Pour s'en assurer, le mieux est alors de vérifier l'information douteuse grâce à d'autres sources de confiance. "Cela revient à faire du fact-checking, c'est à l'humain d'avoir un regard critique", commente Virginie Mathivet.

3) Elles font preuve d'une productivité inhumaine

La rédaction par IA est encore loin d'être un gage de qualité, mais permet de produire un très grand nombre d'articles en un temps record. Prudence donc face aux sites qui publient quotidiennement une quantité faramineuse d'articles, sans pour autant employer de nombreuses personnes. "Si on voit qu'un blog publie 200 articles par jour sous le même nom, c'est un indice", explique Virginie Mathivet. Certains articles écrits par des robots sont signés par un nom, comme s'ils avaient été rédigés par une personne. Si cette signature semble trop prolifique, l'utilisation d'une IA est à suspecter fortement. Sur le site The Portal, déjà cité plus haut, un même "journaliste" a ainsi signé près de 7 000 articles en seulement neuf jours.

De plus, si les articles entre eux comportent de nombreuses similitudes dans leur forme et leur structure, il y a fort à parier que ceux-ci soient rédigés automatiquement. Les IA ont en effet tendance à produire des contenus très homogènes, surtout s'ils sont créés à partir de la même consigne utilisée en boucle. "L'IA imite, c'est la façon par laquelle elle fonctionne. Elle homogénéise un peu tout", fait remarquer Amélie Cordier.

4 Elles écrivent mal et citent rarement leurs source

Même si elles signent parfois d'un nom humain, les IA ne peuvent pas incarner leurs articles de la même manière qu'un journaliste en chair et en os. Si un journaliste n'a strictement aucune existence en ligne en dehors de sa page auteur, cela peut faire partie des indices qui laissent à penser à une rédaction par IA. Enfin, les articles publiés grâce à une IA ont souvent un ton très factuel, assez désincarné. Les IA citent très rarement leurs sources et ne font jamais intervenir de personne humaine sous forme de citation comme dans un article de presse.

Elles sont en revanche tout à fait capables d'en inventer si on leur demande de le faire. Dans un numéro paru en avril 2023, le magazine people allemand Die Aktuelle a poussé le vice jusqu'à publier une fausse interview exclusive de Michael Schumacher, générée par une AI, comme le raconte le site spécialisé Numerama. La famille de l'ancien champion de Formule 1 a porté plainte et la rédactrice en chef du magazine a finalement été limogée.

L'IA peut cependant être un outil intéressant, tant qu'elle reste sous supervision humaine. Le journaliste Jean Rognetta, créateur de la newsletter Qant, a quotidiennement recours à l'IA. Selon lui, il n'est "plus possible de reconnaître avec certitude un article écrit par une IA, si ce n'est que c'est souvent du mauvais journalisme". S'il utilise l'IA pour écrire sa newsletter, Jean Rognetta reste en effet convaincu de la nécessité d'effectuer une relecture et une correction humaine. "Notre newsletter est écrite avec, et non par une IA", martèle-t-il. Une approche qui pourrait bientôt se généraliser à d'autres journaux. Le 19 juillet dernier, le New York Times annonçait dans ses pages qu'un outil d'IA, destiné à automatiser certaines tâches effectuées par ses journalistes, était en cours de développement par Google.

5 Elles seront bientôt signalées par un filigrane

Face à la difficulté de plus en plus grande de détecter les contenus générés via une IA, l'Union européenne a adopté en juin dernier le "AI Act", avec l'objectif de réguler le secteur. A partir de l'application de la nouvelle réglementation, pas prévue avant 2026, les contenus générés par IA devront être signalés par un "watermark" (une signature en filigrane) indiquant clairement qu'ils n'ont pas été créés par un humain.

La forme de ce watermark n'est cependant pas encore entièrement définie. Il pourrait prendre la forme d'une phrase d'avertissement ou être dissimulé dans le texte, afin d'être moins facilement effaçable par les utilisateurs. Open AI a récemment annoncé travailler sur un watermark invisible. Comment ? Une récente étude (PDF) de l'université du Maryland propose par exemple que les IA soient programmées pour utiliser plus fréquemment une "liste spéciale" de mots définie à l'avance, permettant aux logiciels de détection d'être plus efficaces.

"Il y a de bonnes intentions au niveau de l'UE et des éditeurs, mais le problème reste la question de la mise en œuvre", estime Amélie Cordier. Si la régulation peut se mettre en place facilement pour les plus gros acteurs comme Open AI, Google, etc., elle sera impossible à imposer aux petites entités qui pullulent.

"Si l'utilisateur a le choix entre un logiciel avec 'watermark', ou un logiciel gratuit indétectable, la régulation risque d'être inefficace."

Une opinion que partage Virginie Mathivet, particulièrement en ce qui concerne les "fake news". "Une personne qui veut faire de la désinformation fera en sorte de ne pas avoir de watermark", conclut-elle.

Auteur: Internet

Info: https://www.francetvinfo.fr/, 2 sept 2023, Pauline Lecouvé

[ homme-machine ] [ machine-homme ]

spiritualité

La question qui s'impose est la suivante : sur quels arguments les promoteurs de cette technique [la méditation de la pleine conscience] se basent-ils pour établir un lien de filiation entre Vipassana – la Vision Pénétrante – et la Pleine Conscience ? Dans le Septième Pas de l'Octuple Sentier, l'Attention Juste (discipline de Dhyâna), et en particulier dans la contemplation du corps, des sentiments, de l'esprit et des phénomènes, il est régulièrement mentionné que le pratiquant doit être attentif, avec une conscience claire. Il développe, par cette pratique, certains "pouvoirs psychiques" : ouïe céleste, vision du cœur des autres êtres, mémoire des naissances précédentes, vision céleste supra-humaine et enfin, avec la cessation des passions, la délivrance de l'esprit par la sagesse. Ces indications comportementales relatives à la contemplation, en particulier pour ce qui concerne l'attention et la conscience claire, pourraient – exception faite des "pouvoirs psychiques" – sembler en adéquation avec la pratique de la Pleine Conscience, telle que définie par ses promoteurs. Cependant, ces derniers omettent un détail essentiel de la pratique de l'Attention juste : "Cette claire connaissance (de la nature des éléments contemplés) est présente en lui (le pratiquant) parce qu'il possède la compréhension et la vision profonde intérieure."

Que signifie "posséder la compréhension et la vision profonde intérieure" ? Ça signifie que la pratique de la contemplation dans l'Attention juste s'appuie sur la Prajna et non sur une intention qui, privée de la Compréhension juste (Premier Pas de l'Octuple Sentier) et de la vision profonde intérieure (Vision Pénétrante) préalables, est une activité du mental sous l'emprise de l'Ignorance, qui est le premier des douze liens interdépendants (qui génèrent le Samsara). Autrement dit, la méditation de la Pleine Conscience fonctionne en quelque sorte à l'envers, par rapport à l'Attention juste. En effet, pour la mindfulness, c'est l'attention intentionnelle qui est le préalable ou la cause ou encore le moteur, alors que pour le Bouddhisme, c'est exactement l'inverse : ce sont la compréhension et la vision profonde intérieure qui sont moteur de l'Attention juste. Et de fait, la pratique de l'attention intentionnelle – même "non jugeante" – ne peut en aucun cas aboutir à la compassion et à la sagesse telles qu'elles sont définies dans le Bouddhisme. En d'autres termes, il n'y a aucun lien de filiation justifié entre Vipassana et la méditation de la Pleine Conscience.

Par ailleurs, la notion de "présence" est étrangère au Bouddhisme. On retrouve ce concept dans les religions éternalistes, sans doute en lien avec les états de samadhi qui provoquent le sentiment d'une union avec le divin, lequel est non soumis au temps et donc éternellement présent. Si l'on devait préciser les choses, dans le Bouddhisme, on réalise plutôt – par l'éclairage de la Prajna – une Absence qu'une Présence, non pas dans le sens d'un néant, d'un "rien", mais dans le sens de l'Anatman – le Non soi – ou encore de la Vacuité non phénoménale (et donc ne résultant pas de l'interdépendance des phénomènes).

La méditation de la Pleine Conscience, privée de Prajna, est – du point de vue bouddhique – une pratique "aveugle", sans discernement. Le pratiquant n'observe pas le corps, les sentiments, l'esprit et les phénomènes avec l'œil de la Prajna – qui est l'œil du Bouddha qui possède la Vue juste, ou la Vision Pénétrante –, c'est-à-dire selon le mode de Prajna, mais avec les représentations mentales "souillées" (ou disons "orientées") par des apprentissages qui consistent à mettre spontanément des mots sur les choses, comme si celles-ci étaient enfermées dans des cases linguistiques ou sémantiques qui se substituent au réel et donc au "moment présent". Quand le pratiquant entend une cloche, il reconnaît la cloche ; il n'entend pas la cloche (comment sait-il qu'il s'agit d'une cloche ?). Et bien qu'il vide – ou plutôt tente de vider – la cloche de tout jugement, de toute émotion perturbatrice, de toute représentation... il n'en demeure pas moins vrai qu'il contemple un objet surnuméraire, sans pour autant reconnaître spontanément la véritable nature de cet objet, c'est-à-dire sa vacuité intrinsèque. Il peut bien sûr analyser secondairement cet objet comme étant constitué d'interdépendance d'autres objets ou phénomènes, il n'en demeure pas moins vrai que cette analyse n'est pas le fait de la Prajna mais de la pensée discursive, dualiste. Au sens strict, ce n'est pas une Vue (Vision Pénétrante).

Cette "présence attentive", cette "Pleine Conscience" n'est pas une qualité bouddhique. C'est vraisemblablement une forme de samadhi, qui se développe aussi bien dans les disciplines éternalistes (yoga) que dans les états hypnotiques de modification de conscience induits par la prière ou la récitation d'un mantra. Sans doute peut-on en tirer quelques bénéfices au plan de la santé physique ou mentale, mais ce n'est certainement pas l'expression de la Compassion bouddhique ou d'une Sagesse (la Compassion est une Sagesse, dans le Bouddhisme, et non un "état d'esprit"), telle qu'elle résulte de l'expérience de la Vacuité et de la Sapience (clarté/illumination). Il n'y a donc aucun argument sérieux qui puisse affirmer qu'il existe un lien de filiation entre la Vision Pénétrante, qui est l'activité de Prajna, et la "Pleine Conscience" qui n'a aucun équivalent dans le Bouddhisme.

Cependant, on ne peut blâmer les promoteurs de la Pleine Conscience d'être à l'origine de cet amalgame fâcheux, quand on constate que certains enseignants de tradition bouddhiste, généralement rattachés au Théravada mais aussi au Zen ou au Bouddhisme tibétain, en font également la promotion. Ces "maîtres" ont pour la plupart pignon sur rue, et, si l'on y regarde d'assez près, ce sont plutôt des laïcs, non spécifiquement rattachés au Bouddhisme (ils n'ont pas pris refuge), qui les apprécient. Ces enseignants n'hésitent pas à s'associer aux concepts new age. Et pour cause, ils n'ont en réalité aucune Vue ou Compréhension juste de ce qu'est la nature de l'esprit, du corps, des sensations et des phénomènes. Tout ce qu'ils savent, parce qu'ils ont bien appris la leçon, c'est que les phénomènes sont vides de nature propre parce qu'ils sont en interdépendance. Et quand un maître zen, dans l'émission "Sagesse Bouddhiste", affirme : "en zazen, nous réalisons que rien n'existe par soi-même, que tout est interdépendant", en présence de Christophe André, le psychiatre promoteur de la Pleine Conscience en France, également invité à l'émission sus-nommée, on atteint véritablement le pompon.

Dans un échange sur les réseaux sociaux, une personne me demande : "pourquoi faire zazen quand on a eu kenshô ?" La question est légitime, car dans l'esprit de cette personne, on pratique zazen pour obtenir kenshô comme on pratique l'attention intentionnelle pour obtenir la Pleine Conscience. Et à la façon dont l'exprime le maître zen à l'émission Sagesse Bouddhiste, il y a lieu de penser en effet qu'on pratique zazen pour réaliser la vacuité phénoménale (l'interdépendance phénoménale). Et dans l'esprit de cette personne sur les réseaux sociaux, quand on a réalisé ce qu'il y a à réaliser, le but est atteint et n'a donc plus à être recherché (il faut se souvenir que l'intention suppose le but, par définition). Mais, ainsi que je l'exprime plus haut à propos de Vipassana, c'est comprendre zazen à l'envers, si j'ose dire. Il n'y a pas d'attention intentionnelle. Il y a juste activité de la Prajna.

Un bon enseignant du Zen devrait commencer par dire à son élève qu'il n'y a pas dans le Zen (ou dans le Bouddhisme en général) de but à atteindre qui ne soit déjà atteint. Zazen ne consistera donc pas à pratiquer pour devenir un bouddha ou pour atteindre des états de conscience spécifiques, qu'ils soient transcendants ou qu'ils reflètent l'ennui, l'errance, ou encore des sensations de bien être ou – plus rarement – orgasmiques. Zazen ne consiste pas à être autre chose que soi-même, non pas selon le mode de la pensée dualiste, c'est-à-dire selon le mode des représentations psychologiques, culturelles ou sociétales, mais selon le mode de Prajna. 

Pour conclure, je dirai que dans la méditation de la Pleine Conscience, c'est l'activité du mental qui prévaut et Prajna est passive, alors que dans la pratique de zazen, c'est l'activité de Prajna qui est active, quels que soient par ailleurs les états de conscience, car ceux-ci ne reflètent jamais que des phénomènes transitoires, vide de nature propre et, ultimement (si l'on s'y attache), facteur de souffrance. Dans le Zen, on appelle "makyo" ces états de conscience, et n'ont strictement rien à voir avec kenshô. 

Cela étant, qu'on ne s'y méprenne pas : l'activité de Prajna n'est pas spontanée dans la conscience. Elle s'éveille à condition d'atteindre la coïncidence de l'esprit observé (objet) et l'esprit observant (sujet). Dans cette coïncidence, la dualité sujet/objet disparaît. C'est l'Absence (et non la Présence). C'est l'Anatman – le Non-soi – et non le Soi. Ne vous y trompez pas.

Auteur: Dumè Antoni

Info: https://voirsavraienature.blogspot.com/2020/05/activite-du-mental-et-activite-de-la.html?

[ adaptation moderne ] [ confusions ] [ différences ] [ enseignements traditionnels ] [ grand véhicule ]