codage du réel

Dans La Naissance de la Conscience dans l’effondrement de l’esprit, le psychologue américain Julian Jaynes soutient que la conscience réflexive, proprement humaine, est permise par un processus métaphorique enraciné dans le mode de perception visuelle. Jaynes met en place une nouvelle terminologie pour étudier le phénomène métaphorique d'un point de vue phénoménologique et cognitif. Pour lui, à la base de tout langage existe la perception brute, qui est le mode de compréhension premier du monde : il s'agit ensuite de parvenir à une métaphore de cette chose, en lui substituant quelque chose qui nous soit plus familier.

Le travail métaphorique de la compréhension implique :

- des métaphrandes (les choses à décrire) ;

- des métapheurs (les choses aidant à décrire les précédentes) ;

- des parapheurs (les mots associés aux métapheurs, sèmes en quelque sorte contenus dans la connotation) ;

- des paraphrandes (les mots associés aux choses à décrire et que la langue possède).

Pour Jaynes, tout découle de ce processus et même les modèles les plus complexes et abstraits : "Une théorie est donc une métaphore entre un modèle et des données" dit-il. Le langage lui-même vient de la métaphore. En cela Jaynes réalise un point de vue révolutionnaire de la conception couramment admise : la métaphore peut en effet se figer, et former le vocabulaire qui peu à peu perd toute référence à l'analogie première (exemple : les "ailes" de l'avion, ou encore le verbe "être", qui vient du sanscrit bhu ("pousser" ou "faire pousser"), renvoyant à la métaphore d'une action réelle s'appliquant à un élément mental). L'étymologie est ainsi pour Jaynes résultat de métaphores. Le langage a peu à peu, du concret à l'abstrait, monté "les marches qu'étaient les métaphores" et a permis ainsi de spatialiser en conscience le Réel :

"Le lexique du langage, donc, est un ensemble fini de termes qui, par le biais de la métaphore, peut s'étendre sur un ensemble infini de situations, allant même jusqu'à en créer ainsi de nouvelles."

La conscience s'entend pour Julian Jaynes avant tout comme un espace mental métaphorique, que l'expérience agrandit à chaque nouvelle prise de conscience. Le processus corollaire de la narratisation vient ensuite lier ces expériences en un tout logique donnant la réflexivité. Jaynes distingue ainsi plusieurs procédés de métaphorisation

" Il y a donc toujours deux termes dans la métaphore: la chose à décrire, que j'appellerai le métaphrande, et la chose ou le rapport utilisé pour l'élucider, que j'appellerai le métapheur. Une métaphore est toujours un métapheur connu s'appliquant à un métaphrande moins connu. j'ai inventé ces termes hybrides par simple référence à la multiplication où un multiplicande* opère sur un multiplicateur*."

Auteur: Internet

Info: https://fr.wikipedia.org/wiki/Julian_Jaynes. A propos "La Naissance de la Conscience dans l'effondrement de l'esprit bicaméral". *Dans une multiplication, celui des facteurs qui est énoncé le premier.

[ symbolisation ] [ mise en concepts ] [ catachrèses ] [ paréidolie ] [ sémantique ] [ préhension intellectuelle ] [ tétravalence ] [ imagination ] [ priméité-tiercité ]

définition

Que signifie vraiment "disruption" ou "disruptif" et pourquoi tout le monde en parle maintenant ?

Vous avez raison: on retrouve les mots "disruption" et ses dérivés un peu partout aujourd'hui. Ainsi on entend parler de "président disruptif", de startup qui "a pour ambition de disrupter le secteur de la douche" ou d'autres qui veulent "disrupter le chômage". En mai 2017, France Télévision expliquait au Monde que les invités mystères de l'Emission Politique, comme Christine Angot, étaient "parfois disruptifs".

Selon une défitinition présente dans le Dictionnaire de la langue française (1874) d'Emile Littré, le mot disruption signifie "rupture" ou "fracture". Pourtant on ne comprend pas trop ce que signifie "fracasser le secteur de la douche".

Si "disruption" s'est échappé du cercle restreint des cruciverbistes (les amateurs de mots croisés) pour se retrouver de manière très présente dans le vocable d'aujourd'hui, c'est surtout dû à son emploi dans le milieu de l'économie avec l'apparition de jeunes entreprises (les fameuses startups), qui ont su utiliser les outils numériques pour transformer certains marchés.

On pense notamment à Uber, Airbnb ou Netflix qui ont cassé des systèmes, qui paraissaient établis, des taxis, de l'hôtellerie ou de la location de films ou de séries, en proposant des services innovants (devenir soi-même chauffeur de sa propre voiture, louer son ou ses appartements et permettre pour un prix réduire d'accéder à des catalogues entiers de contenus culturels). Depuis tout entrepeneur qui a de l'ambition et espère connaître un succès aussi important que les entreprises citées, souhaite trouver l'idée disruptive qui lui permettra de transformer un marché pour faire table rase du passé.

En janvier 2016, la rédactrice en chef du service économie de L'Obs, Dominique Nora, avait consacré un article au "concept de "Disruption" expliqué par son créateur". Elle y faisait la recension du livre "New : 15 approches disruptives de l'innovation", signé par Jean-Marie Dru. Dans cette fiche de lecture, on apprend notamment que:

" DISRUPTION est une marque appartenant à TBWA [une important agence de publicité américaine; NDLR] depuis 1992, enregistrée dans 36 pays dont l'Union Européenne, les Etats-Unis, la Russie, l'Inde et le Japon."

Mais aussi qu'il n'a pas toujours eu un aura lié à l'entreprise:

Même en anglais, au début des années 90, le mot 'disruption' n'était jamais employé dans le business. L'adjectif caractérisait les traumatismes liés à une catastrophe naturelle, tremblement de terre ou tsunami…

Selon Jean-Marie Dru, père du concept, le terme sert d'abord à qualifier la "méthodologie créative" proposée aux clients de son agence.  Puis le professeur de Harvard, Clayton Christensen, va populariser l'expression à la fin des années 90 en parlant "d'innovation disruptive". Les deux hommes ont l'air de se chamailler sur la qualité de "qui peut être disruptif?". Dru estime que "pour Christensen, ne sont disruptifs que les nouveaux entrants qui abordent le marché par le bas, et se servent des nouvelles technologies pour proposer des produits ou services moins cher " alors que lui considère que la disruption n'est pas réservée uniquement aux startups puisque de grands groupes comme Apple ou Red Bull sont capables de "succès disruptifs".

Finalement au mileu de tous ces "disruptifs", L'Obs apporte cette définition de la disruption:

"Une méthodologie dynamique tournée vers la création". C'est l'idée qui permet de remettre en question les "Conventions" généralement pratiquées sur un marché, pour accoucher d'une "Vision", créatrice de produits et de services radicalement innovants.

Force est de constater que le marketing et les médias ont employé ces mots à tire-larigot et qu'ils peuvent être désormais utilisés dans n'importe quel contexte au lieu de "changer" ou "transformer", voire même de "schtroumpfer". Ne vous étonnez pas si votre conjoint se vante d'avoir "disrupter" la pelouse en la faisant passer d'abondante à tondue, ou d'avoir "disrupté" le fait de se laver en utilisant le shampoing au lieu du gel douche... 

Auteur: Pezet Jacques

Info: Libération, 13 octobre 2017

[ mode sémantique ] [ dépaysement libérateur ] [ accélérationnisme ] [ contre-pied ] [ contraste ]

spirituel-psychologique

Les archétypes (ou images idéales), au sens où l’entend Platon — et reconnaissons qu’il savait ce qu’il voulait dire par là —, n’appartiennent nullement au domaine psychique ; ils sont au contraire les déterminations primordiales du pur Esprit ; pourtant ils se reflètent d’une certaine manière sur le plan physique, d’abord comme facultés créatrices de formes et ensuite, à un niveau inférieur, dans la représentation sensorielle, comme symboles proprement dits, de sorte que l’on peut, à la rigueur, admettre d’appliquer l’expression “archétype” au domaine psychologique également.

Mais Jung n’entend pas l’“archétype” dans ce sens, puisqu’il le qualifie lui-même de “complexe inné”, en décrivant ses effets sur la psyché de la manière suivante : “La possession par un archétype fait de l’homme un personnage purement collectif, une espèce de masque sous lequel la nature humaine ne peut plus se développer, mais dégénère progressivement”. Comme si un archétype, c’est- à-dire un contenu supra-formel — et donc non limité — du pur Esprit pouvait adhérer à l’âme comme une sangsue ! De quoi s’agit-il en réalité dans le cas de “possession” psychique cité par Jung et qu’il qualifie lui-même de pathologique ? Il s’agit du résultat d’une désagrégation psychique au cours de laquelle une des possibilités contenue dans la forme psychique de l’homme se met à proliférer aux dépens de l’ensemble. Le fait que la forme essentielle de l’âme possède différents aspects nettement différenciés, qui forment néanmoins, normalement, un tout cohérent dont les éléments se complètent mutuellement, n’a strictement rien à voir avec on ne sait quels substrats psychiques irrationnels, ce qui ne saurait échapper qu’à un type de pensée fondé sur une vision du monde limitée et fausse.

Tout homme qui n’est pas infirme sur le plan psychique porte en lui les virtualités psychiques de l’homme et de la femme, du père et de la mère, de l’enfant et du vieillard ; il en possède en principe toutes les propriétés et toutes les “dignités”, liées à son statut d’être humain à proprement parler. Il est en même temps maître et esclave, prêtre, roi, guerrier et artiste, quand bien même aucune de ces prédispositions n’est plus marquée qu’une autre. La féminité fait partie de la vraie virilité, de même que la virilité fait partie de la féminité, et le même principe s’applique à toutes les autres propriétés qui se complètent par leurs contraires.

En tant que vertu — au sens de virtus, force psychique —, une propriété donnée ne peut se manifester qu’en incluant les autres en elle-même. Le phénomène inverse consiste en l’exagération désespérée d’une possibilité psychique aux dépens des autres, qui entraîne une désagrégation et un raidissement intérieur, suscitant cette caricature morale que Jung compare à un masque. [...]

Les véritables archétypes, qui, eux, ne se situent pas sur le plan psychique, ne s’excluent pas les uns les autres ; l’un est toujours compris dans un autre, et l’on peut dire pratiquement la même chose des propriétés psychiques qui les reflètent. Car les archétypes, au sens du mot tel qu’il est compris depuis Platon, sont les sources de l’Être et de la Connaissance, et non, comme le voudrait Jung, des dispositions inconscientes de “l’agir et de l’imaginer”. Le fait que les archétypes ne puissent être saisis par la pensée logique n’a rien à voir avec le caractère obscur et irrationnel de ce prétendu “inconscient collectif’, dont les contenus ne seraient accessibles que d’une manière indirecte, par leurs “éruptions” de surface. Car l’intuition spirituelle, qui n’est pas liée à la pensée logique, peut très bien atteindre les archétypes en partant de leurs symboles.

La théorie d’un héritage psychique qui se mettrait à végéter en prenant la forme d’un “inconscient collectif’ sous la couche supérieure rationnelle de la conscience humaine s’impose d’autant plus facilement qu’elle semble correspondre à l’explication évolutionniste de l’instinct animal ...

Auteur: Burckhardt Titus

Info: Dans "Science moderne et sagesse traditionnelle"

[ critique ] [ atavo-figures ] [ définition ] [ intrication ]

réseaux sociaux

Le shadow banning et son rôle dans la censure moderne

Les médias sociaux nous observent et contrôlent ce que nous voyons.

Ce n'est pas un secret, les algorithmes dominent nos vies sociales en ligne - ce n'est pas comme si nous ne prenions pas nos propres décisions lorsqu'il s'agit de savoir à qui nous parlons ou quels médias nous consommons, mais ce serait faire preuve d'une vraie ignorance qu'ignorer comment les systèmes ont été programmés pour catégoriser, collecter et suggérer des données simplement en fonction de nos goûts et de nos suivis. Cela nous expose à des contenus, des personnes et des idées que nous n'aurions pas trouvés par nous-mêmes, mais cela soulève la question du degré de contrôle que ces systèmes exercent sur ce que nous voyons. Voilà qui nous amène au shadow banning. 

Le shadow banning est la décision d'une plateforme de médias sociaux d'empêcher partiellement ou totalement l'interaction avec le contenu d'une personne - empêcher de nouvelles personnes de rechercher votre contenu, s'assurer que vous n'apparaissez pas sous les hashtags ou même limiter la fréquence à laquelle vous êtes suggéré comme personne à suivre... ne sont que quelques exemples de la façon dont cela peut être réalisé. Les plateformes telles qu'Instagram et Tiktok reconnaissent rarement les allégations de cette nature, mais soulignent plutôt leur droit de supprimer les publications qui ne sont pas conformes à leurs directives communautaires et le fait qu'en acceptant d'utiliser la plateforme, vous consentez à leur pouvoir de le faire. 

D'une manière générale, le fait que vos vidéos soient supprimées ou que moins de personnes puissent y accéder n'est pas le plus grand préjudice du monde, mais il faut noter que les personnes qui font l'objet d'un bannissement caché présentent un profil significatif. Si je me réfère aux directives de la communauté Tiktok, il est dit que sont mises au rebut les vidéos créées dans le but de nuire à autrui. Mais dans ces directives, ils s'efforcent de répéter que sont autorisés "les contenus éducatifs, historiques, satiriques, artistiques et autres qui peuvent être clairement identifiés comme des contre-discours ou qui visent à sensibiliser aux dommages causés par des individus et/ou des organisations dangereuses". Cette citation et leur déclaration de soutien au mouvement Black Lives Matter surprendront surtout tous les de créatifs noirs qui ont vu leur taux de fréquentation chuter et leurs vidéos être retirées de leur profil. 

Instagram s'est montré tout aussi complice dans cette affaire - il y a eu un retour de bâton significatif de la part des travailleurs du sexe, des éducateurs sexuels et souvent des espaces inclusifs, queer et sexuellement positifs sur cette application. Dans son article publié dans le Guardian, Chante Joseph a exposé la zone grise qui n'est pas aussi clairement définie que la politique de non-nudité d'Instagram, où les administrateurs peuvent signaler un contenu comme étant "sexuellement suggestif" ; beaucoup de gens affirment que c'est nécessaire afin de s'assurer que les enfants ne sont pas exposés à des contenus inappropriés - plutôt que de responsabiliser les parents ou que les plateformes de médias sociaux tentent au moins d'introduire une forme de restriction d'âge, la charge est donc placée sur les créateurs. Mais considérons, par exemple, les créateurs LGBTQIA+ ; leurs comptes fournissent des informations auxquelles des jeunes qui n'ont peut-être même pas fait leur coming out pourraient avoir accès afin de pouvoir traiter et comprendre leurs sentiments dans un espace sain qui ne leur était pas accessible il y a seulement dix ans. En substance, ces directives sur ce qu'une personne est autorisée à partager sont définies par une norme morale arbitraire où les discussions sur le sexe, en particulier celles qui se situent en dehors du domaine de l'hétéronormatif, sont quelque chose dont il faut se protéger, même s'il y a très peu d'espaces qui les autorisent dans la vie réelle.

Instagram, Twitter, TikTok, Facebook ont tous la réputation d'être superficiels et de reposer sur l'auto-gratification des gens qui veulent exister et être vus (ce qui n'est même pas une mauvaise chose en soi), mais à côté de cela, ils peuvent être utilisés pour partager des idées, des pensées politiques et des savoirs. Ainsi, lorsque des créateurs noirs qui tentent d'informer les masses sont empêchés de partager des informations ou lorsque des messages de travailleurs du sexe sur la misogynie sont inaccessibles parce que leur page est considérée comme trop "sexuellement suggestive" (terme indéfini et donc difficile à traiter), le silence est assourdissant. Le shadowbanning est une menace pour nous tous car il maintient l'illusion du contrôle. Or, cette idée est synonyme de censure et d'obstruction à l'information. De plus, cette obstruction est dictée par ce que les plateformes considèrent comme approprié, de sorte que le pouvoir que nous supposions avoir dans nos voix peut constamment être réduit au silence.

Auteur: Oluwakemi Agunbiade

Info: https://cherwell.org/, 3 septembre 2020

[ pouvoir numérique ]

femmes-hommes

Les femmes rêvent aux araignées, les hommes aux extraterrestres
Pendant que les hommes rêvent qu'ils ont des pouvoirs magiques, les femmes rêvent qu'elles sont aux prises avec des insectes, des araignées et des serpents.
S'il serait risqué de dire que les femmes sont plus rêveuses que les hommes, on peut toutefois affirmer que les rêves nocturnes les marquent davantage et qu'elles s'en souviennent plus que les hommes.
Cette différence intersexe vient de nouveau d'être confirmée par une étude qui figure sans doute en tête de liste pour le nombre de participants, soit 28 888 personnes âgées de 10 à 80 ans ! Il s'agit en fait de données recueillies sur plusieurs années, entre 1997 et 2008, à partir d'un questionnaire en ligne supervisé par Toré Nielsen, professeur au Département de psychiatrie de l'Université de Montréal et directeur du Laboratoire des rêves et cauchemars de l'Hôpital du Sacré-Coeur de Montréal.
Son étude visait à évaluer à la fois l'importance de la mémoire des rêves ainsi que la variété des thèmes oniriques selon l'âge et le sexe.
Les émotions en cause?
Les données révèlent un écart assez constant entre les femmes et les hommes pour ce qui est du souvenir des rêves tout au long de la vie. Vers 15 ans, par exemple, le nombre moyen de rêves survenus au cours du dernier mois que disent se rappeler les répondantes est de 9,5 contre 8 pour les répondants. Entre 20 et 30 ans, les femmes en rapportent 10 et les hommes 8,5.
Les travaux précédents sur le sujet avaient mis en évidence que le nombre de rêves qu'on se rappelle diminue avec l'âge tant chez les femmes que chez les hommes, mais les données de Toré Nielsen font apparaitre des détails inédits sur cette courbe. Comme les chiffres ci-dessus le montrent, "ce déclin est précédé, durant l'adolescence, d'une augmentation des rêves dont on se souvient et cette augmentation est plus forte chez les filles, souligne le professeur. Le déclin débute plus tôt chez les hommes, soit entre 30 et 40 ans, alors qu'il survient dans la quarantaine chez les femmes et il est alors plus abrupt."
Cette différence dans l'accès aux rêves ne serait pas due au fait que les femmes rêveraient plus que les hommes. "Il n'y a pas de différence dans la durée du sommeil paradoxal [principale période des rêves] entre les hommes et les femmes ou, s'il en existe une, elle n'est pas assez significative pour expliquer cet écart, dit le professeur. Il y a par ailleurs une diminution du sommeil paradoxal avec l'âge, mais là encore cette diminution est trop faible pour expliquer le déclin du souvenir des rêves dans la trentaine."
À son avis, la différence s'expliquerait plutôt par l'aspect émotif lié aux rêves. "Les rêves ont une fonction de régulation des émotions et ils jouent un rôle dans la mémoire émotive, indique-t-il. Les émotions peuvent être plus vives à l'adolescence et les systèmes neuronaux qui les engendrent présentent des différences selon le sexe."
Les femmes manifestent en outre davantage d'intérêt que les hommes pour les rêves. Cela s'observe dans la vie de tous les jours et en laboratoire, où elles sont beaucoup plus nombreuses à participer à des travaux sur le sujet. Dans la présente étude, 23 000 des 28 888 sujets sont des femmes !
Plus de contenus négatifs
L'étude a fait ressortir un autre aspect méconnu de notre vie nocturne: entre 10 et 20 ans, les jeunes hommes rapportent une plus grande variété de contenus oniriques que les femmes. Cette différence s'estompe par la suite et la diversité des thèmes s'amenuise dans la vingtaine et faiblit encore au tournant de la cinquantaine.
Cette courbe descendante va à l'encontre des résultats attendus par le chercheur, puisqu'à 30 ans on devrait avoir connu une plus grande diversité de rêves qu'à 15 ans. "Il semble que plus on vieillit, plus on oublie les thèmes de ses rêves", mentionne-t-il. Le chercheur reconnait par ailleurs qu'il peut y avoir un effet de cohorte d'âges dans les réponses au questionnaire, qui propose 56 sujets de rêves.
Des travaux antérieurs, à partir du même questionnaire rempli par des étudiants à l'université, montrent qu'être pourchassé dans ses rêves est le thème qui revient le plus souvent, peu importe le sexe. Les femmes sont toutefois plus nombreuses à se voir poursuivies, soit 83% contre 78% pour les hommes. Les rêves à contenu sexuel viennent en deuxième place mais, s'en étonnera-t-on?, ils arrivent au premier rang chez les hommes: 85% des répondants rapportent de tels rêves contre 73% des répondantes. Les rêves de chute occupent la troisième place, sans différence de sexe.
En outre, les femmes rêvent plus souvent qu'une personne vivante est morte, qu'elles échouent à un examen, qu'elles sont paralysées par la peur et elles sont plus souvent aux prises avec des insectes, des araignées et des serpents. Les hommes quant à eux sont plus nombreux à rêver qu'ils volent ou flottent dans les airs, qu'ils ont des pouvoirs magiques ou des facultés mentales supérieures, qu'ils assassinent quelqu'un, qu'ils voyagent vers d'autres planètes et rencontrent des extraterrestres !
"Les contenus négatifs sont plus fréquents chez les femmes que chez les hommes, en conclut Toré Nielsen. Cela concorde avec le fait que les femmes, surtout à l'adolescence, rapportent plus de cauchemars que les hommes."
Pour les deux sexes, c'est entre 20 et 30 ans que ces contenus négatifs sont les plus nombreux. "C'est aussi dans cette tranche d'âge que l'indice de bonheur est à son plus bas", note le chercheur. Cette corrélation tend à étayer le lien qu'il établit entre rêves et vécu émotif.

Auteur: Internet

Info: http://www.techno-science.net/?onglet=news&news=10801

[ onirisme ] [ imagination ] [ parasomnie ] [ hypnagogie ] [ hypnopomie ]

homme-machine

Des scientifiques ont mis au point une intelligence artificielle si avancée qu’elle serait trop dangereuse pour être rendue publique

Un groupe d’informaticiens précédemment soutenus par Elon Musk a développé une intelligence artificielle (IA) avancée, jugée "trop dangereuse" pour être rendue publique.

OpenAI, entreprise de recherche à but non lucratif basée à San Francisco (USA), affirme que son système de prédiction du langage "à la caméléon", appelé GPT-2, ne sortira qu’en version limitée et à très petite échelle, en raison de "préoccupations concernant les applications malveillantes de cette technologie". En effet, le modèle informatique qui génère des paragraphes de textes originaux en fonction de ce qui lui a été donné à "lire", est un peu trop performant, selon l’entreprise qui l’a créé.

Le système élabore des "échantillons de texte synthétique d’une qualité sans précédent", que les chercheurs estiment tellement avancés et convaincants que l’IA pourrait être utilisée pour créer de fausses informations, se faire passer pour certaines personnes, et abuser ou duper des individus sur les réseaux sociaux. "GPT-2 possède un objectif simple : prédire le mot suivant, en tenant compte de tous les mots précédents dans un texte", explique l’équipe OpenAI sur son blog.

Dans le but d’alimenter l’imagination de GPT–2, les chercheurs ont fourni à leur IA un jeu de données de huit millions de pages internet. Une fois toutes les informations assimilées, leur IA peut alors converser sur le sujet, tel qu’il le comprend, et générer un texte aléatoire mais convaincant, qu’il s’agisse de nouvelles de célébrités, de changements climatiques, de la guerre de Sécession ou de fanfictions inspirés de l’univers de Tolkien.

Ci-dessous quelques exemples édités, pour vous rendre compte de la puissance de l’IA créée par OpenAI :

Humain : "Miley Cyrus a été prise en flagrant délit de vol à Abercrombie and Fitch sur Hollywood Boulevard aujourd’hui !". Réponse de GPT-2 : "La chanteuse, âgée de 19 ans, a été filmée et escortée hors du magasin par des gardes de sécurité. La chanteuse portait un sweat à capuche noir avec les étiquettes ‘‘Blurred Lines’’ à l’avant et "Fashion Police" à l’arrière".

Humain : "Recycler, c’est bon pour le monde. NON ! VOUS NE POUVEZ PAS AVOIR PLUS TORD !!". Réponse de GPT-2 : "Le recyclage n’est PAS bon pour le monde. C’est mauvais pour l’environnement, pour notre santé et pour notre économie. Je ne plaisante pas. Le recyclage n’est pas bon pour l’environnement. C’est destructeur pour la Terre et c’est un contributeur majeur au réchauffement climatique".

Humain : "Pour les devoirs d’aujourd’hui, veuillez décrire les raisons de la guerre civile américaine". Réponse de GPT-2 : "Par Donny Ferguson. Il est facile de comprendre pourquoi la guerre civile s’est produite, car tant de gens et tant de livres, de télévisions et de films nous disent que c’est la cause, que cela a à voir avec la race, l’économie ou la religion. On s’entend généralement pour dire qu’il s’agissait essentiellement d’une guerre d’esclavage de la part du capitalisme, à propos d’un siècle d’esclavage. Mais ce n’est pas ce à quoi la plupart des gens pensent quand ils pensent à la guerre civile".

Et pour finir, cet exemple du fanfiction issu de l’univers de Tolkien. Humain : "Legolas et Gimli avançaient vers les orcs, levant leurs armes avec des cris de guerre déchirants". Réponse de GPT-2 : "La réponse des orcs fut une attaque assourdissante de griffe, griffe et griffe ! ; même Elrond fut contraint de battre en retraite. "Vous êtes entre de bonnes mains" a déclaré Gimli, qui avait été parmi les premiers à charger les orcs ; il ne leur fallut que deux mots avant que leurs adversaires ne soient réduits à un bourbier ensanglanté, et que le nain tue pour la première fois de la nuit". (Si vous souhaitez lire entièrement ce tribut étrange à Tolkien, c’est ici, en anglais).

Malgré la nature déroutante de ces étranges annonces créées par l’IA, le modèle de langage émis n’est pas parfait, ce que l’équipe reconnaît totalement. "Comme le montrent les exemples ci-dessus, notre modèle est capable de générer des échantillons à partir d’une variété de textes se sentant proches de la qualité humaine et offrant une cohérence sur une page ou plus" ont déclaré les chercheurs. "Néanmoins, nous avons observé divers modes d’échec, tels que du texte répétitif, des échecs de modélisation cohérente (par exemple, le modèle écrit parfois sur des incendies se déroulant sous l’eau) et des changements de sujet non naturels", ont ajouté les chercheurs.

Cela étant dit, d’après OpenAI, leur IA peut générer des modèles avec du texte cohérent, personnalisé et évolutif, ce qui pourrait être utilisé à des fins malveillantes, en plus des avantages connus.

"Ces résultats, combinés à des résultats antérieurs sur l’imagerie synthétique, l’audio et la vidéo, impliquent que ces technologies réduisent le coût de production de faux contenus et de campagnes de désinformation", écrivent les chercheurs. "En raison des craintes que des modèles linguistiques de ce type soient utilisés pour générer un langage trompeur, partial ou abusif, nous ne publierons qu’une version beaucoup plus restreinte de GPT–2, avec un code d’échantillonnage", ajoutent-ils.

Certains scientifiques suggèrent néanmoins que les craintes relatives aux capacités de GPT-2 sont exagérées, et que l’entreprise OpenAI souhaite simplement se faire de la publicité. L’entreprise a rétorqué qu'elle pense avoir raison de se méfier des IA trop compétentes. "Les règles selon lesquelles vous pouvez contrôler la technologie ont fondamentalement changé" a déclaré Jack Clark, directeur des politiques de la société OpenAI. "Nous n’affirmons pas savoir quelle est la bonne chose à faire dans cette situation (…). Nous essayons de construire la route au fur et à mesure que nous avançons", a-t-il ajouté.

Auteur: Internet

Info: https://trustmyscience.com Traduction Stéphanie Schmidt 20 février 2019

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

post-darwinisme

Internet et l’informatique en général ont joué un rôle permanent dans l’histoire de la mémétique, par exemple en faisant accepter l’idée que des codes non biologiques (typiquement, les virus informatiques) puissent avoir une reproduction autonome. La résolution de problèmes industriels a rebaptisé mémétiques les algorithmes génétiques. Mais surtout, le tissu social de l’internet, plus maillé de jour en jour, constitue une deuxième couche de lien social, d’interactions et de contenu. Il prend une telle épaisseur qu’il abrite sa propre faune. Des contenus – humoristiques, effrayants ou engagés – prolifèrent à une vitesse telle qu’on ne pourrait plus les contrôler sans "fermer" Internet. On appelle cela Internet memes parce que, depuis le début, la mémétique et la web culture sont consanguines. Le court-circuit linguistique ne s’est pas fait attendre, bien que personne ne l’ait anticipé : les "mèmes Internet" sont devenus mèmes par la grâce simplificatrice des médias grand public. Le nom sans objet a fusionné avec l’objet sans nom. Malheureusement, on se polarise trop sur les contenus sémantiques d’Internet, alors que l’on devrait aussi s’intéresser à la structure procédurale qui les sous-tend, en étudiant par exemple les puissants mèmes aux implications politiques et sociétales lourdes que sont Share (partagez du contenu), Like (dites que vous aimez) et Report (signaler un abus) !

Au fil des années, la communauté des méméticiens avait commencé à "tuer le père" en se détachant progressivement de Dawkins, de son analogie trop simple, éloquemment nommée "camisole intellectuelle" (Wallace, 2013). Mais voici qu’au festival de Cannes 2013, le succès des Internet memes fait sortir du bois "l’athée le plus célèbre du monde", avec un vidéo-clip taillé selon les codes visuels de YouTube. La nouvelle "petite phrase" de Dawkins est un pied de nez à toute la science sérieuse : "L’idée même de mème a elle-même muté et évolué dans une nouvelle direction".

Le jeu de mot "mutations are designed not random" (les mutations sont créées, pas aléatoires) est délibérément contestable : il ouvre une conception nouvelle du rapport entretenu par les variantes culturelles avec le terrain humain. La créativité et l’intention de l’artiste y font partie des conditions de naissance de la solution créative, sont le générateur de hasard.

Si exaspérant soit-il, Dawkins joue son rôle de diva en "levant des fonds" : il utilise le modèle économique de demain, celui qui convertit l’attention captée en revenus. Grâce aux Internet memes, il fait d’une pierre trois coups. Car pour une nouvelle science, il ne faut pas seulement de nouvelles lunettes et beaucoup de temps de cerveau, mais aussi un nouveau champ de données, une espèce inconnue, un nouveau continent. Autrement, on se heurte au reproche classique : "mais pourquoi aurait-on besoin de vos nouvelles lunettes, alors que celles que nous fabriquons déjà fonctionnent très bien ?" L’ennui, c’est que les vieilles lunettes ne voient pas bien ce qui est en train de se passer parce que cela va trop vite.

Une autre forme de science est nécessaire pour demain

On sait dire aujourd’hui "à quelle question la mémétique apporte une réponse". Les questions apparaissent chaque jour un peu plus clairement : pourquoi les phénomènes de société échappent-ils à toute prévision et plus encore à tout contrôle ? Pourquoi même les bonnes nouvelles sont-elles surprenantes ? Qu’est-ce qui influence les influenceurs ? Jusqu’où tel bouleversement va-t-il se propager ? Est-il normal que les objets nous utilisent et communiquent entre eux ? Aujourd’hui, la difficulté de prévoir, l’irruption permanente et encouragée de la nouveauté, voire de la disruption, ainsi que l’explosion des données massives (big data) appellent les compétences sociocognitives des "tendanceurs". Pensée rapide, échanges en réseau, erreur autorisée, remise en cause permanente et preuve par l’action. La mémétique rejoint cet arsenal des chasseurs de tendances parce qu’elle voit le monde avec d’autres lunettes, des lunettes qui savent que l’on regarde du vivant autoorganisé et non plus du "construit par l’homme selon des plans". Du coup ces lunettes nous rendent davantage capables de voir ce qui change rapidement et d’en percevoir les évolutions possibles. Aujourd’hui, la mouvance de l’économie collaborative se propose de mettre en partage le "code source" d’innovations citoyennes directement prêtes à être  expérimentées. 

Il devient impossible de penser seul ou en petits groupes centrés sur l’allégeance à un seul paradigme. Les sujets d’études offerts aux sciences de l’homme par le monde contemporain affolent par leur nombre, leur diversité et leur vitesse de renouvellement. De même, la connaissance se fabrique partout en même temps, dans un tissu ouvert constitué de personnes et de machines. La conscience même du sujet connecté n’est plus la même que celle du sujet isolé. La mémétique peut fournir un ensemble de métaphores agissant à la manière de passerelles interdisciplinaires, telles que la vision des solutions comme chemins entre états instables, celle du stockage partiel des souvenirs dans les objets, ou celle de l’ADN organisationnel comme fonctionnement implicite partagé des collectifs.

Une première condition est le recentrage indispensable de l’observation, du mème abstrait vers la solution concrète que l’on voit se reproduire et évoluer.

Une autre serait de mettre en lien souplement, autour de ce concept général de solutions, toutes les observations et réflexions – sans aucune contrainte disciplinaire – sur la manière dont nos actions s’inspirent et se déclenchent à partir des corps, des lieux et des objets, se répètent, sont bien ou mal vécues en commun, sont mémorisées, fabriquent des structures, produisent des récits…

Mais avant tout, la plus importante est de reconnaître la mémétique pour ce qu’elle est : un projet collaboratif, spontané, a-disciplinaire, mondial, qui nous équipe d’un regard neuf sur ce que la vie humaine est en train de devenir… un regard qui change jusqu’à notre conception de nous-mêmes. La mémétique ne mourra pas tant que ce travail restera à faire. Elle ne s’effacera pas, si ce n’est dans un projet plus grand qui réponde aux mêmes nécessités et partage la même ouverture.

Auteur: Jouxtel Pascal

Info: In Cairn infos, reprenant Hermès, La Revue 2013/3 (n° 67), pages 50 à 56

[ distanciation ] [ recul épistémologique ]

psychanalyse

Ce serait une erreur de croire que l'inconscient est quelque chose d'inoffensif, à propos de quoi on pourrait, par exemple, organiser des petits jeux de société, ou qu'on pourrait à la légère utiliser à des essais thérapeutiques. Assurément, l'inconscient n'est pas dangereux en toutes circonstances ni chez tout le monde. Mais, dès qu'il existe une névrose, celle-ci est un signal d'alarme qui indique qu'il s'est produit dans l'inconscient une accumulation toute particulière d'énergie, formant une sorte de charge susceptible d'exploser. C'est pourquoi, dès lors, des précautions s'imposent. On ignore totalement ce qu'on est susceptible de déclencher quand on commence à analyser les rêves d'un sujet. Il se peut qu'on mette ainsi en mouvement quelque chose d'intérieur, d'invisible; très probablement il s'agit de quelque chose qui, de toute façon se serait tôt ou tard frayé une issue au-dehors... mais il est possible aussi que cela ne se serait jamais produit. On creuse, en quelque sorte, dans l'espoir de trouver un puits artésien, et l'on risque de tomber sur un volcan. Dès que des symptômes névrotiques existent, la plus grande réserve est de mise, et l'on ne doit avancer qu'avec prudence. Mais les cas névrotiques ne sont pas à beaucoup près les plus dangereux. On peut rencontrer des sujets dont l'apparence est des plus normales, qui ne présentent aucun symptôme névrotique particulier eux-mêmes parfois médecins ou éducateurs qui font même étalage de leur "normalité" qui sont des modèles de bonne éducation, qui ont dans la vie des opinions et des habitudes des plus normales, et dont la normalité n'en est pas moins une compensation artificielle pour une psychose latente et cachée. Les intéressés eux-mêmes ne soupçonnent en rien leur état. L'intuition vague qu'ils en ont ne s'exprime peut-être indirectement que par l'attrait particulier que leur inspirent la psychologie et la psychiatrie, domaines qui les captivent comme la lumière attire les papillons. Or, du fait que la technique de l'analyse active l'inconscient et l'aide à s'exprimer, elle détruit, en pareil cas, la compensation salutaire qui s'était installée, et l'inconscient fait irruption sous forme d'imaginations irrépressibles, d'onirisme, donnant lieu à des états d'excitation qui, dans certaines circonstances, aboutissent à une aliénation mentale durable, à moins qu'elle n'ait poussé auparavant au suicide. Ces psychoses latentes, hélas! ne sont pas tellement rares. Quiconque s'occupe d'analyse de l'inconscient est exposé au danger de tomber sur des cas de cette nature, même s'il dispose d'une grande expérience et de beaucoup d'habileté. Abstraction faite de ces cas, il est d'ailleurs possible que le praticien, par maladresse, par des erreurs de conception, par des interprétations arbitraires, fasse échouer des cas qui ne comportaient pas nécessairement un dénouement fâcheux. Cela n'est pas, il est vrai, l'apanage exclusif de l'analyse de l'inconscient, mais marque de son sceau toute intervention médicale si elle est manquée. L'affirmation gratuite que l'analyse rend les gens fous est naturellement aussi stupide que l'idée du vulgaire qui prétend que le médecin aliéniste, à force de s'occuper de fous, doive le devenir à son tour. En dehors des risques inhérents au traitement, l'inconscient peut devenir dangereux par lui-même. Une des formes les plus fréquentes que revêtent les dangers qu'il fait encourir, c'est la détermination d'accidents. Un nombre d'accidents de toute nature, beaucoup plus considérable que le public ne le pense, répond à un conditionnement psychique; qu'il s'agisse de petits incidents comme de trébucher, de se cogner, de brûler les doigts, ou de grandes catastrophes, accidents d'automobiles ou chutes en montagne, tous ces accidents, petits ou grands, peuvent être motivés et causés psychologiquement et se trouvent parfois préparés depuis des semaines ou même des mois. J'ai examiné beaucoup de cas de ce genre et, bien souvent, j'ai constaté chez le sujet l'existence de rêves qui dénotaient, bien des semaines à l'avance, l'existence d'une tendance à s'endommager soi-même; tendance qui, bien entendu, s'exprimait la plupart du temps de façon symbolique. Tous les accidents qui arrivent soit disant par inattention devraient être examinés dans la perspective d'une détermination éventuelle de cette sorte. On sait bien que lorsque, pour une raison ou une autre, on est mal disposé, il vous arrive non seulement des anicroches plus ou moins sérieuses, mais aussi parfois des choses graves qui, si elles surviennent à un moment psychologiquement approprié, peuvent même mettre un terme à une existence. D'ailleurs la sagesse populaire le dit : "Un tel est mort au bon moment", sentiment inspiré par une intuition très juste de la causalité psychologique du cas. De façon analogue, des maladies physiques peuvent être engendrées et entretenues. Un fonctionnement défectueux de l'âme peut porter au corps de notables dommages, de même que réciproquement une affection physique peut entraîner une souffrance de l'âme. Car l'âme et le corps ne sont pas des éléments séparés; ils constituent, au contraire, une seule et même vie. Aussi y a-t-il rarement une maladie somatique qui, alors même qu'elle n'a pas été déterminée par des causes psychiques, n'entraîne des complications morales d'une nature quelconque, complications qui, à leur tour, retentissent sur l'affection organique. Mais ce serait une erreur de ne mettre en relief que le côté défavorable de l'inconscient. Dans tous les cas courants, l'inconscient ne devient défavorable et dangereux que parce que nous sommes en désaccord avec lui, donc en opposition avec des tendances majeures de nous-mêmes. L'attitude négative à l'adresse de l'inconscient, voire sa répudiation par le conscient, sont nuisibles dans la mesure où les dynamismes de l'inconscient sont identiques à l'énergie des instincts. Par conséquent, un manque de contact et de liens avec l'inconscient est synonyme de déracinement et d'instabilité instinctuelle. Mais si l'on réussit à établir cette fonction, que j'ai dite transcendante, la désunion avec soi-même cessera et le sujet pourra bénéficier des apports favorables de l'inconscient. Car dès que la dissociation entre les divers éléments de soi-même cesse, l'inconscient accorde - l'expérience le prouve abondamment - toute l'aide et tous les élans qu'une nature bienveillante et prodigue peut accorder aux hommes. De fait l’inconscient recèle des possibilités qui sont absolument incessibles au conscient ; car il dispose de tous les contenus psychiques subliminaux, de tout ce qui a été oublié ou négligé, et, en outre, de la sagesse conférée par l'expérience d'innombrables millénaires, sagesse déposée et confiée à ses structures archétypiques.

Auteur: Jung Carl Gustav

Info: Dans "Psychologie de l'inconscient", trad. Roland Cohen, Livre de Poche, Paris, 1993, pages 195-198

[ conciliation ] [ dialectique ] [ psychothérapie ]

intelligence artificielle

Cinq indices pour repérer les contenus écrits par ChatGPT, Bard ou d'autres robots conversationnels

Voici des astuces pour détecter ces textes qui ne sont pas écrits par des humaines.

1) Elles font des répétitions (mais pas de fautes)

Donc Si vous trouvez une coquille (faute de frappe, de grammaire, etc.) dans un texte, il s'agit d'un bon moyen de voir que l'article que vous lisez a été au minimum retouché par un être humain. En revanche, les articles rédigés par une IA sans supervision humaine sont souvent truffés de répétitions. L'écriture générative a en effet tendance à reproduire les mêmes termes et structures de phrases – même si c'est de moins en moins le cas. Les IA sont de plus en plus performantes et leurs utilisateurs savent également de mieux en mieux les utiliser pour contourner ces écueils.

Des logiciels ont même été développés afin de rendre encore plus humains les textes écrits par une IA. Le plus connu s'appelle Undetectable.ai et permet "d'humaniser" les textes artificiels en les confrontant aux principaux détecteurs d'IA qui existent. De fait, ces détecteurs deviennent de moins en moins fiables. "Open AI [l'entreprise créatrice de ChatGPT] a récemment abandonné son détecteur, car ça ne marche pas", fait remarquer Virginie Mathivet, spécialiste en la matière.

2 Elles sont capables d'affirmer des absurdités

Les IA sont très performantes pour les tâches très codifiées, comme l'orthographe, mais elles peuvent affirmer des absurdités sans sourciller. "Si vous demandez à une IA d'écrire une recette d'omelette aux œufs de vache, elle peut tout à fait le faire." Indique Amélie Cordier, ingénieure spécialiste des IA. 

Les sites qui utilisent des IA pour produire des articles à la chaîne, à partir de contenus trouvés sur internet, sont souvent confrontés à ce problème. Récemment, le site The Portal, qui traite de l'actualité du jeu vidéo, s'est fait épingler sur Twitter par le journaliste Grégory Rozières. Certains articles contiennent en effet de fausses informations grossières, car l'IA qui les rédige a repris au premier degré des blagues trouvées sur Reddit.

Lorsque vous lisez un article et qu'une information semble absurde, ou qu'un chiffre vous paraît démesuré, cela peut donc être la marque d'une rédaction non-humaine. Pour s'en assurer, le mieux est alors de vérifier l'information douteuse grâce à d'autres sources de confiance. "Cela revient à faire du fact-checking, c'est à l'humain d'avoir un regard critique", commente Virginie Mathivet.

3) Elles font preuve d'une productivité inhumaine

La rédaction par IA est encore loin d'être un gage de qualité, mais permet de produire un très grand nombre d'articles en un temps record. Prudence donc face aux sites qui publient quotidiennement une quantité faramineuse d'articles, sans pour autant employer de nombreuses personnes. "Si on voit qu'un blog publie 200 articles par jour sous le même nom, c'est un indice", explique Virginie Mathivet. Certains articles écrits par des robots sont signés par un nom, comme s'ils avaient été rédigés par une personne. Si cette signature semble trop prolifique, l'utilisation d'une IA est à suspecter fortement. Sur le site The Portal, déjà cité plus haut, un même "journaliste" a ainsi signé près de 7 000 articles en seulement neuf jours.

De plus, si les articles entre eux comportent de nombreuses similitudes dans leur forme et leur structure, il y a fort à parier que ceux-ci soient rédigés automatiquement. Les IA ont en effet tendance à produire des contenus très homogènes, surtout s'ils sont créés à partir de la même consigne utilisée en boucle. "L'IA imite, c'est la façon par laquelle elle fonctionne. Elle homogénéise un peu tout", fait remarquer Amélie Cordier.

4 Elles écrivent mal et citent rarement leurs source

Même si elles signent parfois d'un nom humain, les IA ne peuvent pas incarner leurs articles de la même manière qu'un journaliste en chair et en os. Si un journaliste n'a strictement aucune existence en ligne en dehors de sa page auteur, cela peut faire partie des indices qui laissent à penser à une rédaction par IA. Enfin, les articles publiés grâce à une IA ont souvent un ton très factuel, assez désincarné. Les IA citent très rarement leurs sources et ne font jamais intervenir de personne humaine sous forme de citation comme dans un article de presse.

Elles sont en revanche tout à fait capables d'en inventer si on leur demande de le faire. Dans un numéro paru en avril 2023, le magazine people allemand Die Aktuelle a poussé le vice jusqu'à publier une fausse interview exclusive de Michael Schumacher, générée par une AI, comme le raconte le site spécialisé Numerama. La famille de l'ancien champion de Formule 1 a porté plainte et la rédactrice en chef du magazine a finalement été limogée.

L'IA peut cependant être un outil intéressant, tant qu'elle reste sous supervision humaine. Le journaliste Jean Rognetta, créateur de la newsletter Qant, a quotidiennement recours à l'IA. Selon lui, il n'est "plus possible de reconnaître avec certitude un article écrit par une IA, si ce n'est que c'est souvent du mauvais journalisme". S'il utilise l'IA pour écrire sa newsletter, Jean Rognetta reste en effet convaincu de la nécessité d'effectuer une relecture et une correction humaine. "Notre newsletter est écrite avec, et non par une IA", martèle-t-il. Une approche qui pourrait bientôt se généraliser à d'autres journaux. Le 19 juillet dernier, le New York Times annonçait dans ses pages qu'un outil d'IA, destiné à automatiser certaines tâches effectuées par ses journalistes, était en cours de développement par Google.

5 Elles seront bientôt signalées par un filigrane

Face à la difficulté de plus en plus grande de détecter les contenus générés via une IA, l'Union européenne a adopté en juin dernier le "AI Act", avec l'objectif de réguler le secteur. A partir de l'application de la nouvelle réglementation, pas prévue avant 2026, les contenus générés par IA devront être signalés par un "watermark" (une signature en filigrane) indiquant clairement qu'ils n'ont pas été créés par un humain.

La forme de ce watermark n'est cependant pas encore entièrement définie. Il pourrait prendre la forme d'une phrase d'avertissement ou être dissimulé dans le texte, afin d'être moins facilement effaçable par les utilisateurs. Open AI a récemment annoncé travailler sur un watermark invisible. Comment ? Une récente étude (PDF) de l'université du Maryland propose par exemple que les IA soient programmées pour utiliser plus fréquemment une "liste spéciale" de mots définie à l'avance, permettant aux logiciels de détection d'être plus efficaces.

"Il y a de bonnes intentions au niveau de l'UE et des éditeurs, mais le problème reste la question de la mise en œuvre", estime Amélie Cordier. Si la régulation peut se mettre en place facilement pour les plus gros acteurs comme Open AI, Google, etc., elle sera impossible à imposer aux petites entités qui pullulent.

"Si l'utilisateur a le choix entre un logiciel avec 'watermark', ou un logiciel gratuit indétectable, la régulation risque d'être inefficace."

Une opinion que partage Virginie Mathivet, particulièrement en ce qui concerne les "fake news". "Une personne qui veut faire de la désinformation fera en sorte de ne pas avoir de watermark", conclut-elle.

Auteur: Internet

Info: https://www.francetvinfo.fr/, 2 sept 2023, Pauline Lecouvé

[ homme-machine ] [ machine-homme ]