sciences

Les ordinateurs peuvent-ils être créatifs? Le projet WHIM ("What-if Machine"), financé par l'UE, génère non seulement des scénarios fictifs mais évalue également leur potentiel attractif et d'utilisation. Il représente une avancée majeure dans le domaine de la créativité informatique. La science ignore bien souvent le monde du fantastique, mais les choses changent avec le projet WHIM qui porte bien son nom (en anglais, "whim" signifie fantaisie). Ce projet ambitieux élabore un système logiciel capable d'inventer et d'évaluer des idées imaginaires. "WHIM est un antidote à l'intelligence artificielle traditionnelle, qui est obsédée par la réalité", déclare Simon Colton, coordinateur du projet et professeur en créativité informatique au Goldsmiths College, à l'université de Londres. "Nous faisons partie des premiers à appliquer l'intelligence artificielle à la fiction". L'acronyme du projet signifie What-If Machine. C'est également le nom du premier logiciel de conception de fictions au monde, par un processus d'idéation (processus créatif de production, de développement et de communication de nouvelles idées) développé dans le cadre du projet. Le logiciel génère des mini-récits fictifs en utilisant des techniques de traitement du langage et une base de données des faits trouvés sur le web (qui sert de référentiel de faits "réels"). Le logiciel intervertit ou déforme ensuite les faits pour créer des scripts hypothétiques. Le résultat est souvent absurde: "Que se passerait-il si une femme se réveillait dans une allée après avoir été transformée en chat, mais tout en étant toujours capable de faire du vélo ?" Les ordinateurs peuvent-ils juger la créativité ? WHIM est bien plus qu'une simple machine génératrice d'idées. Le logiciel cherche également à évaluer le potentiel d'utilisation ou la qualité des idées générées. En effet, ces dernières sont destinées à un usage par le public, et les impressions du public ont été sondées avec des expériences participatives (crowdsourcing). Par exemple, les personnes interrogées ont fait part de leurs impressions générales, précisant également aux chercheurs du projet WHIM si les scripts imaginaires produits étaient, selon elles, innovants et avaient un bon potentiel narratif. Au moyen de techniques d'apprentissage automatique, conçues par des chercheurs de l'institut Jozef Stefan de Ljubljana, le système acquiert progressivement une compréhension plus précise des préférences du public. "On pourrait dire que la fiction est subjective, mais il existe des schémas communs", déclare le professeur Colton. "Si 99 % du public pense qu'un humoriste est amusant, alors nous pourrions dire que l'humoriste est amusant, au moins selon la perception de la majorité". Ce n'est que le début Générer des mini-récits fictifs ne constitue qu'un aspect du projet. Des chercheurs de l'Universidad Complutense Madrid transforment les mini-récits en scripts narratifs complets, qui pourraient mieux convenir pour l'intrigue d'un film par exemple. Parallèlement, des chercheurs de l'University College Dublin tentent d'entraîner les ordinateurs à produire des idées et paradoxes métaphoriques en inversant et opposant des stéréotypes trouvés sur le web, tandis que des chercheurs de l'Université de Cambridge explorent l'ensemble du web à des fins de création d'idées. Tous ces travaux devraient engendrer de meilleures idées imaginaires plus complètes. Plus qu'une simple fantaisie Bien que les idées imaginaires générées puissent être fantaisistes, WHIM s'appuie sur un processus scientifique solide. Il fait partie du domaine émergent de la créativité informatique, une matière interdisciplinaire fascinante située à l'intersection de l'intelligence artificielle, la psychologie cognitive, la philosophie et les arts. WHIM peut avoir des applications dans plusieurs domaines. Une des initiatives envisage de transformer les récits en jeux vidéo. Une autre initiative majeure implique la conception informatique d'une production de théâtre musicale: le scénario, le décor et la musique. Le processus complet est en cours de filmage pour un documentaire. WHIM pourrait également s'appliquer à des domaines non artistiques. Par exemple, il pourrait être utilisé par des modérateurs lors de conférences scientifiques pour sonder les participants en leur posant des questions destinées à explorer différentes hypothèses ou cas de figure. L'UE a accordé 1,7 million d'euros de financement au projet WHIM, actif d'octobre 2013 à septembre 2016.

Auteur: Internet

Info:

[ homme-machine ] [ informatique ] [ créativité ]

scepticisme

Les nouvelles disent que les derniers sondages confirment que la moitié des Américains croient que la vie extraterrestre existe. Plus étrange, une bonne partie pense qu'on visite la terre.
Plusieurs émissions de TV récentes en ont encore parlé, affirmant que de tels véhicules, atterriraient de temps en temps, assez longtemps pour permettre à leurs passagers d'entreprendre de bizarres expériences sur des citoyens malchanceux. Alors que ces visions impressionnantes suggèrent qu'on ira finalement au fond de la "discussion UFO" cela n'arrive jamais.
C'est parce que les preuves sont faibles. Lors d’un show récent auquel j'ai participé, les experts en la matière invités - qui ont longtemps étudié les UFOs - ont plaidé pour la présence extraterrestre en montrant des photographies de soucoupes putatives à de basses altitudes. Certains de ces objets apparaissant comme de simple lumières de feux à l’extérieur ; d'autres ressemblaient à des frisbees.
Comme c’est ambigu, ça demande davantage d'attention. Comment peut-on savoir si ce ne sont pas des projectiles jetés en l'air par un hoaxer utilisant un appareil-photo ? La réponse d'un expert : "ces photos sont un exemple". Une fois questionné sur le fait de savoir quel échantillon était maîtrisé, sa réponse fut "les effets atmosphériques nous donnent une indication sur la distance et des examens soigneux éliminent la supercherie photographique". Bien, c'est plus risqué, et ça se fonde sur une certaine prétention quant aux conditions atmosphériques (était-ce un jour brumeux sur San Francisco ?). Bref, ça ne prouve rien.
Un vrai projectile aéroporté exempt de supercherie photographique. La preuve additionnelle est "le témoignage des expert". Les pilotes, astronautes, et d'autres, tous ont prétendu avoir vu d'étranges choses se promenant dans l'air. Il est raisonnable de dire que ces témoins ont vu quelque chose. Mais ce n'est pas parce que tu ne reconnais pas un phénomène aérien que ça signifie que c'est un visiteur extraterrestre. Tout ceci exige une preuve additionnelle qui, jusqu'ici, n'est pas convaincante.
Que diriez-vous de ces gens qui prétendent avoir été enlevés ? Lors d'un programme TV, des experts en matière d'UFO ont montrés des photos de marques sur les bras et les jambes de sujets humains en déclarant que ces défigurations mineures étaient dues à une malversation alien. Ici aussi, hormis la question embarrassante du pourquoi des êtres de mondes éloignés viendraient faire de telles choses, cette preuve est à nouveau ambiguë. Ces marques pourraient être provoquées par des ET’s, mais elles pourraient aussi être des brûlures de cigarette. Et lorsque poussés à dire s'il y a une preuve évidente de visite extraterrestre ces experts disent "Nous ne savons pas d'où ils viennent. Mais quelque chose se passe sans aucun doute." Cette dernière affirmation étant à peine controversée. La question maladroite même. Si les soucoupes ne sont pas d'un espace extra-atmosphérique, d'où sont-elles ? De Belgique ?
Le fond de tout cela est qu’une certaine démonstration ou preuve de visiteurs extraterrestres n'a pas convaincu beaucoup de scientifiques. Très peu d'universitaires ont pondu des papiers pour journaux "avec referee" avec pour sujet des véhicule ET’s ou leurs occupants. Confrontés avec ce fait inconfortable, les experts ufologues prennent refuge dans deux explications :
1. Le matériel qui donnerait preuve a été rassemblé et caché par les autorités. Argument de l'ignorance, qui implique nécessairement que certains gouvernements de la planète dissimulent efficacement tous les meilleurs objets manufacturés aliens.
2. Les scientifiques refusent d'étudier le phénomène. En d'autres termes, les scientifiques devraient s’auto blâmer du fait que cette hypothèse de visite ne les branche pas. C'est non seulement injuste, mais surtout mal orienté. Bien sûrs, peu de chercheurs ont tamisé eux-mêmes toutes ces histoires, vidéos et autres photos étranges qui montreraient l'évidence d'une présence étrangère. Mais ce n’est pas leur boulot. C'est comme si on disait aux critiques de film que les films seraient meilleurs si seulement ils mettaient eux-mêmes en scène.
La charge d’apporter la preuve repose sur ceux qui font ces assertions, pas sur ceux qui trouvent ces données douteuses. S'il y a des investigateurs qui sont convaincus que des véhicules d'autres mondes bourdonnent dans le nôtre, ils devraient alors présenter leurs meilleures preuves et arguments, et ne pas recourir aux explications qui font appel à de mystérieux censeurs ou au manque d'ouverture d'esprit des autres. Les avocats des UFOs nous demandent de croire quelque chose de très important. Après tout, il ne pourrait guère y avoir découverte plus dramatique que la visite d’êtres d'autres mondes.
Si on pouvait montrer que des aliens sont ici, je serais aussi intimidé que n'importe qui. Mais j'attends toujours une preuve, de niveau A.

Auteur: Shostak Seth

Info: Fortean Times, The Guardian, Jeudi 18 Août 2005

[ réalisme ] [ Ovnis ]

sport

Je suis passé devant un magasin où des télés diffusaient l'US Open. Pendant quinze secondes, j'ai cru que c'était un jeu vidéo tellement ça cognait. Aujourd'hui, le tennis, c'est un bras de fer, c'est hyper physique. La notion de finesse n'existe plus. Les gens disent que Federer joue en finesse. Non, Federer joue relâché, mais il ne joue pas en finesse. Il cogne au service, il fracasse en coup droit, il fracasse en revers, et de temps en temps il fait un slice ou une amortie quand il en a marre. Il n'y a plus cette notion de surprise. C'est à qui tapera le plus fort, à qui sera le plus résistant.
Mais alors c'est impressionnant, ça joue tellement bien, ça me fait halluciner. Il y a quelques semaines, on m'a demandé ce que je pensais du niveau. J'ai répondu : à mon meilleur, meilleur, meilleur niveau, contre Djokovic, je ne gagne pas un jeu. D'ailleurs, en Serbie, un journaliste a mal fait la traduction et a balancé l'interview en écrivant : "Noah a dit que s'il jouait Djokovic, Djokovic ne ferait pas un jeu." J'ai fait les titres des journaux télévisés en Serbie toute une journée !
Le bond en avant physique opéré ces dernières années vous surprend-il ?
Déjà, pendant la période Agassi-Sampras, je me demandais jusqu'où ils iraient. Là, ils jouent pareil, sauf qu'ils font dix centimètres et dix kilos de plus, et les mecs progressent encore. Nadal, au départ, c'était un joueur uniquement défensif, et maintenant il contre-attaque. Si tu joues court, il a un slice en revers magnifique. Techniquement, c'est fantastique. Les mecs continuent à évoluer, et ce n'est pas fini. Parce qu'il n'y a pas encore eu de Michael Jordan du tennis, un mec de 2,02 mètres, souple, avec le toucher et la puissance. Aujourd'hui, aux Etats-Unis, ces énergumènes vont direct au basket. Mais c'est ça, le tennis de demain. Et là, je pense que ça pourra de nouveau passer par le service-volée.
Y a-t-il un joueur qui vous fasse vibrer aujourd'hui ?
Dans une autre vie, je vais monter un circuit où on aura le droit de gueuler, d'insulter tout le monde, d'être comme on a envie d'être. On a tué le jeu en installant, il y a quinze ou vingt ans, une espèce de code de conduite parce qu'il ne fallait pas heurter les oreilles du jeune public américain qui ne pouvait pas entendre "fuck" ou "shit". Du coup, la génération qui est arrivée ensuite a appris le tennis avec ces règles qui ont tué l'âme du jeu.
Lorsque j'étais joueur, le public était plus proche de nous, plus concerné par notre jeu, parce qu'il nous connaissait, nous entendait gueuler. McEnroe a fait une carrière par ses gueulantes. Les gens aimaient le voir parce qu'ils se disaient : "Il va y avoir le bordel." McEnroe n'existerait pas aujourd'hui, il ne pourrait pas jouer.
Il y a deux ou trois ans, la finale du double messieurs avait lieu sur le Central, et la finale du double des légendes sur le court n° 1. Le Central était vide, le court n° 1 était bourré. Les gens voulaient voir McEnroe. Ça délirait. Il y avait de la vie. Le code de conduite a enlevé la vie. Aujourd'hui, tu ne connais pas la voix des joueurs, tu ne sais pas qui ils sont, quelle est leur personnalité. Pourtant ils en ont une. Djokovic, il ne demande qu'à déconner, mais ce n'est plus possible : il y a des flics partout qui te mettent des points de pénalité. Et le public a assimilé tout ça. Tu dis "merde" et tu te retrouves avec tout un stade qui siffle. Il faut du politiquement correct. Tout le monde pareil, c'est ça qui plaît aux diffuseurs américains comme CBS.
En France, le politiquement correct, en ce moment, c'est le "Hollande bashing". Vous aviez soutenu sa candidature pendant la campagne présidentielle. Un an plus tard, faites-vous partie des électeurs déçus ?
Déçu de quoi ? Je ne m'attendais pas à ce que, du jour au lendemain, tout le monde ait du boulot et se mette à danser Saga Africa. Hollande a été élu largement, et le lendemain de son élection les gens râlaient déjà. C'est la crise. Il faut qu'on se serre la ceinture et qu'on y aille tous ensemble. Sincèrement, je ne pense pas que la situation du pays soit la faute de Hollande. Personne ne pourrait faire mieux à sa place. Il arrive, le match est pourri, les balles sont pourries, le court est pourri, les arbitres sont corrompus, et le public a envie qu'il paume.

Auteur: Noah Yannick

Info:

[ évolution ] [ tennis ]

réseaux sociaux

Le shadow banning et son rôle dans la censure moderne

Les médias sociaux nous observent et contrôlent ce que nous voyons.

Ce n'est pas un secret, les algorithmes dominent nos vies sociales en ligne - ce n'est pas comme si nous ne prenions pas nos propres décisions lorsqu'il s'agit de savoir à qui nous parlons ou quels médias nous consommons, mais ce serait faire preuve d'une vraie ignorance qu'ignorer comment les systèmes ont été programmés pour catégoriser, collecter et suggérer des données simplement en fonction de nos goûts et de nos suivis. Cela nous expose à des contenus, des personnes et des idées que nous n'aurions pas trouvés par nous-mêmes, mais cela soulève la question du degré de contrôle que ces systèmes exercent sur ce que nous voyons. Voilà qui nous amène au shadow banning. 

Le shadow banning est la décision d'une plateforme de médias sociaux d'empêcher partiellement ou totalement l'interaction avec le contenu d'une personne - empêcher de nouvelles personnes de rechercher votre contenu, s'assurer que vous n'apparaissez pas sous les hashtags ou même limiter la fréquence à laquelle vous êtes suggéré comme personne à suivre... ne sont que quelques exemples de la façon dont cela peut être réalisé. Les plateformes telles qu'Instagram et Tiktok reconnaissent rarement les allégations de cette nature, mais soulignent plutôt leur droit de supprimer les publications qui ne sont pas conformes à leurs directives communautaires et le fait qu'en acceptant d'utiliser la plateforme, vous consentez à leur pouvoir de le faire. 

D'une manière générale, le fait que vos vidéos soient supprimées ou que moins de personnes puissent y accéder n'est pas le plus grand préjudice du monde, mais il faut noter que les personnes qui font l'objet d'un bannissement caché présentent un profil significatif. Si je me réfère aux directives de la communauté Tiktok, il est dit que sont mises au rebut les vidéos créées dans le but de nuire à autrui. Mais dans ces directives, ils s'efforcent de répéter que sont autorisés "les contenus éducatifs, historiques, satiriques, artistiques et autres qui peuvent être clairement identifiés comme des contre-discours ou qui visent à sensibiliser aux dommages causés par des individus et/ou des organisations dangereuses". Cette citation et leur déclaration de soutien au mouvement Black Lives Matter surprendront surtout tous les de créatifs noirs qui ont vu leur taux de fréquentation chuter et leurs vidéos être retirées de leur profil. 

Instagram s'est montré tout aussi complice dans cette affaire - il y a eu un retour de bâton significatif de la part des travailleurs du sexe, des éducateurs sexuels et souvent des espaces inclusifs, queer et sexuellement positifs sur cette application. Dans son article publié dans le Guardian, Chante Joseph a exposé la zone grise qui n'est pas aussi clairement définie que la politique de non-nudité d'Instagram, où les administrateurs peuvent signaler un contenu comme étant "sexuellement suggestif" ; beaucoup de gens affirment que c'est nécessaire afin de s'assurer que les enfants ne sont pas exposés à des contenus inappropriés - plutôt que de responsabiliser les parents ou que les plateformes de médias sociaux tentent au moins d'introduire une forme de restriction d'âge, la charge est donc placée sur les créateurs. Mais considérons, par exemple, les créateurs LGBTQIA+ ; leurs comptes fournissent des informations auxquelles des jeunes qui n'ont peut-être même pas fait leur coming out pourraient avoir accès afin de pouvoir traiter et comprendre leurs sentiments dans un espace sain qui ne leur était pas accessible il y a seulement dix ans. En substance, ces directives sur ce qu'une personne est autorisée à partager sont définies par une norme morale arbitraire où les discussions sur le sexe, en particulier celles qui se situent en dehors du domaine de l'hétéronormatif, sont quelque chose dont il faut se protéger, même s'il y a très peu d'espaces qui les autorisent dans la vie réelle.

Instagram, Twitter, TikTok, Facebook ont tous la réputation d'être superficiels et de reposer sur l'auto-gratification des gens qui veulent exister et être vus (ce qui n'est même pas une mauvaise chose en soi), mais à côté de cela, ils peuvent être utilisés pour partager des idées, des pensées politiques et des savoirs. Ainsi, lorsque des créateurs noirs qui tentent d'informer les masses sont empêchés de partager des informations ou lorsque des messages de travailleurs du sexe sur la misogynie sont inaccessibles parce que leur page est considérée comme trop "sexuellement suggestive" (terme indéfini et donc difficile à traiter), le silence est assourdissant. Le shadowbanning est une menace pour nous tous car il maintient l'illusion du contrôle. Or, cette idée est synonyme de censure et d'obstruction à l'information. De plus, cette obstruction est dictée par ce que les plateformes considèrent comme approprié, de sorte que le pouvoir que nous supposions avoir dans nos voix peut constamment être réduit au silence.

Auteur: Oluwakemi Agunbiade

Info: https://cherwell.org/, 3 septembre 2020

[ pouvoir numérique ]

covid-19

De façon concrète, dans nos vies, la "smart planet" sans contact - le monde-machine - a franchi des seuils en 2020 :

Bond en avant du commerce électronique et des livraisons à domicile. L’épidémie a augmenté de 183 milliards les dépenses dans l’e-commerce mondial. L’e-commerce représente désormais 13,4 % du commerce de détail en France, contre 9,8 % en 2019. Selon Romain Boisson, patron de Visa France, "l’e-commerce s’est ancré dans les habitudes de consommation des Français et s’impose désormais […] pour tous les commerçants, quelle que soit la taille de leur entreprise". Deliveroo vaut 7 milliards de dollars en bourse. Les grandes sociétés de transport/logistique (DHL, UPS, FedEx, etc.) ont réalisé un chiffre d’affaires de 300 milliards de dollars en 2020. Le chiffre d’affaires d’Amazon a augmenté de 38 % en 2020 pour atteindre 320 milliards d’euros. C’est à l’"Amazon academy" que l’État français, via la Banque publique d’investissement, confie la formation des PME pour leur mettre le pied à l’Internet. Nom du programme : l’Accélérateur du numérique.

Adoption du télétravail. Cinq millions de Français ont télétravaillé pendant le premier confinement et 60 % des salariés veulent continuer après la crise. Moins de locaux, plus de télécommunications. Le nombre d’abonnés à la fibre chez Orange a bondi de 50 % : "Jamais on n’a autant câblé les Français qu’en 2020". Boom des applications de visioconférence et autres "outils collaboratifs" en ligne. Microsoft Teams enregistre un record avec 44 millions d’utilisateurs quotidiens. Les ventes d’ordinateurs connaissent la plus forte croissance annuelle (+ 4,8 %) depuis dix ans dans le monde. Au tribunal administratif de Grenoble, "le tout numérique a amorti la baisse d’activité". De quoi tenir l’objectif des services publics "100 % dématérialisés" fixé par la plan "Action publique 2022".

Invasion du télé-enseignement. Invention des cours "en distanciel" y compris pour les apprentis, grâce au "learning management system". L’école de commerce de Grenoble organise ses "Portes ouvertes online" en janvier 2021. La ministre de l’Enseignement supérieur, Frédérique Vidal, voit dans l’épidémie "une opportunité de façonner l’université numérique de demain". Envol inespéré pour le "e-learning et les ed-tech", le plus profitable des "marchés porteurs" identifiés en février 2020 par le cabinet Roland Berger, avec 6000 milliards de dollars en 2018. Parmi les "verrous à lever", celui-ci déplorait "la complexité́ des processus d’accès au marché́ scolaire qui agit comme une barrière à l’entrée". Voilà un verrou forcé par le virus. Le moindre prétexte renvoie désormais les élèves derrière leur écran, comme l’ont constaté ceux des Yvelines, assignés "en distanciel" pour une chute de neige le 10 février 2021. #Restezchezvous est entré dans les mœurs.

Ruée sur les loisirs en ligne. 36 % de temps d’écran en plus par jour pour les Français, plus une heure de télé supplémentaire. Plus de 2,6 milliards de personnes utilisent quotidiennement Facebook, WhatsApp et Instagram, soit 15 % de plus que fin 201928. Netflix et le jeu vidéo, grands gagnants du confinement. Lequel a "accéléré le processus d’une culture de la sédentarité plus poussée, notamment la place des écrans", alerte David Thivel, membre du conseil scientifique de l’Observatoire national de l’activité́ physique et de la sédentarité́ (il y a des observatoires pour tout). Les Français ont pris en moyenne 3 kg en 2020.

Décollage de la télémédecine. 28 % de téléconsultations en avril 2020, contre 0,1 % avant la pandémie. 19 millions de téléconsultations remboursées par la Sécurité sociale en 2020. Les start up de la santé numérique (dites "healthtech") lèvent 8,2 milliards de dollars au premier trimestre 2020, un record30. Selon Stanislas Niox-Chateau, le patron de Doctolib, "une fois l’épidémie de coronavirus passée, entre 15 % et 20 % des consultations médicales se feront à distance en France".

[...]

Invasion de la monnaie virtuelle. Les Français délaissent le cash par peur de la contamination. Les retraits de liquide ont chuté de 50 % en volume pendant le premier confinement, au profit du paiement "sans contact" (dont l’Autorité bancaire européenne a relevé le plafond à 50 €), qui bondit de 65 %. Les réfractaires ont "sauté le pas, et il n’y aura pas de retour en arrière", selon Pierre-Antoine Vacheron, directeur général de Natixis Payments. Au fait, le nombre de distributeurs de billets diminue en France depuis 2015. Ça va s’accélérer. Avec l’e-commerce et le "click & collect", le consommateur paie désormais en ligne. "Les Français s’y habituent", constate le même expert. Ou plutôt, on y habitue les Français. On s’est vu refuser un chèque au motif qu’il faudrait toucher notre carte d’identité pour l’encaisser. [...]

Effet-cliquet : on ne revient pas en arrière quand les technologies ont imposé de nouvelles habitudes. L’offre a créé la demande. De réunions Zoom en concerts virtuels, de cours sur Internet en achats en ligne, de cyber-démarches administratives en téléconsultations médicales, nous devenons des Smartiens, cette espèce qui ne survit que connectée à la Machinerie générale. Voyez la gratitude des confinés connectés – "comment aurions-nous fait sans Internet ?" - révélant toute honte bue leur dépendance Si notre vie tient à un câble, la sélection technologique élimine ceux qui refusent ou n’ont pas accès à la connexion universelle. Seuls restent les adaptés, les connectés, vaccinés, livrés et monitorés par la Machine. Le petit commerce ne survit pas sans mise en ligne, c’est-à-dire sans supprimer ce qui fait le petit commerce. Il faut choisir : disparaître ou disparaître.

Auteur: PMO Pièces et main-d'oeuvre

Info: Dans "Le règne machinal", éditions Service compris, 2021, pages 65 à 70

[ transition technologique ] [ transformations ] [ conséquences ] [ accélération ]

homme-machine

Des scientifiques ont mis au point une intelligence artificielle si avancée qu’elle serait trop dangereuse pour être rendue publique

Un groupe d’informaticiens précédemment soutenus par Elon Musk a développé une intelligence artificielle (IA) avancée, jugée "trop dangereuse" pour être rendue publique.

OpenAI, entreprise de recherche à but non lucratif basée à San Francisco (USA), affirme que son système de prédiction du langage "à la caméléon", appelé GPT-2, ne sortira qu’en version limitée et à très petite échelle, en raison de "préoccupations concernant les applications malveillantes de cette technologie". En effet, le modèle informatique qui génère des paragraphes de textes originaux en fonction de ce qui lui a été donné à "lire", est un peu trop performant, selon l’entreprise qui l’a créé.

Le système élabore des "échantillons de texte synthétique d’une qualité sans précédent", que les chercheurs estiment tellement avancés et convaincants que l’IA pourrait être utilisée pour créer de fausses informations, se faire passer pour certaines personnes, et abuser ou duper des individus sur les réseaux sociaux. "GPT-2 possède un objectif simple : prédire le mot suivant, en tenant compte de tous les mots précédents dans un texte", explique l’équipe OpenAI sur son blog.

Dans le but d’alimenter l’imagination de GPT–2, les chercheurs ont fourni à leur IA un jeu de données de huit millions de pages internet. Une fois toutes les informations assimilées, leur IA peut alors converser sur le sujet, tel qu’il le comprend, et générer un texte aléatoire mais convaincant, qu’il s’agisse de nouvelles de célébrités, de changements climatiques, de la guerre de Sécession ou de fanfictions inspirés de l’univers de Tolkien.

Ci-dessous quelques exemples édités, pour vous rendre compte de la puissance de l’IA créée par OpenAI :

Humain : "Miley Cyrus a été prise en flagrant délit de vol à Abercrombie and Fitch sur Hollywood Boulevard aujourd’hui !". Réponse de GPT-2 : "La chanteuse, âgée de 19 ans, a été filmée et escortée hors du magasin par des gardes de sécurité. La chanteuse portait un sweat à capuche noir avec les étiquettes ‘‘Blurred Lines’’ à l’avant et "Fashion Police" à l’arrière".

Humain : "Recycler, c’est bon pour le monde. NON ! VOUS NE POUVEZ PAS AVOIR PLUS TORD !!". Réponse de GPT-2 : "Le recyclage n’est PAS bon pour le monde. C’est mauvais pour l’environnement, pour notre santé et pour notre économie. Je ne plaisante pas. Le recyclage n’est pas bon pour l’environnement. C’est destructeur pour la Terre et c’est un contributeur majeur au réchauffement climatique".

Humain : "Pour les devoirs d’aujourd’hui, veuillez décrire les raisons de la guerre civile américaine". Réponse de GPT-2 : "Par Donny Ferguson. Il est facile de comprendre pourquoi la guerre civile s’est produite, car tant de gens et tant de livres, de télévisions et de films nous disent que c’est la cause, que cela a à voir avec la race, l’économie ou la religion. On s’entend généralement pour dire qu’il s’agissait essentiellement d’une guerre d’esclavage de la part du capitalisme, à propos d’un siècle d’esclavage. Mais ce n’est pas ce à quoi la plupart des gens pensent quand ils pensent à la guerre civile".

Et pour finir, cet exemple du fanfiction issu de l’univers de Tolkien. Humain : "Legolas et Gimli avançaient vers les orcs, levant leurs armes avec des cris de guerre déchirants". Réponse de GPT-2 : "La réponse des orcs fut une attaque assourdissante de griffe, griffe et griffe ! ; même Elrond fut contraint de battre en retraite. "Vous êtes entre de bonnes mains" a déclaré Gimli, qui avait été parmi les premiers à charger les orcs ; il ne leur fallut que deux mots avant que leurs adversaires ne soient réduits à un bourbier ensanglanté, et que le nain tue pour la première fois de la nuit". (Si vous souhaitez lire entièrement ce tribut étrange à Tolkien, c’est ici, en anglais).

Malgré la nature déroutante de ces étranges annonces créées par l’IA, le modèle de langage émis n’est pas parfait, ce que l’équipe reconnaît totalement. "Comme le montrent les exemples ci-dessus, notre modèle est capable de générer des échantillons à partir d’une variété de textes se sentant proches de la qualité humaine et offrant une cohérence sur une page ou plus" ont déclaré les chercheurs. "Néanmoins, nous avons observé divers modes d’échec, tels que du texte répétitif, des échecs de modélisation cohérente (par exemple, le modèle écrit parfois sur des incendies se déroulant sous l’eau) et des changements de sujet non naturels", ont ajouté les chercheurs.

Cela étant dit, d’après OpenAI, leur IA peut générer des modèles avec du texte cohérent, personnalisé et évolutif, ce qui pourrait être utilisé à des fins malveillantes, en plus des avantages connus.

"Ces résultats, combinés à des résultats antérieurs sur l’imagerie synthétique, l’audio et la vidéo, impliquent que ces technologies réduisent le coût de production de faux contenus et de campagnes de désinformation", écrivent les chercheurs. "En raison des craintes que des modèles linguistiques de ce type soient utilisés pour générer un langage trompeur, partial ou abusif, nous ne publierons qu’une version beaucoup plus restreinte de GPT–2, avec un code d’échantillonnage", ajoutent-ils.

Certains scientifiques suggèrent néanmoins que les craintes relatives aux capacités de GPT-2 sont exagérées, et que l’entreprise OpenAI souhaite simplement se faire de la publicité. L’entreprise a rétorqué qu'elle pense avoir raison de se méfier des IA trop compétentes. "Les règles selon lesquelles vous pouvez contrôler la technologie ont fondamentalement changé" a déclaré Jack Clark, directeur des politiques de la société OpenAI. "Nous n’affirmons pas savoir quelle est la bonne chose à faire dans cette situation (…). Nous essayons de construire la route au fur et à mesure que nous avançons", a-t-il ajouté.

Auteur: Internet

Info: https://trustmyscience.com Traduction Stéphanie Schmidt 20 février 2019

post-darwinisme

Internet et l’informatique en général ont joué un rôle permanent dans l’histoire de la mémétique, par exemple en faisant accepter l’idée que des codes non biologiques (typiquement, les virus informatiques) puissent avoir une reproduction autonome. La résolution de problèmes industriels a rebaptisé mémétiques les algorithmes génétiques. Mais surtout, le tissu social de l’internet, plus maillé de jour en jour, constitue une deuxième couche de lien social, d’interactions et de contenu. Il prend une telle épaisseur qu’il abrite sa propre faune. Des contenus – humoristiques, effrayants ou engagés – prolifèrent à une vitesse telle qu’on ne pourrait plus les contrôler sans "fermer" Internet. On appelle cela Internet memes parce que, depuis le début, la mémétique et la web culture sont consanguines. Le court-circuit linguistique ne s’est pas fait attendre, bien que personne ne l’ait anticipé : les "mèmes Internet" sont devenus mèmes par la grâce simplificatrice des médias grand public. Le nom sans objet a fusionné avec l’objet sans nom. Malheureusement, on se polarise trop sur les contenus sémantiques d’Internet, alors que l’on devrait aussi s’intéresser à la structure procédurale qui les sous-tend, en étudiant par exemple les puissants mèmes aux implications politiques et sociétales lourdes que sont Share (partagez du contenu), Like (dites que vous aimez) et Report (signaler un abus) !

Au fil des années, la communauté des méméticiens avait commencé à "tuer le père" en se détachant progressivement de Dawkins, de son analogie trop simple, éloquemment nommée "camisole intellectuelle" (Wallace, 2013). Mais voici qu’au festival de Cannes 2013, le succès des Internet memes fait sortir du bois "l’athée le plus célèbre du monde", avec un vidéo-clip taillé selon les codes visuels de YouTube. La nouvelle "petite phrase" de Dawkins est un pied de nez à toute la science sérieuse : "L’idée même de mème a elle-même muté et évolué dans une nouvelle direction".

Le jeu de mot "mutations are designed not random" (les mutations sont créées, pas aléatoires) est délibérément contestable : il ouvre une conception nouvelle du rapport entretenu par les variantes culturelles avec le terrain humain. La créativité et l’intention de l’artiste y font partie des conditions de naissance de la solution créative, sont le générateur de hasard.

Si exaspérant soit-il, Dawkins joue son rôle de diva en "levant des fonds" : il utilise le modèle économique de demain, celui qui convertit l’attention captée en revenus. Grâce aux Internet memes, il fait d’une pierre trois coups. Car pour une nouvelle science, il ne faut pas seulement de nouvelles lunettes et beaucoup de temps de cerveau, mais aussi un nouveau champ de données, une espèce inconnue, un nouveau continent. Autrement, on se heurte au reproche classique : "mais pourquoi aurait-on besoin de vos nouvelles lunettes, alors que celles que nous fabriquons déjà fonctionnent très bien ?" L’ennui, c’est que les vieilles lunettes ne voient pas bien ce qui est en train de se passer parce que cela va trop vite.

Une autre forme de science est nécessaire pour demain

On sait dire aujourd’hui "à quelle question la mémétique apporte une réponse". Les questions apparaissent chaque jour un peu plus clairement : pourquoi les phénomènes de société échappent-ils à toute prévision et plus encore à tout contrôle ? Pourquoi même les bonnes nouvelles sont-elles surprenantes ? Qu’est-ce qui influence les influenceurs ? Jusqu’où tel bouleversement va-t-il se propager ? Est-il normal que les objets nous utilisent et communiquent entre eux ? Aujourd’hui, la difficulté de prévoir, l’irruption permanente et encouragée de la nouveauté, voire de la disruption, ainsi que l’explosion des données massives (big data) appellent les compétences sociocognitives des "tendanceurs". Pensée rapide, échanges en réseau, erreur autorisée, remise en cause permanente et preuve par l’action. La mémétique rejoint cet arsenal des chasseurs de tendances parce qu’elle voit le monde avec d’autres lunettes, des lunettes qui savent que l’on regarde du vivant autoorganisé et non plus du "construit par l’homme selon des plans". Du coup ces lunettes nous rendent davantage capables de voir ce qui change rapidement et d’en percevoir les évolutions possibles. Aujourd’hui, la mouvance de l’économie collaborative se propose de mettre en partage le "code source" d’innovations citoyennes directement prêtes à être  expérimentées. 

Il devient impossible de penser seul ou en petits groupes centrés sur l’allégeance à un seul paradigme. Les sujets d’études offerts aux sciences de l’homme par le monde contemporain affolent par leur nombre, leur diversité et leur vitesse de renouvellement. De même, la connaissance se fabrique partout en même temps, dans un tissu ouvert constitué de personnes et de machines. La conscience même du sujet connecté n’est plus la même que celle du sujet isolé. La mémétique peut fournir un ensemble de métaphores agissant à la manière de passerelles interdisciplinaires, telles que la vision des solutions comme chemins entre états instables, celle du stockage partiel des souvenirs dans les objets, ou celle de l’ADN organisationnel comme fonctionnement implicite partagé des collectifs.

Une première condition est le recentrage indispensable de l’observation, du mème abstrait vers la solution concrète que l’on voit se reproduire et évoluer.

Une autre serait de mettre en lien souplement, autour de ce concept général de solutions, toutes les observations et réflexions – sans aucune contrainte disciplinaire – sur la manière dont nos actions s’inspirent et se déclenchent à partir des corps, des lieux et des objets, se répètent, sont bien ou mal vécues en commun, sont mémorisées, fabriquent des structures, produisent des récits…

Mais avant tout, la plus importante est de reconnaître la mémétique pour ce qu’elle est : un projet collaboratif, spontané, a-disciplinaire, mondial, qui nous équipe d’un regard neuf sur ce que la vie humaine est en train de devenir… un regard qui change jusqu’à notre conception de nous-mêmes. La mémétique ne mourra pas tant que ce travail restera à faire. Elle ne s’effacera pas, si ce n’est dans un projet plus grand qui réponde aux mêmes nécessités et partage la même ouverture.

Auteur: Jouxtel Pascal

Info: In Cairn infos, reprenant Hermès, La Revue 2013/3 (n° 67), pages 50 à 56

[ distanciation ] [ recul épistémologique ]

capitalisme

Prenez garde aux psychopathes corporates - ils sont encore aux postes de pouvoir
Au cours des années, j'ai rencontré mon lot de monstres - des fripouilles pour la plupart. Mais à mesure que la réglementation au Royaume-Uni et aux États-Unis a assoupli ses contraintes, ces monstres ont proliféré.
Dans un article publié récemment dans le Journal of Business Ethics intitulé "The Corporate Psychopaths: Theory of the Global Financial Crisis", Clive R Boddy identifie ces individus à des psychopathes.
"Ils sont" dit-il "tout simplement le 1 pour cent des gens qui n'ont aucune conscience ni empathie". Et il affirme : "Des psychopathes qui sont aux postes clefs des sociétés financières modernes de premier plan, où ils peuvent influencer le climat moral de toute l'organisation et générer un pouvoir considérable, ont largement provoqué la crise [bancaire]".
Et M. Boddy n'est pas seul. Dans le livre largement acclamé de Jon Ronson The Psychopath Test, le professeur Robert Hare a déclaré à l'auteur: "J'aurais aussi dû passer un peu de temps à la bourse. Les psychopathes tueurs en série ruinent les familles. Les psychopathes corporatistes, politiques et religieux ruinent les économies. Ils ruinent les sociétés."
Flash back vers une soirée agréable et chaude à Bahreïn. Mon compagnon, un banquier d'investissement britannique et moi-même, parlons des gens de la banque que nous connaissons qui ont eu le plus de succès et ce qui les fait avancer. J'avance qu'ils sont souvent ressemblants aux caractéristiques des psychopathes sociaux. À ma grande surprise, mon ami est d'accord.
Il fait alors une confession étonnante: "Dans une grande banque d'investissement pour laquelle j'ai travaillé, nous avons utilisé des tests psychométriques pour recruter des psychopathes sociaux parce que leurs caractéristiques correspondaient exactement à ce qu'on attend des cadres supérieurs en finance d'entreprisee".
Où une des plus grandes banques d'investissement du monde recrute des psychopathes.
M. Ronson a parlé à des dizaines de psychologues quand à leur compréhension des dégâts que les psychopathes pourraient faire à la société. Aucun de ces psychologues n'aurait pu imaginer, je suis sûr, qu'une une banque utilisait cette science pour les repérer dans son mécanisme de recrutement.
Je n'ai jamais rencontré Dick Fuld, ancien PDG de Lehman Brothers et architecte de sa chute, mais je l'ai vu en vidéo et c'est terrifiant. On le voit intimer au personnel de Lehman "de leur arracher le coeur [aux concurrents] pour le manger, avant même leur mort". Comment quelqu'un comme M. Fuld a-t-il atteint le sommet de Lehman? Vous n'avez pas besoin de voir la vidéo pour conclure qu'il était bizarre. Vous pouvez prendre un peu plus de temps et lire un rapport de 2,200 pages d'Anton Valukas, avocat basé à Chicago, engagé par un tribunal américain pour enquêter sur l'échec de Lehman. M. Valukas a révélé une chicane systémique au sein de la banque; Il a décrit les échecs de la gestion et une culture interne destructive et dangereuse de prise de risques imprudents digne de tout psychopathe.
Alors pourquoi M. Fuld n'a-t-il pas été repéré et arrêté? J'en ai conclu que c'est la bonne vieille question de la nature et de la culture, mais avec une nouvelle interprétation. Voilà comme je vois la chose ; dans sa recherche d'une croissance sans fin, le secteur des services financiers a activement cherché des monstres avec des profils comme M. Fuld en les nourrissant de bonus et de louanges.
Nous comprenons tous que, parfois, les entreprises doivent être réduites en taille afin d'assurer leur survie. Et savoir quand ces réductions doivent arriver est aussi pertinente pour une société que pour l'économie britannique telle qu'elle est aujourd'hui. Doit-on porter atteinte aux riches ou aux pauvres?
Faire de telles réductions ne fait pas de vous un psychopathes au cutter, mais le manque de remords du secteur financier quand à la douleur infligée aux gens est purement psychopathique. Il est certain que l'action d'une diminution ou d'une coupe devrait être matière à chagrin et regret? La vie des gens étant endommagée, voire détruite. Mais ce n'est pas ainsi que le secteur financier voit la chose.
Prenez Sir Fred Goodwin de RBS par exemple. Avant d'accumuler une perte d'entreprise de 24,1 milliards de livres sterling, la plus élevée de l'histoire du Royaume-Uni, il était idolâtré par la City. En reconnaissance de son travail d'impitoyables réductions des coûts à Clydesdale Bank, on lui donna le surnom de "Fred the Shred". Et il fait ça partout, pour être ensuite décrit comme "un Attila d'entreprise", titre dont tout psychopathe serait fier.
M. Ronson rapporte: "Les départements de justice et les commissions de libération conditionnelle du monde entier ont accepté l'affirmation de Hare selon laquelle les psychopathes sont tout simplement incurables, dès lors chacun devrait plutôt concentrer ses énergies pour apprendre à les éliminer".
Mais, bien loin d'être déracinés, ils sont encore en place et souvent à des positions encore plus élevées.
Comme le dit M. Boddy: "Les mêmes psychopathes d'entreprise qui ont probablement provoqué la crise par leur avidité et leur avarice auto-centrée, conseillent maintenant les gouvernements sur la façon de sortir de la crise. En outre, si cette théorie des psychopathes corporatistes dans la crise de la finance mondiale est correcte, nous sommes maintenant loin d'en voir la fin. Ce n'est plutôt que "la fin du début".
Je me suis familiarisé avec les psychopathes dès le début de ma vie. C'étaient les hommes durs qui terrorisaient le sud-est de Londres où j'ai grandi. Des gens comme "Mad" Frankie Fraser et les frères Richardson. Ils étaient ce que nous appelions les hommes de "red haze", et ils étaient effrayants parce qu'ils attaquaient sans crainte, ni pitié, ni remords.
En ce qui concerne messieurs Hare, Ronson, Boddy et d'autres, j'ai réalisé que certains psychopathes "forgent des carrières dans les entreprises. Le groupe s'appelle Psychopathes d'entreprise". Ils sont polis et convaincants, mais cela ne les rend pas moins dangereux.
En essayant de comprendre les complexités de ce qui a mal tourné lors des années qui ont précédé 2008, j'ai développé une règle: "Dans un monde non réglementé, les personnes avec le moins de principes se retrouvent au sommet. Et il n'y a personne qui ait moins de principes que les psychopathes corporates.

Auteur: Basham Brian

Info: jeudi 29 décembre 2011, The Independent Online

[ conservation ] [ profits ]

dictature modèle

Mort de Navalny: entre hommage et répression sévère en Russie

(photo) Des Russes rendent hommage à Navalny, Moscou.keystone

Alexeï Navalny était sans doute le plus connu des opposants de Poutine. Les Russes se remettent de la mort de celui que certains considèrent comme un héros. Mais lui rendre hommage n'est pas évident dans ce pays à la répression sévère: même déposer des fleurs peut valoir la prison.

" Je veux au moins lui rendre un dernier hommage», dit une femme âgée enroulée dans une écharpe chamarrée près de la pierre de Solovki, samedi à Moscou. Un flot sans fin de personnes traverse le passage souterrain de la Loubianka. La police tente de diriger le flux – et de capturer chaque visage dans leurs vidéos. Femmes et hommes, jeunes et vieux, et même des familles entières viennent déposer leurs fleurs sur la montagne de bouquets près du bloc de pierre du monument.

Certains veulent s'arrêter un instant, peut-être pour rendre un hommage silencieux. " Jeune femme, continuez à avancer, ne vous arrêtez pas ", hurle un policier dans le mégaphone. " Dégagez le chemin ", crie un autre en indiquant à un couple âgé de quitter le périmètre.

Dans la nuit, les fleurs et les bougies sont enlevées, toujours sous la surveillance de la police. Des milliers de personnes – en larmes pour les unes, en silence pour les autres – ont déposé ces offrandes pour rendre hommage à Alexeï Navalny, mort en détention derrière le cercle polaire: leur idole. Cet homme de 47 ans s'est battu pour rendre possible la contestation dans un pays où exprimer une position contradictoire était devenu impossible – et il a payé cet affront de sa vie.

Mais les fleurs, elles, sont à nouveau là le lendemain. Des œillets et des roses fraîches, rouges, blanches, jaunes, accompagnées d'un ruban noir ou de petits messages. Des montagnes de fleurs sont érigées à Moscou et à Saint-Pétersbourg, à Novossibirsk et à Samara, à Tcheliabinsk et à Tomsk et à Oulan-Oudé.

(photo) Un homme qui a déposé des fleurs en l'honneur de Navalny est arrêté, comme 400 autres en l'espace de deux jours.

La police saisit parfois brutalement les supporters de Navalny avant de les jeter dans les fourgons stationnés au bord de la route. Selon l'organisation russe de défense des droits de l'homme OWD-Info, plus de 400 personnes auraient été arrêtées à travers la Russie alors qu'elles déposaient des fleurs durant le week-end. Certaines d'entre elles ont déjà reçu leur sentence: quinze jours de détention.

(photo) Des fleurs sur le monument du Goulag

Près de la pierre Solovki à Moscou, quelqu'un a écrit " n'ayez pas peur " au marqueur bleu sur une feuille de papier quadrillé posée à côté de la mer de fleurs. En face trône le bloc ocre-brun de la Loubianka, l'imposant siège des services secrets russes (FSB).

Autrefois, lorsque le service s'appelait encore Tchéka puis KGB, c'est ici que les bourreaux prononçaient les sentences qui expédieraient des millions de personnes au Goulag. Le monument Solovki et son lourd bloc de pierre rappellent ainsi les crimes du stalinisme.

Septante ans après la mort de Staline, rien n'a changé en Russie. La colonie pénitentiaire de Charp, dans laquelle Navalny est mort – du " syndrome de la mort subite ", comme l'ont annoncé avec le plus grand sérieux les agents pénitentiaires à sa mère et à son avocat – date de l'époque du Goulag. 

Un soulèvement populaire reste trop dangereux

C'est Navalny qui a montré au peuple russe ce qu'est la politique. Il leur a fait sentir ce qui fait d'un homme un citoyen. Mais il a perdu ce combat contre un Etat qui joue au chat et à la souris – et qui continue ce jeu avec son cadavre.

Celui-ci serait, selon le journal russophone Novaïa Gazeta Europe, à l'hôpital régional de Salekhard. Un témoin affirme que le corps présentait des bleus qui pourraient être dus à des convulsions. Navalny serait apparemment mort d'un arrêt cardiaque, mais on ne sait pas pourquoi son cœur a cessé de battre.

En ligne aussi, les Russes expriment leurs pensées pour celui qui était la figure de proue de l'opposition russe. Sur son canal Telegram, un Moscovite estime:

" Un soulèvement populaire secouerait le Kremlin. Il faudrait au moins 100 000 personnes "

Mais est-ce que lui-même y participerait? " Non, c'est trop dangereux ". Ceux qui auraient eu le courage de résister se sont exilés par centaines de milliers. Des lois de plus en plus répressives ôtent à ceux qui sont restés dans le pays toute possibilité d'influer sur la politique. Il n'y a pas d'exutoire, pas de parti qui puisse être une alternative. Il n'y a pas d'opposition.

Les pseudo-opposants parlementaires acquiescent à tout, se courbent, et font au final partie de ce régime qui utilise tout son pouvoir pour faire taire les critiques. La persécution politique de Navalny a montré jusqu'où l'Etat russe était prêt à aller. Sa mort, qui n'est pas simplement un décès, mais bel et bien un assassinat politique, le montre également.

" On ne nous laisse même pas faire notre deuil en paix. Regarde, à Amsterdam, les gens peuvent se réunir et pleurer ensemble. Mais ici? Ce type nous chasse avec sa matraque. Et nous partons, bien sûr. "

Un homme âgé à sa voisine près de la pierre de Solovki à Moscou.

Deux amies plus jeunes, qui se sont arrêtées après avoir déposé des fleurs au musée d'à côté et regardent désormais le bloc de pierre au loin, concluent: " Résister ? Sans Navalny ? Qui va le faire ? Nous n'avons pas tous son courage. "

Est-ce que Ioulia Navalnaïa, son épouse, ou Daria Navalnaïa, sa fille, ont ce courage? Elles ont porté les idées d'Alexeï Navalny dans le monde, surtout après son empoisonnement et pendant sa détention, elles ont fait tout ce qu'elles pouvaient pour obtenir sa libération.

Ioulia Navalnaïa a évoqué la mort de son mari vendredi dernier lors de la conférence sur la sécurité à Munich.

L'apparition de Ioulia Navalnaïa à la conférence sur la sécurité de Munich, peu après l'annonce par les autorités russes de la mort de son mari, était à la fois oppressante et impressionnante. L'ancienne banquière se battra pour que sa mort soit élucidée, comme elle l'a toujours fait. D'autres devront assumer l'héritage politique de Navalny – s'ils parviennent à sortir de leur torpeur. 

Auteur: Internet

Info: https://www.watson.ch/ - Inna hartwich, moscou / ch media, 19.02.2024, Traduit et adapté de l'allemand par Léa Krejci

[ autocratie ] [ pouvoir intransigeant ] [ contradicteur exemplaire ]

intelligence artificielle

Cinq indices pour repérer les contenus écrits par ChatGPT, Bard ou d'autres robots conversationnels

Voici des astuces pour détecter ces textes qui ne sont pas écrits par des humaines.

1) Elles font des répétitions (mais pas de fautes)

Donc Si vous trouvez une coquille (faute de frappe, de grammaire, etc.) dans un texte, il s'agit d'un bon moyen de voir que l'article que vous lisez a été au minimum retouché par un être humain. En revanche, les articles rédigés par une IA sans supervision humaine sont souvent truffés de répétitions. L'écriture générative a en effet tendance à reproduire les mêmes termes et structures de phrases – même si c'est de moins en moins le cas. Les IA sont de plus en plus performantes et leurs utilisateurs savent également de mieux en mieux les utiliser pour contourner ces écueils.

Des logiciels ont même été développés afin de rendre encore plus humains les textes écrits par une IA. Le plus connu s'appelle Undetectable.ai et permet "d'humaniser" les textes artificiels en les confrontant aux principaux détecteurs d'IA qui existent. De fait, ces détecteurs deviennent de moins en moins fiables. "Open AI [l'entreprise créatrice de ChatGPT] a récemment abandonné son détecteur, car ça ne marche pas", fait remarquer Virginie Mathivet, spécialiste en la matière.

2 Elles sont capables d'affirmer des absurdités

Les IA sont très performantes pour les tâches très codifiées, comme l'orthographe, mais elles peuvent affirmer des absurdités sans sourciller. "Si vous demandez à une IA d'écrire une recette d'omelette aux œufs de vache, elle peut tout à fait le faire." Indique Amélie Cordier, ingénieure spécialiste des IA. 

Les sites qui utilisent des IA pour produire des articles à la chaîne, à partir de contenus trouvés sur internet, sont souvent confrontés à ce problème. Récemment, le site The Portal, qui traite de l'actualité du jeu vidéo, s'est fait épingler sur Twitter par le journaliste Grégory Rozières. Certains articles contiennent en effet de fausses informations grossières, car l'IA qui les rédige a repris au premier degré des blagues trouvées sur Reddit.

Lorsque vous lisez un article et qu'une information semble absurde, ou qu'un chiffre vous paraît démesuré, cela peut donc être la marque d'une rédaction non-humaine. Pour s'en assurer, le mieux est alors de vérifier l'information douteuse grâce à d'autres sources de confiance. "Cela revient à faire du fact-checking, c'est à l'humain d'avoir un regard critique", commente Virginie Mathivet.

3) Elles font preuve d'une productivité inhumaine

La rédaction par IA est encore loin d'être un gage de qualité, mais permet de produire un très grand nombre d'articles en un temps record. Prudence donc face aux sites qui publient quotidiennement une quantité faramineuse d'articles, sans pour autant employer de nombreuses personnes. "Si on voit qu'un blog publie 200 articles par jour sous le même nom, c'est un indice", explique Virginie Mathivet. Certains articles écrits par des robots sont signés par un nom, comme s'ils avaient été rédigés par une personne. Si cette signature semble trop prolifique, l'utilisation d'une IA est à suspecter fortement. Sur le site The Portal, déjà cité plus haut, un même "journaliste" a ainsi signé près de 7 000 articles en seulement neuf jours.

De plus, si les articles entre eux comportent de nombreuses similitudes dans leur forme et leur structure, il y a fort à parier que ceux-ci soient rédigés automatiquement. Les IA ont en effet tendance à produire des contenus très homogènes, surtout s'ils sont créés à partir de la même consigne utilisée en boucle. "L'IA imite, c'est la façon par laquelle elle fonctionne. Elle homogénéise un peu tout", fait remarquer Amélie Cordier.

4 Elles écrivent mal et citent rarement leurs source

Même si elles signent parfois d'un nom humain, les IA ne peuvent pas incarner leurs articles de la même manière qu'un journaliste en chair et en os. Si un journaliste n'a strictement aucune existence en ligne en dehors de sa page auteur, cela peut faire partie des indices qui laissent à penser à une rédaction par IA. Enfin, les articles publiés grâce à une IA ont souvent un ton très factuel, assez désincarné. Les IA citent très rarement leurs sources et ne font jamais intervenir de personne humaine sous forme de citation comme dans un article de presse.

Elles sont en revanche tout à fait capables d'en inventer si on leur demande de le faire. Dans un numéro paru en avril 2023, le magazine people allemand Die Aktuelle a poussé le vice jusqu'à publier une fausse interview exclusive de Michael Schumacher, générée par une AI, comme le raconte le site spécialisé Numerama. La famille de l'ancien champion de Formule 1 a porté plainte et la rédactrice en chef du magazine a finalement été limogée.

L'IA peut cependant être un outil intéressant, tant qu'elle reste sous supervision humaine. Le journaliste Jean Rognetta, créateur de la newsletter Qant, a quotidiennement recours à l'IA. Selon lui, il n'est "plus possible de reconnaître avec certitude un article écrit par une IA, si ce n'est que c'est souvent du mauvais journalisme". S'il utilise l'IA pour écrire sa newsletter, Jean Rognetta reste en effet convaincu de la nécessité d'effectuer une relecture et une correction humaine. "Notre newsletter est écrite avec, et non par une IA", martèle-t-il. Une approche qui pourrait bientôt se généraliser à d'autres journaux. Le 19 juillet dernier, le New York Times annonçait dans ses pages qu'un outil d'IA, destiné à automatiser certaines tâches effectuées par ses journalistes, était en cours de développement par Google.

5 Elles seront bientôt signalées par un filigrane

Face à la difficulté de plus en plus grande de détecter les contenus générés via une IA, l'Union européenne a adopté en juin dernier le "AI Act", avec l'objectif de réguler le secteur. A partir de l'application de la nouvelle réglementation, pas prévue avant 2026, les contenus générés par IA devront être signalés par un "watermark" (une signature en filigrane) indiquant clairement qu'ils n'ont pas été créés par un humain.

La forme de ce watermark n'est cependant pas encore entièrement définie. Il pourrait prendre la forme d'une phrase d'avertissement ou être dissimulé dans le texte, afin d'être moins facilement effaçable par les utilisateurs. Open AI a récemment annoncé travailler sur un watermark invisible. Comment ? Une récente étude (PDF) de l'université du Maryland propose par exemple que les IA soient programmées pour utiliser plus fréquemment une "liste spéciale" de mots définie à l'avance, permettant aux logiciels de détection d'être plus efficaces.

"Il y a de bonnes intentions au niveau de l'UE et des éditeurs, mais le problème reste la question de la mise en œuvre", estime Amélie Cordier. Si la régulation peut se mettre en place facilement pour les plus gros acteurs comme Open AI, Google, etc., elle sera impossible à imposer aux petites entités qui pullulent.

"Si l'utilisateur a le choix entre un logiciel avec 'watermark', ou un logiciel gratuit indétectable, la régulation risque d'être inefficace."

Une opinion que partage Virginie Mathivet, particulièrement en ce qui concerne les "fake news". "Une personne qui veut faire de la désinformation fera en sorte de ne pas avoir de watermark", conclut-elle.

Auteur: Internet

Info: https://www.francetvinfo.fr/, 2 sept 2023, Pauline Lecouvé

[ homme-machine ] [ machine-homme ]