violées

Vocable pour suggérer le viol, ou pour le contourner : après le passage des soldats près de la rivière, eux que la jeune femme, cachée durant des heures, n'a pu éviter. A rencontrés. A subis. "J'ai subi la France", aurait dit la bergère de treize ans, Chérifa, elle qui justement n'a rien subi, sinon, aujourd'hui, le présent étale.

Les soldats partis, une fois qu'elle s'est lavée, qu'elle a réparé son désordre, qu'elle a renoué sa natte sous le ruban écarlate, tous ces gestes reflétés dans l'eau saumâtre de l'oued, la femme, chaque femme, revient, une heure ou deux après, marche pour affronter le monde, pour éviter que le chancre ne s'ouvre davantage dans le cercle tribal - vieillard aveugle, gardiennes attentives, enfants silencieux avec des mouches sur les yeux, garçonnets déjà soupçonneux :

- Ma fille, y a-t-il eu "dommage" ?

L'une ou l'autre des aïeules posera la question, pour se saisir du silence et construire un barrage au malheur. La jeune femme, cheveux recoiffés, ses yeux dans les yeux sans éclat de la vieille, éparpille du sable brûlant sur toute parole : le viol, non dit, ne sera pas violé. Avalé. Jusqu'à la prochaine alerte.

Vingt ans après, puis-je prétendre habiter ces voix d'asphyxie ? Ne vais-je pas trouver tout au plus de l'eau évaporée ? Quels fantômes réveiller, alors que, dans le désert de l'expression d'amour (amour reçu, "amour" imposé), me sont renvoyées ma propre aridité et mon aphasie.

Auteur: Djebar Assia

Info: L'amour, la fantasia

[ guerre ] [ forcées ] [ colonialisme ]

rhétorique

L’action dès lors ne consiste pas à prendre les armes et à descendre dans la rue, c'est trop tôt ou trop tard.

Car toute activité s'inscrit à l'intérieur d'un horizon de signification qui seul la rend possible.

L’efficace de la lutte de nos jours, c’est d'abord refuser la langue du spectacle, ce qui réclame au préalable de reconnaître que le diktat de l’opinion, le psittacisme qu’il induit, les énoncés médiatiques, le laxisme lexical, les approximations syntaxiques... sont les ennemis de l’esprit critique, ils contaminent les actions en surdéterminant l'horizon de leur sens.Il s’agit donc de ne pas renoncer à vouloir nommer la complexité, renouer avec la dialectique que le spectacle voudrait éclipser.

C'est seulement en cherchant le mot juste par rapport à sa propre position d'énonciation, en prononçant "la parole vraie", que le sujet introduit une rupture dans la chaîne signifiante où s'inscrivent ses actions, il ne peut donc plus dès lors continuer à agir de la même façon car il ne peut plus dès lors "penser" (être pensé) de la même façon.

Le véritable combat politique aujourd’hui c'est de faire passer des textes de main en main, pour raviver le style, affûter le goût, développer la sensibilité, affiner le jugement, (se) donner les moyens de nommer avec précision les assauts, les contournements, les frappes, les retraites, les conquêtes, les victoires, les défaites...

Nous ne savons plus parler, nos lèvres sont sèches et les mots sont déjà morts avant de passer la barrière de nos dents.

Apprendre à parler c'est apprendre à lire, apprendre à écrire, à dessiner, composer comme on aiguise une lame, comme on répète des enchaînements pieds-poings, apprendre à parler c'est apprendre à se battre.

Auteur: Dubuis Santini Christian

Info: Publication facebook du 21.02.20

[ exorcisme ] [ citation s'appliquant à ce logiciel ]

pouvoir

Bernays cherche une justification ( à prétention ) scientifique de la finalité politique du travail accompli par le conseiller en relation publique... Il la trouve dans l'adhésion de quelques théoriciens des sciences sociales de l'époque qui lui confirment que : la masse est incapable de juger correctement des affaires publiques et que les individus qui la composent sont inaptes à exercer le rôle de citoyen en puissance qu'une démocratie exige de chacun d'eux, bref, que le public, au fond, constitue pour la gouvernance de la société un obstacle à contourner et une menace à écarter.
Bernays rejoint un important courant antidémocratique présent dans la pensée politique américaine et selon lequel "la grande bête ( le peuple ) doit être domptée". Ce courant assurait que le "véritable pouvoir, celui que procure la richesse de la nation" doit demeurer entre les mains des "êtres les plus capables" et que la première et principale responsabilité du gouvernement est de "maintenir la minorité fortunée à l'abri de la majorité".
(...)
Il est crucial de rappeler combien ce qui est proposé ici contredit l'idéal démocratique moderne, celui que les Lumières nous ont légué, de rappeler à quel point Bernays, comme l'industrie qu'il a façonnée, doit faire preuve d'une étonnante aptitude à la duplicité mentale pour simultanément proclamer son souci de la vérité et de la libre discussion et accepter que la vérité sera énoncée par un client au début d'une campagne, laquelle devra mettre tout en oeuvre - y compris, s'il le faut absolument, la vérité elle-même - pour susciter une adhésion à une thèse ou des comportement chez des gens dont on a postulé par avance qu'ils sont incapables de comprendre réellement ce qui est en jeu et auxquels on ne sent donc en droit de servir ce que Platon appelait de "pieux mensonges".

Auteur: Baillargeon Normand

Info: Préface de Propaganda : Comment manipuler l'opinion en démocratie Edward L. Bernays

[ cénacle ] [ élitiste ] [ conservation ] [ mépris ] [ publicité ]

cyberguerre

Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d'IA

Vous vous demandiez si l’intelligence artificielle pouvait être infectée par des virus ou des malwares ? Maintenant, oui.

C’est, selon l’équipe qui l’a développé, une grande première dans le monde de l’intelligence artificielle. Afin de rappeler au monde les risques inhérents à toute technologie connectée, un groupe de chercheurs vient de créer le tout premier ver informatique capable d’infecter les agents IA. Une démonstration qui doit alerter sur l’émergence possible de nouveaux types de cyberattaques.

La résurgence du spectre Morris à l’ère de l’intelligence artificielle

Baptisé Morris II en référence à Morris,  célèbre pour avoir semé le chaos sur Internet en 1998, ce ver informatique d’un genre nouveau aurait la capacité de se répandre d’un système d’IA à l’autre. Créé par une équipe de chercheurs dans un environnement de test, Morris est aujourd’hui capable d’attaquer des agents IA génératifs pour siphonner des données et propager des malwares. Dans le cadre des essais menés par le groupe de recherche, le ver a pu s’en prendre à un assistant autonome de messagerie pour dérober des informations contenues dans les mails et envoyer des spams.

Une expérience qui souligne la vulnérabilité croissante des modèles de langage à grande échelle (LLM), alors qu’ils sont de plus en plus performants, polyvalents et multimodaux. Bien que ces vers IA n'aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les start-up, les développeurs et les entreprises tech doivent prendre au sérieux et anticiper.

Des prompts auto-réplicatifs pour jailbreaker les systèmes d’IA générative

Pour créer ce ver, les équipes de Cornell Tech ont créé un prompt " auto-réplicatif ". En clair, un ensemble d’instructions conduisant un système d’IA génératif à autoproduire des instructions supplémentaires dans ses réponses. Un procédé que l’on retrouve dans des attaques classiques par injection de SQL ou de type buffer overflow. En parallèle, ils ont aussi créé un système de mails capable d’envoyer et de recevoir des messages en recourant à différents agents intelligents comme ChatGPT et Gemini, ainsi qu’au LLM open source LLaVA.

L’expérience s’est révélée concluante en utilisant deux méthodes d’auto-réplication des instructions. La première via des prompts textuels, la seconde en intégrant un prompt dans un fichier image. Dans le premier cas, les chercheurs ont réussi à " empoisonner " la base de données des assistants de messagerie, forçant le déclenchement de la RAG – retrieval-aumented generation, techno permettant d’améliorer les réponses de l’IA à l’aide d’informations plus récentes sans modifier le LLM en profondeur.

(Photo - Schéma de la propagation du ver dans les systèmes d'IA générative intégrant la RAG © Cornell Tech)

Une fois le mail récupéré par la RAG en réponse à une requête de l’utilisateur, et envoyé à GPT-4 ou Gemini, il parvient à contourner les mesures de sécurité des systèmes d’IA et dérobe les données du message. " La réponse générée contenant les données utilisateur sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client ", a expliqué Ben Nassi, l’un des membres du groupe de recherche.

Avec la seconde méthode (intégration du prompt malveillant dans une image), le processus a permis d’obliger l’assistant à transférer plusieurs fois le mail infecté à d’autres systèmes de messagerie.

(Photo -  Schéma de la propagation du ver dans les systèmes d'IA à l'aide d'un prompt malveillant dissimulé dans une image © Cornell Tech)

Pour anticiper de telles attaques qu’ils estiment probables d’ici deux à trois ans, les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI qui travaillent à rendre leurs systèmes plus résilients, tout en encourageant les développeurs à s'assurer qu'ils travaillent avec des outils sains.



 

Auteur: Internet

Info: https://www.clubic.com/, Chloé Claessens, 2 mars 2024, source : Technion - Israel Institute of Technology, Ron Bitton, Ben Nassi, Stav Cohen

[ conflits numériques ]

homme-animal

Les bras de la pieuvre sont capables de prendre des décisions sans l'apport de leur cerveau.

Avec la capacité d'utiliser des outils, de résoudre des énigmes complexes et même de jouer des tours aux humains juste pour le plaisir, les poulpes sont extrêmement intelligents.
Mais leur intelligence est assez bizarrement construite, puisque les céphalopodes à huit bras ont évolué différemment de presque tous les autres types d'organismes sur Terre.

Plutôt qu'un système nerveux centralisé comme celui des vertébrés, les deux tiers des neurones d'une pieuvre sont répartis dans tout son corps, dans ses bras. Dorénavant les scientifiques ont déterminé que ces neurones peuvent prendre des décisions sans l'apport du cerveau.

"L'une des grandes questions que nous nous posions est de savoir comment fonctionnerait un système nerveux réparti, surtout lorsqu'il essaie de faire quelque chose de compliqué, comme se déplacer dans un liquide et trouver de la nourriture sur un fond océanique complexe", a déclaré le neuroscientifique David Gire de l'Université de Washington.

Il y a beaucoup de questions ouvertes sur la façon dont ces nodules du système nerveux sont reliés les uns aux autres.

La recherche a été menée sur des poulpes géants du Pacifique (Enteroctopus dofleini) et des poulpes rouges du Pacifique Est (Octopus rubescens), tous deux originaires du Pacifique Nord.

Ces poulpes ont environ 500 millions de neurones, dont environ 350 millions le long des bras, disposés en groupes appelés ganglions. Ils permettent de traiter l'information sensorielle à la volée, ce qui permet à la pieuvre de réagir plus rapidement aux facteurs externes.

"Les bras de la pieuvre ont un anneau neural qui contourne le cerveau, et donc les bras peuvent s'envoyer de l'information sans que le cerveau s'en rende compte", a déclaré le neuroscientifique comportemental Dominic Sivitilli de l'Université de Washington.

"Le cerveau ne sait pas exactement où sont les bras dans l'espace, mais les bras savent où sont les autres, ce qui leur permet de coordonner leurs actions, comme la locomotion à quatre pattes."

L'équipe a donné aux céphalopodes une variété d'objets tels que des blocs de cendres, des roches texturées, des pièces de Lego et des labyrinthes complexes contenant des friandises, et les a filmés.

Les chercheurs ont également utilisé des techniques de suivi comportemental et d'enregistrement neuronal. Il s'agissait de déterminer comment l'information circule dans le système nerveux d'une pieuvre au fur et à mesure qu'elle se nourrit ou est sondée/étudiée, selon que les bras fonctionnent soit en synchronisation, ce qui suggère un contrôle central, ou seuls, ce qui signifie une prise de décision indépendante.

Ils ont constaté que lorsque les ventouses de la pieuvre acquièrent de l'information sensorielle et motrice de leur environnement, les neurones du bras peuvent la traiter et passer à l'action. Le cerveau n'a rien à faire.

"On voit beaucoup de petites décisions prises par ces ganglions distribués, simplement en regardant le bras bouger, donc une des premières choses que nous faisons est d'essayer de décomposer à quoi ressemble réellement ce mouvement, d'un point de vue informatique", dit M. Gire.

"Ce que nous examinons, plus que ce qui a été étudié dans le passé, c'est comment l'information sensorielle est intégrée dans ce réseau pendant que l'animal prend des décisions complexes."

Tout ceci est conforme aux recherches antérieures, qui ont révélé que non seulement les bras de la pieuvre se nourrissent indépendamment du cerveau, mais qu'ils peuvent continuer à répondre aux stimuli même après avoir été séparés d'un animal mort.

C'est tellement étonnant que les poulpes sont souvent considérés comme aussi proches de l'extraterrestre qu'une intelligence terrestre puisse l'être (et dans certaines propositions, peut-être même carrément extraterrestre).
Il est donc considéré comme non seulement utile de les étudier pour comprendre l'intelligence sur Terre, mais peut-être aussi comme un moyen de se préparer à la rencontre avec des aliens intelligents - si cela arrive un jour.

"C'est un modèle alternatif pour une intelligence" dit Sivitilli. "Qui nous donne une compréhension de la diversité des cognitions dans le monde, et peut-être dans l'Univers.

Les recherches de l'équipe ont été présentées à la Conférence scientifique d'astrobiologie 2019.

Auteur: Internet

Info: Michelle Starr, 26 juin 2019, https://www.sciencealert.com

[ externalisation cérébrale ]

discours scientifique

Ce qui est désigné par ce fossé irréductible qui sépare les structures du langage du monde auquel elles renvoient est l’impossibilité ontologique pour un langage quel qu’il soit de renfermer au sein de sa structure le monde en soi, autrement dit de dire tout du monde, en établissant une identité entre l’attelage signifiant-signifié et le référent (entre le mot et la chose pour faire court). Cela règle définitivement le fantasme immémorial et infantile qui n’est que l’expression d’un nihilisme masqué, de réaliser l’impossible coalescence entre l’absolu de l’en-soi et sa diffraction représentative, forcément plurielle et relative, puisque par essence la représentation n’est pas la chose, en tant qu’elle signale (re-présente) une absence. Seules les mathématiques, dont la structure signifiante a été immédiatement repérée par Pythagore comme un cas limite au sein duquel la formulation ne se distingue pas du référent désigné et ne forme qu’un avec lui, ont pu être investies de la propriété bien étrange de permettre d’échapper à l’incertain, au relatif, au transitoire et au corruptible : à la mort, donc, c’est-à-dire – et notre époque en tire le vin amer chaque jour davantage – à la vie. Cette propriété se paye au prix d’un formalisme asséchant – c’est-à-dire au prix d’un réel contenu différentiel - dans la mesure où les mathématiques se caractérisent essentiellement par des notations certes diffractées et multiples, mais en dernier ressort tautologiques [Cette caractéristique tautologique a cependant été depuis mise à mal par le théorème d’incomplétude de Kurt Gödel qui interdit depuis sa démonstration de pouvoir créditer les mathématiques d’une autoréférentialité absolue. Autrement dit, il faut postuler obligatoirement, pour pouvoir les fonder, une extériorité aux mathématiques, ce qui n’est que reculer pour mieux sauter et les renvoie elles aussi au niveau de leur fondement à la question de l’origine.]. Le vertige ontologique propre à la période moderne caractérisée par sa soumission à la Mathesis universalis de Descartes, est porteur de cette profonde envie d’en finir avec la finitude, la souffrance, l’altérité, le différentiel, la mort, en un mot la vie. Cette mathématisation à outrance du monde moderne et contemporain portée par une techno-science envahissante a voulu, de gré ou de force faire passer le réel sous les fourches caudines de cette propriété qu’ont les mathématiques d’assurer la coalescence entre la représentation et l’objet – au prix que l’on sait. Il est d’ailleurs fort intéressant de remarquer comme je l’esquissais plus haut que cette fascination pour l’identité langage/monde réimporte subrepticement et de la manière la plus inattendue aux frontières les plus extrêmes de la rationalité le fantasme archaïque présubjectal et infantile de la fusion matricielle initiale. Or les structures du réel ont la propriété de résister tenacement aux tentatives de viol qu’une rationalité ivre d’elle-même – rationalisme serait plus pertinent - prétend leur faire subir : le référent situé dans l’en-soi appartient au domaine de l’être, de l’incontournable vérité de l’être, de ce qui précède fondamentalement, de ce qui donc relève ontologiquement de la question de l’Origine. Le seul moyen de le contourner est de l’ignorer et de prétendre qu’il n’existe pas. Il en résulte alors un désarrimage radical de l’attelage signifiant-signifié vis-à-vis du référent qui seul est l’intangible garant de la vitalité du langage. Celui-ci dès lors se nécrose, et la structure amputée signifiant-signifié qui subsiste fait boucle sur elle-même, le signifié involutif et pathologique assumant une fonction pseudo-référentielle. Il en résulte une évanescence du réel, consécutive à l’évanescence référentielle. La destructivité sur l’en-soi du monde qui en résulte est effrayante. On comprend à présent aisément à quel point le postulat moniste initial de ma proposition est validé : quand une traction est exercée sur les instances représentatives du langage dans le sens de leur assèchement formaliste, c’est le monde en soi qui en face mécaniquement s’effondre et envahit l’ordre symbolique du fait de la torsion de la médiane nouménale qui en résulte, provoquant son déplacement (hachures). On peut remarquer au passage que l’augmentation du taux de prévalence de l’autisme s’explique ici passivement, et donne une justification suffisante à l’exonération de toute culpabilisation des parents d’enfants atteints de ce trouble : une personne présentant certaines fragilités la prédisposant éventuellement à l’emprise de l’autisme, mais qui y aurait échappé en d’autres temps, s’y trouve ici fatalement vouée du fait de ce déplacement (silhouette). Car l’évanescence référentielle provoque mécaniquement l’évanescence du père (P grisé), en raison du fait que ce qui est absenté n’est plus repris en charge dans l’ordre de la représentation.

Auteur: Farago Pierre

Info: Une proposition pour l'autisme, pages 61-62

[ émancipation imaginaire ] [ auto-institution fantasmatique ] [ conséquences ]

pré-singularité

Pour échapper aux régulations sur l’IA, une entreprise veut créer un État en pleine mer

Une entreprise veut créer des plateformes en mer pour entraîner des intelligences artificielles, sans respecter aucune loi. La société veut que ces plateformes soient habitées par des mercenaires et des militaires et qu’elles deviennent des États-nations indépendants.

Vous n’aimez pas les régulations ? Allez vous installer dans les eaux internationales ! Si l’idée peut paraître farfelue, c’est cependant ce que propose, très sérieusement, l’entreprise Del Complex. Cette dernière a présenté le 30 octobre 2023 dans un long thread sur X (anciennement Twitter) un gigantesque projet, censé répondre aux problèmes de l’humanité : le BlueSea Fronter Compute Cluster (ou BSFCC).

" Sous couvert de sécurité, le décret présidentiel sur l’IA de Biden et l’IA Act de l’Union européenne visent à centraliser leur pouvoir ", assène Del Complex dès l’introduction de son message. " La solution se trouve en mer. Les BSFCC ne sont pas seulement des plateformes informatiques basées sur des barges, mais des États-nations souverains. " Si le projet semble tellement démesuré qu’il pourrait prêter à sourire, il pourrait bien voir le jour et parvenir, comme il le veut, à échapper à toutes régulations internationales.

Des plateformes installées en eaux internationales pour entraîner des IA sans limites

Del Complex se vante d’être une " société de réalité alternative ", spécialisée dans l’intelligence artificielle, dont le but est de développer une IA générale qui pourrait être implantée dans le cerveau humain grâce à des prothèses neuronales. Pour parvenir à ce but, l’entreprise a besoin de beaucoup de puissance de calcul, mais surtout, d’une législation qui lui permettrait de faire ce qu’elle veut — ce qui n’est pas vraiment le cas.

Del Complex explique, dans la page dédiée au projet, être farouchement opposé aux tentatives actuelles de régulation de l’IA par différents états. Selon l’entreprise, elles " ralentissent le rythme de l’innovation ", et elles " interfèrent également avec le don cosmique de l’humanité " qu’est l’IA.

Alors, pour échapper à " la réglementation draconienne de l’IA ", Del Complex a imaginé son plan de BSFCC. " Libérés de toute surveillance réglementaire, les BlueSea Frontier Compute Clusters offrent des opportunités inégalées pour former et déployer la prochaine génération de modèles d’IA à grande échelle. "

Concrètement, Del Complex veut déployer des plateformes maritimes, équipées de nombreux ordinateurs et d’une énorme puissance de calcul, dans les eaux internationales. Installées à cet endroit, les plateformes n’auraient pas besoin de respecter les différentes réglementations sur l’IA, selon Del Complex. L’entreprise indique ainsi qu’elles ne seront " pas gênées par les règles juridiques conventionnelles ", et que les plateformes pourront " accéder à des documents autrement restreints, qu’il s’agisse de documents protégés par des droits d’auteur, de documents d’entreprise ou de documents confidentiels ".

Les plateformes seraient, d’après l’entreprise, libres de faire ce qu’elles veulent — et elles pourraient également devenir des États souverains, car elles posséderaient un territoire défini, un gouvernement (on imagine que ce gouvernement serait de fait l’entreprise), une population permanente et la capacité à entrer en relation avec d’autres États. Dans les faits, on ne sait pas si les plateformes pourraient complètement être considérées comme des entités à part entière, étant donné que Del Complex est une entreprise américaine, et que les plateformes sont des navires, qui doivent battre pavillon (être affilié à un pays).

Ces considérations ne semblent cependant pas gêner Del Complex. L’entreprise précise aussi que ces plateformes / États-nations seraient habitées par " une population permanente de militaires venant de nations alliées, et de personnels de Xio Sky Security Solutions ", une entreprise de mercenaires.

Des plateformes équipées de laboratoires pour entraîner des intelligences artificielles sur des données habituellement interdites, le tout pour créer des implants neuronaux, naviguant dans les eaux internationales et habitées par des militaires et des mercenaires… tout cela vous parait trop gros pour être vrai ? Pourtant, c’est exactement la dystopie que Del Complex veut construire.

L’entreprise ne voit cependant pas le problème. " Alors que certaines entités internationales pourraient percevoir le BSFCC comme une méthode pour contourner les lois, notre mission est ancrée dans le progrès et l’innovation ", explique-t-elle. " Alors que le monde délibère sur l’avenir de la réglementation de l’IA, Del Complex invite les visionnaires à embarquer pour un voyage vers la prochaine frontière de l’innovation de l’IA, avec le BlueSea Frontier Compute Cluster. " Reste à voir si le projet verra vraiment le jour — et si les organisations internationales laisseront vraiment de nouveaux États-nations peuplés de militaires se créer au milieu de l’océan.

Auteur: Internet

Info: https://www.numerama.com/ Aurore Gayte, novembre 2023

[ incubateurs ] [ libertariens ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]

déresponsabilisation industrielle

Un documentaire consacré aux désastres de Tchernobyl et de Fukushima a été présenté par Arte le 26 avril dernier, lançant une pernicieuse invitation à "vivre avec" la contamination radioactive, "défi" que prétendent, en ces jours sombres, relever les missionnaires de l’accommodation à la vie en zones contaminées par la radioactivité.

L’"Initiative de Dialogue pour la réhabilitation des conditions de vie après l’accident de Fukushima", présentée dans ce film, a été pilotée par de supposés, et néanmoins dangereux experts à l’œuvre à Tchernobyl hier, à Fukushima aujourd’hui, et en France demain.



[...] Un des principaux objectifs − atteint − de ces programmes, a été d’évincer du terrain de Tchernobyl les initiatives de protection sanitaire développées par des médecins et des physiciens après l’accident de la centrale, et de ne pas ralentir, en conséquence, la détérioration continue de la santé des populations, faute d’apporter une véritable prophylaxie.



Les faits de traîtrise de Gilles Hériard-Dubreuil à l’encontre des spécialistes de santé du Belarus ne semblent toutefois pas avoir dissuadé la députée européenne Europe Écologie-Les Verts Michèle Rivasi et l’avocate Corinne Lepage, "antinucléaires" déclarées, de collaborer avec ce dernier, de le nommer "secrétaire" et "expert qualifié" de leur association européenne Nuclear Transparency Watch, qu’elles ont créée et qu’elles président depuis 2013, appelant à rien moins qu’"une implication systématique des citoyens et de la société civile dans la préparation et la réponse aux situations d’urgence nucléaire en Europe", situations dont on aura suffisamment compris qu’elles ne tarderont plus à "survenir".



[...] 

Voici leurs cinq recettes, qui, pour être bien concoctées, n’en sont pas moins empoisonnées de cette mort qui enverra les gens moisir à plat.

1. Inciter chacun à rester vivre dans les zones contaminées, tout en "optimisant" son exposition à la radioactivité à proportion du coût économique et social de sa protection. Ainsi, maximisent-ils le nombre de personnes contraintes de suivre un protocole de contrôle et de mesure permettant de survivre dans la contamination à moindre coût. À défaut de les soigner.

2. Considérer la réalité radioactive comme un problème psychologique. Il s’agit de transformer une réalité scientifique et sociale – la contamination radioactive et ses dégâts –, en phénomène faisant l’objet d’un "ressenti" individuel, lui-même tributaire de l’état mental, ou psychologique, de chacun.

Le rapport à la radioactivité ne relèverait ainsi que d’une gestion personnalisée de l’angoisse. À dire d’experts, ce ne serait alors plus la situation de contamination qui serait irrationnelle, mais la perception qu’on en aurait.

3. Recourir à un jargon d’"authenticité", pontifiant et illusoirement concret dans lequel les appels à l’autonomie, à la dignité, à la communauté et à l’humain ne font qu’emprunter à la théologie de pâles reflets de transcendance, afin de mieux assujettir l’individu au fonctionnement, ici du tout radioactif, ailleurs du tout sécurisé.

Or, conforter les gens dans le délire selon lequel ils sont des sujets autonomes dans la "gestion de leur contamination", alors qu’ils savent bien qu’il leur est seulement impossible de ne pas se plier aux rapports techno-sociaux dont ils sont prisonniers, c’est vouer à l’échec toute possibilité d’échappée.

On conditionne les populations à la cogestion du désastre, en les encourageant à stimuler, et a minima à simuler, les réflexes et les comportements induits par les modifications du monde environnant. Cette recherche de l’adaptation parfaite passe par l’intériorisation de toutes les formes de pressions que la contamination radioactive fait naître.



4. Promouvoir la résilience, nouvel horizon de l’homme adaptable, censé ne compter que sur lui-même et ses insondables capacités de "rebond". Au nom d’un relativisme pragmatique, d’un primat de "la vie quotidienne", ces médiateurs du désastre insufflent la défiance, voire la décrédibilisation, des connaissances scientifiques les moins contestables, distillent le doute et propagent l’ignorance sur les effets sanitaires de l’exposition durable aux dites "faibles doses" de rayonnement ionisant, tout en déplorant "la montée de la défiance des populations vis-à-vis des différentes sortes d’autorités."

Résilience aidant, c’est à nous qu’ils assignent ensuite la tâche de recoller les morceaux de ce qu’ils contribuent à détruire. Ils préconisent de remplacer les normes de protection par de simples recommandations destinées à faciliter l’action des individus. "Les gens passent ainsi de la résignation à la créativité", s’enthousiasme Jacques Lochard.

Ainsi, chacun n’aurait plus qu’à mobiliser ses propres réserves de résistance à l’irrésistible et devenir "partie prenante" de sa propre irradiation. On reconnaît là le choix de l’État japonais : maintenir les populations sur place et diminuer d’autant, à court terme du moins, le coût d’un accident nucléaire.

5. Banaliser la radioactivité, cet obstacle que l’on apprend à contourner au quotidien dans la recherche de "solutions" immédiates, ponctuelles et individuelles. La radioactivité ne poserait alors problème que dans la seule mesure où les pratiques de vie des habitants les amèneraient à la "croiser" sur le chemin de l’école, du travail, ou de la promenade.

Au Japon, se mène désormais une chasse quotidienne aux hotspots de contamination radioactive, réduits à des incidents facilement résolus en grattant le sol et en stockant la terre dans des sacs poubelle, ou en installant des rideaux de plomb aux fenêtres des chambres d’enfants afin d’"éviter la contamination venant de la forêt."



[...] 

Ces aménageurs de la vie mutilée, relayés par Arte et tant d’autres représentants d’instances étatiques ou associatives, telles que Nuclear Transparency Watch de Mmes Rivasi et Lepage, et M. Hériard-Dubreuil, défendent haut et fort l’irrationalité selon laquelle il existerait un entre-deux de la contamination, où l’exposition au rayonnement ne serait dangereuse qu’en principe, mais s’avèrerait inoffensive dans la réalité. Véritable irrationalité, cette extrême violence du "vivre avec" est une insulte aux survivants.

Il s’agirait donc d’endiguer l’horreur de la contamination en la coulant dans les formes pseudo-rationnelles d’un "tous ensemble, nous vaincrons la radioactivité" ? C’est à quoi se vouent ces prêcheurs de soumission en expliquant, sans foi ni loi, qu’on peut échapper au danger en s’y confrontant, qu’on peut gratter la terre, mais en croisant les doigts.



[...] Proclamant qu’il faut "gérer" sa peur, ils prétendent réduire à néant toute possibilité de mise en cause de la déraison nucléaire, enjoignant à chacun d’en tirer au contraire parti, plutôt que de se hasarder à en rechercher les responsables.

Il fallait dire ce qu’est l’objectif de ces rédempteurs du "vivre avec", qui n’en paieront pas le prix, eux qui ont choisi d’emplir les hôpitaux de malades plutôt que de rendre inhabitées des terres inhabitables.

Auteur: Internet

Info: 3 août 2016, https://sciences-critiques.fr/tchernobyl-fukushima-les-amenageurs-de-la-vie-mutilee/

[ sacrifice différé ] [ minimisation des conséquences ] [ propagande cynique ]

intelligence artificielle

Cinq indices pour repérer les contenus écrits par ChatGPT, Bard ou d'autres robots conversationnels

Voici des astuces pour détecter ces textes qui ne sont pas écrits par des humaines.

1) Elles font des répétitions (mais pas de fautes)

Donc Si vous trouvez une coquille (faute de frappe, de grammaire, etc.) dans un texte, il s'agit d'un bon moyen de voir que l'article que vous lisez a été au minimum retouché par un être humain. En revanche, les articles rédigés par une IA sans supervision humaine sont souvent truffés de répétitions. L'écriture générative a en effet tendance à reproduire les mêmes termes et structures de phrases – même si c'est de moins en moins le cas. Les IA sont de plus en plus performantes et leurs utilisateurs savent également de mieux en mieux les utiliser pour contourner ces écueils.

Des logiciels ont même été développés afin de rendre encore plus humains les textes écrits par une IA. Le plus connu s'appelle Undetectable.ai et permet "d'humaniser" les textes artificiels en les confrontant aux principaux détecteurs d'IA qui existent. De fait, ces détecteurs deviennent de moins en moins fiables. "Open AI [l'entreprise créatrice de ChatGPT] a récemment abandonné son détecteur, car ça ne marche pas", fait remarquer Virginie Mathivet, spécialiste en la matière.

2 Elles sont capables d'affirmer des absurdités

Les IA sont très performantes pour les tâches très codifiées, comme l'orthographe, mais elles peuvent affirmer des absurdités sans sourciller. "Si vous demandez à une IA d'écrire une recette d'omelette aux œufs de vache, elle peut tout à fait le faire." Indique Amélie Cordier, ingénieure spécialiste des IA. 

Les sites qui utilisent des IA pour produire des articles à la chaîne, à partir de contenus trouvés sur internet, sont souvent confrontés à ce problème. Récemment, le site The Portal, qui traite de l'actualité du jeu vidéo, s'est fait épingler sur Twitter par le journaliste Grégory Rozières. Certains articles contiennent en effet de fausses informations grossières, car l'IA qui les rédige a repris au premier degré des blagues trouvées sur Reddit.

Lorsque vous lisez un article et qu'une information semble absurde, ou qu'un chiffre vous paraît démesuré, cela peut donc être la marque d'une rédaction non-humaine. Pour s'en assurer, le mieux est alors de vérifier l'information douteuse grâce à d'autres sources de confiance. "Cela revient à faire du fact-checking, c'est à l'humain d'avoir un regard critique", commente Virginie Mathivet.

3) Elles font preuve d'une productivité inhumaine

La rédaction par IA est encore loin d'être un gage de qualité, mais permet de produire un très grand nombre d'articles en un temps record. Prudence donc face aux sites qui publient quotidiennement une quantité faramineuse d'articles, sans pour autant employer de nombreuses personnes. "Si on voit qu'un blog publie 200 articles par jour sous le même nom, c'est un indice", explique Virginie Mathivet. Certains articles écrits par des robots sont signés par un nom, comme s'ils avaient été rédigés par une personne. Si cette signature semble trop prolifique, l'utilisation d'une IA est à suspecter fortement. Sur le site The Portal, déjà cité plus haut, un même "journaliste" a ainsi signé près de 7 000 articles en seulement neuf jours.

De plus, si les articles entre eux comportent de nombreuses similitudes dans leur forme et leur structure, il y a fort à parier que ceux-ci soient rédigés automatiquement. Les IA ont en effet tendance à produire des contenus très homogènes, surtout s'ils sont créés à partir de la même consigne utilisée en boucle. "L'IA imite, c'est la façon par laquelle elle fonctionne. Elle homogénéise un peu tout", fait remarquer Amélie Cordier.

4 Elles écrivent mal et citent rarement leurs source

Même si elles signent parfois d'un nom humain, les IA ne peuvent pas incarner leurs articles de la même manière qu'un journaliste en chair et en os. Si un journaliste n'a strictement aucune existence en ligne en dehors de sa page auteur, cela peut faire partie des indices qui laissent à penser à une rédaction par IA. Enfin, les articles publiés grâce à une IA ont souvent un ton très factuel, assez désincarné. Les IA citent très rarement leurs sources et ne font jamais intervenir de personne humaine sous forme de citation comme dans un article de presse.

Elles sont en revanche tout à fait capables d'en inventer si on leur demande de le faire. Dans un numéro paru en avril 2023, le magazine people allemand Die Aktuelle a poussé le vice jusqu'à publier une fausse interview exclusive de Michael Schumacher, générée par une AI, comme le raconte le site spécialisé Numerama. La famille de l'ancien champion de Formule 1 a porté plainte et la rédactrice en chef du magazine a finalement été limogée.

L'IA peut cependant être un outil intéressant, tant qu'elle reste sous supervision humaine. Le journaliste Jean Rognetta, créateur de la newsletter Qant, a quotidiennement recours à l'IA. Selon lui, il n'est "plus possible de reconnaître avec certitude un article écrit par une IA, si ce n'est que c'est souvent du mauvais journalisme". S'il utilise l'IA pour écrire sa newsletter, Jean Rognetta reste en effet convaincu de la nécessité d'effectuer une relecture et une correction humaine. "Notre newsletter est écrite avec, et non par une IA", martèle-t-il. Une approche qui pourrait bientôt se généraliser à d'autres journaux. Le 19 juillet dernier, le New York Times annonçait dans ses pages qu'un outil d'IA, destiné à automatiser certaines tâches effectuées par ses journalistes, était en cours de développement par Google.

5 Elles seront bientôt signalées par un filigrane

Face à la difficulté de plus en plus grande de détecter les contenus générés via une IA, l'Union européenne a adopté en juin dernier le "AI Act", avec l'objectif de réguler le secteur. A partir de l'application de la nouvelle réglementation, pas prévue avant 2026, les contenus générés par IA devront être signalés par un "watermark" (une signature en filigrane) indiquant clairement qu'ils n'ont pas été créés par un humain.

La forme de ce watermark n'est cependant pas encore entièrement définie. Il pourrait prendre la forme d'une phrase d'avertissement ou être dissimulé dans le texte, afin d'être moins facilement effaçable par les utilisateurs. Open AI a récemment annoncé travailler sur un watermark invisible. Comment ? Une récente étude (PDF) de l'université du Maryland propose par exemple que les IA soient programmées pour utiliser plus fréquemment une "liste spéciale" de mots définie à l'avance, permettant aux logiciels de détection d'être plus efficaces.

"Il y a de bonnes intentions au niveau de l'UE et des éditeurs, mais le problème reste la question de la mise en œuvre", estime Amélie Cordier. Si la régulation peut se mettre en place facilement pour les plus gros acteurs comme Open AI, Google, etc., elle sera impossible à imposer aux petites entités qui pullulent.

"Si l'utilisateur a le choix entre un logiciel avec 'watermark', ou un logiciel gratuit indétectable, la régulation risque d'être inefficace."

Une opinion que partage Virginie Mathivet, particulièrement en ce qui concerne les "fake news". "Une personne qui veut faire de la désinformation fera en sorte de ne pas avoir de watermark", conclut-elle.

Auteur: Internet

Info: https://www.francetvinfo.fr/, 2 sept 2023, Pauline Lecouvé

[ homme-machine ] [ machine-homme ]