police politique

La Stasi était l'armée interne qui permettait au gouvernement de garder le pouvoir. Son rôle était de tout savoir sur tout le monde, par tous les moyens. Elle savait qui vous avait rendu visite, qui vous téléphonait et si votre femme vous trompait. C'était une bureaucratie métastasiée dans la société est-allemande : ouvertement ou secrètement, des indicateurs renseignaient la Stasi sur leurs compagnons et amis dans toutes les écoles, toutes les usines, tous les immeubles résidentiels et tous les cafés. Obsédée par les détails, la Stasi n'a absolument pas vu venir l'effondrement du communisme, qui allait entraîner l'effondrement du pays. Entre 1989 et 1990, elle a été complètement retournée : unité d'espionnage staliniste un jour, musée le lendemain. En quarante années d'existence, la quantité de renseignements récoltés par la Stasi était aussi volumineuse que les archives historiques de toute l'Allemagne depuis le Moyen-Age. Disposés les uns à côté des autres, les dossiers de la Stasi seraient étendus sur cent quatre-vingts kilomètres. 

Auteur: Funder Anna

Info: Stasiland, page 16

[ pouvoir ] [ conservation ] [ état policier ]

élites

Le décret de bonheur prend l'apparence absolutiste de la pure philanthropie. Il suggère qu'au moins quelques personnes savent ce qu'est le bonheur mais veulent prévenir par le "rationnement" le collapsus qui surviendrait nécessairement si tous savaient la même chose. Prévenir le collapsus est la présupposition implicite, par la rhétorique, des économies planifiées des Etats. Ceux qui détiennent le savoir expérimentent déjà, au nom de tous les autres, ce qui résulte de leur savoir : ils vivent dans des enclaves au coeur de la collectivité et masquent les fenêtres de leurs limousines pour que personne ne puisse voir s'ils ne seraient pas, par hasard, déjà heureux. Ils distribuent à tous, avec une belle progressivité dans l'accoutumance du bonheur, un peu de ce qu'ils ont déjà expérimenté. La formation des files d'attente là où ont lieu les distributions permet de conclure au succès de la procédure — mais aussi d'imaginer les ruées et les affrontements qui surviendraient obligatoirement si ceux qui prétendent connaître le bonheur augmentaient les portions de leurs distributions dans la mesure de leur connaissance des besoins de ce qui rend heureux.

Auteur: Blumenberg Hans

Info: Le souci traverse le fleuve

[ justification ] [ pouvoir ] [ conservation ]

technologie

La troisième question concerne la capacité ou non d’un modèle à s’étendre de manière exponentielle. Comme le dirait un statisticien : peut-il changer d’échelle ? Ce n’est pas une chicane de mathématicien : si les ADM* (à l’origine de simples nuisances localisées) peuvent devenir de véritables tsunamis, capables de définir notre existence et d’en fixer les limites, c’est bien à cause de leur échelle. Comme nous l’observerons par la suite, les ADM qui se développent aujourd’hui dans les secteurs des ressources humaines, de la santé et de la banque, pour ne citer que ceux-là, "sont rapidement en train d’établir des normes généralisées qui exercent une autorité proche de celle de la loi." Si l’algorithme d’une banque vous attribue par exemple le profil d’un emprunteur à haut risque, le monde entier vous traitera comme un mauvais payeur – même si cela découle d’un horrible malentendu. Et quand ce modèle change d’échelle, à l’instar de celui des scores de crédit, toute votre vie s’en trouve alors affectée – qu’il s’agisse d’obtenir un appartement, un emploi, ou une voiture pour aller de l’un à l’autre.

Auteur: O'Neil Cathy

Info: Algorithmes : la bombe à retardement. *systèmes de décision automatisée - algorithmic decision-making

[ outil de pouvoir ] [ conservation ]

fric

EST-CE QU'IL SUFFIT D'AVOIR BEAUCOUP D'ARGENT POUR FAIRE PARTIE DE LA CLASSE DOMINANTE ?
Non, ce sont deux choses très différentes… Karim Benzema, par exemple, est un grand champion et il est vraiment très riche. Il peut vivre luxueusement, s'acheter de grosses voitures et des villas avec piscine. Mais il n'est pas et ne sera jamais un bourgeois. Pourquoi ? Parce que c'est un fils d'ouvrier, et parce qu'il ne doit sa fortune qu'à lui-même et à son talent pour le foot. C'est important, car cela signifie qu'il peut transmettre à ses enfants sa richesse, mais pas la source de cette richesse.
À l'inverse, la richesse de la famille Rothschild remonte au XVIIIe siècle. Les Rothschild étaient les banquiers des rois et sont aujourd'hui les banquiers des puissants de ce monde. Ils possèdent des vignobles, des châteaux, collectionnent les œuvres d'art… À la différence de Karim Benzema, qui ne peut transmettre automatiquement à ses enfants son talent pour le foot, chaque génération de Rothschild transmet à ses enfants sa fortune, mais aussi la source de celle-ci : des entreprises, une culture, une éducation, des relations, créant ainsi une dynastie familiale.

Auteur: Pinçon-Charlot Monique

Info: Pourquoi les Riches sont-ils de plus en plus riches et les Pauvres de plus en plus pauvres ?

[ pouvoir ] [ conservation ] [ richesse ]

post-colonialisme

Les oubliés du miracle économique produisaient et manipulaient des denrées inestimables et rares, destinées à une technologie de pointe dont certaines applications avaient tout simplement pour but de les asservir encore davantage. Les circuits intégrés allaient produire des images et des concepts pour continuer à les persuader qu'ils seraient toujours les derniers des derniers sur la planète qui est la nôtre, et que tous leurs combats utopiques seraient toujours vains et, de toute façon, voués à l'échec. Les métaux précieux, une fois portés au feu, seraient envoyés dans l'espace afin de les surveiller, comme de grands enfants, sous l'oeil constant de satellites sophistiqués. Au cas où certains aspects de cette globalisation seraient mal perçus par ces populations, ce même cuivre reviendrait immanquablement, sous forme de blindages de balles de 7,62 crachées avec hargne par quelques kalachnikovs rebelles. Si tout ceci devait rendre quelqu'un malade, à partir de ces mêmes matériaux on développerait des traceurs médicaux efficaces. Malheureusement leurs prix seraient inversement proportionnels à la baisse du cours des matières premières et tributaires de la hausse du dollar. Devenant, du coup, inabordables pour le pauvre hère courbé sous son bât quotidien. Mais qu'importe, tant qu'il mettrait du coeur à l'ouvrage, rien n'était encore perdu, lui promettait-on.

Auteur: In Koli Jean Bofane

Info: Mathématiques congolaises

[ nord-sud ] [ pouvoir ] [ conservation ]

judaïsme

Le monothéisme de la Torah n'est tempéré par aucun dualisme. Il n'y a pas trace dans la Torah d'une lutte cosmique entre deux principes, comme dans le mythe d'Osiris ou dans le zoroastrisme perse. La tension fondamentale n'est pas entre le Bien et le Mal, mais entre Yahvé et tous les autres dieux. Le serpent qui tente Ève au Jardin d'Eden disparaît à jamais de la Bible après cela : il n'a pas de consistance ontologique. Le “diable” ne fera son apparition que dans les Evangiles, et “Lucifer” plus tard encore, sur la base d'une exégèse tendancieuse d'Isaïe 14,12 dans la traduction latine (Vulgate). Quant à “Satan”, ce n'est que dans la tradition chrétienne qu'il deviendra l'ennemi éternel de Dieu. [...] Dans l'Ancien Testament lorsqu'il est assimilé à un principe destructeur, Satan se distingue en fait mal de Yahvé lui-même. [...] C'est toujours Yahvé qui frappe non seulement les ennemis d'Israël mais aussi Israël lorsqu'il a démérité à ses yeux. C'est lui qui déclenche les guerres, les épidémies et tous les fléaux imaginables. [...] Yahvé est la source du bien comme du mal. (Il s'en suit logiquement, selon une école kabbalistique, qu'on peut le servir aussi bien par le mal que par le bien.)

Auteur: Guyénot Laurent

Info: Du Yahvisme au Sionisme, p. 52

[ pouvoir ] [ conservation ] [ avoir raison ] [ obstination ] [ fermeture ]

défaitisme

Le Moyen Empire fournit un style littéraire tout à fait particulier et unique dans l'histoire de la littérature égyptienne : le genre dit "pessimiste". Ces oeuvres exploitent essentiellement trois thèmes : un contexte historique et social dégradé ; une souffrance et un désespoir générés par ce contexte ; une époque antithétique idéale qui provoque un sentiment de nostalgie.
(...)
Cette littérature a parfois été interprétée comme un courant subversif qui aurait tenté de remettre en cause des pans entiers de la monarchie, de la société et de la religion. Si l'hypothèse peut paraître intéressante, elle ne résiste pas à l'analyse du contexte politique et sociétal contemporain, ni à celui des époques postérieures. En effet (...) le souverain et son entourage contrôlent et distillent ces textes afin d'asseoir le pouvoir monarchique. Il paraît difficile, voire naïf, de penser que la cour ait pu laisser produire des oeuvres s'opposant à ce qu'elle tentait de mettre en place. De plus, à bien comprendre l'évolution des propos, on s'aperçoit que l'argument subversif présenté en début comme une constatation, donc vraie et véritable, est systématiquement battu en brèche.
(...)
Trois oeuvres de ce style "pessimiste" sont plus complexes à analyser : les "Lamentations d'Ipouour", les "Lamentations de Khakheperrâseneb", et le "Dialogue d'un homme avec son ba". (...) Khakheperrâseneb entame une discussion avec sa conscience (son coeur-ib), alors que dans le dernier un homme se lamente de l'indifférence de son âme-ba à ses souffrances psychologiques. A la fin de ce dialogue, l'âme qui prônait l'abandon des rites funéraires finit par reconnaître le bien-fondé des opinions de l'homme.

Auteur: Dessoudeix Michel

Info: Lettres égyptiennes, tome 3 : La littérature du Moyen Empire, p. 603. La littérature dite "pessimiste"

[ historique ] [ pouvoir ] [ conservation ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]

anti-populisme

[Trump] n’était assurément pas l’ennemi des riches, dont il a beaucoup réduit les impôts. Mais il a aussi piétiné l’image idyllique de la mondialisation qui se trouve au fondement de la vision bourgeoise du monde depuis les années 1990. Il a eu des mots cruels pour les médias, la Silicon Valley et Wall Street. Il a critiqué l’Organisation du traité de l’Atlantique nord (OTAN) et prétendu s’opposer aux "guerres sans fin" au Proche-Orient. Enfin, bien qu’il n’ait presque rien fait pour y remédier, à l’exception de mesures protectionnistes que son successeur a eu l’intelligence politique de ne pas remettre en question, il a réveillé la colère de millions de travailleurs blancs – la hantise de l’élite éclairée depuis les années 1960. […]

On pourrait longtemps égrener les fake news du journalisme anti-Trump. Elles se comptent par dizaines, à tel point que, d’après le journaliste Matt Taibbi, la succession frénétique de pseudo-scandales a fini par servir de modèle économique aux médias : sitôt une affaire dégonflée, une autre venait la remplacer, leur assurant des succès d’audience tout au long cette présidence. Selon un recensement établi par le New York Times, 1 200 livres ont été publiés sur M. Trump entre 2016 et août 2020. Au cours de son mandat, les chaînes de télévision câblées ont rapporté ses méfaits avec un tel acharnement qu’il ne leur restait souvent plus assez de temps pour se soucier du reste de l’actualité. Son irruption sur la scène nationale leur a autant profité qu’aux plus fervents adeptes du président. Lui résister procurait par ailleurs à ces journalistes une raison d’être, comme le suggère un mème très populaire sur Internet ces dernières années : "Si vous vous êtes déjà demandé ce que vous auriez fait au temps de l’esclavage, de l’Holocauste ou du mouvement des droits civiques, vous allez à présent le découvrir". La guerre contre M. Trump a simplifié le monde à outrance, repeignant le moindre fait aux couleurs de l’urgence morale. […]

En termes de mots par mois de mandat, l’administration Trump doit avoir été la plus disséquée de l’histoire des États- Unis. L’hystérie "progressiste" qui l’a accompagnée n’a fait en revanche l’objet de presque aucune analyse sérieuse. Elle relève pourtant de l’histoire culturelle des années Trump, tout autant que le personnage lui-même. En fait, cette banalisation de l’outrance importe même davantage, car elle reflète les pensées et les craintes du groupe social dominant aux États-Unis, les millions de cadres et de membres des professions intellectuelles supérieures qui ont tant prospéré ces dernières décennies. Si M. Trump n’est plus autant sur le devant de la scène – pour le moment – les "cols blancs" qui l’ont méprisé continuent de savourer leur victoire. Leur vision du monde imprègne désormais toutes les grandes institutions : la Silicon Valley, Wall Street, les universités, les médias, le secteur associatif. […]

Quand Timothy Snyder [l’écrivain anti-Trump auteur du livre "De la tyrannie"] prédisait, en 2017, que les États-Unis risquaient de sombrer dans une "culture de la dénonciation", il avait parfaitement raison – à ceci près que les internautes "progressistes", et non M. Trump, allaient bientôt réclamer la défenestration des ennemis de la vertu. Il n’avait pas tort non plus de mettre en garde contre une imminente "suspension de la liberté d’expression" – à ceci près que la prophétie fut réalisée par le sympathique monopole des réseaux sociaux, Facebook et Twitter en tête, et non par le régime de M. Trump. Dans son manuel de résistance à la dictature, Snyder s’adresse aux diplômés de l’enseignement supérieur, les implorant de commencer à agir en tant que membres d’une même classe, afin d’exercer "un certain pouvoir". Ce genre d’invocation est récurrent. Le seul moyen d’arrêter l’autoritarisme serait de renforcer le pouvoir des figures traditionnelles de l’autorité, des "autorités autorisées", pourrait-on dire : la cohorte de diplômés qui forment la classe des commentateurs, professeurs, éditorialistes, financiers, docteurs, avocats et génies des nouvelles technologies. Depuis 2016, l’idée a été rebattue sur tous les tons : un Trump est ce que vous récoltez chaque fois que vous ne respectez pas ceux qui savent. Mais aussi : si M. Trump est bien Hitler, alors il faut écraser son mouvement, censurer ses partisans, refuser qu’ils profitent des règles de la démocratie ordinaire pour la détruire. Douter de la parole des autorités serait le premier pas vers le "crépuscule de la démocratie", pour reprendre le titre d’un ouvrage publié en 2020 par Anne Applebaum.

Selon cette essayiste très populaire, ce qui a mené à la terrible ère de M. Trump est la fragmentation des élites dirigeantes. Applebaum se remémore avec émotion l’époque où les intellectuels vivaient en harmonie, où ses amis s’accordaient sur les bienfaits de la mondialisation néolibérale et où tous psalmodiaient les mêmes tables de la Loi. Hélas, regrette- t-elle, certains "membres de l’élite intellectuelle et diplômée", y compris parmi ses propres amis, se sont mis à contester "le reste de l’élite intellectuelle et universitaire". Une "trahison", estime Applebaum, qui renvoie elle aussi à Hitler. Que des gens instruits ne s’accordent pas toujours entre eux apparaît inconcevable à l’auteure, pour qui la doctrine de la méritocratie est le mécanisme permettant à une société de choisir une élite qui croit aux mêmes choses qu’Applebaum. Penser autrement reviendrait à trahir sa responsabilité d’intellectuel. Aucun des semeurs de panique évoqués ici ne prend au sérieux les questions et les forces sociales qui ont poussé les Américains à voter pour M. Trump. […]

Qu’est-ce qui déclenche une telle réaction ? […] Les discours les plus outranciers proviennent des classes les plus privilégiées de la société : autrefois, les patrons de presse, chefs d’entreprise et avocats d’affaires ; désormais, les surdiplômés qui exercent un contrôle hégémonique sur les médias et l’industrie de la "connaissance". Dans chacun des épisodes cités, ils percevaient les mouvements politiques de leur pays comme un péril mortel pour leur propre statut. […] La fureur anti-Trump est souvent considérée comme un phénomène progressiste, voire une renaissance de la gauche. Mais elle a aussi ouvert la voie à cette nouvelle forme d’autoritarisme, portée par des démocrates. Dans le paysage politique contemporain, on entend désormais des avocats reconnus exprimer leur aversion pour la liberté d’expression, des banques, des services de renseignement et des industriels de la défense déclarer leur solidarité avec les minorités opprimées, des élus démocrates faire pression sur Google, Facebook ou Twitter pour qu’ils recourent plus systématiquement à la censure – le tout sur fond de condamnation de la nocivité intrinsèque de la classe ouvrière blanche. Ainsi s’exprime une aristocratie qui refuse de tolérer l’existence même d’une partie appréciable de la population qu’elle gouverne. À ses yeux, les seules "normes" qui semblent désormais compter sont celles qui la maintiendront tout au sommet.

Auteur: Frank Thomas

Info: https://www.monde-diplomatique.fr/2021/08/FRANK/63420

[ adversaires ] [ pensée unique ] [ conservation du pouvoir ] [ GAFAM ] [ point godwin ] [ état profond ]