morale de la forme

Rien n'est plus déréglé que le roman, en ce sens qu'il n'a pas de règles de confection valables de façon générale ; mais, en même temps, rien n'est davantage dominé par le complexe de la norme. Le roman ne peut épouser que lui-même, et ce mariage est monogame, comme il sied à un monothéiste. Mais il y a plus. Le roman est l'Hérode des récits. Il ne peut se dérouler qu'en tuant sans cesse de possibles récits, comme ce Juggernaut (*) qui écrasait les fidèles ; et c'est ce qui fait que les récits se mettent en travers du cours du roman. Quand Don Abondio (**) rencontre les sbires, il doit passer sur le cadavre du récit des sbires - de quoi se sont-ils parlé en venant à cette bifurcation ? - et sur le cadavre du récit qui voulait naître autour de cette petite chapelle peinte d'âmes du purgatoire ; et, peu après, cet "On raconte que le prince de Condé" n'est-il pas l'aveu d'un récit nié, necatus (***) ? En somme, on ne peut écrire un roman qu'en renonçant aux minuscules et répétitives hérésies des récits ; aux monstruosités éphémères ; aux perversions hâtives ; aux notations pour un délire.  Non pas qu'un roman ne puisse être un délire hérétique, monstrueux, pervers ; mais l'hérésie constante se transforme en orthodoxie ; la monstruosité qui perdure se solidifie en une mutation heureusement réalisée ; la perversion accueillie et acceptée devient convenable et comme il faut ; et le délire donne lieu, après trois chapitres, à un nouveau langage, d'une grammaire et d'un lexique robustes.

Auteur: Manganelli Giorgio

Info: in "Le bruit subtil de la prose", éd. du Promeneur, p. 37-38 - (*) Juggernaut : char de procession du dieu Krishna, dont on disait qu'il n'hésitait pas à écraser les fidèles qui se trouvait sur sa route ; (**) Don Abondio : personnage principal des "Fiancés" de Manzoni ; (***) necatus : qui a été tué (latin)

[ littérature ] [ narration ] [ sacrifice ] [ liberté narrative ] [ contraintes narratives ] [ écriture fermeture ]

émergence humaine

Dans cette section, j'ai essayé de démontrer que la pensée darwinienne est à la hauteur de sa réputation d'acide universel : elle bouleverse tout le monde traditionnel, remettant en question cette image du haut vers le bas de conceptions émanant du génie des génies, le Concepteur Intelligent, et en les remplaçant par l'image du haut vers le bas de processus cycliques sans esprit, sans motif, qui produisent des combinaisons de plus en plus robustes jusqu'à ce qu'elles commencent à se répliquer d'elles-mêmes, accélérant le processus de conception en réutilisant les meilleurs éléments encore et encore. Certains de ces premiers descendants finissant par unir leurs forces (composante majeure, la symbiose), ce qui conduit à la multicellularité (autre caractéristique majeure), qui conduit à des véhicules d'exploration plus efficaces rendus possibles par la reproduction sexuelle (pareillement aspect majeur), qui conduit finalement, à une espèce, avec langage et évolution culturelle (encore un truc majeur), qui fournissent le support de la littérature, de la science et de l'ingénierie. Dernier arrivé des ces composants, ce qui nous permet à notre tour d'être "méta", comme aucune autre forme de vie ne peut l'être, apte à réfléchir d'infinies façons à ce que nous sommes et comment nous sommes arrivés là, modélisant ces processus via des pièces et des romans, des théories et des simulations informatiques, et en ajoutant toujours plus d'instruments de réflexion à notre impressionnante boîte à outils. Cette perspective est si unificatrice et en même temps si généreuse en idées détaillées qu'on pourrait dire qu'il y a là un dispositif puissant en lui-même. Ceux qui sont encore étrangement rebutés par la pensée darwinienne doivent considérer la probabilité que s'ils essaient de faire cavalier seul avec les seuls outils de la tradition, ils se retrouveront à travailler bien loin de la pointe de la recherche sur des phénomènes importants aussi divers que les épidémies et l'épistémologie, les biocarburants et l'architecture du cerveau, la génétique moléculaire, la musique et la moralité.

Auteur: Dennett Daniel C.

Info: Intuition Pumps And Other Tools for Thinking

[ phylogénie ] [ égrégore ] [ planète cerveau ] [ ruche ] [ homo gestalt ] [ source noma ]

robustesse

La soie de ces araignées est cinq fois plus solide que l'acier, et nous savons maintenant pourquoi
En analysant la soie de recluse brune, une araignée commune en Amérique du Nord, les chercheurs ont fait une découverte inattendue. Son fil serait en réalité un câble.
La soie d'araignée est connue comme l'un des matériaux naturels les plus solides au monde : elle serait jusqu'à cinq fois plus résistante qu'un câble d'acier du même poids. D'où tire-t-elle cette impressionnante solidité ? Grâce à un microscope particulièrement puissant, Hannes Schniepp et ses collègues en ont appris davantage. Ils ont réussi à percer les secrets de la soie de la recluse brune, ou Loxosceles reclusa.
"Nous nous attendions à ce que la fibre soit d'un seul bloc", confie Dr. Schniepp. "Mais nous avons découvert qu'il s'agissait en réalité d'une sorte de minuscule câble." Grâce à l'utilisation du microscope à force atomique, il s'est aperçu de la présence de boucles à l'intérieur de la structure du fil. Les conclusions de son étude, qui se base sur de précédents résultats obtenus en 2017, ont été publiées dans la revue ACS Macro Letters.
"Il s'avère que la fibre est constituée d'une multitude de nano-brins", explique le chercheur. "Chaque nano-brin est un mince fil constitué de protéines, d'un diamètre de moins d'un millionième de centimètre." Chaque fibre de soie de recluse brune serait constituée de pas moins de 2.500 nano-brins, arrangés parallèlement les uns aux autres pour former une sorte de ruban (le fil d'araignée est en réalité plus plat que cylindrique) plusieurs milliers de fois plus fin qu'un cheveu.
De nombreux modèles ont été proposés pour tenter d'expliquer l'organisation structurelle d'un fil d'araignée et les raisons de son incomparable force. Selon Schniepp, la structure décrite dans ce nouvel article constitue le plus simple et le plus élégant des principaux modèles. "Nous pensons que le secret de la soie de recluse brune repose principalement dans ces nano-brins individuels."
"Comprendre les propriétés de la soie de recluse brune au niveau moléculaire nous fournit non seulement une meilleure connaissance de l'un des matériaux les plus résistants de la nature, mais encore une trajectoire pour la confection d'autres matériaux synthétiques", souligne Mohan Srinivasarao. La soie synthétique est en effet depuis des années un Graal pour les scientifiques, qui tentent d'analyser au plus près les techniques de fabrication des araignées.

Auteur: Hollen Emma

Info: https://www.maxisciences.com, 2 décembre 2018

[ mécanique ]

philosophe

Un homme, dans l’Europe de ce temps, incarnait puissamment ces tendances [humanistes] ; un homme salué, révéré comme un maître par les Français aussi bien que par les Anglais, par les Allemands, les Flamands, les Polonais, les Espagnols, les Italiens même : l’auteur d’une œuvre latine de langue, universelle d’esprit, savante et pratique à la fois : Érasme.

Un tribun ? un meneur d’hommes ? Il était bien trop fin, trop mesuré et raisonnable pour pouvoir exercer, en dehors des milieux cultivés où l’on savait le prix d’une vaste science et d’une ironie subtile, l’influence d’un chef d’offensive prêt à donner l’assaut. Et d’ailleurs, un assaut du dehors, brutal, direct, violent ? Connaissant les hommes et l’échiquier compliqué d’une Europe en gestation, comment aurait-il cru au succès final d’une semblable aventure ?

Cette Europe, il l’avait parcourue. Il avait séjourné, successivement, dans ses grandes capitales. Il avait eu l’audience non de ses savants seulement, mais de ses maîtres véritables : les grands, les politiques. En particulier, il savait ce qu’était l’Église romaine avec ses ressorts robustes et cachés, ses prises diplomatiques sur les souverains, ses ressources matérielles et morales infinies. Il n’avait garde d’en sous-estimer la puissance. Et il se rendait compte que, pour changer comme il le désirait — mais à sa façon, qui n’était pas celle d’un Luther — les bases traditionnelles de la vie chrétienne ; il sentait avec force que, pour faire triompher cette Philosophie du Christ, cette religion de l’esprit qu’il exposait et prêchait avec une conviction dont il faut se garder de douter, et une ardeur qui n’était point sans péril — la condition préalable, absolument nécessaire, c’était de rester dans le giron de l’Église, de la travailler du dedans avec continuité mais sans brutalité ni fracas — et de ne jamais s’en séparer ou s’en laisser expulser par une rupture violente, qui d’ailleurs répugnait à ses sentiments, autant qu’à son esprit.

Or, lorsque parurent les premiers écrits de Luther, lorsque son nom vola de bouche en bouche à travers toute l’Europe, ce furent les gens d’étude, d’abord, qui se sentirent émus. Les humanistes tressaillirent quand l’Augustin opposa à la doctrine adultérée des prôneurs d’indulgence ses 95 thèses retentissantes ; ils s’arrachèrent les protestations, les exhortations de Luther quand le propre éditeur d’Érasme, Froben, en eut fait à Bâle un recueil qu’il dut rééditer en février, puis en août 1519 ; et sur l’heure, non sans ingénuité, ils firent du moine une sorte de second, d’auxiliaire d’Érasme.

Auteur: Febvre Lucien

Info: Un destin : Martin Luther, PUF, 1968, pages 80-81

[ christianisme ] [ stratégie ] [ affiliation supposée ]

imagination

Tout est absurde. Celui-ci consacre sa vie à gagner de l’argent pour le mettre de côté, sans avoir seulement d’enfants à qui le laisser, ni le moindre espoir de voir quelque ciel réserver un sort transcendantal à sa fortune. Cet autre consacre tous ses efforts à se faire une réputation qui ne lui servira qu’une fois mort, mais il ne croit nullement à la survie qui lui permettrait de jouir de cette même réputation. Cet autre encore s’épuise à rechercher mille choses qu’en fait il n’apprécie nullement. Un autre, un peu plus loin (…)

Celui-ci lit pour savoir, inutilement. Cet autre jouit pour vivre, tout aussi inutilement.

Je me trouve dans un tram, et j’examine lentement, à mon habitude, tous les détails concrets des personnes qui se trouvent devant moi. Pour moi les détails sont des choses, des mots, des lettres. Cette robe que porte la jeune fille assise en face de moi, je la décompose en ses divers éléments : l’étoffe dont elle est faite et le travail qu’elle a coûté — puisque je la vois en tant que robe, et non pas comme simple étoffe ; la fine broderie qui borde le ras du cou se décompose à son tour : le galon de soie dont on l’a brodé, et le travail qu’a demandé cette broderie. Et immédiatement, comme dans un ouvrage primaire d’économie politique, se déploient sous mes yeux les usines et les activités diverses — l’usine où l’on a fabriqué le galon, d’un ton plus foncé, qui a servi à orner, de petites choses entortillées, l’endroit qui fait le tour du cou ; et je vois les ateliers dans les usines— machines, ouvriers, cousettes — mes yeux tournés vers le dedans pénètrent dans les bureaux, je vois les directeurs chercher un peu de calme, et je surveille, dans les registres, la comptabilisation de chaque chose ; mais je ne m’arrête pas là : je vois, au-delà, la vie familiale de ceux dont la vie quotidienne s’écoule dans ces usines, dans ces bureaux… Le monde entier se déroule sous mes yeux, du seul fait que j’ai devant moi, au-dessous d’un cou brun, qui par ailleurs supporte je ne sais quelle tête, une bordure, irrégulièrement régulière, d’un vert sombre sur le vert plus clair de la robe.

La vie sociale tout entière gît sous mon regard.

En outre, je devine les amours, les cachotteries et l’âme de tous ceux qui ont œuvré pour que la femme qui se trouve là, devant moi, dans un tram, porte, autour de son cou de mortelle, la sinueuse banalité d’un galon de soie vert sombre se détachant sur un tissu d’un vert plus clair.

J’ai le vertige. Les banquettes du tram, dont le siège est garni de paille aux brins alternativement plus fins et plus robustes, m’emportent vers des régions lointaines, se multiplient en industries, ouvriers et maisons d’ouvriers, existences, réalités — tout.

Je descends du tram, épuisé, somnambulique. J’ai vécu la vie tout entière.

Auteur: Pessoa Fernando (Alv. de Campos)

Info: Oeuvre poétique, NRF 2001

[ réalité support ] [ désenchantement ]

homme-machine

Comment utiliser la théorie des jeux au profit de la collaboration entre l'humain et le robot ?

Et si les robots pouvaient travailler avec nous afin de nous permettre d'effectuer des activités, telles qu'un entraînement sportif ou une rééducation physique ? Afin de nous aider à atteindre nos objectifs, ils auraient besoin de comprendre nos actions et d'adapter leur comportement en conséquence. Même si les robots sont de plus en plus utilisés dans plusieurs domaines, en allant de la fabrication à la chirurgie médicale, ils ne peuvent pas réagir de manière optimale aux utilisateurs individuels.

Partiellement soutenus par le projet CoglMon financé par l'UE des scientifiques ont répondu à ce défi en adaptant la théorie des jeux pour analyser l'interaction physique entre un robot et un humain. Leur recherche a été récemment publiée dans la revue "Nature Machine Intelligence". Un article de l'Imperial College London résume le cadre théorique de cette étude: "Pour appliquer avec succès la théorie des jeux à leur interaction les chercheurs ont dû résoudre le fait que le robot ne puisse pas prédire les intentions de l'humain seulement par le raisonnement."
Apprendre le comportement humain
L'équipe de recherche a examiné de quelle manière "devrait être contrôlé un robot de contact pour apporter une réponse stable et adaptée à un utilisateur au comportement inconnu qui effectue des mouvements au cours d'activités, telles que l'entraînement sportif, la rééducation physique ou le covoiturage." Il est déclaré dans l'article de l'Imperial College London que l'équipe s'est intéressée à "la différence entre ses mouvements attendus et ses mouvements réels pour estimer la stratégie humaine – comment l'humain utilise les erreurs dans une tâche pour générer de nouvelles actions." Et il est ajouté que: "Par exemple, si la stratégie de l'humain ne leur permet pas d'accomplir cette tâche, le robot peut fournir davantage d'efforts pour les aider. Apprendre au robot à prédire la stratégie de l'humain lui fait changer sa propre stratégie en retour."

Les scientifiques ont testé leur cadre dans des simulations et des expérimentations avec des sujets humains. Ils ont démontré "que le robot peut s'adapter quand la stratégie de l'humain change lentement, comme si l'humain récupérait de la force, et quand la stratégie de l'humain change et est incohérente, comme après une blessure", selon le même article.

Le projet CogIMon (Cognitive Interaction in Motion) a été mis en place pour modifier "la façon dont les robots interagissent avec les humains en introduisant des robots plus faciles à utiliser, qui sont plus flexibles et plus dociles, et qui apprennent davantage", comme expliqué sur le site web du projet. "Le projet CoglMon vise un changement par étape dans l'interaction entre le robot et l'humain vers une intégration systémique de capacités d'interaction robustes et fiables pour des équipes d'humains et de robots dociles, en particulier l'humanoïde docile COMAN."

Il est également indiqué que, pour atteindre son objectif, le projet utilise "des démonstrations évoluées, en situation réelle, de prise et de lancer dociles interactifs, faites par un robot, une interaction avec COMANS sous le changement de contact et de composition de l'équipe, et dans un modèle entièrement porté par l'ingénierie de manipulation à multi-bras."

Le robot COmpliant HuMANoid Platform (COMAN) a été mis au point dans le cadre du projet FP7 AMARSi (Adaptive Modular Architecture for Rich Motor Skills) qui s'est déroulé entre 2010 et 2014. Grâce à sa robustesse physique il peut marcher et garder l'équilibre et il est entièrement autonome d'un point de vue énergétique comme expliqué sur le site web du projet AMARSi.

Auteur: Internet

Info: https://www.techno-science.net, Redbran, 04/03/2019

[ dialogue ] [ intelligence artificielle ]

homme-végétal

Nous sommes dans une secte de la performance 

Le biologiste français Olivier Hamant, directeur de l’institut Michel Serres à Lyon, était de passage en Belgique pour une série de conférences. Devant un public nombreux, il a fait l’éloge de la lenteur et expliqué comment le monde du vivant pouvait nous inspirer. Il signe, aujourd’hui, un nouvel essai, De l’incohérence, philosophie politique de la robustesse (Odile Jacob).

Rencontre avec un penseur atypique qui prône les vertus de l’incohérence et de la contradiction.

Il propose, au micro de Pascal Claude, de "passer de l’abondance matérielle à l’abondance relationnelle" qui serait "la revanche du lien sur le rien". Mais, selon Olivier Hamant, pour atteindre ce dessein, le monde se doit d’opérer un basculement, celui d’une société de la performance à une société qui valorise, au contraire, la robustesse.

- Quelle est la différence entre la performance et la robustesse ?

La performance, c’est la somme de l’efficacité et de l’efficience. L’efficacité, c’est atteindre son objectif. L’efficience, c’est l’atteindre avec le moins de moyens possibles, c’est une forme d’optimisation. Alors que la robustesse, c’est maintenir le système viable malgré les fluctuations à plus long terme, c’est diversifier et expérimenter. Pour moi, c’est le contraire de la performance.

Si on regarde le monde du vivant, on voit qu’il fonctionne de façon sous-optimale. Hétérogénéités, incohérences, inachèvements, lenteurs, c’est ce qui fait la structure et la fonction du vivant. Je prends souvent l’exemple de la température corporelle. Quand on est à 37 degrés, on peut penser qu’on est à l’optimum. Pas du tout. Nos enzymes, leur optimum est plutôt à 40 degrés. C’est lorsque l’on a de la fièvre que nous atteignons vraiment un niveau de performance. Cette marge de manœuvre nous permet de lutter au cas où il y aurait une fluctuation, notamment un pathogène qui rentre. Et là, la fièvre sera utile !

- La nature, davantage du côté de la robustesse que de la performance ?

"Oui et la meilleure image, c’est celle de la plante : elle croît en freinant. La plante pousse grâce à un apport d’eau, à une pression hydraulique. Avec la photosynthèse, avec le soleil, elle fabrique des fibres de cellulose. Et plus la plante pousse, plus elle freine parce qu’elle se rigidifie. En fait, elle synthétise la cellulose pour ralentir sa croissance.

Quand on est dans la performance, on canalise les initiatives, on les optimise et dans le même temps, on les stérilise. Un monde d’abondance stable induit la compétition et la compétition induit la violence contre les écosystèmes et les défavorisés. La croissance donne l’impression d’abondance alors qu’elle crée la pénurie. Elle conduit à l’épuisement des ressources non renouvelables et des ressources renouvelables à long terme. Alors qu’un monde qui va vers le moins, qui est plus instable, va vers la coopération. Coopérer signifie que l’objectif commun l’emporte sur les objectifs individuels et, parfois, implique d’aller même contre son objectif individuel : c’est un exemple typique d’incohérence, une contradiction interne pour le bien collectif. Dans le monde scientifique, entre autres, la cohérence est la valeur ultime, c’est un bel objectif mais une mauvaise stratégie car elle n’autorise pas le débat. Pour construire de la cohérence, il faut passer par des chemins incohérents."

- Quels sont les freins à ce passage vers une société plus coopérative ?

"Le coût de la robustesse, c’est que ça prend plus de temps. Il s’agit d’une injonction quasi paradoxale : face à l’urgence, il faut ralentir ! On a tendance à apporter les meilleures réponses aux mauvaises questions. Prenez par exemple le cas d’Ikea qui va sans doute atteindre sa neutralité carbone en 2030 mais en ayant déforesté à tout va. Il nous faut prendre du temps pour questionner les questions, c’est un ralentissement nécessaire.

J’ose le dire, nous sommes dans une secte de la performance : on n’est plus capable de la questionner alors qu’on sait scientifiquement qu’elle induit une dégradation, c’est le burn-out des humains et celui des écosystèmes ! Et les solutions actuelles proposées tiennent plutôt de l’hyper performance que du ralentissement : c’est Elon Musk qui veut aller sur Mars, c’est Mark Zuckerberg qui veut faire un bunker à Hawaï. Ce sont eux les gourous de cette secte de la performance et, lorsqu’on analyse leurs projets, on se rend compte que ce sont des projets de mort."

- Comment bifurquer concrètement vers le monde de la robustesse ?

"Il faut créer du désir ! Le problème, c’est que, souvent, affirmer que la voie qu’on a prise n’est pas la bonne, cela fait peur. Et puis lâcher la performance crée encore davantage de peur car nous sommes addicts à la performance. Il faut montrer ce que l’on gagne en quittant la société de la performance : un lien aux non-humains et une reconnexion aux vivants. Le monde de la robustesse, c’est le monde de la richesse, des interactions.

Les initiatives les plus intéressantes se situent au niveau local. Les petites entreprises et associations ont compris que nous sommes dans un monde fluctuant et elles s’adaptent. Les plus gros freins à la société de la robustesse sont les États et les grands groupes car ils sont encore coincés dans le monde de la performance.

Il n’existe pas de système qui ne se transforme pas. Tout se transforme tout le temps ! Est-ce qu’on laisse jouer la main invisible et qu’on laisse le système se diriger vers une trajectoire exponentielle ? Car ne pas critiquer la société de performance, c’est laisser se faire une transformation par défaut. Il est parfois très utile de désobéir !

Auteur: Internet

Info: 13 avr. 2024 Nathalie Dekeyser & Pascal Claude

[ durabilité ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]

symphonie des équations

Des " murmurations " de courbe elliptique découvertes grâce à l'IA prennent leur envol

Les mathématiciens s’efforcent d’expliquer pleinement les comportements inhabituels découverts grâce à l’intelligence artificielle.

(photo - sous le bon angle les courbes elliptiques peuvent se rassembler comme les grands essaims d'oiseaux.)

Les courbes elliptiques font partie des objets les plus séduisants des mathématiques modernes. Elle ne semblent pas compliqués, mais  forment une voie express entre les mathématiques que beaucoup de gens apprennent au lycée et les mathématiques de recherche dans leur forme la plus abstruse. Elles étaient au cœur de la célèbre preuve du dernier théorème de Fermat réalisée par Andrew Wiles dans les années 1990. Ce sont des outils clés de la cryptographie moderne. Et en 2000, le Clay Mathematics Institute a désigné une conjecture sur les statistiques des courbes elliptiques comme l'un des sept " problèmes du prix du millénaire ", chacun d'entre eux étant récompensé d'un million de dollars pour sa solution. Cette hypothèse, formulée pour la première fois par Bryan Birch et Peter Swinnerton-Dyer dans les années 1960, n'a toujours pas été prouvée.

Comprendre les courbes elliptiques est une entreprise aux enjeux élevés qui est au cœur des mathématiques. Ainsi, en 2022, lorsqu’une collaboration transatlantique a utilisé des techniques statistiques et l’intelligence artificielle pour découvrir des modèles complètement inattendus dans les courbes elliptiques, cela a été une contribution bienvenue, bien qu’inattendue. "Ce n'était qu'une question de temps avant que l'apprentissage automatique arrive à notre porte avec quelque chose d'intéressant", a déclaré Peter Sarnak , mathématicien à l'Institute for Advanced Study et à l'Université de Princeton. Au départ, personne ne pouvait expliquer pourquoi les modèles nouvellement découverts existaient. Depuis lors, dans une série d’articles récents, les mathématiciens ont commencé à élucider les raisons derrière ces modèles, surnommés " murmures " en raison de leur ressemblance avec les formes fluides des étourneaux en troupeaux, et ont commencé à prouver qu’ils ne doivent pas se produire uniquement dans des cas particuliers. exemples examinés en 2022, mais dans les courbes elliptiques plus généralement.

L'importance d'être elliptique

Pour comprendre ces modèles, il faut jeter les bases de ce que sont les courbes elliptiques et de la façon dont les mathématiciens les catégorisent.

Une courbe elliptique relie le carré d'une variable, communément écrite comme y , à la troisième puissance d'une autre, communément écrite comme x : y 2  =  x 3  + Ax + B , pour une paire de nombres A et B , tant que A et B remplissent quelques conditions simples. Cette équation définit une courbe qui peut être représentée graphiquement sur le plan, comme indiqué ci-dessous. (Photo : malgré la similitude des noms, une ellipse n'est pas une courbe elliptique.)

Introduction

Bien qu’elles semblent simples, les courbes elliptiques s’avèrent être des outils incroyablement puissants pour les théoriciens des nombres – les mathématiciens qui recherchent des modèles dans les nombres entiers. Au lieu de laisser les variables x et y s'étendre sur tous les nombres, les mathématiciens aiment les limiter à différents systèmes numériques, ce qu'ils appellent définir une courbe " sur " un système numérique donné. Les courbes elliptiques limitées aux nombres rationnels – nombres qui peuvent être écrits sous forme de fractions – sont particulièrement utiles. "Les courbes elliptiques sur les nombres réels ou complexes sont assez ennuyeuses", a déclaré Sarnak. "Seuls les nombres rationnels sont profonds."

Voici une façon qui est vraie. Si vous tracez une ligne droite entre deux points rationnels sur une courbe elliptique, l’endroit où cette ligne coupe à nouveau la courbe sera également rationnel. Vous pouvez utiliser ce fait pour définir " addition " dans une courbe elliptique, comme indiqué ci-dessous. 

(Photo -  Tracez une ligne entre P et Q . Cette ligne coupera la courbe en un troisième point, R . (Les mathématiciens ont une astuce spéciale pour gérer le cas où la ligne ne coupe pas la courbe en ajoutant un " point à l'infini ".) La réflexion de R sur l' axe des x est votre somme P + Q . Avec cette opération d'addition, toutes les solutions de la courbe forment un objet mathématique appelé groupe.)

Les mathématiciens l'utilisent pour définir le " rang " d'une courbe. Le rang d'une courbe est lié au nombre de solutions rationnelles dont elle dispose. Les courbes de rang 0 ont un nombre fini de solutions. Les courbes de rang supérieur ont un nombre infini de solutions dont la relation les unes avec les autres à l'aide de l'opération d'addition est décrite par le rang.

Les classements (rankings) ne sont pas bien compris ; les mathématiciens n'ont pas toujours le moyen de les calculer et ne savent pas quelle taille ils peuvent atteindre. (Le plus grand rang exact connu pour une courbe spécifique est 20.) Des courbes d'apparence similaire peuvent avoir des rangs complètement différents.

Les courbes elliptiques ont aussi beaucoup à voir avec les nombres premiers, qui ne sont divisibles que par 1 et par eux-mêmes. En particulier, les mathématiciens examinent les courbes sur des corps finis – des systèmes d’arithmétique cyclique définis pour chaque nombre premier. Un corps fini est comme une horloge dont le nombre d'heures est égal au nombre premier : si vous continuez à compter vers le haut, les nombres recommencent. Dans le corps fini de 7, par exemple, 5 plus 2 est égal à zéro et 5 plus 3 est égal à 1.

(Photo : Les motifs formés par des milliers de courbes elliptiques présentent une similitude frappante avec les murmures des étourneaux.)

Une courbe elliptique est associée à une séquence de nombres, appelée a p , qui se rapporte au nombre de solutions qu'il existe à la courbe dans le corps fini défini par le nombre premier p . Un p plus petit signifie plus de solutions ; un p plus grand signifie moins de solutions. Bien que le rang soit difficile à calculer, la séquence a p est beaucoup plus simple.

Sur la base de nombreux calculs effectués sur l'un des tout premiers ordinateurs, Birch et Swinnerton-Dyer ont conjecturé une relation entre le rang d'une courbe elliptique et la séquence a p . Quiconque peut prouver qu’il avait raison gagnera un million de dollars et l’immortalité mathématique.

Un modèle surprise émerge

Après le début de la pandémie, Yang-Hui He , chercheur au London Institute for Mathematical Sciences, a décidé de relever de nouveaux défis. Il avait étudié la physique à l'université et avait obtenu son doctorat en physique mathématique du Massachusetts Institute of Technology. Mais il s'intéressait de plus en plus à la théorie des nombres et, étant donné les capacités croissantes de l'intelligence artificielle, il pensait essayer d'utiliser l'IA comme un outil permettant de trouver des modèles inattendus dans les nombres. (Il avait déjà utilisé l'apprentissage automatique pour classifier les variétés de Calabi-Yau , des structures mathématiques largement utilisées en théorie des cordes.

(Photo ) Lorsque Kyu-Hwan Lee (à gauche) et Thomas Oliver (au centre) ont commencé à travailler avec Yang-Hui He (à droite) pour utiliser l'intelligence artificielle afin de trouver des modèles mathématiques, ils s'attendaient à ce que ce soit une plaisanterie plutôt qu'un effort qui mènerait à de nouveaux découvertes. De gauche à droite : Grace Lee ; Sophie Olivier ; gracieuseté de Yang-Hui He.

En août 2020, alors que la pandémie s'aggravait, l'Université de Nottingham l'a accueilli pour une conférence en ligne . Il était pessimiste quant à ses progrès et quant à la possibilité même d’utiliser l’apprentissage automatique pour découvrir de nouvelles mathématiques. "Son récit était que la théorie des nombres était difficile parce qu'on ne pouvait pas apprendre automatiquement des choses en théorie des nombres", a déclaré Thomas Oliver , un mathématicien de l'Université de Westminster, présent dans le public. Comme il se souvient : " Je n'ai rien trouvé parce que je n'étais pas un expert. Je n’utilisais même pas les bons éléments pour examiner cela."

Oliver et Kyu-Hwan Lee , mathématicien à l'Université du Connecticut, ont commencé à travailler avec He. "Nous avons décidé de faire cela simplement pour apprendre ce qu'était l'apprentissage automatique, plutôt que pour étudier sérieusement les mathématiques", a déclaré Oliver. "Mais nous avons rapidement découvert qu'il était possible d'apprendre beaucoup de choses par machine."

Oliver et Lee lui ont suggéré d'appliquer ses techniques pour examiner les fonctions L , des séries infinies étroitement liées aux courbes elliptiques à travers la séquence a p . Ils pourraient utiliser une base de données en ligne de courbes elliptiques et de leurs fonctions L associées , appelée LMFDB , pour former leurs classificateurs d'apprentissage automatique. À l’époque, la base de données contenait un peu plus de 3 millions de courbes elliptiques sur les rationnels. En octobre 2020, ils avaient publié un article utilisant les informations glanées à partir des fonctions L pour prédire une propriété particulière des courbes elliptiques. En novembre, ils ont partagé un autre article utilisant l’apprentissage automatique pour classer d’autres objets en théorie des nombres. En décembre, ils étaient capables de prédire les rangs des courbes elliptiques avec une grande précision.

Mais ils ne savaient pas vraiment pourquoi leurs algorithmes d’apprentissage automatique fonctionnaient si bien. Lee a demandé à son étudiant de premier cycle Alexey Pozdnyakov de voir s'il pouvait comprendre ce qui se passait. En l’occurrence, la LMFDB trie les courbes elliptiques en fonction d’une quantité appelée conducteur, qui résume les informations sur les nombres premiers pour lesquels une courbe ne se comporte pas correctement. Pozdnyakov a donc essayé d’examiner simultanément un grand nombre de courbes comportant des conducteurs similaires – disons toutes les courbes comportant entre 7 500 et 10 000 conducteurs.

Cela représente environ 10 000 courbes au total. Environ la moitié d'entre eux avaient le rang 0 et l'autre moitié le rang 1. (Les rangs supérieurs sont extrêmement rares.) Il a ensuite fait la moyenne des valeurs de a p pour toutes les courbes de rang 0, a fait la moyenne séparément de a p pour toutes les courbes de rang 1 et a tracé la résultats. Les deux ensembles de points formaient deux vagues distinctes et facilement discernables. C’est pourquoi les classificateurs d’apprentissage automatique ont été capables de déterminer correctement le rang de courbes particulières.

" Au début, j'étais simplement heureux d'avoir terminé ma mission", a déclaré Pozdnyakov. "Mais Kyu-Hwan a immédiatement reconnu que ce schéma était surprenant, et c'est à ce moment-là qu'il est devenu vraiment excitant."

Lee et Oliver étaient captivés. "Alexey nous a montré la photo et j'ai dit qu'elle ressemblait à ce que font les oiseaux", a déclaré Oliver. "Et puis Kyu-Hwan l'a recherché et a dit que cela s'appelait une murmuration, puis Yang a dit que nous devrions appeler le journal ' Murmurations de courbes elliptiques '."

Ils ont mis en ligne leur article en avril 2022 et l’ont transmis à une poignée d’autres mathématiciens, s’attendant nerveusement à se faire dire que leur soi-disant « découverte » était bien connue. Oliver a déclaré que la relation était si visible qu'elle aurait dû être remarquée depuis longtemps.

Presque immédiatement, la prépublication a suscité l'intérêt, en particulier de la part d' Andrew Sutherland , chercheur scientifique au MIT et l'un des rédacteurs en chef de la LMFDB. Sutherland s'est rendu compte que 3 millions de courbes elliptiques n'étaient pas suffisantes pour atteindre ses objectifs. Il voulait examiner des gammes de conducteurs beaucoup plus larges pour voir à quel point les murmures étaient robustes. Il a extrait des données d’un autre immense référentiel d’environ 150 millions de courbes elliptiques. Toujours insatisfait, il a ensuite extrait les données d'un autre référentiel contenant 300 millions de courbes.

"Mais même cela ne suffisait pas, j'ai donc calculé un nouvel ensemble de données de plus d'un milliard de courbes elliptiques, et c'est ce que j'ai utilisé pour calculer les images à très haute résolution", a déclaré Sutherland. Les murmures indiquaient s'il effectuait en moyenne plus de 15 000 courbes elliptiques à la fois ou un million à la fois. La forme est restée la même alors qu’il observait les courbes sur des nombres premiers de plus en plus grands, un phénomène appelé invariance d’échelle. Sutherland s'est également rendu compte que les murmures ne sont pas propres aux courbes elliptiques, mais apparaissent également dans des fonctions L plus générales . Il a écrit une lettre résumant ses découvertes et l'a envoyée à Sarnak et Michael Rubinstein de l'Université de Waterloo.

"S'il existe une explication connue, j'espère que vous la connaîtrez", a écrit Sutherland.

Ils ne l'ont pas fait.

Expliquer le modèle

Lee, He et Oliver ont organisé un atelier sur les murmurations en août 2023 à l'Institut de recherche informatique et expérimentale en mathématiques (ICERM) de l'Université Brown. Sarnak et Rubinstein sont venus, tout comme l'étudiante de Sarnak, Nina Zubrilina .

LA THÉORIE DU NOMBRE

Zubrilina a présenté ses recherches sur les modèles de murmuration dans des formes modulaires , des fonctions complexes spéciales qui, comme les courbes elliptiques, sont associées à des fonctions L. Dans les formes modulaires dotées de grands conducteurs, les murmurations convergent vers une courbe nettement définie, plutôt que de former un motif perceptible mais dispersé. Dans un article publié le 11 octobre 2023, Zubrilina a prouvé que ce type de murmuration suit une formule explicite qu'elle a découverte.

" La grande réussite de Nina est qu'elle lui a donné une formule pour cela ; Je l’appelle la formule de densité de murmuration Zubrilina ", a déclaré Sarnak. "En utilisant des mathématiques très sophistiquées, elle a prouvé une formule exacte qui correspond parfaitement aux données."

Sa formule est compliquée, mais Sarnak la salue comme un nouveau type de fonction important, comparable aux fonctions d'Airy qui définissent des solutions aux équations différentielles utilisées dans divers contextes en physique, allant de l'optique à la mécanique quantique.

Bien que la formule de Zubrilina ait été la première, d'autres ont suivi. "Chaque semaine maintenant, un nouvel article sort", a déclaré Sarnak, "utilisant principalement les outils de Zubrilina, expliquant d'autres aspects des murmurations."

(Photo - Nina Zubrilina, qui est sur le point de terminer son doctorat à Princeton, a prouvé une formule qui explique les schémas de murmuration.)

Jonathan Bober , Andrew Booker et Min Lee de l'Université de Bristol, ainsi que David Lowry-Duda de l'ICERM, ont prouvé l'existence d'un type différent de murmuration sous des formes modulaires dans un autre article d'octobre . Et Kyu-Hwan Lee, Oliver et Pozdnyakov ont prouvé l'existence de murmures dans des objets appelés caractères de Dirichlet qui sont étroitement liés aux fonctions L.

Sutherland a été impressionné par la dose considérable de chance qui a conduit à la découverte des murmurations. Si les données de la courbe elliptique n'avaient pas été classées par conducteur, les murmures auraient disparu. "Ils ont eu la chance de récupérer les données de la LMFDB, qui étaient pré-triées selon le chef d'orchestre", a-t-il déclaré. « C'est ce qui relie une courbe elliptique à la forme modulaire correspondante, mais ce n'est pas du tout évident. … Deux courbes dont les équations semblent très similaires peuvent avoir des conducteurs très différents. Par exemple, Sutherland a noté que y 2 = x 3 – 11 x + 6 a un conducteur 17, mais en retournant le signe moins en signe plus, y 2 = x 3  + 11 x + 6 a un conducteur 100 736.

Même alors, les murmures n'ont été découverts qu'en raison de l'inexpérience de Pozdniakov. "Je ne pense pas que nous l'aurions trouvé sans lui", a déclaré Oliver, "parce que les experts normalisent traditionnellement a p pour avoir une valeur absolue de 1. Mais il ne les a pas normalisés… donc les oscillations étaient très importantes et visibles."

Les modèles statistiques que les algorithmes d’IA utilisent pour trier les courbes elliptiques par rang existent dans un espace de paramètres comportant des centaines de dimensions – trop nombreuses pour que les gens puissent les trier dans leur esprit, et encore moins les visualiser, a noté Oliver. Mais même si l’apprentissage automatique a découvert les oscillations cachées, " ce n’est que plus tard que nous avons compris qu’il s’agissait de murmures ".



 

Auteur: Internet

Info: Paul Chaikin pour Quanta Magazine, 5 mars 2024 - https://www.quantamagazine.org/elliptic-curve-murmurations-found-with-ai-take-flight-20240305/?mc_cid=797b7d1aad&mc_eid=78bedba296

[ résonance des algorithmes ] [ statistiques en mouvement ] [ chants des fractales ] [ bancs de poissons ]