question

Il fallut qu'elle fut retrouvée pour qu'on se rende compte qu'elle avait disparu.
Des dizaines d'années plus tard, elle soumettrait ce casse-tête à un colloque de philosophie. Si les mots cessent d'exister, leur sens cesse-t-il d'exister lui aussi ?

Auteur: Oates Joyce Carol

Info: Mudwoman

[ langage ] [ verbalisation ]

création

Il n'a jamais cru en son talent - il reconnaissait en être à peu près dénué -, mais il croyait en son destin. Mieux : il savait qu'à force de persévérance, il percerait un des secrets de la peinture, à savoir la couleur. Il la soumettrait, cette insoumise, l'obligerait à batailler ton contre ton dans cette guerre des complémentaires que nul avant lui n'avait mené si loin. L'oeuvre d'un fou ? Non, l'oeuvre d'un homme parfaitement raisonnable, qui a su se défaire des égarements décoratifs de la peinture de son temps.

Auteur: Pajak Frédéric

Info: Manifeste incertain, tome 5, p 11-12. A propos de Van Gogh

[ détermination ] [ indépendance ]

équité

Si l'homme blanc veut vivre dans la paix avec l'Indien, il peut vivre dans la paix. Traitez tous les hommes de la même manière. Donnez leurs à tous les mêmes lois. Donnez-leur à tous une chance égale de vivre et de prospérer. Tous les hommes ont été créés par le même grand Esprit. Ils sont tous frères. La terre est la mère de toutes les personnes, et toutes les personnes devraient avoir égalité de droits sur elle. Laissez-moi être un homme libre, libre de voyager, libre de m'arrêter, libre de travailler, libre de décider où je choisis mes propres professeurs, libre de suivre la religion de mes pères, libre de penser, parler et agir par moi-même. Ainsi j'obéirai à chaque loi et me soumettrai aux pénalités.

Auteur: Parole Cherokee

Info:

[ envahisseur ]

attitude

Je verrai la mort d'un visage aussi calme que si j'en entendais parler. Je me soumettrai à tous les travaux, si grands qu'ils soient, soutenant le corps par l'âme. Je mépriserai également les richesses, qu'elles soient présentes ou absentes, et je ne serai ni plus triste quand elles se trouvent ailleurs que chez moi, ni plus fier si elles m'environnent de leur éclat. Je ne serai pas sensible aux allées et venues de la fortune. Je considérerai toutes les terres comme miennes et les miennes comme appartenant à tous. Je vivrai comme si je savais que je suis né pour les autres et remercierai la nature d'un pareil titre, car comment aurait-elle pu mieux conduire mes affaires ? Elle m'a donné seul à tous, elle a donnée tous à moi seul. Tout ce que j'aurai, ni je le garderai d'une manière sordide, ni je le répandrai d'une manière prodigue. Je croirai ne rien posséder mieux que ce que je donne comme il faut. J'estimerai les bienfaits ni au nombre, ni au poids, mais au prix qu'y attache celui qui les reçoit. Jamais je ne penserai donner trop à qui est digne de recevoir. Je ne ferai rien en vue de l'opinion, je ferai tout par conscience. Je croirai avoir pour témoin tout un peuple alors que j'agirai devant ma seule conscience... La limite que je m'imposerai dans le boire et le manger sera de satisfaire les besoins naturels et non d'emplir et de vider l'estomac. Je serai agréable envers mes amis, indulgent et affable envers mes ennemis. Je serai ébranlé avant même d'être prié, et j'irai au-devant des demandes honnêtes. Je saurai que ma patrie c'est le monde, que mes chefs ce sont les dieux et qu'ils sont au-dessus de moi et autour de moi surveillant mes actes et paroles. Quand la nature me redemandera ma vie ou que ma raison la fera cesser, je m'en irai en attestant que j'ai chéri la bonne conscience et les bonnes études, et que la liberté de personne n'a été diminué de mon fait, la mienne moins que toute autre.

Auteur: Sénèque

Info: Prière du matin, De la vie heureuse : p 742 dans la Bibliothèque de la Pléiade : Les Stoïciens, édité par Gallimard

gouvernement

Qui a divisé le troupeau et l’a dispersé sur des chemins inconnus ? Mais le troupeau se reformera, et il se soumettra à nouveau, cette fois pour toujours. Alors nous leur donnerons un bonheur paisible, humble, à la mesure d’êtres faibles tels qu’ils ont été créés. Oh, nous les persuaderons enfin de ne pas s’enorgueillir, car Tu les as élevés haut et leur a appris ainsi à s’enorgueillir ; nous leur prouverons qu’ils sont débiles, qu’ils ne sont que de pitoyables enfants, mais que le bonheur de l’enfant est le plus doux de tous. Ils deviendront craintifs, ils auront les yeux fixés sur nous et se serreront contre nous avec effroi, comme les poussins autour de la mère poule. Ils nous admireront et seront terrifiés par nous, et ils seront fiers de nous voir assez puissants et assez intelligents pour avoir dompté un si turbulent troupeau de milliers de millions de têtes. Ils trembleront, débiles, devant notre colère, leur esprit deviendra timoré, leurs yeux enclins aux larmes comme ceux des enfants et des femmes mais, sur un signe de nous, ils passeront aussi facilement à la gaieté et au rire, à la joie claire et à l’heureuse chanson enfantine. Certes, nous les forcerons à travailler, mais, aux heures de loisir, nous organiserons leur vie comme un jeu d’enfant, avec des chansons enfantines, des chœurs, des danses innocentes. Oh, nous leur permettrons aussi le péché, ils sont faibles et impuissants, et ils nous aimeront comme des enfants pour leur avoir permis de pécher. Nous leur dirons que tout péché sera racheté s’il est commis avec notre permission ; que si nous le leur permettons, c’est parce que nous les aimons, et quant au châtiment de ces péchés, soit, nous le prendrons sur nous. Et nous le prendrons en effet sur nous, et ils nous adoreront comme des bienfaiteurs qui e chargent de leurs péchés devant Dieu. Et ils n’auront aucun secret pour nous. Nous leur permettrons ou leur interdirons de vivre avec leurs femmes et leurs maîtresses, d’avoir ou de ne pas avoir d’enfants – le tout selon leur docilité – et ils se soumettront avec allégresse et avec joie. Les plus douloureux secrets de leur conscience, tout, ils nous porteront tout à nous, et nous résoudrons tout, et ils accepteront avec joie notre jugement, car il leur épargnera le grave souci et les horribles supplices du choix personnel et libre qu’ils connaissent aujourd’hui. Et tous seront heureux, tous les millions d’êtres, hormis une centaine de mille qui les dirigent. Car nous seuls, les gardiens du secret, nous serons malheureux. Il y aura des centaines de millions d’enfants heureux et cent mille martyrs ayant pris sur eux la malédiction de la connaissance du bien et du mal.

Auteur: Dostoïevski Fédor Mikhaïlovitch

Info: Discours du Grand Inquisiteur au Christ, dans "Les Frères Karamazov", volume 1, traduction d'Elisabeth Guertik, le Cercle du bibliophile, pages 332-333

[ sécularisation ] [ modernité ] [ socialisme ] [ totalitarisme ] [ directeurs de conscience ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]