incomplétude

Nous pourrions répondre : ce n’est pas nous qui ne savons pas ce que nous voulons, c’est la vérité qui est déchirée et décousue, ce sont les vérités qui sont sporadiques et incompatibles et ne peuvent être honorées toutes ensemble.

Auteur: Jankélévitch Vladimir

Info: Dans "La conscience juive", Editions de l’Herne, Paris, 2023, page 55

[ cohérence illusoire ] [ impossible ] [ judaïsme ] [ besoin de conclure ]

fanatique

Il devrait être bien clair aujourd'hui qu'on n'expliquera pas l'univers dans tous ses détails par une seule formule ou par une seule théorie. Et pourtant le cerveau humain a un tel besoin d'unité et de cohérence que toute théorie de quelque importance risque d'être utilisée de manière abusive et de déraper vers le mythe.

Auteur: Jacob François

Info: Le jeu des possibles, Fayard 1981 <p.48>

famille

Chez les humains, on a établi que la qualité de la relation entre les parents et leurs enfants, définie par le degré d'empathie des parents et leur réponse à ses besoins émotionnels, détermine, plusieurs années plus tard, la tonicité de son système parasympathique, c'est-à-dire le facteur précis qui favorise la cohérence du rythme cardiaque et permet de mieux résister au stress et à la dépression.

Auteur: Servan-Schreiber David

Info: Guérir le stress, l'anxiété et la dépression sans médicaments ni psychanalyse

[ équilibre ] [ éducation ]

évolution

L’essence du vivant est une mémoire, la préservation physique du passé dans le présent. En se reproduisant, les formes de vie relient le passé au présent et enregistrent des messages pour l’avenir. Les bactéries qui aujourd’hui fuient l’oxygène rappellent le monde dénué d’oxygène dans lequel elles ont pris naissance. Les poissons fossiles racontent que des étendues d’eau ouvertes existent sans discontinuer depuis des centaines de millions d’années. Les graines qui ont besoin de températures polaires pour germer évoquent des hivers glacés. L’embryon humain récapitule certaines des premières phases du développement des animaux.

Auteur: Margulis Lynn

Info: Dans "L'univers bactériel", page 64

[ cohérence ] [ transmission ]

introspection

Solitude : c'est le même mot pour deux situations opposées, la solitude subie, la solitude désirée. La première est dramatique ; j'ai besoin des autres, et personne n'est là. Je suis comme un feu qui meurt étouffé, faute d'oxygène. La seconde est, à certains moments, nécessaire pour retrouver la cohérence de tous les matériaux qui se sont accumulés, pour renouer des fils, pour se préparer à de nouvelles rencontres. Cette solitude choisie peut être aussi, elle-même, l'occasion d'une rencontre : c'est tout le miracle de la lecture ; quel bonheur que d'entendre Montaigne nous faire des confidences !

Auteur: Jacquard Albert

Info: Petite philosophie à l'usage des non-philosophes, p. 19, Éd. Québec-Livres

conditionnement

Je mène une certaine vie ; je pense d’une certaine façon ; j’ai mes croyances, j’accepte certains dogmes ; et je ne veux pas perdre ces armatures de mon existence car j’ai mes racines en elles. Je ne veux pas qu’on les conteste, je ne veux pas que l’on vienne me troubler, car je me trouverais dans l’incertitude détestable de celui qui ne sait pas. Si l’on m’arrachait à tout ce que je sais et crois, je voudrais avoir une certitude raisonnée quant à ma nouvelle condition. Ainsi il se trouve que les cellules de mon cerveau se tracent certains circuits et qu’elles refusent d’en tracer d’autres, qui comporteraient une part d’incertitude.

Auteur: Krishnamurti Jiddu

Info: Dans "Se libérer du connu"

[ identité ] [ besoin de cohérence ] [ remise en question ]

besoin de croissance

Ce qui me manque, au fond, c’est de voir clair en moi, de savoir ce que je dois faire, et non ce que je dois connaître... Il s’agit de comprendre ma destination, de voir ce que Dieu au fond veut que je fasse ; il s’agit de trouver une vérité qui en soit une pour moi, de trouver l’idée pour laquelle je veux vivre et mourir.

C’est de cela que mon âme a soif, comme les déserts de l’Afrique aspirent après l’eau…

C’est là ce qui me manque pour mener une vie pleinement humaine et pas seulement bornée au connaître, afin d’en arriver par-là à baser ma pensée sur quelque chose qui tienne aux plus profondes racines de ma vie, par quoi je sois comme greffé sur le divin et qui s’y attache, même si le monde croulait. C’est bien cela qui me manque et à quoi j’aspire.

Auteur: Kierkegaard Søren Aabye

Info:

[ action ] [ cohérence ] [ individuation ] [ quête ]

écologie

Dans la mesure où la survie future de la société dépend de fait que l'humanité trouve une alternative au mode de production des espèces (déjà sur des bases légales), nous pourrions étendre la métaphore et comparer les contre-attaques intrusives du système quand à ses propres droits animaux à un désordre auto-imune fatal, puisque la société cherche activement à détruire ce qui pourrait la sauver (Quoique sous une forme modifiée). Dans cette guerre contre la vérité, l'individu est recruté comme un "anticorps".
D'où la cohérence frappante avec laquelle les gens des milieux les plus divers répondent à la critique des droits des animaux actuels. Quoique complètement non coordonnées et spontanées, leurs réponses sont néanmoins coordonnées au niveau idéologique, formant une toile transparente de "bon sens". Indépendamment les uns des autres, les individus offrent les mêmes arguments fallacieux pour détourner la force morale de cette critique des droits des animaux. Mis en demeure de repenser la base morale de l'agriculture animale, chaque mangeur de viande a la même demi-douzaine de réponses à disposition pour y répondre, souvent exprimées de manière malicieuse comme des "questions"
- Et le lion qui mange la gazelle? (D'autres animaux mangent des animaux, il est donc naturel et éthique pour nous de les manger.)
- Qu'en est-il des plantes? (Les plantes sont vivantes, après tout. Un changement vers le végétarisme entraînerait plus de morts de végétaux.)
- Et les Américains de souche ? Eux priaient pour les animaux après les avoir tués, et utilisaient toutes les parties de leurs corps. (Ce n'est donc pas mauvais pour nous de tuer des animaux, si nous le faisons "respectueusement" sans gaspiller les autres parties de leur corps.)
- Et si nous mettons fin à l'agriculture animale, d'où viendra la terre pour cultiver toutes les nouvelles cultures dont nous aurons besoin? (Le véganisme conduirait à une apocalypse écologique.)
- Si nous cessions de manger de la viande, que deviendront tous les animaux de ferme? (Nous leur faisons une fleur en les amenant à l'existence, ils nous "doivent" quelque chose).

Auteur: Sanbonmatsu John

Info: The Animal Of Bad Faith, anti-veganism as a societal autoimmune disorder

[ environnement ]

sensibilité médiévale

Evoquons devant nous les contemporains de François Rabelais, leurs violences et leurs caprices, leur peu de défense contre les impressions du dehors, l’extraordinaire mobilité de leur humeur, cette étonnante promptitude à s’irriter, à s’injurier, à tirer l’épée, puis à s’embrasser et à se cajoler : tout ce qui nous explique tant de querelles pour rien, d’accusations atroces de vol et de plagiat, d’appels à la justice de Dieu et des hommes – à quoi sans intervalles succèdent d’affreux coups d’encensoir, et les plus folles comparaisons avec Homère, Pindare, Virgile et Horace. Produits naturels d’une vie toute en contrastes. Et bien plus marquée que nous ne saurions l’imaginer. Contrastes du jour et de la nuit, ignorés de nous dans nos demeures électrifiées ; contrastes de l’hiver et de l’été, adoucis pour nous, en temps normal, par mille inventions : ils en subissaient eux, la rigueur et la nécessité, à peu près sans atténuation, et pendant des semaines et des mois. Egalisation des conditions de vie, égalisation des humeurs : les deux se suivent et se conditionnent. Mais pareillement nos nerfs se sont blasés. Nous avons trop mangé de fruits – de ces fruits dont nous gardons, comme dit la Bible, "les dents agacées". Eux ? Ce n’étaient point des blasés, Dieu non ; et pour ne retenir que cet exemple, comme ils étaient sans défense contre l’attaque violente et souveraine des sons ! Pensons toujours à ce passage des Contes d’Eutrapel où Noël Du Fail nous décrit l’effet, sur les hommes de son temps, du célèbre chœur descriptif de Clément Janequin, la Bataille de Marignan. Personne qui échappât aux prises de cette musique puissante et puérile avec ses "bruits de bataille" en harmonie imitative, personne qui, exalté par les sons, « ne regardât si son épée tenoit à son fourreau, et ne se haussât sur ses orteils pour se rendre plus bragard et de la riche taille..."

Simples gens, qui se livraient sans contrôle. Mais nous nous refoulons.

[...] Voici qui déjà nous avertit qu’entre les façons de sentir, de penser, de parler des hommes du XVIe siècle et les nôtres – il n’y a pas vraiment de commune mesure. Nous enchaînons : ils laissent flotter. Des générations, depuis le XVIIe siècle et Descartes, ont inventorié pour nous, analysé, organisé l’espace. Elles nous ont dotés d’un monde bien arrêté où chaque chose et chaque être a ses frontières parfaitement délimitées. Des générations, depuis la même époque, ont travaillé à faire du temps, de plus en plus précisément mesuré, le cadre rigide de nos activités. Tout ce grand travail, au XVIe siècle, commençait à peine. Ses résultats n’avaient point encore, par voie de conséquence, engendré en nous le besoin impérieux d’une certaine logique, d’une certaine cohérence, d’une certaine unité.

Auteur: Febvre Lucien

Info: "Le problème de l'incroyance au 16e siècle", éditions Albin Michel, Paris, 1968, pages 99-100

[ état d'esprit ] [ contextualisation ] [ exacerbée ] [ incompréhensibilité moderne ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]