adaptation

Si tes vertus entravent ton salut, abandonne-les car elles se sont transformées en maux.

Auteur: Jung Carl Gustav

Info: Le Livre Rouge

[ auto évaluation ]

introspection

Nous avons le coeur étrangement léger quand, de bonne foi, nous acceptons notre nullité dans un domaine quelconque.

Auteur: James William

Info: Principles of Psychology, XII

[ réconfort ] [ auto évaluation ] [ résignation ]

introspection

Je ne suis presque jamais sérieux, et je suis toujours trop sérieux. Trop profond, trop peu profond. Trop sensible, trop froid au cœur. Je suis une collection de paradoxes.

Auteur: Saussure Ferdinand de

Info:

[ auto évaluation ] [ perdu ]

schize

Si on nous donne instruction de faire des véhicules électriques, il faut aussi que les administrations et les autorités assument la responsabilité scientifique. Parce que je ne voudrais pas que dans trente ans on ait découvert les uns ou les autres quelque chose qui n'est pas aussi beau que ça en a l'air sur le recyclage des batteries, l'utilisation des matières rares de la planète ou sur les émissions électromagnétiques de la batterie en situation de recharge.

Auteur: Tavares Carlo

Info:

[ évaluation du risque ] [ totalitarisme économique ] [ précaution technologique ]

question

Beaucoup trop ne veulent pas savoir où se trouve leur aspiration profonde, car cela leur paraîtrait impossible ou trop affligeant. Et pourtant l’aspiration profonde est le chemin de la vie. Si tu ne t’avoues pas ton aspiration profonde, alors tu ne te suis pas toi-même, mais tu empruntes des chemins étrangers qui t’ont été désignés par d’autres. Ainsi tu ne vis pas ta vie, mais une vie étrangère. Mais qui vivra ta vie si tu ne la vis pas toi-même ?

Auteur: Jung Carl Gustav

Info: Le Livre Rouge

[ auto évaluation ] [ ego ]

auto évaluation

Lorsqu'il glissa sa clé dans la serrure, le froid pénétra son cœur. Il resta debout dans sa chambre sombre sans allumer la lumière. Pour l'amour de Dieu, pensa-t-il. Où as-tu la tête ? Mais que pourrais-tu donc offrir à une fille comme elle, ne sois pas idiot, tu t'es laissé tomber en miettes, les miettes ont disparu et il n'y a pas maintenant plus rien à offrir, tu ne peux pas cacher ça bien longtemps, un jour ou l'autre elle saisira la vérité : tu n'es que la coquille d'un homme, il lui suffira de se cogner contre toi et elle comprendra que tu es vide.

Auteur: Krauss Nicole

Info: L'histoire de l'amour

[ lucidité ] [ pessimisme ] [ femmes-hommes ] [ auto-dénigrement ]

école

Les notes sont un problème. Au niveau le plus général, elles reconnaissent explicitement que ce que vous faites n'est pas suffisamment intéressant ou enrichissant pour que vous le fassiez vous-même. Personne ne vous a jamais donné une note pour apprendre à jouer, à faire du vélo ou à baiser. Une des meilleures façons de détruire l'amour pour une de ces activités serait l'utilisation de notes, avec la coercition et le jugement qu'elles impliquent. Les notes sont un bâton pour matraquer ceux peu disposés à faire ce qui le rebute, un instrument important pour inculquer aux enfants une servitude "à vie" à quelque autorité que ce soit, au-dessus d'eux.

Auteur: Jensen Derrick

Info:

[ formatage ] [ évaluations ] [ notation ]

ligne de conduite

Un anarchiste rationnel croit que des concepts tels que "État", "société" et "gouvernement" n'ont pas d'existence, sauf à être illustrés physiquement par les actes d'individus auto-responsables. Il croit qu'il est impossible de déplacer le blâme, de partager le blâme ou le distribuer... car le reproche, la culpabilité, la responsabilité sont des questions qui se déroulent à l'intérieur des êtres humains et nulle part ailleurs. Mais comme il est rationnel, il sait que tous les individus ne partagent pas ses évaluations, il essaie donc de vivre parfaitement dans un monde imparfait... conscient que son effort sera moins que parfait, mais pas découragé par la connaissance de son propre échec.

[...]

Ce que je veux dire, c'est qu'un individu est responsable. Toujours. [...] En termes de morale, il n'y a pas d'"État". Seulement des hommes. Des individus. Chacun étant responsable de ses propres actes.

Auteur: Heinlein Robert A.

Info: The Moon Is a Harsh Mistress

[ communautarisme ] [ définition ] [ responsabilité individuelle ]

instinct

Réflexes automatiques
La plupart de nos expériences "venant des tripes", telles qu'aimer instantanément - ou détester de suite par jugement lors de la rencontre d'une personne nouvelle sont bonnes. Des chercheurs de Leeds prétendent que ces sentiments - ou intuitions - sont vrais et que nous devrions les prendre au sérieux.
Selon le team mené par le professeur Gerard Hodgkinson du Centre for Organisational Strategy, Learning and Change at Leeds University Business School, l'intuition est le résultat de la manière dont notre cerveau traite et recherche l'information à un niveau subconscient. C’est donc un vrai phénomène psychologique qui nécessite davantage d'étude pour nous aider à améliorer son potentiel.
On a recensé beaucoup de cas où l'intuition a empêché des catastrophes, tout comme certains cas de rétablissements remarquables lorsque les médecins ont suivi leurs sentiments intuitifs. Pourtant, historiquement, la science a toujours ridiculisé le concept de l'intuition, le mettant dans la même boîte que la parapsychologie, la phrénologie et autres pratiques pseudo scientifiques.
Par l'analyse d'un éventail de documents de recherches examinant ce phénomène, les chercheurs concluent que l’intuition vient de ce que le cerveau, s'appuyant sur des expériences antérieures ainsi que sur des signes externes, prend une décision si rapidement que cette réaction est à un niveau non-conscient. Tout ce dont nous nous rendons compte c'est un sentiment général comme quoi ce quelque chose est exact ou erroné.
"Les gens expérimentent habituellement cette intuition vraie quand ils sont sous une forte pression ou dans une situation de la surcharge d'information ou de danger est aigu, ainsi l'analyse consciente de la situation peut être difficile ou impossible" dit le prof. Hodgkinson.
Il cite ce cas d'un conducteur de formule un qui freina brusquement en arrivant dans une courbe resserrée sans savoir pourquoi – qui, par conséquence a évité la collision avec des voitures arrêtées sur la voie, sauvant probablement sa vie.
"Le conducteur n’a pas pu expliquer pourquoi il a senti qu'il devrait s'arrêter, mais cette intuition fut beaucoup plus forte que son désir de gagner la course," dit le prof Hodgkinson."Il a subi l'analyse de psychologues après, où il lui a été montré la vidéo de l'événement afin de revivre mentalement. Rétrospectivement il s'est rendu compte que la foule, qui normalement l'aurait encouragé, ne le regardait pas mais regardait de l'autre côté de manière statique. C'était la cause. Il ne l'avait pas consciemment traitée, mais il avait vu que quelque chose s'était passé."
Hodgkinson pense que toutes les expériences intuitives se basent sur l'évaluation instantanée de tel ou telle sélection d’informations, externes ou internes - mais sans spéculer quand a savoir si ces décisions intuitives sont nécessairement les bonnes.
"Les humains ont clairement besoin de processus de pensée conscients et non-conscients, mais comment savoir si l’un ou l’autre est intrinsèquement `meilleur 'que l'autre." dit-il.

Auteur: Internet

Info: British Journal of Psychology, 2005, via Fortean TImes

[ vitesse ] [ première impression ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]