génétisme

On pourrait penser... que les arguments évolutionnistes joueraient un rôle important dans l'orientation de la recherche biologique, mais c'est loin d'être le cas. Il est déjà difficile d'étudier ce qui se passe aujourd'hui. Il est encore plus difficile de comprendre exactement ce qui s'est passé au cours de l'évolution. Les résultats de l'évolution peuvent donc servir d'indices pour suggérer des pistes de recherche, mais il est extrêmement dangereux de leur accorder trop de confiance. Il est trop facile de faire des déductions erronées à moins que le processus en question ne soit déjà très bien compris.

Auteur: Crick Francis Harry Compton

Info: In What Mad Pursuit : A Personal View of Scientific Discovery (1988), 138-139.

[ compréhension recul ] [ primordial empirisme ]

exister

Il y a, insondable, le prodige que quelque chose existe. Entre le gouffre du passé et le gouffre de l'avenir, sur la goutte de boue terrestre, l'homme émerge une seconde, éperdu, ahuri, parmi les mystères impénétrables du Temps, de l'Espace, de la Matière, des Causes et des Fins.

Éphémère atome d'atome, il étreint l'universel des aspirations de son cœur et de son cerveau. Il est aussi incapable de déchiffrer un coin de l'énigme où il est compris que le moucheron de s'élever d'un battement d'ailes au-dessus de l'atmosphère qui le contient. Desservi par ses sens imparfaits, il perçoit des choses que des impressions partielles et falotes. Elles suscitent en lui des images baroques d'où s'engendrent des conceptions erronées qu'il est incapable de transmettre sans les travestir.

Auteur: Lichtenberger André

Info:

[ mystère ]

ouverture

De nombreuses hypothèses proposées par des scientifiques et des non-scientifiques se révèlent erronées. Mais la science est une entreprise qui se corrige d'elle-même. Pour être acceptées, toutes les nouvelles idées doivent résister à des normes rigoureuses de preuve. Le pire aspect de l'affaire Velikovsky n'est pas que ses hypothèses étaient erronées ou en contradiction avec des faits fermement établis, mais que certains, qui se disaient scientifiques, ont tenté de supprimer les travaux de Velikovsky. La science est née et s'est consacrée au libre examen : l'idée que toute hypothèse, aussi étrange soit-elle, mérite d'être examinée en fonction de ses mérites. La suppression d'idées gênantes peut être courante dans la religion et la politique, mais ce n'est pas la voie de la connaissance ; elle n'a pas sa place dans l'effort de la science. Nous ne savons pas à l'avance qui découvrira de nouvelles idées fondamentales.

Auteur: Sagan Carl

Info: Cosmos

[ rejet sans examen ]

xénophobie

Le racisme, au niveau individuel, peut être considéré comme un modèle prédictif qui tourbillonne dans les esprits de milliards d'êtres humains à travers le monde. Il est construit à partir de données erronées, incomplètes ou généralisées. Qu'elles proviennent de l'expérience ou du ouï-dire, les données indiquent que certaines catégories de personnes se sont mal comportées. Voilà qui génère une prédiction binaire comme quoi toutes les personnes de cette race se comporteront de la même façon. Inutile de dire que les racistes ne passent pas beaucoup de temps à rechercher des données fiables pour former leurs modèles tordus. Et une fois que ce dernier s'est transformé en croyance, il est ancré. Il génère des hypothèses empoisonnées, mais les teste rarement, se contentant plutôt de données qui semblent les confirmer et les renforcer. Par conséquent, le racisme est le plus négligé des modèles prédictifs. Il est alimenté par une collecte de faits et de données hasardeuse et des corrélations fallacieuses, renforcé par les inégalités institutionnelles et pollué par les biais de confirmation.

Auteur: O'Neil Cathy

Info: Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy

[ pulsions orientées ] [ métadonnées ] [ pouvoir numérique ]

racisme

Nous avons établi des données sur ce que nommons race et intelligence. Mon opinion est nous ne savons pas ce qu'elles signifient. Il n'y a pas assez de travail ; il n'y a pas assez de personnes qui s'y sont employées à ce stade... Et la définition d'"héréditaire" constitue un sérieux problème.

Par exemple : disons qu'existait une croyance selon laquelle les personnes dotées d'une crête frontale sont stupides. Une croyance répandue. Et cette crête était encodée génétiquement. Ce qui conduisait à ce que ces individus soient victimes de discrimination, à l'école par exemple, vu que la crête indiquait aux enseignants qu'ils n'étaient pas susceptibles d'être intelligents, et qu'on leur donnait donc des leçons plus simples ; ils étaient ignorés ou quelque chose comme ça.

Ce mécanisme peut donc être appréhendé comme la forme d'une différence d'intelligence génétiquement héréditaire entre individus - avec et sans crête. Ceci impliquant qu'une caractéristique codée dans le génome peut modifier une interaction des individus entre eux au point de produire une différence d'intelligence.

[...] Nous sommes si peu avancés dans l'étude de ce genre de sujet que nous ne savons rien. Et la nature taboue de ces questions engendre un vacuum empli de perspectives artificiellement pures (et probablement erronées).

Auteur: Weinstein Bret Samuel

Info:

[ apparence ] [ préjugés ]

hyper-complexité

Il est aisé de s'apercevoir que la variété prodigieuse qui apparaît à la fois dans les œuvres de la nature et dans les actions des hommes, et qui constitue la plus grande partie de la beauté de l'univers, est due à la multitude de manières différentes dont ses diverses les pièces sont mélangées ou placées à proximité les unes des autres. Mais, parce que le nombre de causes qui concourent à produire un événement ou un effet donné est souvent si immensément grand, et les causes elles-mêmes sont si différentes les unes des autres, qu'il est extrêmement difficile de compter toutes les différentes manières dont elles se produisent. peuvent être arrangés ou combinés ensemble, il arrive souvent que des hommes, même les plus intelligents et les plus circonspects, soient coupables de cette faute de raisonnement que les auteurs de logique appellent l'énumération insuffisante ou imparfaite des parties ou des cas : en sorte que j'oserai affirmer que c'est la principale, et presque la seule, source du grand nombre d'opinions erronées, et celles trop souvent dans des matières de grande importance, que nous sommes susceptibles de former sur tous les sujets que nous abordons. réfléchir, qu'elles se rapportent à la connaissance de la nature, ou aux mérites et motifs des actions humaines. Il faut donc admettre que cet art qui apporte un remède à cette faiblesse ou à ce défaut de notre entendement, et nous enseigne ainsi à énumérer toutes les manières possibles dont un certain nombre de choses peuvent être mélangées et combinées ensemble, que nous peut être certain que nous n'avons omis aucun arrangement d'entre eux qui peut conduire à l'objet de notre enquête, mérite d'être considéré comme le plus éminemment utile et digne de notre plus haute estime et attention. Et c'est l'affaire de l'art, ou doctrine des combinaisons.  

Auteur: Bernoulli Jakob

Info: "Ars Conjectandi" 1713

[ limitation ] [ esprit de listes ]

patronymes

Qu’avons-nous montré jusqu’ici, si tant est que nous ayons montré quoi que ce soit ? Premièrement, j’ai dit qu’il y a une doctrine généralement admise concernant la façon dont la référence des noms est déterminée et que cette doctrine, en général, n’est pas conforme à la réalité. Il n’est pas vrai, en règle générale, que la référence d’un nom soit déterminée par des traits singularisants, des propriétés identifiantes que possède le réfèrent et dont le locuteur sait ou croit que le réfèrent les possède. D’abord, il n’est pas nécessaire que les propriétés auxquelles pense le locuteur soient singularisantes. Ensuite, même si elles le sont, elles peuvent très bien ne pas être vraies du réfèrent que vise effectivement le locuteur, mais de quelque chose d’autre ou de rien du tout. C’est le cas lorsque le locuteur a des croyances erronées au sujet d’une certaine personne. Ce n’est pas qu’il ait des croyances correctes au sujet de quelqu’un d’autre, mais il a des croyances erronées au sujet d’une certaine personne. Dans des cas de ce genre, la référence semble finalement déterminée par le fait que le locuteur fait partie d’une communauté de locuteurs qui utilisent le nom. Le nom lui a été transmis grâce à une tradition, de maillon en maillon.



Deuxièmement, j’ai dit que même si, dans certains cas spéciaux, notamment dans certains cas de baptême initial, un réfèrent est effectivement déterminé par une description, par une propriété singularisante, bien souvent la fonction de la propriété n’est pas de fournir un synonyme, de fournir quelque chose dont le nom est une abréviation. Sa fonction, c’est de fixer la référence. Elle fixe la référence au moyen de certains traits contingents de l’objet. Le nom qui dénote cet objet est alors utilisé pour désigner l’objet en question, même en référence à des situations contrefactuelles dans lesquelles l’objet n’a pas les propriétés en question.

Auteur: Kripke Saul Aaron

Info: La logique des noms propres

[ idées reçues ] [ mots secondéïtés ]

dessein

Les philosophes regardent depuis longtemps l'intentionnalité comme un phénomène déroutant, car il est difficile de voir comment elle peut apparaître dans un monde purement physique. Après tout, les états mentaux dépendent vraisemblablement du cerveau, et donc des neurones et de leurs interconnexions, mais les neurones ne semblent pas "porter" sur quoi que ce soit, ni avoir un contenu représentationnel. Dès lors, comment l'intentionnalité peut-elle s'intégrer dans le monde décrit par la science moderne ?

Dans les années 1980, la philosophe Ruth Millikan a proposé une solution ingénieuse à cette énigme en s'inspirant du darwinisme.

Pour illustrer son idée de base, prenons l'exemple de la danse ondulatoire de l'abeille mellifère.Il s'agit d'une danse complexe en forme de huit que les abeilles utilisent pour signaler à leurs compagnes de ruche l'emplacement d'une source de nourriture. Comme la danse de l'abeille a été façonnée par la sélection naturelle dans un but particulier - indiquer correctement où se trouve la nourriture - nous permet de discerner une sorte de proto-intentionnalité dans la danse ondulatoire.

Nous pouvons raisonnablement dire qu'une danse particulière signifie que la nourriture est située à 30 mètres dans la direction du soleil, au sens où la fonction biologique de la danse est d'inciter les compagnes de la ruche à voler jusqu'à cet endroit. La danse ondulatoire de l'abeille est donc susceptible de donner lieu à des représentations erronées, car la nourriture pourrait ne pas se trouver réellement à cet endroit, par exemple si l'abeille a accidentellement exécuté la mauvaise chorégraphie. En bref, l'idée de Millikan est que le contenu représentationnel peut être rendu scientifiquement admissible en le réduisant à une fonction biologique, une notion qui joue un rôle de bonne foi en biologie de l'évolution. Cette tentative audacieuse de naturaliser l'intentionnalité est controversée, mais elle illustre comment une perspective biologique peut aider à éclairer une vieille question philosophique.

Auteur: Okasha Samir

Info: Philosophie de la biologie : Une très courte introduction

[ but ] [ téléonomie ] [ motivation ]

être humain

Dans ce qui va suivre, j'utiliserai la notion de "pédagogie noire" pour désigner cette attitude hautement complexe, le contexte permettant chaque fois de comprendre quel aspect je fais passer au premier plan. Les différents aspects caractéristiques ressortent directement des citations précédentes qui nous enseignent les principes suivants :
1.que les adultes sont les maîtres (et non pas les serviteurs!) de l'enfant encore dépendant ;
2.qu'ils tranchent du bien et du mal comme des dieux ;
3.que leur colère est le produit de leurs propres conflits ;
4.qu'ils en rendent l'enfant responsable ;
5.que les parents ont toujours besoin d'être protégés ;
6.que les sentiments vifs qu'éprouve l'enfant pour son maître constituent un danger ;
7.qu'il faut le plus tôt possible "ôter à l'enfant sa volonté" ;
8.que tout cela doit se faire très tôt de manière à ce que l'enfant "ne s'aperçoivent de rien" et ne puisse pas trahir l'adulte.
***
L'une des méthodes de la "pédagogie noire" consiste également à transmettre dès le départ à l'enfant des informations et des opinions fausses. Ces dernières se transmettent depuis des générations et sont respectueusement reprises à leur compte par les enfants, alors que non seulement leur validité n'est pas prouvée, mais qu'il est prouvé qu'elles sont fausses. Entre autres opinions erronées, on peut citer par exemple les principes selon lesquels ;
1.le sentiment du devoir engendre l'amour ;
2.on peut tuer la haine par des interdits ;
3.les parent méritent a priori le respect en tant que parents ;
4.les enfants ne méritent a priori aucun respect ;
5.l'obéissance rend fort ;
6.un sentiment élevé de sa propre valeur est nuisible ;
7.un faible sentiment de sa propre valeur est nuisible ;
8.les marques de tendresse sont nocives (mièvrerie) ;
9.il ne faut pas céder aux besoins de l'enfant ;
10.la dureté et la froideur sont une bonne préparation à l'existence ;
11.une reconnaissance simulée vaut mieux qu'une sincère absence de reconnaissance ;
12.l'apparence est plus importante que l'être ;
13.les parents ni Dieu ne pourraient supporter la moindre injure ;
14.les corps est quelque chose de sale et de dégoûtant ;
15.la vivacité des sentiments est nuisible ;
16.les parents sont des êtres dénués de pulsions et exempts de toute culpabilité ;
17.les parents ont toujours raison.

Auteur: Miller Alice

Info: C'est pour ton bien, p. 77

[ dressage ]

homme-machine

Illustrer l'apprentissage par renforcement à partir de commentaires humains (RLHF*)

Les modèles de langage ont montré des capacités impressionnantes au cours des dernières années en générant des textes variés et convaincants à partir d'entrées humaines. Cependant, il est difficile de définir ce qu'est un "bon" texte, car c'est subjectif et ça dépend du contexte. Il existe de nombreuses applications telles que l'écriture d'histoires où l'on recherche la créativité, des textes informatifs qui doivent être véridiques, ou des extraits de code que l'on veut exécutables.

Rédiger une fonction de perte** pour capturer ces attributs semble impossible et la plupart des modèles de langage sont encore entraînés avec une simple perte de prédiction du prochain jeton (par exemple, l'entropie croisée). Pour compenser les lacunes de la perte elle-même, les gens définissent des métriques conçues pour mieux capturer les tropismes humains, telles que BLEU ou ROUGE. Bien qu'elles soient mieux adaptées que la fonction de perte elle-même pour mesurer les performances, ces mesures comparent simplement le texte généré à des références avec des règles simples et sont donc également limitées. Ne serait-il pas formidable d'utiliser le retour d'information humain sur le texte généré comme mesure de la performance ou d'aller encore plus loin et d'utiliser ce retour d'information comme perte pour optimiser le modèle ? C'est l'idée de l'apprentissage par renforcement à partir du feedback humain (RLHF)

Le RLHF a permis aux modèles de langage de commencer à aligner un modèle formé sur un corpus général de données textuelles sur celui de valeurs humaines complexes.

Le succès le plus récent de RLHF a été son utilisation dans ChatGPT. Compte tenu des capacités impressionnantes de ChatGPT, nous lui avons demandé de nous expliquer la RLHF :  

- Peux-tu m'expliquer comment le RL (reinforcement learning) avec retour d'information humain usant un modèle linguistique comme si j'avais 5 ans.

- Bien sûr, imagine que j'ai un robot nommé Rufus qui veut apprendre à parler comme un humain.  Rufus a un modèle linguistique qui l'aide a comprendre les mots et les phrases.

Tout d'abord Rufus va dire quelque chose en usant d'un modèle de langage, par exemple en disant :  - je suis un robot

Ensuite un humain va écouter ce qu'il a dit et va donner un avis pour dire si la réponse ressemble à langage naturel d'humain. Il pourra dire, par exemple. C'est pas très bon Rufus, un humain ne dit pas de manière générale "je suis un robot" mais plutôt "j'suis un robot" ou "je suis une machine".

Rufus va prendre en compte ce retour et l'utuiliser pour améliorer son modèle de langage, il va essayer de redire la phrase en utilisant  cette correction et va dire "j'suis un robot".

Ensuite l'humain va continuer de donner des retours de ce genre et petit à petit Rufus va commencer à s'exprimer comme un humain le fait en général.

Ici Chatgtp se débrouille étonnamment bien, mais ne couvre pas tout. Nous nous chargeons de combler ces lacunes !  (La suite sur le site en Info)

Auteur: Internet

Info: Sur guithub : https://huggingface.co/blog/rlhf, Nathan Lambert, Louis Castricato guest , Leandro von Werra, Alex Havrilla guest. Le 9 décembre 2022 *Reinforcement Learning from Human Feedback ... **Courbe de perte ? (loss function) À la base, une fonction de perte est très simple : c'est une méthode permettant d'évaluer dans quelle mesure votre algorithme modélise votre ensemble de données. Si vos prédictions sont totalement erronées, votre fonction de perte affichera un chiffre élevé. Si elles sont assez bonnes, elle affichera un chiffre plus bas.  C'est une pénalité pour  mauvaise prédiction. En d'autres termes, la perte (loss) est un nombre qui indique à quel point la prédiction du modèle est mauvaise sur un seul exemple. Si la prédiction du modèle est parfaite, la perte est nulle ; elle affichera le chiffre zéro.

[ apprentissage automatique ] [ idiome consensuel ] [ anti-poésie ] [ objectivation linguistique ] [ polysémie contextualisée ] [ mathématisation ]