éducation

L'instruction apprise ne prouve rien, ne rime à rien, est complètement inutile, pour ne pas dire malfaisante, et ne fera jamais d'un imbécile un homme intelligent, d'un cerveau obtus un cerveau actif, et d'un être sans compréhension un être capable de jugement personnel. La seule instruction qui compte, et qui donne des fruits, c'est celle qu'on se donne soi-même car seule elle prouve chez un individu le désir de savoir et l'aptitude au savoir. Elle a de plus cet avantage qu'on s'instruit selon le sens de son esprit, en conformité avec lui, d'une manière appropriée à la nature de son être, à ses tendances et à ses goûts, ce qui ajoute encore à l'efficacité de cette instruction. En réalité, l'enseignement pédagogique est fait pour les paresseux, pour les esprits sans curiosité, pour les individus qui resteraient complètement ignares si on ne leur apprenait pas quelque chose de force, pour ainsi dire. Il n'y a que l'élite qui compte, et l'élite ne se constitue pas avec des diplômes. Elle tient à la nature même de certains individus, supérieurs aux autres de naissance, et qui développent cette supériorité par eux-mêmes, sans avoir besoin de l'aide d'aucuns pédagogues, gens, le plus souvent, fort bornés et fort nuisibles.

Auteur: Léautaud Paul

Info: Passe-temps, Oeuvres, Mercure de France 1988 <p.268-269>

motiver

La sensibilité aux incitations
Le pouvoir colonial français établi à Hanoi a voté une loi : chaque rat tué et rapporté donnait droit à une rétribution. Un bon moyen de limiter la prolifération des nuisibles, croyait-il. Résultat : tout le monde s'est lancé dans l'élevage de rats.
...
Lorsque les manuscrits de la Mer Morte ont été découverts à partir de 1947, les archéologues ont promis une récompense pour la découverte de tout nouveau parchemin. Résultat : les parchemins ont été déchirés pour augmenter leur nombre.
...
La même chose s'est produite au XIXe siècle en Chine lorsqu'on promit une récompense pour la mise au jour d'ossements de dinosaures. Les paysans ont exhumé des restes entiers et les ont réduits en pièces pour multiplier les sommes perçues.
...
Le conseil d'administration d'une entreprise a promis une prime aux managers s'ils atteignaient leurs objectifs. Que s'est-il passé ? Les managers ont dépensé davantage d'énergie à se fixer les objectifs les plus faciles à atteindre qu'à s'efforcer de faire prospérer l'entreprise.
...
Ce sont quelques exemples de la sensibilité aux incitations. (...)
...
Voilà des systèmes incitatifs efficaces font coïncider intention et incitation.
Exemple : dans la Rome antique, le constructeur d'un pont devait se tenir debout sous la voûte au moment de l'inauguration de l'édifice. Une bonne incitation à construire un ouvrage suffisamment stable.
...
En revanche, les systèmes incitatifs les moins efficaces ratent leur intention ou la pervertissent.
Ainsi, le contenu d'un livre est d'autant plus connu que l'ouvrage fait l'objet d'une censure.
Ou les banquiers qui perçoivent une rétribution à chaque crédit octroyé contribuent à la détérioration de la qualité du portefeuille de crédits de leur établissement.

Auteur: Dobelli Rolf

Info: Arrêtez de vous tromper : 52 erreurs de jugement qu'il vaut mieux laisser aux autres...

[ exemples ] [ inattendu ] [ surprise ] [ avidité ]

castrateurs

(...) Ceux qui font autorité dans un domaine ou dans un autre soulèvent deux problèmes.

D'abord, leurs résultats sont souvent décevants.

Ils sont environ un million d'économistes diplômés sur cette planète, et aucun n'a été capable de prévoir l'arrivée de la crise financière (...)

Aucun groupe d'experts n'a jamais essuyé d'échec aussi spectaculaire.

Le bilan du corps médical n'est guère meilleur : jusqu'en 1900, il était préférable de s'abstenir d'aller chez le médecin lorsqu'on était malade si l'on ne voulait pas voir son état s'aggraver (absence d'hygiène, saignées et autres pratiques nuisibles).

Mais ce premier problème n'est pas le plus grave. Que les spécialistes se trompent souvent ... après tout, l'erreur est humaine.

Non, le pire, c'est que nous n'osons presque plus penser par nous-mêmes en présence d'une figure d'autorité. (...)

Les experts veulent être reconnus. C'est pourquoi ils ont absolument besoin de signes distinctifs pour montrer qui ils sont. Les médecins et les chercheurs ont leur blouse blanche, les directeurs de banque leur costume-cravate.

La cravate n'est rien d'autre qu'un signe extérieur d'autorité. Les rois portent des couronnes. Les militaires des insignes. Et les plus hauts représentants de l'Eglise catholique ne sont pas en reste.

Aujourd'hui, il faudrait y ajouter le fait d'être invité à des talk-shows et de publier des best-sellers.

Chaque époque a ses icônes, ses symboles de prestige et d'autorité.

Les prêtres, les souverains, les guerriers, les papes, les philosophes et les poètes ont connu leur heure de gloire, puis ont laissé la place aux stars du rock, aux animateurs de télévision, aux fondateurs d'entreprise de la nouvelle économie basée sur Internet, aux gérants de fonds spéculatifs et aux présidents de banques centrales.

Auteur: Dobelli Rolf

Info: Arrêtez de vous tromper : 52 erreurs de jugement qu'il vaut mieux laisser aux autres...  Le biais d'autorité

[ modèles ] [ soumission ]

transhumanisme

Prédiction finale de Stephen Hawking : Une race de surhommes artificiels va conquérir le monde.

La dernière prédiction du physicien peu avant sa mort, il y a sept mois, est que la race humaine va diverger. Des "surhumains" riches et génétiquement modifiés domineront les "non améliorés".

Hawking a laissé un recueil d'articles et d'essais sur ce qu'il appelait "les grandes questions", en prévision d'un livre qui sera publié mardi prochain. Dans ses brèves réponses à ces questions, il suggère que les gens riches pourront bientôt choisir de modifier leur propre ADN et celui de leurs enfants pour créer des surhommes dont la mémoire, la résistance aux maladies, l'intelligence et la longévité seront facilitées. "

Je suis sûr qu'au cours de ce siècle, les gens découvriront comment modifier à la fois l'intelligence et les instincts comme l'agressivité", écrit Hawking. "Des lois seront probablement votées contre le génie génétique avec des humains. Mais certaines personnes ne résisteront pas à la tentation d'améliorer certaines caractéristiques humaines, comme la mémoire, la résistance aux maladies et la durée de vie."

Lorsque que de tels surhommes apparaîtront, ajoute Hawking, il y aura d'importants problèmes politiques avec les hommes normaux, qui ne seront pas capables de rivaliser. Vraisemblablement, ils mourront ou deviendront insignifiants. Il y aura à la place une race d'êtres auto-créés qui s'amélioreront à un rythme toujours croissant.

Hawking se réfère aux techniques d'édition d'ADN comme Crispr, une technologie vieille de six ans, qui permet aux scientifiques de manipuler les gènes pour éliminer les caractères nuisibles ou en ajouter de nouveaux.

La technologie Crispr est déjà utilisée, car le Great Ormond Street Hospital for Children de Londres. Elle utilise la technique de modification génétique pour traiter une forme de leucémie autrement incurable.

"Les humains ont sans doute atteint un moment critique", a déclaré Chris Rapley, professeur de sciences climatiques à l'University College de Londres. "Au-delà d'un impact à l'échelle des paysages de la planète, nous interférons maintenant avec son métabolisme même à l'échelle mondiale. Tout indique que les limites de nos cerveaux, tant individuelles que collectives, nous rendent incapables de relever ce défi. Au vu de cela, l'avenir semble désespérément sombre."

Les scientifiques seront-ils capables de créer génétiquement un système circulatoire capable de survivre dans un environnement pauvre en oxygène une fois que le phytoplancton sera mort ?

Auteur: Internet

Info: Zerohedge, 10/16/2018

[ futur ]

jungle primaire

Vous n’avez sans doute jamais entendu parler de la Białowieża Puszcza. Mais pour peu que vous ayez grandi dans la zone tempérée qui couvre une bonne partie de l’Amérique du Nord, du Japon, de la Corée, de la Russie et de plusieurs anciennes républiques soviétiques, ainsi que certaines parties de la Chine, de la Turquie et d’Europe de l’Est et de l’Ouest – îles Britanniques comprises –, alors quelque chose en vous en garde le souvenir. Si vous êtes né dans la toundra ou le désert, les régions subtropicales ou tropicales, la pampa ou la savane, il existe quand même des endroits sur Terre associés à cette Puszcza qui sauront stimuler votre mémoire.

Puszcza est un vieux mot polonais signifiant " forêt vierge ". À cheval entre la Pologne et la Biélorussie, le demi-million d’acres de la forêt de Bialowiesa renferme les derniers fragments européens de forêt à l’état primitif. Souvenez-vous de la forêt mystérieuse et embrumée que vous imaginiez quand on vous lisait un conte de Grimm. Ici, les frênes et les tilleuls culminent à quarante-cinq mètres de hauteur, et couvrent de leur ombre un enchevêtrement humide de charmes, de fougères, d’aulnes rugueux et de gros champignons. Les chênes, tapissés d’un demi-millénaire de mousse, sont tellement immenses qu’ils servent de garde-manger aux pics épeiches : ceux-ci creusent le tronc à sept centimètres de profondeur pour y entreposer des pommes d’épicéa. L’air, épais et frais, se pare d’un silence que seuls viennent briser les cris brefs du casse-noix, le sifflement grave d’une chevêchette d’Europe, ou la plainte d’un loup.

(...) Quel choc que de se dire que l’Europe entière ressemblait jadis à cette Puszcza. On se rend compte, en y pénétrant, que la plupart d’entre nous n’ont jamais connu qu’une pâle copie du programme originel de la nature. Ces sureaux aux troncs de deux mètres de large, ou ces gigantesques épicéas sans âge, devraient nous sembler aussi exotiques que l’Amazone ou l’Antarctique, à nous qui avons grandi près des bois de deuxième génération, chiches en comparaison, qui parsèment l’hémisphère Nord. Eh bien non, ce n’est pas le cas. Au contraire, on s’y sent en terrain connu. Une impression de plénitude en émane, au niveau cellulaire.

Étudiant en sylviculture à l’université de Cracovie, Andrzej Bobiec avait appris la gestion des forêts dans une optique productiviste maximale, notamment en se débarrassant de la couche organique " excessive ", de crainte qu’elle n’abrite scolytes et autres nuisibles. Quand il découvrit la forêt de Bialowiesa, il fut stupéfait d’y trouver dix fois plus de biodiversité que dans toutes les forêts qu’il connaissait.

Auteur: Weismann Joseph

Info: Homo disparitus, 2007

[ nature ] [ native ] [ végétale matrice ] [ Bialovèse ] [ Belovej ]

hexapodes

Les termites sont des insectes appartenant au sous-ordre des isoptères. Ils ont une tête bulbeuse dépourvue d’yeux et un corps en forme de goutte d’eau qui est souvent translucide, laissant voir un entrelacs d’entrailles et de matière végétale en cours de digestion. Ce sont des organismes eusociaux – l’eusocialité est le mode d’organisation animale le plus évolué et se caractérise par une division du travail de reproduction entre castes fertiles et castes stériles, ainsi que par une coopération dans les soins apportés aux jeunes. Jusqu’en 2007, les isoptères étaient considérés comme un ordre à part entière. Mais des études phylogénétiques ont établi que, en dépit des apparences, les termites sont un genre de blatte, et les isoptères ont donc été classés dans l’ordre des blattoptères. Cette rétrogradation n’a pas servi la cause des termites, qui souffrent déjà de la comparaison avec d’autres insectes eusociaux : ils n’ont pas le charisme des abeilles et ont droit à moins d’égards que les fourmis, dont on admire le culte du travail et la capacité à porter de lourdes charges. Les termites ont aussi la réputation d’être des insectes destructeurs. On estime qu’aux États-Unis ils occasionnent chaque année 1,5 à 20 milliards de dollars de dégâts dans les bâtiments. Il leur arrive même de s’en prendre directement à l’argent : dans une banque indienne, en 2011, des termites ont dévoré 10 millions de roupies en billets, et deux ans plus tard, en Chine, ils ont rogné les économies d’une vieille dame qui conservait dans un tiroir 400 000 yuans enveloppés dans du plastique. On attribue à Mastotermes darwiniensis – l’espèce la plus primitive et de plus grande taille, et la plus proche de la blatte xylophage, à partir de laquelle on pense que les termites ont évolué – des exploits spectaculaires, comme la destruction complète d’une maison dont le propriétaire s’était absenté deux semaines. On devrait admirer les termites En réalité, seules 28 des quelque 2 600 espèces répertoriées de termites sont des nuisibles invasifs (si elles l’étaient toutes, nous serions dans de sales draps : les termites sont dix fois plus nombreux que les humains). Qui plus est, les termites non invasifs jouent un rôle écologique essentiel dans l’irrigation, la prévention de la sécheresse et l’enrichissement des sols. Ils pourraient également avoir été une source d’alimentation majeure pour nos ancêtres australopithèques. [...] À défaut d’aimer les termites, on devrait les admirer. Les termitières figurent parmi les plus grandes structures bâties par des animaux non humains. Elles peuvent atteindre 10 mètres de haut, ce qui, comparé à la taille minuscule de l’insecte, équivaudrait pour nous à un immeuble deux fois plus haut que la Burj Khalifa de Dubai, qui fait 828 mètres. Les termitières sont des constructions magnifiques, à la Gaudí, avec leurs tours crénelées dans les teintes brunes, orangées et rouges. L'intérieur d’une termitière est un entrelacs complexe de tunnels et de couloirs, de chambres, de galeries et d’arches disposées en étoile et d’escaliers en colimaçon. Pour construire une termitière, il faut de grandes quantités de terre et d’eau : en l’espace d’une année, 5 kilos de termites transportent quelque 165 kilos de terre (sous forme de boulettes) et 15 000 litres d’eau (qu’ils aspirent dans leur corps). Et tout cela non pas pour se fabriquer un habitat – la colonie vit dans un nid à 1 ou 2 mètres sous la termitière – mais pour respirer. Une colonie, qui peut rassembler 1 million d’individus, possède en effet le même métabolisme qu’une vache de 400 kilos, et, comme les bovins et les humains, les termites inspirent de l’oxygène et rejettent du gaz carbonique. (anhydride carbonique)

Auteur: Srinivasan Amia

Info: https://www.books.fr/termites-modele-robots-armes/

[ bienfaits-méfaits ] [ idées reçues ] [ coopération animale ]

psychanalyse

Ce serait une erreur de croire que l'inconscient est quelque chose d'inoffensif, à propos de quoi on pourrait, par exemple, organiser des petits jeux de société, ou qu'on pourrait à la légère utiliser à des essais thérapeutiques. Assurément, l'inconscient n'est pas dangereux en toutes circonstances ni chez tout le monde. Mais, dès qu'il existe une névrose, celle-ci est un signal d'alarme qui indique qu'il s'est produit dans l'inconscient une accumulation toute particulière d'énergie, formant une sorte de charge susceptible d'exploser. C'est pourquoi, dès lors, des précautions s'imposent. On ignore totalement ce qu'on est susceptible de déclencher quand on commence à analyser les rêves d'un sujet. Il se peut qu'on mette ainsi en mouvement quelque chose d'intérieur, d'invisible; très probablement il s'agit de quelque chose qui, de toute façon se serait tôt ou tard frayé une issue au-dehors... mais il est possible aussi que cela ne se serait jamais produit. On creuse, en quelque sorte, dans l'espoir de trouver un puits artésien, et l'on risque de tomber sur un volcan. Dès que des symptômes névrotiques existent, la plus grande réserve est de mise, et l'on ne doit avancer qu'avec prudence. Mais les cas névrotiques ne sont pas à beaucoup près les plus dangereux. On peut rencontrer des sujets dont l'apparence est des plus normales, qui ne présentent aucun symptôme névrotique particulier eux-mêmes parfois médecins ou éducateurs qui font même étalage de leur "normalité" qui sont des modèles de bonne éducation, qui ont dans la vie des opinions et des habitudes des plus normales, et dont la normalité n'en est pas moins une compensation artificielle pour une psychose latente et cachée. Les intéressés eux-mêmes ne soupçonnent en rien leur état. L'intuition vague qu'ils en ont ne s'exprime peut-être indirectement que par l'attrait particulier que leur inspirent la psychologie et la psychiatrie, domaines qui les captivent comme la lumière attire les papillons. Or, du fait que la technique de l'analyse active l'inconscient et l'aide à s'exprimer, elle détruit, en pareil cas, la compensation salutaire qui s'était installée, et l'inconscient fait irruption sous forme d'imaginations irrépressibles, d'onirisme, donnant lieu à des états d'excitation qui, dans certaines circonstances, aboutissent à une aliénation mentale durable, à moins qu'elle n'ait poussé auparavant au suicide. Ces psychoses latentes, hélas! ne sont pas tellement rares. Quiconque s'occupe d'analyse de l'inconscient est exposé au danger de tomber sur des cas de cette nature, même s'il dispose d'une grande expérience et de beaucoup d'habileté. Abstraction faite de ces cas, il est d'ailleurs possible que le praticien, par maladresse, par des erreurs de conception, par des interprétations arbitraires, fasse échouer des cas qui ne comportaient pas nécessairement un dénouement fâcheux. Cela n'est pas, il est vrai, l'apanage exclusif de l'analyse de l'inconscient, mais marque de son sceau toute intervention médicale si elle est manquée. L'affirmation gratuite que l'analyse rend les gens fous est naturellement aussi stupide que l'idée du vulgaire qui prétend que le médecin aliéniste, à force de s'occuper de fous, doive le devenir à son tour. En dehors des risques inhérents au traitement, l'inconscient peut devenir dangereux par lui-même. Une des formes les plus fréquentes que revêtent les dangers qu'il fait encourir, c'est la détermination d'accidents. Un nombre d'accidents de toute nature, beaucoup plus considérable que le public ne le pense, répond à un conditionnement psychique; qu'il s'agisse de petits incidents comme de trébucher, de se cogner, de brûler les doigts, ou de grandes catastrophes, accidents d'automobiles ou chutes en montagne, tous ces accidents, petits ou grands, peuvent être motivés et causés psychologiquement et se trouvent parfois préparés depuis des semaines ou même des mois. J'ai examiné beaucoup de cas de ce genre et, bien souvent, j'ai constaté chez le sujet l'existence de rêves qui dénotaient, bien des semaines à l'avance, l'existence d'une tendance à s'endommager soi-même; tendance qui, bien entendu, s'exprimait la plupart du temps de façon symbolique. Tous les accidents qui arrivent soit disant par inattention devraient être examinés dans la perspective d'une détermination éventuelle de cette sorte. On sait bien que lorsque, pour une raison ou une autre, on est mal disposé, il vous arrive non seulement des anicroches plus ou moins sérieuses, mais aussi parfois des choses graves qui, si elles surviennent à un moment psychologiquement approprié, peuvent même mettre un terme à une existence. D'ailleurs la sagesse populaire le dit : "Un tel est mort au bon moment", sentiment inspiré par une intuition très juste de la causalité psychologique du cas. De façon analogue, des maladies physiques peuvent être engendrées et entretenues. Un fonctionnement défectueux de l'âme peut porter au corps de notables dommages, de même que réciproquement une affection physique peut entraîner une souffrance de l'âme. Car l'âme et le corps ne sont pas des éléments séparés; ils constituent, au contraire, une seule et même vie. Aussi y a-t-il rarement une maladie somatique qui, alors même qu'elle n'a pas été déterminée par des causes psychiques, n'entraîne des complications morales d'une nature quelconque, complications qui, à leur tour, retentissent sur l'affection organique. Mais ce serait une erreur de ne mettre en relief que le côté défavorable de l'inconscient. Dans tous les cas courants, l'inconscient ne devient défavorable et dangereux que parce que nous sommes en désaccord avec lui, donc en opposition avec des tendances majeures de nous-mêmes. L'attitude négative à l'adresse de l'inconscient, voire sa répudiation par le conscient, sont nuisibles dans la mesure où les dynamismes de l'inconscient sont identiques à l'énergie des instincts. Par conséquent, un manque de contact et de liens avec l'inconscient est synonyme de déracinement et d'instabilité instinctuelle. Mais si l'on réussit à établir cette fonction, que j'ai dite transcendante, la désunion avec soi-même cessera et le sujet pourra bénéficier des apports favorables de l'inconscient. Car dès que la dissociation entre les divers éléments de soi-même cesse, l'inconscient accorde - l'expérience le prouve abondamment - toute l'aide et tous les élans qu'une nature bienveillante et prodigue peut accorder aux hommes. De fait l’inconscient recèle des possibilités qui sont absolument incessibles au conscient ; car il dispose de tous les contenus psychiques subliminaux, de tout ce qui a été oublié ou négligé, et, en outre, de la sagesse conférée par l'expérience d'innombrables millénaires, sagesse déposée et confiée à ses structures archétypiques.

Auteur: Jung Carl Gustav

Info: Dans "Psychologie de l'inconscient", trad. Roland Cohen, Livre de Poche, Paris, 1993, pages 195-198

[ conciliation ] [ dialectique ] [ psychothérapie ]

sciences

36'000 sexes, mais à deux, c'est mieux pour les biologistes de l'évolution, le sexe est un mystère - et le binôme mâle-femelle un paradoxe. Explications sur l'origine des genres.
"L'émergence des genres reste un problème déroutant en biologie, lance Lukas Schärer, spécialiste de l'évolution de la reproduction à l'Université de Bâle. Nous ne comprenons pas encore tout à fait le sexe."
Car la présence de deux sexes amène un désavantage immédiat: elle réduit de moitié la probabilité de rencontrer un partenaire de reproduction. "Avoir deux genres n'est pas seulement une mauvaise stratégie; c'est la pire", renchérit Laurence Hurst, biologiste à l'Université de Bath (G.B.) et l'un des spécialistes mondiaux de l'évolution de la reproduction. Avec un seul genre - ou une multitude -, nous pourrions nous reproduire avec tout le monde.
La reproduction sexuée présente des avantages évidents sur le plan de l'évolution (voir encadré plus bas). Mais qui dit sexe ne dit pas forcément mâle et femelle: il est tout à fait possible de fusionner deux cellules similaires. "Il faut distinguer deux étapes, précise Laurence Hurst. D'abord, on doit pouvoir expliquer l'émergence de deux types de gamètes (les cellules reproductrices, ndlr) qui - tout en restant morphologiquement identiques - ne peuvent fusionner que l'un avec l'autre. Un deuxième niveau concerne leur différenciation en gamètes mâles et femelles, qui sont non seulement distincts, mais également différents." "Des théories existent, ajoute Lukas Schärer, mais leur démonstration univoque par des expériences fait encore défaut."
La faute aux mitochondries
Dans les années 1990, Laurence Hurst a proposé une piste pour élucider la première étape: un seul genre favoriserait des mutations potentiellement nuisibles. "En fusionnant, les gamètes ne combinent pas seulement les informations génétiques contenues dans leur noyau, mais partagent aussi leurs mitochondries (responsable de fournir la cellule en énergie, ndlr), explique le biologiste anglais. Comme celles-ci évoluent indépendamment du noyau, il n'est pas certain que les mitochondries dominantes, qui par exemple se reproduisent plus rapidement que les autres, s'avèrent également bénéfiques à la cellule et à l'individu."
Une solution à ce problème serait procurée par l'émergence de deux types de gamètes (appelés "+" et "-"), dont un seul est capable de transmettre ses mitochondries. On réduit ainsi les probabilités d'avoir des mutations mitochondriales délétères à la cellule. Afin de propager les types de mitochondries bénéfiques à l'individu, il y aurait un avantage évolutionniste à ce que seuls les différents types de gamètes puissent fusionner entre eux.
"Notre thèse est appuyée par des observations faites sur des protozoaires ciliés, poursuit Hurst. Ceux qui se reproduisent par fusion et mélangent leurs mitochondries ont deux genres alors que d'autres, qui ne font qu'échanger leur noyau sans partager leurs mitochondries, possèdent non pas deux mais des centaines de genres distincts. On observe le même phénomène chez les champignons: ils n'échangent que leur noyau, et certains possèdent jusqu'à 36'000 sexes." Avoir exactement deux sexes servirait ainsi à filtrer les mitochondries.
A quoi ressemble l'acte de chair lorsqu'on a plusieurs genres? "Les deux partenaires doivent être d'un genre différent, répond Lukas Schärer. Au niveau des probabilités, un nombre élevé de sexes se rapproche de l'absence de genre de plusieurs façons, car on peut se reproduire avec à peu près tout le monde. L'existence de genres protège les individus de l'auto-fertilisation, qui est dangereuse car elle expose souvent des mutations délétères." De nombreux sexes, donc, pour éviter la consanguinité.
La naissance du mâle
Mais pourquoi les + et les - se sont-ils ensuite différenciés en "mâles" et "femelles"? Dans les années 1970, le biologiste Geoff Parker a proposé un mécanisme évolutionniste. Des mutations ont changé la taille des cellules reproductives. Graduellement, deux types d'individus ont été sélectionnés, qui produisent soit des spermatozoïdes petits, nombreux et de valeur limitée, soit des oeufs gros, rares et précieux. Les premiers peuvent être produits en très grand nombre, ce qui augmente la probabilité de rencontre. Grâce à leur grande taille, les seconds ont davantage de chances d'être fécondés et peuvent fournir une grande quantité de matière au zigote (obtenu par la fusion des gamètes), ce qui améliore ses chances de survie. "L'évolution de l'anisogamie (des gamètes de tailles différentes, ndlr) a eu lieu plusieurs fois au cours de l'évolution et ceci de manière indépendante", rappelle Brian Charlesworth, professeur de biologie évolutionnaire à l'Université d'Edimbourg. "L'anisogamie a probablement moins de chance d'évoluer dans des espèces plus petites, car l'avantage procuré par un grand oeuf joue un rôle plus faible", note Lukas Schärer.
Reste encore la différentiation au niveau de l'individu: pourquoi la plupart des animaux comprennent des mâles et des femelles - au lieu de favoriser l'hermaphrodisme? Ce dernier s'accompagne du risque d'autofertilisation et des problèmes dus à la consanguinité, mais atténue la difficulté de trouver un partenaire. Cet avantage pourrait être un facteur déterminant chez les plantes: incapables de se déplacer, elles sont en grande majorité hermaphrodites. Au contraire des animaux, qui eux ont les moyens de partir chercher l'âme soeur.
Les bienfaits du sexe
Le but de la chair, c'est de mélanger pour mieux s'adapter. En combinant les gènes des deux parents, la reproduction sexuée permet de sélectionner les bonnes mutations et de purger les mauvaises. "Des expériences avec des levures modifiées pour se reproduire asexuellement ont montré qu'elle s'adaptent moins rapidement aux changements de l'environnement, détaille Laurence Hurst de l'Université de Bath (G.B.). On a pu observer que certaines espèces capables d'utiliser les deux modes de reproduction favorisent la voie sexuée lorsqu'elles se voient soumises à des pressions de l'environnement." Une fois le danger passé, elles retournent au sexe en solitaire - également favorisé lorsque la rencontre d'un partenaire s'avère trop difficile.
Le kamasutra de la Nature
Entre des bactéries échangeant du matériel génétique et des champignons possédant des milliers de sexes, la Nature ne montre aucun tabou. Les hermaphrodites simultanés tels que la majorité des plantes et escargots possèdent les appareils génitaux mâles et femelles, alors que les hermaphrodites séquentiels (certains poissons et crustacés) changent de sexe au cours du temps. Les êtres hétérogames (amibes sociales, micro-crustacés, algues) peuvent alterner entre reproduction asexuée et sexuée. On a observé que les femelles d'un certain nombre d'animaux (dont le dragon du Komodo et le requin marteau) peuvent parfois se passer de mâle pour se reproduire par parthénogenèse lorsque rencontrer l'âme soeur s'avère trop difficile. Les polyploïdes, eux, ne possèdent pas des paires de chromosomes comme la plupart des animaux sexués, mais de multiples copies: une espèce de salamandre n'a que des femelles possédant leurs chromosomes en triple. Elles se reproduisent par "cleptogénèse", en volant des spermatozoïdes de variétés voisines.
80 millions d'années sans sexe: un scandale évolutionnaire
Même si les premiers êtres vivants unicellulaires comme les bactéries se sont toujours reproduits de manière asexuée, "la plupart des êtres multicellulaires asexués ont évolué à partir d'espèces sexuées, note Brian Charlesworth de l'Université d'Edimbourg. Ils n'ont pas eu le temps de se diversifier et sont normalement d'origine récente." La découverte que des invertébrés aquatiques asexués appelés bdelloidés ont survécu quelque 80 millions d'années fut qualifiée de "scandale évolutionnaire" par le biologiste John Maynard Smith. Autre particularité, ces invertébrés pratiquent une forme d'hibernation: face à une pression environnementale, ils peuvent sécher et entrer en animation suspendue. En 2008, une étude d'Harvard apporte un élément de réponse: lorsqu'ils se réveillent, les bdelloidés incorporent l'ADN étranger se trouvant à proximité. Même pour les êtres asexués, le mélange des gènes semble incontournable pour survivre.

Auteur: Saraga Daniel

Info: Largeur.com, 25 mai 2011

[ couple ] [ reproduction ]

psychosomatique

Le jumeau maléfique de l'effet placebo fait des ravages, selon l'essayiste états-unien Stewart Justman, pourfendeur du diagnostic qui rend malade Comme les héros des feuilletons télévisés, l’effet placebo a un jumeau maléfique: il s’appelle "nocebo". Le placebo, rappelons-le, est ce phénomène troublant qui veut qu’un bonbon lambda avalé en croyant prendre un médicament authentique peut apporter les mêmes bienfaits que le vrai remède, grâce à la suggestion. Le nocebo fonctionne sur le même mécanisme, mais avec l’effet inverse: il fait du mal. Dites-moi que j’ai ingurgité une denrée avariée, mes boyaux se tordront. Magique? Pas vraiment: le cerveau ayant pour tâche de gérer les fonctions du corps, il n’est pas étonnant que l’information qu’il absorbe infléchisse le processus. Dans The Nocebo Effect*, Stewart Justman, essayiste états-unien partageant son œuvre entre l’histoire de la littérature et la médecine (avec des passerelles fréquentes entre les deux), évoque les ravages du nocebo dans des territoires médicaux aussi différents que l’anorexie, le syndrome de fatigue chronique, la dépression, le trouble dissociatif de l’identité, l’hyperactivité, les cancers du sein et de la prostate. Parfois, le mal est un effet direct de l’imagination, aiguillée par la propagande pharmaceutique ou par les campagnes de prévention: "Une fois mises sur le marché, des idées sur telle ou telle maladie sont en mesure de susciter la maladie elle-même", constate Justman: un diagnostic peut déployer son potentiel nocif en "semant des suggestions dans l’esprit du patient". Est-ce fréquent? La question est apparemment très peu étudiée, en partie car il est éthiquement difficile de mener des expériences consistant à créer des problèmes chez les sujets. Des indications sur le "jumeau maléfique" se nichent toutefois dans les études sur l’effet placebo. Dans une étude troublante, publiée dans l’International Journal of Clinical Practice en 1998, l’Anglais A. F. Cooper découvrait par exemple, avec un groupe de patients souffrant de polyarthrite rhumatoïde, que ceux à qui l’on administrait une brève leçon de choses sur la maladie se portaient moins bien que ceux qu’on se bornait à soigner, sans rien leur dire. Il apparaît que, aussi longtemps que les habitants de Hong Kong n’étaient pas au courant de l’existence de l’anorexie en Occident, ce trouble ne se manifestait pas parmi eux, mais une fois que la notion a atteint la presse et la conscience du public dans les années 1990, le phénomène a explosé Dans d’autres cas, c’est le dépistage à grande échelle qui fait des dégâts, débouchant sur des traitements qui se révèlent plus nuisibles – voire plus meurtriers – que le mal qu’ils sont censés soigner. Les mises en garde viennent du champ médical lui-même, qui s’inquiète des effets pervers de la traque systématique aux cancers du sein et de la prostate: on y revient plus loin. Qu’il agisse directement sur l’individu via la suggestion ou qu’il déploie ses conséquences à travers une prise en charge médico-sociale, l’effet nocebo résulte d’un phénomène de "surdiagnostic": Overdiagnosis and Its Costs ("Le surdiagnostic et ses coûts") est le sous-titre du livre de Stewart Justman. Morphine et neurasthénie Comment ça marche? Le rapport de cause à effet semble s’afficher parfois de manière évidente. "Il apparaît que, aussi longtemps que les habitants de Hong Kong n’étaient pas au courant de l’existence de l’anorexie en Occident, ce trouble ne se manifestait pas parmi eux, mais une fois que la notion a atteint la presse et la conscience du public dans les années 1990, le phénomène a explosé", comme si "les personnes atteintes façonnaient inconsciemment leurs symptômes selon le modèle fourni par les médias". Il en va d’une manière semblable pour la neurasthénie, syndrome à la mode au cours de la Belle Epoque, "qui s’épanouit auprès des couches aisées, jusqu’à sa disparition au début du vingtième siècle". Identifié par le neurologue états-unien George Beard en 1869, le trouble était défini comme "une maladie englobante, dont le symptôme clé était une fatigue mentale et musculaire", mais dont les manifestations possibles remplissaient une liste de 70 entrées. "L’existence brève et spectaculaire de la neurasthénie témoigne de la manière dont une appellation a le pouvoir d’organiser et de mobiliser des symptômes", relève Justman. Certains maux paraissent ainsi atteindre les corps par une contagion socio-culturelle. Placebo et nocebo montrent que l’acte médical, loin d’être une simple interaction physique, est en réalité une "procédure sociale" à part entière: "Des expériences montrent que même un médicament aussi puissant que la morphine produit un effet plus important lorsqu’il est administré ouvertement, dans le cadre d’un rituel médical, que lorsqu’on le donne aux patients à leur insu." Exemple saisissant de la production d’un syndrome via le cérémoniel thérapeutique: le trouble dit "de la personnalité multiple", qui n’émerge le plus souvent qu’au moment où le soignant demande au patient de nommer ses alters egos. Sommeil et désarroi Faut-il parler de maladies imaginaires, de troubles socialement manufaturés à partir de néant? Dans le cas des symptômes de dépression, Justman suggère plutôt qu’il s’agit souvent d’états inhérents à la normalité de l’existence, qui se retrouvent médicalisés, c’est-à-dire transformés en pathologies. C’est "le désarroi commun et passager, produit par la vie elle-même, qui se résoudrait spontanément si on ne faisait rien"; ce sont "des constantes de la condition humaine", ou en tout cas "des difficultés qui se rattachent à la nature même de la civilisation". Le DSM-5, dernière édition du catalogue états-unien (et international) des troubles psychiques et de leurs symptômes, "intègre, à contrecœur, l’argument selon lequel ce qu’on appelle dépression peut être en fait une réponse justifiée à la vie elle-même". On pourrait, bien sûr, retourner la question: faut-il accepter le désarroi ordinaire en tant que composante inévitable de la normalité, ou peut-on aspirer à s’en débarrasser? Comme les sociologues Allan V. Horwitz et Jerome C. Wakefield Stewart, auteurs de Tristesse ou dépression? Comment la psychiatrie a médicalisé nos tristesses (2007), Justman défend l’existence de la mélancolie dans l’expérience humaine. D’autres cultivent le rêve utopiste de l’éradication de tout chagrin. Le problème, c’est que la médicalisation du malheur ordinaire aurait plutôt tendance à accroître la portée de ce dernier. "Ironiquement, un des effets du surdiagnostic de la dépression est que les antidépresseurs en vogue perturbent le sommeil", note Justman. Or, "un des facteurs de guérison les plus importants dans nos vies réside dans notre capacité de sombrer chaque soir dans l’endormissement réparateur"… La conscience est surestimée Y a-t-il donc un équilibre, un "bon" seuil de médicalisation à ne pas dépasser? La question est particulièrement lancinante dans le cas des cancers du sein et de la prostate. Dans les deux cas, le dépistage massif conduit à détecter et à traiter une quantité de cancers "dormants" ou "indolents" qui seraient inoffensifs et avec lesquels on vivrait sans problème. Le sein: selon une étude publiée en 2013 dans le British Medical Journal par le chirurgien Michael Baum, pour chaque décès évité par la mammographie on peut s’attendre à un chiffre de un à trois décès supplémentaires liés aux soins donnés aux femmes dépistées pour des cancers inoffensifs. La prostate: selon une étude européenne de 2009-2012, le dépistage réduit la mortalité engendrée par ce cancer, mais on compte 33 hommes rendus impuissants ou incontinents par une intervention non nécessaire pour chaque homme sauvé… Que faire? Eliminer les dépistages, plus nuisibles que bénéfiques comme le suggèrent plusieurs chercheurs? Brûler le DSM, véritable machine à surdiagnostiquer (et dénoncé en tant que tel par Robert Spitzer et Allen Frances, deux responsables successifs de la task force qui en coordonne la rédaction)? Arrêter net les campagnes d’information, sources majeures d’effets nocebo? Dans son élan, Justman jette peut-être quelques bébés avec l’eau du bain (notamment dans le domaine du traumatisme psychique). On retiendra néanmoins son éloge paradoxal de l’inconscience: nous vivons sous l’emprise d’un "culte de la conscientisation", mais "la conscience est surestimée". Notre cerveau fait son travail de gestion de la vie dans le silence des processus inconscients, où il n’est sans doute pas anodin de trop le déranger. Il travaille à notre insu, par habitude. Il est vrai que l’habitude a mauvaise presse. Et pourtant – la philosophie confucéenne et taoïste en avait l’intuition, les neurosciences le savent aujourd’hui –, "l’habitude est hautement opérationnelle, même dans des faits d’excellence".

Auteur: Ulmi Nic

Info: in le temps online du 15.9.2015 sous Effet nocebo: le patient qui en savait trop, *The Nocebo Effect. Overdiagnosis and Its Cost, par Stewart Justman, Palgrave Macmillan, 272 p

[ grégaire ] [ influençabilité ] [ corps-esprit ]

homme-machine

Les grands modèles de langage tels que ChatGPT sont aujourd'hui suffisamment importants pour commencer à afficher des comportements surprenants et imprévisibles.

Quel film ces emojis décrivent-ils ? (On voit une vidéo qui présente des myriades d'émoji formant des motifs mouvants, modélisés à partir de métadonnées)

Cette question était l'une des 204 tâches choisies l'année dernière pour tester la capacité de divers grands modèles de langage (LLM) - les moteurs de calcul derrière les chatbots d'IA tels que ChatGPT. Les LLM les plus simples ont produit des réponses surréalistes. "Le film est un film sur un homme qui est un homme qui est un homme", commençait l'un d'entre eux. Les modèles de complexité moyenne s'en sont approchés, devinant The Emoji Movie. Mais le modèle le plus complexe l'a emporté en une seule réponse : Finding Nemo.

"Bien que j'essaie de m'attendre à des surprises, je suis surpris par ce que ces modèles peuvent faire", a déclaré Ethan Dyer, informaticien chez Google Research, qui a participé à l'organisation du test. C'est surprenant parce que ces modèles sont censés n'avoir qu'une seule directive : accepter une chaîne de texte en entrée et prédire ce qui va suivre, encore et encore, en se basant uniquement sur des statistiques. Les informaticiens s'attendaient à ce que le passage à l'échelle permette d'améliorer les performances sur des tâches connues, mais ils ne s'attendaient pas à ce que les modèles puissent soudainement gérer autant de tâches nouvelles et imprévisibles.

Des études récentes, comme celle à laquelle a participé M. Dyer, ont révélé que les LLM peuvent produire des centaines de capacités "émergentes", c'est-à-dire des tâches que les grands modèles peuvent accomplir et que les petits modèles ne peuvent pas réaliser, et dont beaucoup ne semblent pas avoir grand-chose à voir avec l'analyse d'un texte. Ces tâches vont de la multiplication à la génération d'un code informatique exécutable et, apparemment, au décodage de films à partir d'emojis. De nouvelles analyses suggèrent que pour certaines tâches et certains modèles, il existe un seuil de complexité au-delà duquel la fonctionnalité du modèle monte en flèche. (Elles suggèrent également un sombre revers de la médaille : À mesure qu'ils gagnent en complexité, certains modèles révèlent de nouveaux biais et inexactitudes dans leurs réponses).

"Le fait que les modèles de langage puissent faire ce genre de choses n'a jamais été abordé dans la littérature à ma connaissance", a déclaré Rishi Bommasani, informaticien à l'université de Stanford. L'année dernière, il a participé à la compilation d'une liste de dizaines de comportements émergents, dont plusieurs ont été identifiés dans le cadre du projet de M. Dyer. Cette liste continue de s'allonger.

Aujourd'hui, les chercheurs s'efforcent non seulement d'identifier d'autres capacités émergentes, mais aussi de comprendre pourquoi et comment elles se manifestent - en somme, d'essayer de prédire l'imprévisibilité. La compréhension de l'émergence pourrait apporter des réponses à des questions profondes concernant l'IA et l'apprentissage automatique en général, comme celle de savoir si les modèles complexes font vraiment quelque chose de nouveau ou s'ils deviennent simplement très bons en statistiques. Elle pourrait également aider les chercheurs à exploiter les avantages potentiels et à limiter les risques liés à l'émergence.

"Nous ne savons pas comment déterminer dans quel type d'application la capacité de nuisance va se manifester, que ce soit en douceur ou de manière imprévisible", a déclaré Deep Ganguli, informaticien à la startup d'IA Anthropic.

L'émergence de l'émergence

Les biologistes, les physiciens, les écologistes et d'autres scientifiques utilisent le terme "émergent" pour décrire l'auto-organisation, les comportements collectifs qui apparaissent lorsqu'un grand nombre d'éléments agissent comme un seul. Des combinaisons d'atomes sans vie donnent naissance à des cellules vivantes ; les molécules d'eau créent des vagues ; des murmurations d'étourneaux s'élancent dans le ciel selon des schémas changeants mais identifiables ; les cellules font bouger les muscles et battre les cœurs. Il est essentiel que les capacités émergentes se manifestent dans les systèmes qui comportent de nombreuses parties individuelles. Mais ce n'est que récemment que les chercheurs ont été en mesure de documenter ces capacités dans les LLM, car ces modèles ont atteint des tailles énormes.

Les modèles de langage existent depuis des décennies. Jusqu'à il y a environ cinq ans, les plus puissants étaient basés sur ce que l'on appelle un réseau neuronal récurrent. Ceux-ci prennent essentiellement une chaîne de texte et prédisent le mot suivant. Ce qui rend un modèle "récurrent", c'est qu'il apprend à partir de ses propres résultats : Ses prédictions sont réinjectées dans le réseau afin d'améliorer les performances futures.

En 2017, les chercheurs de Google Brain ont introduit un nouveau type d'architecture appelé "transformateur". Alors qu'un réseau récurrent analyse une phrase mot par mot, le transformateur traite tous les mots en même temps. Cela signifie que les transformateurs peuvent traiter de grandes quantités de texte en parallèle. 

Les transformateurs ont permis d'augmenter rapidement la complexité des modèles de langage en augmentant le nombre de paramètres dans le modèle, ainsi que d'autres facteurs. Les paramètres peuvent être considérés comme des connexions entre les mots, et les modèles s'améliorent en ajustant ces connexions au fur et à mesure qu'ils parcourent le texte pendant l'entraînement. Plus il y a de paramètres dans un modèle, plus il peut établir des connexions avec précision et plus il se rapproche d'une imitation satisfaisante du langage humain. Comme prévu, une analyse réalisée en 2020 par les chercheurs de l'OpenAI a montré que les modèles gagnent en précision et en capacité au fur et à mesure qu'ils s'étendent.

Mais les débuts des LLM ont également apporté quelque chose de vraiment inattendu. Beaucoup de choses. Avec l'avènement de modèles tels que le GPT-3, qui compte 175 milliards de paramètres, ou le PaLM de Google, qui peut être étendu à 540 milliards de paramètres, les utilisateurs ont commencé à décrire de plus en plus de comportements émergents. Un ingénieur de DeepMind a même rapporté avoir pu convaincre ChatGPT qu'il s'était lui-même un terminal Linux et l'avoir amené à exécuter un code mathématique simple pour calculer les 10 premiers nombres premiers. Fait remarquable, il a pu terminer la tâche plus rapidement que le même code exécuté sur une vraie machine Linux.

Comme dans le cas du film emoji, les chercheurs n'avaient aucune raison de penser qu'un modèle de langage conçu pour prédire du texte imiterait de manière convaincante un terminal d'ordinateur. Nombre de ces comportements émergents illustrent l'apprentissage "à zéro coup" ou "à quelques coups", qui décrit la capacité d'un LLM à résoudre des problèmes qu'il n'a jamais - ou rarement - vus auparavant. Selon M. Ganguli, il s'agit là d'un objectif de longue date dans la recherche sur l'intelligence artificielle. Le fait de montrer que le GPT-3 pouvait résoudre des problèmes sans aucune donnée d'entraînement explicite dans un contexte d'apprentissage à zéro coup m'a amené à abandonner ce que je faisais et à m'impliquer davantage", a-t-il déclaré.

Il n'était pas le seul. Une série de chercheurs, qui ont détecté les premiers indices montrant que les LLM pouvaient dépasser les contraintes de leurs données d'apprentissage, s'efforcent de mieux comprendre à quoi ressemble l'émergence et comment elle se produit. La première étape a consisté à documenter minutieusement l'émergence.

Au-delà de l'imitation

En 2020, M. Dyer et d'autres chercheurs de Google Research ont prédit que les LLM auraient des effets transformateurs, mais la nature de ces effets restait une question ouverte. Ils ont donc demandé à la communauté des chercheurs de fournir des exemples de tâches difficiles et variées afin de déterminer les limites extrêmes de ce qu'un LLM pourrait faire. Cet effort a été baptisé "Beyond the Imitation Game Benchmark" (BIG-bench), en référence au nom du "jeu d'imitation" d'Alan Turing, un test visant à déterminer si un ordinateur peut répondre à des questions d'une manière humaine convaincante. (Le groupe s'est particulièrement intéressé aux exemples où les LLM ont soudainement acquis de nouvelles capacités qui étaient totalement absentes auparavant.

"La façon dont nous comprenons ces transitions brutales est une grande question de la echerche", a déclaré M. Dyer.

Comme on pouvait s'y attendre, pour certaines tâches, les performances d'un modèle se sont améliorées de manière régulière et prévisible au fur et à mesure que la complexité augmentait. Pour d'autres tâches, l'augmentation du nombre de paramètres n'a apporté aucune amélioration. Mais pour environ 5 % des tâches, les chercheurs ont constaté ce qu'ils ont appelé des "percées", c'est-à-dire des augmentations rapides et spectaculaires des performances à partir d'un certain seuil d'échelle. Ce seuil variant en fonction de la tâche et du modèle.

Par exemple, les modèles comportant relativement peu de paramètres - quelques millions seulement - n'ont pas réussi à résoudre des problèmes d'addition à trois chiffres ou de multiplication à deux chiffres, mais pour des dizaines de milliards de paramètres, la précision a grimpé en flèche dans certains modèles. Des sauts similaires ont été observés pour d'autres tâches, notamment le décodage de l'alphabet phonétique international, le décodage des lettres d'un mot, l'identification de contenu offensant dans des paragraphes d'hinglish (combinaison d'hindi et d'anglais) et la formulation d'équivalents en langue anglaise, traduit à partir de proverbes kiswahili.

Introduction

Mais les chercheurs se sont rapidement rendu compte que la complexité d'un modèle n'était pas le seul facteur déterminant. Des capacités inattendues pouvaient être obtenues à partir de modèles plus petits avec moins de paramètres - ou formés sur des ensembles de données plus petits - si les données étaient d'une qualité suffisamment élevée. En outre, la formulation d'une requête influe sur la précision de la réponse du modèle. Par exemple, lorsque Dyer et ses collègues ont posé la question de l'emoji de film en utilisant un format à choix multiples, l'amélioration de la précision a été moins soudaine qu'avec une augmentation graduelle de sa complexité. L'année dernière, dans un article présenté à NeurIPS, réunion phare du domaine, des chercheurs de Google Brain ont montré comment un modèle invité à s'expliquer (capacité appelée raisonnement en chaîne) pouvait résoudre correctement un problème de mots mathématiques, alors que le même modèle sans cette invitation progressivement précisée n'y parvenait pas.

 Yi Tay, scientifique chez Google Brain qui a travaillé sur l'étude systématique de ces percées, souligne que des travaux récents suggèrent que l'incitation par de pareilles chaînes de pensées modifie les courbes d'échelle et, par conséquent, le point où l'émergence se produit. Dans leur article sur NeurIPS, les chercheurs de Google ont montré que l'utilisation d'invites via pareille chaines de pensée progressives pouvait susciter des comportements émergents qui n'avaient pas été identifiés dans l'étude BIG-bench. De telles invites, qui demandent au modèle d'expliquer son raisonnement, peuvent aider les chercheurs à commencer à étudier les raisons pour lesquelles l'émergence se produit.

Selon Ellie Pavlick, informaticienne à l'université Brown qui étudie les modèles computationnels du langage, les découvertes récentes de ce type suggèrent au moins deux possibilités pour expliquer l'émergence. La première est que, comme le suggèrent les comparaisons avec les systèmes biologiques, les grands modèles acquièrent réellement de nouvelles capacités de manière spontanée. "Il se peut très bien que le modèle apprenne quelque chose de fondamentalement nouveau et différent que lorsqu'il était de taille inférieure", a-t-elle déclaré. "C'est ce que nous espérons tous, qu'il y ait un changement fondamental qui se produise lorsque les modèles sont mis à l'échelle.

L'autre possibilité, moins sensationnelle, est que ce qui semble être émergent pourrait être l'aboutissement d'un processus interne, basé sur les statistiques, qui fonctionne par le biais d'un raisonnement de type chaîne de pensée. Les grands LLM peuvent simplement être en train d'apprendre des heuristiques qui sont hors de portée pour ceux qui ont moins de paramètres ou des données de moindre qualité.

Mais, selon elle, pour déterminer laquelle de ces explications est la plus probable, il faut mieux comprendre le fonctionnement des LLM. "Comme nous ne savons pas comment ils fonctionnent sous le capot, nous ne pouvons pas dire laquelle de ces choses se produit.

Pouvoirs imprévisibles et pièges

Demander à ces modèles de s'expliquer pose un problème évident : Ils sont des menteurs notoires. Nous nous appuyons de plus en plus sur ces modèles pour effectuer des travaux de base", a déclaré M. Ganguli, "mais je ne me contente pas de leur faire confiance, je vérifie leur travail". Parmi les nombreux exemples amusants, Google a présenté en février son chatbot d'IA, Bard. Le billet de blog annonçant le nouvel outil montre Bard en train de commettre une erreur factuelle.

L'émergence mène à l'imprévisibilité, et l'imprévisibilité - qui semble augmenter avec l'échelle - rend difficile pour les chercheurs d'anticiper les conséquences d'une utilisation généralisée.

"Il est difficile de savoir à l'avance comment ces modèles seront utilisés ou déployés", a déclaré M. Ganguli. "Et pour étudier les phénomènes émergents, il faut avoir un cas en tête, et on ne sait pas, avant d'avoir étudié l'influence de l'échelle. quelles capacités ou limitations pourraient apparaître.

Dans une analyse des LLM publiée en juin dernier, les chercheurs d'Anthropic ont cherché à savoir si les modèles présentaient certains types de préjugés raciaux ou sociaux, à l'instar de ceux précédemment signalés dans les algorithmes non basés sur les LLM utilisés pour prédire quels anciens criminels sont susceptibles de commettre un nouveau délit. Cette étude a été inspirée par un paradoxe apparent directement lié à l'émergence : Lorsque les modèles améliorent leurs performances en passant à l'échelle supérieure, ils peuvent également augmenter la probabilité de phénomènes imprévisibles, y compris ceux qui pourraient potentiellement conduire à des biais ou à des préjudices.

"Certains comportements nuisibles apparaissent brusquement dans certains modèles", explique M. Ganguli. Il se réfère à une analyse récente des LLM, connue sous le nom de BBQ benchmark, qui a montré que les préjugés sociaux émergent avec un très grand nombre de paramètres. "Les grands modèles deviennent brusquement plus biaisés. Si ce risque n'est pas pris en compte, il pourrait compromettre les sujets de ces modèles."

Mais il propose un contrepoint : Lorsque les chercheurs demandent simplement au modèle de ne pas se fier aux stéréotypes ou aux préjugés sociaux - littéralement en tapant ces instructions - le modèle devient moins biaisé dans ses prédictions et ses réponses. Ce qui suggère que certaines propriétés émergentes pourraient également être utilisées pour réduire les biais. Dans un article publié en février, l'équipe d'Anthropic a présenté un nouveau mode d'"autocorrection morale", dans lequel l'utilisateur incite le programme à être utile, honnête et inoffensif.

Selon M. Ganguli, l'émergence révèle à la fois un potentiel surprenant et un risque imprévisible. Les applications de ces grands LLM prolifèrent déjà, de sorte qu'une meilleure compréhension de cette interaction permettra d'exploiter la diversité des capacités des modèles de langage.

"Nous étudions la manière dont les gens utilisent réellement ces systèmes", a déclaré M. Ganguli. Mais ces utilisateurs sont également en train de bricoler, en permanence. "Nous passons beaucoup de temps à discuter avec nos modèles, et c'est là que nous commençons à avoir une bonne intuition de la confiance ou du manque de confiance.

Auteur: Ornes Stephen

Info: https://www.quantamagazine.org/ - 16 mars 2023. Trad DeepL et MG

[ dialogue ] [ apprentissage automatique ] [ au-delà du jeu d'imitation ] [ dualité ]