idées reçues

La civilisation occidentale moderne a, entre autres prétentions, celle d’être éminemment "scientifique" ; il serait bon de préciser un peu comment on entend ce mot, mais c’est ce qu’on ne fait pas d’ordinaire, car il est du nombre de ceux auxquels nos contemporains semblent attacher une sorte de pouvoir mystérieux, indépendamment de leur sens. La "Science", avec une majuscule, comme le "Progrès" et la "Civilisation", comme le "Droit", la "Justice" et la "Liberté", est encore une de ces entités qu’il faut mieux ne pas chercher à définir, et qui risquent de perdre tout leur prestige dès qu’on les examine d’un peu trop près.
Toutes les soi-disant "conquêtes" dont le monde moderne est si fier se réduisent ainsi à de grands mots derrière lesquels il n’y a rien ou pas grand-chose : suggestion collective, avons-nous dit, illusion qui, pour être partagée par tant d’individus et pour se maintenir comme elle le fait, ne saurait être spontanée ; peut-être essaierons-nous quelque jour d’éclaircir un peu ce côté de la question.

Auteur: Guénon René

Info: Orient et Occident, Part. I : Illusion occidentales, chap.II : La superstition de la science

[ termes ] [ vocabulaire ] [ pouvoir ] [ nord-sud ]

superstitions

Remettre en cause les croyances d'une personne, c'est remettre en cause sa dignité, son standing et son pouvoir. Et lorsque ces croyances ne reposent que sur la foi, elles sont chroniquement fragiles. Personne ne s'offusque de la croyance que les pierres tombent vers le bas plutôt que vers le haut, parce que toute personne saines d'esprit peut le voir de ses propres yeux. Il n'en va pas de même pour la croyance que les bébés naissent avec le péché originel, que Dieu se décompose en trois entités ou qu'Ali est le deuxième homme le plus divinement inspiré après Mahomet. Lorsque les gens organisent leur vie autour de ces croyances, et qu'ils réalisent ensuite que d'autres personnes semblent très bien s'en passer - ou pire, qu'elles les réfutent de manière crédible - ils risquent de passer pour des idiots. Puisqu'on ne peut pas défendre une croyance basée sur la foi en persuadant les sceptiques qu'elle est vraie, les fidèles sont susceptibles de réagir à cette incrédulité avec rage, et peuvent essayer d'éliminer cet affront à tout ce qui donne un sens à leur vie.

Auteur: Pinker Steven

Info: The Better Angels of Our Nature: Why Violence Has Declined

[ religions réconforts ] [ tolérance ]

énergies

Pour Marsile Ficin, les images agissent sur l’homme dans un espace médian. C’est le Monde de l’Ame, situé entre le Ciel des Idées et la Terre des Corps. Et le Monde de l’Ame contient les raisons séminales correspondantes aux idées et inductibles dans les corps. De ces raisons séminales, les artistes peuvent tirer leurs images ; et si l’adéquation entre les idées et les corps est partout tractable, elle peut être captée d’autant plus aisément qu’un réceptacle sensible aura été prévu à cet effet. Ce réceptacle sensible, c’est le symbole, et sa magie naturelle est particulièrement destinée aux intellectuels qui risquent, par leurs incessantes recherches, dont la nature les assujettit à l’influence de la planète Saturne, de sombrer dans la dépression. Pour éviter celle-ci, les jeunes intellectuels doivent se nourrir et s’entourer de figures correspondant aux planètes de Vénus et de Jupiter. Et, toujours selon Ficin, c’est au croisement de ces trois puissances planétaires que l’art peut déployer sa dimension à la fois thérapeutique et initiatique. Sentiment de la toute-puissance de la fatalité, la mélancolie risque toujours de conduire à la soumission à l’ordre des choses existant. C’est pourquoi l’innocence érotique comme le sentiment de la justice doivent s’y associer pour produire une vision à la fois tragique et dynamique de l’humanité.

Auteur: Thiellement Pacôme

Info: Dans "Trois essais sur Twin Peaks", pages 50-51

[ équilibre ] [ complémentarité ] [ tiercités ]

communication

Dans notre langage, pour établir un dialogue un peu pointu avec autrui, il n'est pas possible d'utiliser autre chose que des idées et des concepts, déjà en vigueur et intégrés par le plus grand nombre depuis longtemps. Sinon, il faudrait d'abord se mettre d'accord sur un vocabulaire et ce qu'il représente dans le concret. Cela donne déjà une idée de l'inertie du système. Il ne fait donc aucun doute que ces questions de communicabilité sont extrêmement complexes, certainement plus ardues pour le petit, l'inférieur, ou le moins évolué. Nous par exemple. Prenons le problème à l'inverse, les choses ne s'arrangent guère.

Sommes-nous capables de confabuler avec un dauphin ?... Pas vraiment.  Alors que nous leur reconnaissons une qualité grégaire et une intelligence, même si elles sont extrêmement différentes. Notre intelligence obscure nous permet pourtant de saisir les différences fondamentales entre eux et nous. Deux biotopes difficilement compatibles et deux perceptions du monde différentes ; nous, plutôt dans le visuel et les dauphins, plutôt dans l'auditif. Mais, malgré cette proximité et les efforts que nous fournissons dans cette direction, nous n'avons pas une idée claire de leur représentation du monde. Donc les systèmes de compréhension et de conceptualisation de la réalité sont issus fondamentalement des sens, du biotope et de l'histoire de l'espèce. Bien. Restons dans des limites convenables et ne faisons que saupoudrer ceci avec le paramètre qui inclurait une différence de niveaux d'évolutions. Tout le monde y est ?.... Imaginons maintenant combien étrangères risquent d'être les manières de voir les choses des parties en question. Leur appréhension. Je n'ose pas même parler ici de leur modes de conceptualisation.

Auteur: MG

Info: 2002

[ extraterrestre ]

mécanisation

Sous une forme ou une autre, les mesures de distanciation sociale et physique risquent de persister après la fin de la pandémie elle-même, ce qui justifie la décision de nombreuses entreprises issues de différentes industries d'accélérer l'automatisation. Au bout d'un certain temps, les préoccupations persistantes au sujet du chômage technologique s'estomperont à mesure que les sociétés mettront l'accent sur la nécessité de restructurer le lieu de travail de manière à réduire au minimum les contacts humains rapprochés. En effet, les technologies d'automatisation sont particulièrement bien adaptées à un monde dans lequel les êtres humains ne peuvent pas être trop près les uns des autres ou sont prêts à réduire leurs interactions. Notre crainte persistante et peut-être durable d'être infecté par un virus (celui de la COVID-19 ou autre) va donc accélérer la marche implacable de l'automatisation, en particulier dans les domaines les plus sensibles à celle-ci. En 2016, deux universitaires de l'université d'Oxford sont arrivés à la conclusion que jusqu'à 86 % des emplois dans les restaurants, 75 % des emplois dans le commerce de détail et 59 % des emplois dans le secteur du divertissement pourraient être automatisés d'ici 2035. Ces trois industries sont parmi les plus durement touchées par la pandémie et c’est dans celles-ci que l'automatisation, pour des raisons d'hygiène et de propreté, sera une nécessité qui, à son tour, accélérera encore la transition vers plus de technologie et plus de numérique. Un autre phénomène est appelé à soutenir l'expansion de l'automatisation : celui où la "distanciation économique" pourrait suivre la distanciation sociale. À mesure que les pays se tournent vers l'intérieur et que les entreprises mondiales raccourcissent leurs chaînes d'approvisionnement super-efficaces mais très fragiles, l'automatisation et les robots qui permettent une production plus locale, tout en maintenant les coûts à un faible niveau, seront très demandés.

Auteur: Schwab Klaus

Info: Covid-19 la grande réinitialisation

[ crise sanitaire prétexte ] [ homme-machine ]

femmes-par-hommes

La sexualité des femmes après 60 ans
Aujourd'hui, toutes les conditions sont réunies pour que chacune choisisse sa façon de vivre, avant la dernière étape de la grande vieillesse. En ayant par exemple une sexualité épanouie, si tel est son voeu. Pour une femme l'âge et la ménopause, accompagnée par le bouleversement en quelques mois de son équilibre hormonal, définissent clairement un "avant" et un "après". Les atteintes physiques apparaissent, et risquent d'entraver la sexualité. La sécheresse vaginale rend les rapports désagréables ou douloureux ; le relâchement des tissus peut entraîner une "descente des organes" gênant la pénétration ; l'évolution des seins gâche l'image de soi.
Sexualité après la ménopause : des réactions différentes
Certaines femmes vont se résigner : la sexualité devient trop compliquée, et, si elle était déjà difficile auparavant, si elle donnait peu de plaisir, était peu intéressante, la tentation sera grande d'arrêter les frais, et de se consacrer à des activités plus gratifiantes : les petits enfants, le bénévolat, les voyages… Les solutions sont infinies. Il y a tellement de choses que la vie a empêché de faire, on ne s'ennuie pas ! Parfois, la ménopause et ses troubles offrent la bonne excuse tant attendue pour enfin avoir le droit de dire non à une sexualité, qui aura toujours été plutôt subie.
Mais beaucoup de femmes ne réagissent pas ainsi : les traitements existent pour maintenir le corps en forme, lubrifiants et hormones permettent de gommer la plupart des inconvénients du vieillissement. Si la sexualité a été bonne, elle est une part de la vie à laquelle on ne veut pas renoncer, pour l'équilibre et la joie de vivre qu'elle apporte.
Un second souffle après la ménopause
Alors que certaines femmes âgées s'imaginent qu'elles ne sont plus conformes aux modèles sociaux de la séduction et se sentent coupables de leurs désirs érotiques, d'autres se trouvent libérées et découvrent avec surprise, comme un cadeau inespéré, ce corps toujours désirant et toujours sensible et cette imagination toujours débordante de projets et de fantasmes. Détachée de la reproduction (au diable la contraception et tous ses soucis !), la sexualité peut se voir investie comme plaisir.
Avoir tout son temps disponible permet d'envisager que certaines frustrations passées pourront enfin être affrontées, et résolues : les enquêtes apprennent qu'un nombre non négligeable de femmes ont davantage d'orgasmes après la ménopause, et que certaines ne l'ont connu pour la première fois qu'alors ! En plus, les multiples possibilités de rencontre de toutes les associations et activités organisées font que la solitude n'est plus une fatalité : l'aventure amoureuse et érotique est possible, et se révèle souvent d'une grande qualité, puisque rien (ni métier, ni enfant) ne l'entrave.
Même si l'inégalité est très grande devant les atteintes du vieillissement et les maladies, la marge de liberté réelle est souvent bien plus grande qu'on ne l'imaginait avant d'être confrontée au problème. Et rester coquette, vouloir séduire (son compagnon ou un nouveau partenaire), jouir, donnent du goût à la vie et nourrissent les projets et la joie de vivre.

Auteur: Ferroul Yves

Info:

[ gérontologie ] [ sénescence ]

homme-animal

Des zoologistes ont documenté une relation incroyable entre les oiseaux sauvages du Mozambique et le peuple local Yao, qui font équipe ensemble pour chasser le miel.

Grâce à une série d'appels et de gazouillis spéciaux, les humains et les oiseaux sont capables de communiquer - les oiseaux guides de miel ouvrent la voie vers des ruches cachées, où le peuple Yao partage le butin avec ses amis aviaires.

Il s'agit d'une belle relation mutualiste connue depuis plus de 500 ans, mais aujourd'hui, pour la première fois, une équipe de chercheurs du Royaume-Uni et d'Afrique du Sud a montré que les oiseaux guides de miel et les humains communiquent en fait dans les deux sens afin de tirer le meilleur parti de leur collaboration.

S'il n'est pas rare que nous soyons capables de communiquer avec des oiseaux de compagnie et d'autres animaux domestiques, il est extrêmement rare que l'homme puisse "parler" à des animaux sauvages, et encore plus rare que ceux-ci puissent lui répondre volontairement.

Plus impressionnant encore, personne n'a jamais dressé ces oiseaux. Ils ont choisi de collaborer avec les humains de leur propre chef.

"Ce qui est remarquable dans la relation entre le guide-miel et l'homme, c'est qu'il s'agit d'animaux sauvages vivant en liberté et dont les interactions avec l'homme ont probablement évolué par sélection naturelle, probablement au cours de centaines de milliers d'années", a déclaré la chercheuse principale, Claire Spottiswoode, spécialiste du comportement des oiseaux de l'université de Cambridge et de l'université du Cap. 

L'oiseau guide du miel (Indicator indicator) est largement répandu en Afrique subsaharienne, et l'on a constaté que plusieurs communautés différentes collaboraient avec les oiseaux sauvages pour les amener à rechercher les nids d'abeilles cachés en haut des arbres.

Les oiseaux adorent manger les rayons de cire qui se trouvent à l'intérieur de ces ruches, mais ils ne peuvent pas les ouvrir tout seuls et risquent de se faire piquer par les abeilles. Ils demandent donc l'aide des humains, qui enfument les abeilles et ouvrent les nids, emportant le miel et laissant les rayons de cire pour que les oiseaux puissent se régaler.

D'après des études antérieures, cette relation fonctionne dans les deux sens : parfois, les oiseaux repèrent une ruche par eux-mêmes et trouvent rapidement un humain à proximité, en émettant un gazouillis caractéristique pour attirer son attention.

Parfois, un chasseur de miel de la communauté Yao sollicite l'aide d'un oiseau guide à proximité lorsqu'il a envie de sortir, en utilisant son propre cri d'oiseau pour attirer un oiseau consentant.

Bien que cette belle relation ait été bien documentée, Spottiswoode a voulu déterminer une fois pour toutes si les humains et les oiseaux travaillaient délibérément ensemble, et si ces cris "brr-hm" émis par le peuple Yao faisaient réellement une différence.

Pour ce faire, elle a travaillé avec des membres de la communauté Yao et leur a demandé d'aller chasser le miel, mais de faire entendre trois bruits automatisés différents : le cri "brr-hm", un mot aléatoire dans la langue Yao, ou un cri d'oiseau sans rapport.

L'un de ces trois bruits était diffusé toutes les 7 secondes sur un haut-parleur portatif, au même volume que les chasseurs de miel marchaient à la recherche d'une ruche. Et les résultats ont été assez frappants.

L'appel traditionnel "brrr-hm" a augmenté la probabilité d'être guidé par un guide du miel de 33 % à 66 %, et la probabilité globale de se voir montrer un nid d'abeilles de 16 % à 54 % par rapport aux sons de contrôle", a déclaré Spottiswoode.

"En d'autres termes, le cri 'brrr-hm' a plus que triplé les chances d'une interaction réussie."

Avec leurs recherches publiées dans Science, Spottiswoode et son équipe concluent qu'il s'agit là d'un signe clair de communication consciente entre les oiseaux et les chasseurs de miel humains.

"Ces résultats montrent qu'un animal sauvage attribue correctement un sens et répond de manière appropriée à un signal humain de recrutement vers la recherche coopérative de nourriture... un comportement auparavant associé uniquement aux animaux domestiques, comme les chiens", écrit l'équipe.

Selon les chercheurs, la seule autre relation de coopération connue entre les animaux sauvages et les humains dans le monde est celle qui existe entre les pêcheurs locaux et les dauphins au Brésil - où les dauphins ont été vus appelés à rassembler des bancs de poissons vers les pêcheurs. 

Mme Spottiswoode est maintenant fascinée par la façon dont cette relation de collaboration a évolué et s'est transmise.

C'est un peu compliqué, car le guide-miel est semblable au coucou, en ce sens qu'il pond ses œufs dans le nid d'autres oiseaux et que le poussin est élevé par une espèce différente - ce qui signifie que ses parents ne peuvent pas lui apprendre les cris spécialisés. 

Le côté humain de la relation est un peu plus facile : le cri "brr-hm" est transmis par les pères de la communauté Yao depuis aussi longtemps que l'on puisse se souvenir.

"Par exemple, les travaux de notre collègue Brian Wood ont montré que les chasseurs de miel Hadza en Tanzanie émettent un sifflement mélodieux pour recruter des guides", a déclaré Spottiswoode.

"Nous aimerions savoir si les guides ont appris cette variation linguistique des signaux humains à travers l'Afrique, ce qui leur permettrait de reconnaître les bons collaborateurs parmi les populations locales qui vivent à leurs côtés", a-t-elle ajouté.

Auteur: Internet

Info: https://www.sciencealert.com, Fiona Macdonnald, 22 Juillet 2016

[ zoosémiotique ]

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]

pamphlet

Coucou ! C’est moi, me revoilà. Vous ne me reconnaissez pas ? Pourtant, vous m’avez chaque année dans votre cheminée.

C’est moi, oui, Big Father, avec ma grande barbe hydrophile, mon traîneau à clochettes et des cadeaux dégueulasses plein ma hotte, emballés dans du splendide papier clignotant.

Vous ne m’avez pas vu venir, une fois de plus ? C’est normal. Personne ne sait jamais comment je débarque. Chaque année, je trompe mon monde. On ne m’entend pas arriver, et puis un matin, c’est fait, ça y est, tout est joué. La torture des fééries recommence.

Une fois encore, j’ai réussi à suspendre, pendant la nuit, mes guirlandes grotesques en travers des rues, comme autant d’insultes anonymes. Une fois encore, mes boules multicolores et mes illuminations pernicieuses sont apparues aux vitrines. Sans que personne me voie. Sans que personne me voie jamais. Une fois encore, ma grande terreur s’installe. Les semaines vont se dérouler comme des veilles funèbres. Les gens vont courir partout, épouvantés, le long des façades, avec leurs paquets obligatoires. Il est revenu, ça y est, il s’est réinstallé, celui qu’on redoutait. Celui dont on évitait même de prononcer le nom, de crainte de le voir surgir. C’est fait. La Bête est là. L’Eminence rose est de retour. La ville n’existe plus, ni la vie, ni rien. Tout est redevenu Noël.

Comme je m’amuse, à contempler la joie qu’ils affichent et à connaître le fond noir de leurs âmes angoissées ! Qu’ils me craignent, pourvu qu’ils me célèbrent ! En vérité, ma menace les rend malades bien avant décembre. Chaque année, on voudrait espérer que je ne vais pas revenir. Chaque année, on me sent approcher comme un mal inconnu, un cauchemar, une fièvre. Le Père Noël fait peur. L’année dernière, au restaurant, j’en ai entendu plusieurs, à voix basse, dès la fin d’octobre, qui parlaient de moi avec la trouille au ventre : "Qu’est-ce que tu fais pour les fêtes ? – Mais je ne sais pas. – Comment, tu ne sais pas ? – Non, pas encore. – Tu n’as rien prévu ? Mais tu es fou ! Il faut que tu t’en occupes ! Noël c’est demain ! Et la Saint-Sylvestre ! Tu ne te rends pas compte ! D’ici quinze jours, peut-être huit, il y aura des trucs partout ! Des guirlandes ! Des boules lumineuses !"

Oui, je flanque la panique ; mais il n’y a que depuis quelques années que je commence, chez certains, je le sais, à susciter de la haine.

Oh ! pas une haine bien dangereuse ! Rien de grave. Le monde est beaucoup trop définitivement ensucré, gnangnantifié et sans retour, colonisé par les bonnes intentions, la prudence et les mièvreries, pour que je me sente en péril. L’horreur du bonheur est peut-être une idée neuve en Europe mais elle ne risque pas de faire beaucoup d’émules. Je sais qu’il y en a, chaque année, qui rêvent de vomir tout le mal qu’ils pensent de ma fête du Cœur venimeuse, de cette apothéose ravageante de l’approbation du monde, de cette culmination de la résignation enfestée. Mais je suis bien tranquille. J’ai été si souvent honni pour de mauvaises raisons que les excellentes de maintenant ne risquent pas d’être saisies avant longtemps.

Tout semble avoir été dit contre moi. la critique est recuite. C’est mon plus beau triomphe, d’avoir fatigué jusqu’à ceux qui me détestent. Quel ennui les saisit, quel accablement, dès qu’ils envisagent de me vitupérer ! Quelle sensation effarante d’inutilité ! Ils savent déjà tout ce qu’on va leur balancer ! Les accusations de banalité, de trivialité, qu’ils vont endurer ! Rentrer dans le lard du Père Noël, cette vieille porte ouverte ? Composer le millième rappel de la transformation du rite païen du solstice d’hiver en fête chrétienne à son tour sécularisée par le business ? La cent millième attaque futile contre la Nativité détournée de sa pureté originelle, noyée sous les cadeaux paralysants, les téléphones qui parlent, le super-Nintendo parfumé à la framboise, les chocolats à quartz et toutes les autres saloperies en multiplication galopante ? Vous êtes tombé sur la tête ?

Le Père Noël est une ordure ? Comme vous y allez ! Regardez-vous un peu. C’est tous les jours Noël maintenant. Ma grande réussite, c’est qu’on croit que mon oppression ne dure que quelques semaines par an, alors que je suis le ressort des illuminations des douze mois de l’année. Noël, c’est Noël. Et pâques c’est aussi Noël. Et le 15 août. Et la Saint-Sylvestre. Et le bonheur de merde des vacances, cette paix des grands cimetières sous le soleil. Les mains à Nikons valent les tronches à boudins blancs. Les gueules de camping-cars valent les têtes de bûches au chocolat. Toutes les fiestas conduisent à moi. et toutes les rages, et toutes les ruées, et toutes les foires. Et toutes les roues de la Fortune. Et tous les Manèges de la télé. Et toute la quincaillerie clinquante de l’égalité par la joie, de la fraternité par l’extase niaise, de l’apothéose du Rien tonitruant qu’on étend par couches de plus en plus épaisses sur la violence toujours recommencée, mais de plus en plus niée, du genre humain.

Qui est plus philanthrope, plus humanitaire, plus tartuffien solidaire que moi ? Qui règne davantage sur les plateaux ? L’avenir m’appartient. C’est moi le Cavalier suprême de l’Apocalypse en rose. Je préfigure si parfaitement la société future, l’humanité de demain bien gâteuse, bien transparente et transfrontières, bavante de positivité dans ses centres-villes toilettés, avec ses Twingo fœtales aux chouettes banquettes sièges-bébés, ses cadeaux infantiles, sa classe dominante d’apparatchiks du loisir, de tour-opérateurs, de charlatans de l’urbanisme rigolo, de promoteurs guimauve de la babyphilie définitive, d’entrepreneurs meurtriers de gaieté publique, qu’il faudrait la subtilité géniale d’un Kojève au moins (ce drôle de type qui avait placé sa fortune en actions de la Vache qui rit et qui avait des ennuis avec ses femmes parce qu’il refusait farouchement de leur faire des enfants) pour comprendre ce que je fabrique vraiment ; Kojève qui avait découvert, et dès 1943, qu’avec la fin de l’Histoire allait disparaître l’inégalité juridique entre l’enfant et l’adulte. "Ne pouvant pas supprimer le contrôle de l’action enfantine, on introduira donc un contrôle de l’action adulte", prévoyait-il. Mais c’est ça, Noël ! C’est exactement moi ! Mais ce qu’il n’avait pas deviné, Kojève, c’est que ça se ferait en pleine foire, en plein rideau de fumée de carnaval ! Joyeux Noël ! Bonne santé ! C’est maintenant que mon règne de corso fleuri peut démarrer.

Auteur: Muray Philippe

Info: Dans "Exorcismes spirituels I - Rejet de greffe", pages 398 à 400

[ convention sociale ] [ bonheur obligatoire ] [ consumérisme ]