diachronie

Depuis des temps immémoriaux, certains humains ont prétendu traiter de "vérités éternelles" à valeur unique.  Nous avons appelé ces hommes "philosophes" ou "méta-physiciens". Mais ils se rendaient rarement compte que toutes leurs "vérités éternelles" n'étaient que des mots, et des mots pour la plupart issus d'une langue primitive, reflétant dans sa structure la structure supposée du monde de la lointaine antiquité. En outre, ils ne se rendaient pas compte que ces "vérités éternelles" ne durent que tant que le système nerveux humain n'est pas modifié. Sous l'influence de ces "philosophes", de la "logique" à deux valeurs et de la confusion des ordres d'abstractions, nous avons presque tous contracté une prédilection fermement ancrée pour les énoncés "généraux" - les "universaux", comme on les appelait - qui, dans la plupart des cas, impliquent  la conviction sémantique d'une durabilité et d'une validité pour tous les "temps" à venir.

Auteur: Korzybski Alfred Abdank Skarbeck

Info: Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics

[ linguistique ]

postérité

Tu sais bien que les humains, en éloignant les basiques problèmes de survie, ont développé quantité de disciplines vues comme inutiles ou même parasites, ce qui est une erreur puisqu'elles trouvent toutes leur justification. Pense à l'assassin destructeur de masse qui permet de reconstruire après sa chute - tout en améliorant une morale. Ou au glandeur jouissif, artiste ou pas, qui développe des techniques pour occuper le temps. Tous deux apportent de la matière à l'écrivain penseur, qui lui tente, génération après génération, d'affiner la description du monde et de ses interactions, pendant que de son côté le mathématicien mesure le cosmos donné à ses sens à l'aide de nombres abstraits, réputés immuables dans leurs attributs d'ordonnateurs des proportions.
Je crois pouvoir dire que ces deux spécialistes de l'abstraction et de l'imagination, en affinant les manières de nommer et décrire ce que nous appelons le réel, s'inscrivent, un peu plus que d'autres, dans une continuité évolutive.

Auteur: Mg

Info: 4 mai 2017

[ durabilité ] [ mathématiques ] [ langage ]

image-son

- Un livre ne dure-t-il pas tout autant ?

- Autant que durent les mots, oui. Mais il y a dans une photographie quelque chose qui dépasse les mots, qui dépasse même les bouches qui les prononcent. Une photographie mettra le feu aux sens d'un Anglais, d'un Français, d'un Hottentot. Elle nous survivra à tous pour allumer le même feu chez nos petits-fils. Elle est un objet transcendant à l'histoire.

- Un objet englué dans l'histoire ! proteste mon oncle. Perverti par l'histoire qui l'offusque comme un écran de fumée ! Cela se voit à la façon dont une mule épouse le pied, à la coupe d'une robe, au style d'une coiffure. Donnez des photographies à votre petit-fils: il y verra une curiosité pittoresque. Votre moustache cirée le fera rire ! Mais les mots, Hawtrey, les mots - hein ? Ils nous séduisent dans le noir, et l'esprit de chacun les revêt de chair et d'habits à sa guise.

Auteur: Waters Sarah

Info: Du bout des doigts

[ langage ] [ durabilité ] [ modes ]

obsolescence programmée

Ce n’est pas la nouveauté qui nous désenchante, c’est au contraire le règne fastidieux de l’innovation, de la confusion incessamment renouvelée, c’est ce kaléidoscope tournant d’instantanéités universelles qui nous fait vivre sans perspectives de temps ou d’espace comme dans les rêves ; c’est l’autoritarisme du changement qui s’étonne de nous voir encore attachés à la nouveauté qu’il recommandait hier, quand il en a une autre à nous imposer et qui empile à la va-vite ses progrès techniques les uns sur les autres sans faire attention que nous sommes là-dessous.

De ces marchandises il n’est pas entendu qu’elles puissent vieillir, ce qui marque la camelote ; elles doivent être neuves puis disparaître sous peine de se métamorphoser en encombrants et ridicules détritus. Tout doit être si bien récent et provisoire qu’on ne puisse concevoir un après, à ce qui est ainsi dépourvu de maintenant. Ce sont dans ce chaos les objets inexplicablement épargnés, les fermes attachements, tel usage ou manière tout simplement laissés à eux-mêmes et vivants, des répits imprévus, le coassement des grenouilles, qui font figure insolite de nouveauté

Auteur: Bodinat Baudouin de pseudo

Info: La vie sur terre. Paris : Éditions de l’Encyclopédie des nuisances

[ remplacement ] [ choses ] [ jetables ] [ non durabilité consumériste ]

définition

Encore une chose. L'amour est une folie passagère, il entre en éruption comme un volcan et se calme ensuite. Et quand il se calme, il faut prendre une décision. Il faut voir si vos racines se sont emmêlées à un tel point qu'il est inconcevable de vous séparer. Parce que c'est ça l'amour. L'amour, ce n'est pas la respiration coupée, ce n'est pas l'excitation, ce n'est pas l'échange de promesses d'une passion éternelle, ce n'est pas le désir de s'accoupler à chaque minute de la journée, ce n'est pas rester éveillée la nuit en t'imaginant qu'il embrasse chaque recoin de ton corps. Non, ne rougis pas, je te dis certaines vérités. Ça, c'est simplement être "amoureux", ce qui est à la portée du premier imbécile venu. L'amour vrai, c'est ce qui reste quand on a cessé d'être amoureux, et c'est à la fois un art et un heureux accident. (...) L’amour, ce n’est pas rester sans voix, ce n’est pas l’excitation, ni la déclaration de promesses d’une passion éternelle. Ce n’est pas le désir de faire l’amour à tout instant du jour, ni rêver toute la nuit qu’il te fait des bisous partout. Non, ne rougis pas ! Je te dis la vérité. Ça, c’est “tomber amoureux”, et n’importe quel imbécile peut le faire. L’amour, c’est ce qu’il nous reste quand le feu de la folie amoureuse s’est éteint… C’est ce que nous éprouvions, ta mère et moi. Nous avions des racines qui poussaient en profondeur et se rapprochaient les unes des autres. Quand nos branches ont perdu leurs jolies fleurs, nous avons découvert que nous ne faisions plus qu’un seul arbre au lieu de deux.

Auteur: Bernières Louis de

Info: La Mandoline du capitaine Corelli

[ explication ] [ couple ] [ durabilité ]

xénolinguistique

Comparons la durabilité du réel avec celle du sémantique.

Si je vous dis "bloc de granit" ou "montagne"... ou "Cervin", nous voilà avec des portions de notre réalité, bien circonscrites, qui ont de bonne chance de perdurer plus longtemps que nos existences éphémères.

Maintenant attardons-nous un peu sur ces mots "dalle carrée en granit". On précise un peu l'objet, ainsi figé avec le langage. (étant entendu que la langue francophone est bien intégrée par qui en discute.)

Dans l'absolu ces deux faces : le mot et la chose, sont éphémères à des degrés divers. 

a) Le mot, en terme de durabilité, touche aux extrêmes. Il peut être exprimé et disparaitre en 2 secondes mais il peut aussi être gravé sur une plaque en iridium qui, stockée au bon endroit, ou envoyée  dans l'espace, pourra atteindre une durée qui dépassera de loin celle d'un bloc de granit. On peut même dire que cette idée de "dalle de granit", conformément transmise via les générations, les peuples, voire même entre systèmes planétaires ou galaxies, et donc éventuellement gravée ou disséminée sur d'autres supports, ne pourra pas (dans l'absolu une fois encore) se dégrader ou s'éroder. Notre expression dalle de granit est ici une idée immortelle.

b) Maintenant la chose : une "dalle de granit", à l'horizon humain ou terrestre est en effet supposée durer plus longtemps qu'une vie d'homme, éventuellement plus longtemps que son espèce elle-même.  Mais, quoi qu'on puisse en dire ce bout de granit taillé disparaitra un jour ou l'autre, principalement par usure du temps, tout comme la terre est apparue il y a 5 milliards d'années et qu'elle disparaitra dans quelques autres milliards de cycles.

Par conséquent la sémantique, ou l'esprit (qui ne pense en bonne continuité qu'avec le verbe et les mots) se trouvent possiblement promis à une forme d'éternité, qui passe par l'idée de conservation des signes organisés. On dira que ce problème de continuité semble avoir été bien abordé et en partie résolu via les méthodologies de stockage de la double hélice de l'ADN que nous commençons à peine à entrevoir. Mais c'est une autre histoire.  

La secondéité qui exprime ces pensées est bien sûr "au centre" de tout ça. Elle est l'émergence biologique, issue de la matière, de Gaïa... du granit si on veut... qui se retrouve capable, par un effet évolutif "Gaïa", civilisationnel et grégaire, de développer les idées ci-dessus grâce à un langage écrit et donc externalisable. 

Elle se dit que pour aller un peu au-delà de tout ça il reste à déceler/rencontrer une autre espèce non terrestre, dotée d'un langage articulé et externalisable si possible.

Il faudra alors trouver/développer une méthodologie suffisamment claire, logique et progressive pour qu'à partir de quelque chose de très simple et basique - comme notre dualité source par exemple - nous sachions aborder et développer des façons d'expliciter - et nous laisser éduquer - face/par une race différente (imaginons des entités intelligentes, sur base biologique de silicium, émergées d'une planète très exotique) l'idée/concept que nous avons formalisé ici sous "dalle de granit". 

Pour ce faire il faudra d'abord trouver la première accroche d'une interface sémiotique - allant dans les deux sens - pour ensuite développer un dictionnaire commun, qui devra d'abord établir, au cas par cas, l'historique, l'étymologie et les circonstances d'apparition de chaque nouveau terme/objet/concept de cette culture non terrestre, culture ayant aussi développé un système de signes-langages qu'elle nous enseignera simultanément.

Auteur: Mg

Info: fév 2023

[ notions athanasiques ]

homme-animal

Des poissons plus méfiants remettent en cause les méthodes de surveillance des stocks de poissons.
L'Organisation des Nations unies pour l'alimentation et l'agriculture (FAO) estime que près de 70 % des stocks halieutiques sont pleinement exploités voire surexploités. Mais ce n'est peut-être qu'un tour joué par des poissons méfiants... La surexploitation industrielle est certainement un problème, mais une étude sur la pêche de loisir conduite par des scientifiques de l'UE sur les côtes de Majorque soulève quelques doutes sur l'exactitude des outils actuels utilisés pour la surveillance des stocks halieutiques.
Le tourisme représente 80 % de l'économie de l'île de Majorque, mais ce ne sont ni les plages ensoleillées ni les beaux paysages qui ont attiré Josep Alós et Robert Arlinghaus. Depuis janvier 2014, les deux scientifiques étudient les populations de poissons de la région, grâce à de nouveaux modèles mathématiques et méthodes de suivi. Et leurs découvertes sont plutôt déconcertantes. En effet, il semblerait que plus les pêcheurs sont nombreux, moins les poissons ont tendance à mordre à l'hameçon.
Pour arriver à ce résultat, les chercheurs ont étudié le comportement de deux poissons, le Serranus scriba (le Serran ou perche de mer), un carnivore, et le Diplodus annularis (le Sparaillon), un alguivore. Les études ont concerné 54 emplacements présentant les mêmes caractéristiques d'habitat mais soumises à différentes pressions de pêche à la ligne. Pendant la pêche, une caméra vidéo sous-marine autonome enregistrait le comportement des poissons.
Si je me fais avoir une fois...
Logiquement, la perche de mer, qui ne peut réfléchir trop longtemps avant d'attaquer une proie mobile, devait être plus agressive que le sparaillon envers les appâts. Mais les faits ont rapidement remis cette hypothèse en question: les poissons étaient effectivement plus agressifs lorsque les pêcheurs étaient rares, mais ils devenaient de plus en plus prudents avec l'augmentation du nombre d'appâts. Selon l'équipe, ce comportement évolutif peut s'expliquer par une sélection génétique vers une méfiance renforcée ainsi que par l'expérience, entraînant ainsi une diminution des prises.
Ces résultats sont en contradiction avec une étude précédente des deux scientifiques, qui s'était limitée à surveiller les méthodes standard de pêche à la ligne et avait conclu que les zones marines protégées contenaient des poissons plus nombreux et plus gros que les zones très exploitées. Le comportement du sparaillon, quant à lui, ne semblait pas affecté par ce changement.
"Ces résultats suggèrent que la pêche récréative pourrait aboutir à une situation apparente d'une forte réduction des prises mais sans changement réel dans la population des poissons, où le taux de prises décline plus vite que l'abondance des poissons", déclare Josep Alós, chercheur au Leibniz-Institute of Freshwater Ecology and Inland Fisheries et co-auteur de l'étude.
Cela veut-il dire que la diminution des stocks halieutiques, constatée à l'échelle mondiale, résulterait en fait d'un comportement plus méfiant des poissons? "Les rapports sur le déclin considérable des populations de poissons dans les océans s'appuyant uniquement sur les données provenant des pêcheries comme la pêche à la palangre du thon, de la morue ou de l'espadon pourraient donc s'expliquer par un comportement plus prudent de ces poissons. Nous devons revoir notre système de surveillance des stocks de poissons et tenir compte des possibles changements de comportement. Il se peut que certaines zones très exploitées contiennent en fait plus de poissons que nous le pensons", conclut Robert Arlinghaus, directeur de l'étude et chercheur à la Humboldt-Universität zu Berlin.
L'étude a été financée dans le cadre du projet FISH&FISHERS, qui cherche à améliorer les estimations de mortalité des poissons en étudiant les interactions spatiales entre les poissons et les pêcheurs. L'équipe espère que ses résultats contribueront à mieux protéger les écosystèmes marins, à préserver la biodiversité, et à renforcer la durabilité des pêcheries.

Auteur: Internet

Info: The role of the behavioural interactions between fish and fishers on fisheries sustainability, From 2014-01-01 to 2015-12-31, closed project

[ causes-effets ]

prospective FLP

Les listes furent parmi les premiers emplois, sinon le premier, quant à l'utilisation humaine de l'écriture comme outil communautaire. Elles avaient fonction d'inventaire, c'est à dire de faire un état des lieu des réserves dans un but de survie du groupe. C'est dire si ces signes alignés sur un mur de pierre avaient une réalité, une durabilité, en eux - signifiés avec signifiants en béton. Ces marques "pour mémoire" portaient donc une réelle valeur de conservation temporelle et ce qui était ainsi catégorisé, mis dans un rayonnage, l'était pour plusieurs jours au moins.

Il semble assez clair que les milliers d'années  de développement du langage, en partie "sur support externe", déployement dans le temps qu'on résumera par foisonnement-accélération, (c'est à dire la virtualisation d'un réel qui restera à tout jamais la roche-mère des signes et idiomes), ont accentué un décalage. Une déconnection pas assez soulignée à notre sens.

La réalité, priméité source (clin d'oeil à C.S. Peirce), déformée par cet emballement, se retrouve du coup "distancié", superficialisée. Avec pour défaut central une déformation du TEMPS sémantique dans sa valeur anthropique (il n'en a pas d'autre d'ailleurs, ah ah ah). C'est à dire que le fonctionnement biologique du primate humain reste beaucoup plus proche du réel sumérien, alors que son "réel projeté" actuellement par le langage (pour les images c'est pire) s'est accéléré/complexifié. 

L'idée sur laquelle nous voulons insister est celle d'une déconnexion entre mots/phrases consensuels acceptés et leurs valeurs réelles en terme de signification/classification - le temps des hommes s'écoulant. Nous considérons que les qualités sémantiques actuelles n'ont plus le poids et la durabilités qui étaient les leurs jadis, que ce soit il y a 200, 500, ou 5000 ans.

Faut-il tenter de l'expliquer mieux, pour que les gens acquiérent un certain recul ? Faut-il clarifier/consolider les dictionnaires, thésaurus et autres définitions sémantiques actuelles ? Nous n'en savons rien. 

Nous voulons juste pointer sur ceci : "il y a un déphasage, un manque de sagesse, à ne pas prendre en compte ce constat, à savoir que les significations des mots et des expressions, elles-mêmes issues d'habitudes de rangements avec base durable en arrière-plan, méritent qu'on se ré-attarde dessus". 

Il faut préciser et sans cesse repréciser leurs sens, dans leurs contextualisations bien sûr. Avec deux a priori : 

a) Une volonté de ralentir le plus possible la précipitation de la pensée, c'est à dire en réfrénant les pulsions "pousse-à-jouir" de nos organismes, que la clinquante pub capitaliste ne s'est pas gênée d'exploiter à mort, et les routines de langages inhérentes - qui pensent à notre place - et nous amènent à dégueuler des avis "sans réfléchir". 

b) Toute classification doit être considérée comme éphémère/transitoire, puisque toujours établie en fonction d'un objectif : se justifier, expliquer, définir, raconter, etc...

Poussant cette idée plus avant FLP s'imagine un développement permettant de présenter n'importe quel concept/extrait (ou une base de 2 ou plusieurs mots/termes ou autre) via une résentation planétoïde de ses tags/catégories. C'est à dire une sphère de corrélats (convexe ou concave, c'est à voir), qu'on pourra faire pivoter à loisir, à la surface de laquelle il sera également possible de déplacer et agencer chaque mot-corrélat en fonction des autres afin de modifier-orienter-préciser l'ordre des termes, ou les résultats, d'une recherche. Chacune de ces dispositions globulaire "catégorie-corrélats" pouvant aussi être mémorisée par l'utilisateur selon ses convenances, afin, par exemple, de la comparer avec d'autres extraits/écrits/concepts via leur présentations globulaires de corrélats... voire même avec certaines situations/contextualisations - imaginaires ou pas - pareillement bien fixées/précisées.

Ainsi sera-il peut-être possible de déceler certaines similitudes entre topologies sémantiques complexes (toujours via leurs dispositions planétoïdes) et ainsi débuter ce que nous nommerons "recueil atemporel comparé d'intrication sémantiques complexes." 

C'est ici que, peut-être, appaitrons des analogies entre langage et biologie... Ou autre.

Auteur: Mg

Info: début août 2021

[ statistiques linguistiques ] [ pré-mémétique ] [ réidentification ] [ tétravalence ]

homme-végétal

Nous sommes dans une secte de la performance 

Le biologiste français Olivier Hamant, directeur de l’institut Michel Serres à Lyon, était de passage en Belgique pour une série de conférences. Devant un public nombreux, il a fait l’éloge de la lenteur et expliqué comment le monde du vivant pouvait nous inspirer. Il signe, aujourd’hui, un nouvel essai, De l’incohérence, philosophie politique de la robustesse (Odile Jacob).

Rencontre avec un penseur atypique qui prône les vertus de l’incohérence et de la contradiction.

Il propose, au micro de Pascal Claude, de "passer de l’abondance matérielle à l’abondance relationnelle" qui serait "la revanche du lien sur le rien". Mais, selon Olivier Hamant, pour atteindre ce dessein, le monde se doit d’opérer un basculement, celui d’une société de la performance à une société qui valorise, au contraire, la robustesse.

- Quelle est la différence entre la performance et la robustesse ?

La performance, c’est la somme de l’efficacité et de l’efficience. L’efficacité, c’est atteindre son objectif. L’efficience, c’est l’atteindre avec le moins de moyens possibles, c’est une forme d’optimisation. Alors que la robustesse, c’est maintenir le système viable malgré les fluctuations à plus long terme, c’est diversifier et expérimenter. Pour moi, c’est le contraire de la performance.

Si on regarde le monde du vivant, on voit qu’il fonctionne de façon sous-optimale. Hétérogénéités, incohérences, inachèvements, lenteurs, c’est ce qui fait la structure et la fonction du vivant. Je prends souvent l’exemple de la température corporelle. Quand on est à 37 degrés, on peut penser qu’on est à l’optimum. Pas du tout. Nos enzymes, leur optimum est plutôt à 40 degrés. C’est lorsque l’on a de la fièvre que nous atteignons vraiment un niveau de performance. Cette marge de manœuvre nous permet de lutter au cas où il y aurait une fluctuation, notamment un pathogène qui rentre. Et là, la fièvre sera utile !

- La nature, davantage du côté de la robustesse que de la performance ?

"Oui et la meilleure image, c’est celle de la plante : elle croît en freinant. La plante pousse grâce à un apport d’eau, à une pression hydraulique. Avec la photosynthèse, avec le soleil, elle fabrique des fibres de cellulose. Et plus la plante pousse, plus elle freine parce qu’elle se rigidifie. En fait, elle synthétise la cellulose pour ralentir sa croissance.

Quand on est dans la performance, on canalise les initiatives, on les optimise et dans le même temps, on les stérilise. Un monde d’abondance stable induit la compétition et la compétition induit la violence contre les écosystèmes et les défavorisés. La croissance donne l’impression d’abondance alors qu’elle crée la pénurie. Elle conduit à l’épuisement des ressources non renouvelables et des ressources renouvelables à long terme. Alors qu’un monde qui va vers le moins, qui est plus instable, va vers la coopération. Coopérer signifie que l’objectif commun l’emporte sur les objectifs individuels et, parfois, implique d’aller même contre son objectif individuel : c’est un exemple typique d’incohérence, une contradiction interne pour le bien collectif. Dans le monde scientifique, entre autres, la cohérence est la valeur ultime, c’est un bel objectif mais une mauvaise stratégie car elle n’autorise pas le débat. Pour construire de la cohérence, il faut passer par des chemins incohérents."

- Quels sont les freins à ce passage vers une société plus coopérative ?

"Le coût de la robustesse, c’est que ça prend plus de temps. Il s’agit d’une injonction quasi paradoxale : face à l’urgence, il faut ralentir ! On a tendance à apporter les meilleures réponses aux mauvaises questions. Prenez par exemple le cas d’Ikea qui va sans doute atteindre sa neutralité carbone en 2030 mais en ayant déforesté à tout va. Il nous faut prendre du temps pour questionner les questions, c’est un ralentissement nécessaire.

J’ose le dire, nous sommes dans une secte de la performance : on n’est plus capable de la questionner alors qu’on sait scientifiquement qu’elle induit une dégradation, c’est le burn-out des humains et celui des écosystèmes ! Et les solutions actuelles proposées tiennent plutôt de l’hyper performance que du ralentissement : c’est Elon Musk qui veut aller sur Mars, c’est Mark Zuckerberg qui veut faire un bunker à Hawaï. Ce sont eux les gourous de cette secte de la performance et, lorsqu’on analyse leurs projets, on se rend compte que ce sont des projets de mort."

- Comment bifurquer concrètement vers le monde de la robustesse ?

"Il faut créer du désir ! Le problème, c’est que, souvent, affirmer que la voie qu’on a prise n’est pas la bonne, cela fait peur. Et puis lâcher la performance crée encore davantage de peur car nous sommes addicts à la performance. Il faut montrer ce que l’on gagne en quittant la société de la performance : un lien aux non-humains et une reconnexion aux vivants. Le monde de la robustesse, c’est le monde de la richesse, des interactions.

Les initiatives les plus intéressantes se situent au niveau local. Les petites entreprises et associations ont compris que nous sommes dans un monde fluctuant et elles s’adaptent. Les plus gros freins à la société de la robustesse sont les États et les grands groupes car ils sont encore coincés dans le monde de la performance.

Il n’existe pas de système qui ne se transforme pas. Tout se transforme tout le temps ! Est-ce qu’on laisse jouer la main invisible et qu’on laisse le système se diriger vers une trajectoire exponentielle ? Car ne pas critiquer la société de performance, c’est laisser se faire une transformation par défaut. Il est parfois très utile de désobéir !

Auteur: Internet

Info: 13 avr. 2024 Nathalie Dekeyser & Pascal Claude

[ durabilité ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]