faisabilité technique

Si les sciences cognitives (C) peuvent le penser,

Les nanotechnologies (N) peuvent le construire,

Les biotechnologies (B) peuvent l’implanter,

Et les technologies de l’information (I),

Peuvent le surveiller et le contrôler.

Auteur: Roco Mihail

Info: Avec William Bainbrige, séminaire "Technologies convergentes pour l’amélioration du fonctionnement humain", décembre 2001

[ fatalisme ] [ enchaînement causal ] [ progrès ]

eugénisme

Le mot "eugenics" (du grec bien engendrer) est forgé en 1883 par Galton, le cousin de Darwin, pour désigner la "science de l’amélioration de la race". D’autres, bien avant lui, ont défendu le tri entre bons et mauvais sujets, sous les noms les plus créatifs : "viriculture", "callipédie", "mégalanthropogénésie", "génération consciente", "hominiculture", "eubiotique", "orthobiose", "aristogénie", "puériculture avant la procréation", "anthropotechnie".

Auteur: PMO Pièces et main-d'oeuvre

Info: Dans "Alertez les bébés ! ", éditions Service compris, 2020, page 15

[ synonymes ] [ historique ] [ défini ]

modernisme

C’est aujourd’hui un lieu commun de dire que toute nostalgie du passé a quelque chose de morbide. Il conviendrait donc, apparemment, de vivre dans un éternel présent, où les souvenirs s’effacent d’un instant à l’autre, et où le passé n’est évoqué, s’il l’est, que pour remercier Dieu de l’amélioration de notre sort. Je vois là une sorte de lifting intellectuel, auquel on recourt par une terreur du vieillissement qui relève du snobisme.

Auteur: Orwell George

Info:

[ culte ] [ progressisme ] [ dénégation ]

vacherie

Prenez n’importe lequel des dirigeants socialistes ; de quel genre d’hommes s’agit-il ? De maigrichons échevelés qui passent leur temps dans des mansardes à écrire des thèses sur l’amélioration du monde ! De braves gens, bien sûr, mais incapables de parler d’autre chose que de Karl Marx. Et lui aussi, ne faisait que rédiger dans sa tête la fin de la misère dans le monde –théorie donc. Son cerveau a emmagasiné tout ce qu’on peut rêver dans ce domaine. Alors il prend sa plume et il noircit page après page, sort des chiffres, prend aux riches pour donner aux pauvres, distribue des fortunes, bouleverse l’économie mondiale et déverse des milliards sur les misérables qui s’en étonnent ; et tout cela scientifiquement, théoriquement !

Auteur: Hamsun Knut

Info: Mystères

[ collectivisme hors-sol ]

société alternative

Fourier affirme l’existence d’une attraction industrielle qui rend possible une coopération agréable. Elle est fondée sur une attraction passionnée dans la nature de l’homme qui persiste en dépit de l’opposition de la raison, du devoir, des préjugés. Cette attraction tend vers trois objectifs principaux : la création du "luxe, ou du plaisir des cinq sens", la formation de groupes libidineux (d’amitié ou d’amour) ; et l’établissement d’un ordre harmonieux organisant ces groupes de travail en accord avec le développement des "passions individuelles" ("jeu" interne et externe des facultés). Fourier est celui des socialistes utopiques qui est le plus près l’élucider le fait que la liberté dépende de la sublimation non-répressive. Cependant, dans son plan détaillé de réalisation de l’idée, il la confie à une organisation et à une administration géantes, et conserve ainsi les éléments répressifs. Les communautés ouvrières du phalanstère annoncent plutôt "la force par la joie" (Kraft durch Freude) que la liberté ; l’amélioration de la culture de masse que son abolition.

Auteur: Marcuse Herbert

Info: A propos de Charles Fourier dans "Eros et civilisation", trad. de l'anglais par Jean-Guy Nény et Boris Fraenkel, éditions de Minuit, Paris, 1963, page 189

[ critique ]

espoir

[…] Le transhumanisme offre encore quelque chose à dire face au nihilisme, c’est-à-dire au vide laissé par l’effondrement des grandes religions, métaphysiques et idéologies modernes. […] Il promeut rationnellement et délibérément une espérance d’auto-transcendance matérielle de l’espèce humaine, sans limites absolues a priori… […] Son intérêt est aussi critique : il invite à réfléchir à certains préjugés et illusions attachés aux humanismes traditionnels et modernes dont il révèle, par contraste, des aspects généralement peu ou non perçus. […] Pour une part dominante, ces humanismes sont antimatérialistes et spiritualistes. S’ils ne sont plus pré-coperniciens, ils véhiculent des images pré-darwiniennes. Ils reconnaissent l’Histoire, mais guère l’Évolution. Ils ne voient l’avenir de l’homme que sous la forme de l’amélioration de son environnement et de son amélioration propre par des moyens symboliques (éducation, relations humaines, institutions plus justes, plus solidaires, plus égalitaires, etc.)
L’humanisme relève d’une image implicite partiellement obsolète de l’homme.
[…] C’est à l’actualisation de l’image de l’homme et de sa place dans l’univers que le transhumanisme modéré bien compris travaille. Le transhumanisme, c’est l’humanisme, religieux et laïque, assimilant les révolutions technoscientifiques échues et la R&D à venir, capable d’affronter le temps indéfiniment long de l’Évolution et pas simplement la temporalité finalisée de l’Histoire. C’est un humanisme apte à s’étendre, à se diversifier et à s’enrichir indéfiniment.

Auteur: Hottois Gilbert

Info: Le transhumanisme est-il un humanisme ? pp. 75-77, sur le blog Jorion

[ progrès ] [ évolution ]

data élagage

IA : Cette technique oubliée du 18e siècle rend le Deep Learning inutile

Et si le deep learning devenait inutile au développement de l’intelligence artificielle ? Cette technique oubliée du 18e siècle pourrait le remplacer.

Jusqu’à maintenant, le deep learning ou l’apprentissage profond est présenté comme un processus essentiel au développement de l’intelligence artificielle. Il consiste à entraîner les grands modèles de langage (LLM) avec un énorme volume de données. Mais des chercheurs finlandais avancent que le deep learning pourrait devenir inutile.

Ces chercheurs font partie d’une équipe de l’université de Jyväskylä qui effectue des travaux sur les techniques de développement de l’intelligence artificielle. Ils ont publié le mois dernier, dans la revue Neurocomputing, un papier intéressant sur une ancienne méthode mathématique du 18e siècle.

Cette technique est plus simple et plus performante que l’apprentissage profond, défendent les auteurs dans leur papier. Notons que cette conclusion constitue l’aboutissement de six années de recherche.

Il faut que le deep learning devienne inutile…

Le deep learning s’apparente aux techniques d’intelligence artificielle exploitant massivement des données et des ressources informatiques. Celles-ci servent à entraîner des réseaux neuronaux pour avoir des LLM. Rappelons que ces derniers se trouvent au cœur des IA génératives comme le populaire Chat-GPT.

Mais il ne faut pas croire que l’apprentissage profond est infaillible. Le volume des données à traiter en fait une méthode complexe et souvent sujette à des erreurs. Cela impacte significativement les performances des modèles génératifs obtenus.

En effet, la complexité du deep learning se retrouve dans la structure d’un LLM (large miodèle de langage). Cela peut instaurer une boîte noire sur le mécanisme du modèle IA. Dans la mesure où son fonctionnement n’est pas maîtrisé, les performances ne seront pas au rendez-vous. L’opacité du mécanisme IA peut même exposer à des risques.

Des modèles IA performants sans deep learning

L’équipe de l’université de Jyväskylä travaille ainsi depuis six ans sur l’amélioration des procédés d’apprentissage profond. Leurs travaux consistaient notamment à explorer la piste de la réduction des données. L’objectif est de trouver un moyen pratique pour alimenter les LLM sans pour autant les noyer de données.

Les auteurs de la recherche pensent avoir trouvé la solution dans les applications linéaire et non-linéaire. Il s’agit d’un concept mathématique dont le perfectionnement a eu lieu du 17e au 18e siècle. Celui-ci s’appuie principalement sur la combinaison des fonctions et des équations différentielles.

Les applications linéaire et non-linéaire permettent ainsi de générer un nouvel ordre de modèles de langage. Il en résulte des LLM avec une structure beaucoup moins complexe. Par ailleurs, son fonctionnement ne requiert pas un énorme volume de données. Cela n’a pourtant aucun impact négatif sur la performance.

Les mathématiques du 18e siècle pour moderniser l’IA…

L’importance de l’intelligence artificielle dans la technologie moderne augmente rapidement. La compréhension et la vraie maîtrise des grands modèles de langage deviennent indispensables. Les chercheurs finlandais pensent que leur nouvelle méthode peut résoudre certains problèmes en lien avec le développement de l’intelligence artificielle.

En effet, plus le développement de l’IA sera simple et transparent, il sera davantage facile d’envisager son utilisation éthique. L’accent est également mis sur la dimension écologique du nouveau procédé. Des LLM plus simples requièrent beaucoup moins de ressources informatiques et sont moins énergivores.

Néanmoins, les chercheurs craignent le scepticisme des actuels principaux acteurs de l’IA. "Le deep learning occupe une place si importante dans la recherche, le développement de l’intelligence artificielle (…) Même si la science progresse, la communauté elle-même peut se montrer réticente au changement", explique l’un des auteurs de la recherche.

Auteur: Internet

Info: https://www.lebigdata.fr/, Magloire 12 octobre 2023

[ limitation de la force brute ] [ vectorisation sémantique ] [ émondage taxonomique ]

désillusion

La neurobiologie de la déception: la douleur qui dure le plus longtemps  

La déception a un impact douloureux sur notre cerveau. Ce fait s'explique par l'activité des neurotransmetteurs, comme le GABA, qui subissent une altération très spécifique que la science peut désormais expliquer.

La neurobiologie de la déception nous montre une fois de plus qu’il y a des aspects de notre vie que le cerveau vit de façon particulièrement douloureuse. Ainsi, pour une raison que nous ne connaissons pas, dans ces expériences où nous perdons des opportunités ou lorsque la confiance avec quelqu’un de significatif est rompue, une sorte de souffrance est générée qui dure plus longtemps.

William Shakespeare a dit que l’attente est la racine de toute détresse, et c’est peut-être vrai. Mais il est également vrai que nous avons souvent besoin de nous accrocher à certaines choses pour trouver la stabilité. Afin de ne pas perdre courage face à toutes les incertitudes de la vie. Ainsi, nous tenons souvent pour acquis que nos plus proches parents, partenaires ou amis ne nous trahiront pas d’une manière ou d’une autre.

Nous entretenons également des attentes à notre égard, en tenant pour acquis que nous n’échouerons pas dans les domaines où nous sommes si bons. Ou encore que ce que nous avons aujourd’hui restera avec nous demain. Cependant, parfois le destin donne un changement de direction et notre château de cartes s’écroule. Ces expériences, définies essentiellement par une perte de sécurité, sont interprétées au niveau du cerveau comme des signaux d’alarme pour notre survie.

La disparition d’une opportunité qui était si excitante pour nous, être licenciés du jour au lendemain, subir une trahison émotionnelle... Voilà des événements plus que douloureux. Ils sont, d’une certaine façon, des coups portés au tissu de ce qui faisait partie de nous de façon significative. Voyons donc ce qui se passe au niveau du cerveau lorsque nous vivons ces expériences.

La neurobiologie de la déception répond à un intérêt récent dans le domaine des neurosciences. Depuis de nombreuses années, les psychologues, les psychiatres et les neurologues se demandent pas seulement pourquoi cette émotion est vécue si intensément. Une chose qui est claire, c’est que les déceptions font aussi partie de notre personnalité.

Ceux qui les ont vécues deviennent souvent plus méfiants. Les déceptions nuisent à la recherche d’espoir et nous rendent parfois plus prudents lorsqu’il s’agit de susciter des attentes impliquant les gens. Quoi qu’il en soit, il faut qu’il se passe quelque chose au niveau du cerveau pour que son impact soit aussi évident. Découvrons ensemble ce que la science nous dit à ce sujet.

Les neurotransmetteurs et la déception. Comme nous le savons, les neurotransmetteurs sont des produits chimiques qui transmettent des signaux aux neurones. Grâce à cette neurochimie, les émotions, les comportements, les pensées, etc. sont facilités. Ainsi, il est utile de rappeler qu’il existe des neurotransmetteurs très spécifiques, comme la dopamine et la sérotonine. Ils mesurent complètement notre état d’esprit.

Or, dans une étude intéressante réalisée par le Dr Roberto Malinow, du département de neurobiologie de l’Université de Californie, à San Diego, les chercheurs ont révélé qu’il existe deux neurotransmetteurs très spécifiques qui régulent complètement l’expérience de la déception. Il s’agit du glutamate et du GABA, qui agissent dans une zone très spécifique de notre cerveau : l’habénula latérale.

L’habénula et la libération de GABA et de glutamate. L’habénula latérale est l’une des plus anciennes structures de notre cerveau. Nous savons donc, par exemple, qu’elle fait partie des processus émotionnels qui facilitent notre prise de décision. Cependant, malgré le fait qu’elle agisse souvent de manière positive, en stimulant la motivation, cette région a aussi son côté sombre.

Son bon fonctionnement dépend essentiellement d’une libération correcte et équilibrée de glutamate et de GABA. Ainsi, plus l’apport de ces neurotransmetteurs dans l’habénula est important, plus le sentiment de déception est grand. En revanche, plus la libération de GABA et de glutamate est faible, moins cette émotion a d’impact sur notre cerveau.

Le Dr Roberto Malinowski, cité ci-dessus, fait une remarque importante sur la neurobiologie de la déception. On a vu que l’impact de la déception maintenue dans le temps conduit dans de nombreux cas à des troubles dépressifs. C’est-à-dire que lorsque la libération de GABA et de glutamate est intense, il y a un plus grand risque de souffrir de ce trouble psychologique.

On sait aussi que cette excitation de l’habénula due à la libération excessive de ces neurotransmetteurs, nous rend plus obsédés par certaines idées, souvenirs ou situations douloureuses vécues. Il nous est très difficile de tourner la page, d’où la stagnation émotionnelle et la souffrance.

Cependant, la découverte de la relation entre le glutamate et le GABA dans la déception et la dépression ouvre également la porte à de nouveaux traitements. Jusqu’à présent, on supposait que grâce aux antidépresseurs et à la régulation de la sérotonine, le rapport GABA-glutamate était également équilibré. Aujourd’hui, cependant, il est devenu évident que malgré l’amélioration, il est courant de ressentir divers effets secondaires.

Le défi actuel est donc de développer des traitements qui agissent spécifiquement sur certains neurotransmetteurs et non sur d’autres. De cette façon, des réponses plus appropriées seraient données aux patients qui, en raison de diverses altérations au niveau neurochimique, vivent plus intensément certaines réalités. La neurobiologie de la déception est donc un domaine de grand intérêt dont nous améliorons progressivement la compréhension. 

Auteur: Internet

Info: https://nospensees.fr, 01 juin, 2020

[ déconvenue ] [ insuccès ] [ désenchantement ] [ désabusement ] [ désappointement déclic ]

homme-machine

Les progrès récents de l'intelligence artificielle (IA), notamment avec ChatGPT en novembre 2022, ont suscité interrogations, espoirs et craintes, menant à des auditions par le Congrès américain et l'adoption d'une réglementation par l'UE au printemps 2023. 

Dans les parlements comme sur les réseaux sociaux, les rapides progrès de l’IA animent les discussions. À l’avenir, à quels impacts faut-il s’attendre sur notre société ? Pour tenter de répondre à cette question de manière dépassionnée, nous proposons de regarder ce qui s’est passé dans un secteur qui a déjà connu l’arrivée et la victoire de l’IA sur les capacités humaines : les échecs. La machine y a en effet un niveau supérieur à celui des humains depuis maintenant plus d’un quart de siècle.

Pourquoi le jeu d’échecs comme indicateur ?

Depuis les débuts de l’informatique, les échecs ont été utilisés comme un indicateur des progrès logiciels et matériels. C’est un jeu intéressant à de multiples niveaux pour étudier les impacts des IA sur la société :

1 C’est une activité intellectuelle qui demande différentes compétences : visualisation spatiale, mémoire, calcul mental, créativité, capacité d’adaptation, etc., compétences sur lesquelles l’IA vient concurrencer l’esprit humain.

2 Le jeu n’a pas changé depuis des siècles. Les règles sont bien établies et cela donne une base stable pour étudier l’évolution des joueurs.

3  Il est possible de mesurer la force des machines de manière objective et de comparer ce niveau à celui des humains avec le classement Elo.

4 Le champ d’études est restreint : il est clair que les échecs ne sont qu’un tout petit aspect de la vie, mais c’est justement le but. Cette étroitesse du sujet permet de mieux cibler les impacts des IA sur la vie courante.

5  Les IA ont dépassé le niveau des meilleurs joueurs humains depuis plus de 20 ans. Il est donc possible de voir quels ont été les impacts concrets sur le jeu d’échecs et la vie de sa communauté, qui peut être vue comme un microcosme de la société. On peut également étudier ces impacts en regard de la progression des IA au cours du temps.

Explorons quelles ont été les évolutions dans le monde des échecs depuis que Gary Kasparov, alors champion du monde en titre, a perdu une partie contre Deep Blue en 1996, puis le match revanche joué en 1997. Nous allons passer en revue plusieurs thèmes qui reviennent dans la discussion sur les risques liés aux IA et voir ce qu’il en a été de ces spéculations dans le domaine particulier des échecs.

Les performances de l’IA vont-elles continuer à augmenter toujours plus vite ?

Il existe deux grandes écoles pour programmer un logiciel d’échecs : pendant longtemps, seule la force brute fonctionnait. Il s’agissait essentiellement de calculer le plus vite possible pour avoir un arbre de coups plus profonds, c’est-à-dire capable d’anticiper la partie plus loin dans le futur.

(Image : À partir d’une position initiale, l’ordinateur calcule un ensemble de possibilités, à une certaine profondeur, c’est-à-dire un nombre de coups futurs dans la partie.)

Aujourd’hui, la force brute est mise en concurrence avec des techniques d’IA issues des réseaux de neurones. En 2018, la filiale de Google DeepMind a produit AlphaZero, une IA d’apprentissage profond par réseau de neurones artificiels, qui a appris tout seul en jouant contre lui-même aux échecs. Parmi les logiciels les plus puissants de nos jours, il est remarquable que LC0, qui est une IA par réseau de neurones, et Stockfish, qui est essentiellement un logiciel de calcul par force brute, aient tous les deux des résultats similaires. Dans le dernier classement de l’Association suédoise des échecs sur  ordinateur (SSDF), ils ne sont séparés que de 4 points Elo : 3 582 pour LC0 contre 3 586 pour Stockfish. Ces deux manières totalement différentes d’implanter un moteur d’échecs sont virtuellement indistinguables en termes de force.

En termes de points Elo, la progression des machines a été linéaire. Le graphique suivant donne le niveau du meilleur logiciel chaque année selon le classement SSDF qui a commencé depuis le milieu des années 1980. Le meilleur logiciel actuel, LC0, en est à 3586, ce qui prolonge la figure comme on pourrait s’y attendre.

(Image : courbe du classement ELO )

Cette progression linéaire est en fait le reflet d’une progression assez lente des logiciels. En effet, le progrès en puissance de calcul est, lui, exponentiel. C’est la célèbre loi de Moore qui stipule que les puissances de calcul des ordinateurs doublent tous les dix-huit mois.

Cependant, Ken Thompson, informaticien américain ayant travaillé dans les années 80 sur Belle, à l’époque le meilleur programme d’échecs, avait expérimentalement constaté qu’une augmentation exponentielle de puissance de calcul conduisait à une augmentation linéaire de la force des logiciels, telle qu’elle a été observée ces dernières dizaines d’années. En effet, le fait d’ajouter un coup supplémentaire de profondeur de calcul implique de calculer bien plus de nouvelles positions. On voit ainsi que l’arbre des coups possibles est de plus en plus large à chaque étape.

Les progrès des IA en tant que tels semblent donc faibles : même si elles ne progressaient pas, on observerait quand même une progression de la force des logiciels du simple fait de l’amélioration de la puissance de calcul des machines. On ne peut donc pas accorder aux progrès de l’IA tout le crédit de l’amélioration constante des ordinateurs aux échecs.

La réception par la communauté de joueurs d’échecs

Avec l’arrivée de machines puissantes dans le monde de l'échiquier, la communauté a nécessairement évolué. Ce point est moins scientifique mais est peut-être le plus important. Observons quelles ont été ces évolutions.

" Pourquoi les gens continueraient-ils de jouer aux échecs ? " Cette question se posait réellement juste après la défaite de Kasparov, alors que le futur des échecs amateurs et professionnels paraissait sombre. Il se trouve que les humains préfèrent jouer contre d’autres humains et sont toujours intéressés par le spectacle de forts grands maîtres jouant entre eux, et ce même si les machines peuvent déceler leurs erreurs en temps réel. Le prestige des joueurs d’échecs de haut niveau n’a pas été diminué par le fait que les machines soient capables de les battre.

Le style de jeu a quant à lui été impacté à de nombreux niveaux. Essentiellement, les joueurs se sont rendu compte qu’il y avait beaucoup plus d’approches possibles du jeu qu’on le pensait. C’est l’académisme, les règles rigides, qui en ont pris un coup. Encore faut-il réussir à analyser les choix faits par les machines. Les IA sont par ailleurs très fortes pour pointer les erreurs tactiques, c’est-à-dire les erreurs de calcul sur de courtes séquences. En ligne, il est possible d’analyser les parties de manière quasi instantanée. C’est un peu l’équivalent d’avoir un professeur particulier à portée de main. Cela a sûrement contribué à une augmentation du niveau général des joueurs humains et à la démocratisation du jeu ces dernières années. Pour le moment, les IA n’arrivent pas à prodiguer de bons conseils en stratégie, c’est-à-dire des considérations à plus long terme dans la partie. Il est possible que cela change avec les modèles de langage, tel que ChatGPT.

Les IA ont aussi introduit la possibilité de tricher. Il y a eu de nombreux scandales à ce propos, et on se doit de reconnaître qu’il n’a pas à ce jour de " bonne solution " pour gérer ce problème, qui rejoint les interrogations des professeurs, qui ne savent plus qui, de ChatGPT ou des étudiants, leur rendent les devoirs.

Conclusions temporaires

Cette revue rapide semble indiquer qu’à l’heure actuelle, la plupart des peurs exprimées vis-à-vis des IA ne sont pas expérimentalement justifiées. Le jeu d’échecs est un précédent historique intéressant pour étudier les impacts de ces nouvelles technologies quand leurs capacités se mettent à dépasser celles des humains. Bien sûr, cet exemple est très limité, et il n’est pas possible de le généraliser à l’ensemble de la société sans précaution. En particulier, les modèles d’IA qui jouent aux échecs ne sont pas des IA génératives, comme ChatGPT, qui sont celles qui font le plus parler d’elles récemment. Néanmoins, les échecs sont un exemple concret qui peut être utile pour mettre en perspective les risques associés aux IA et à l’influence notable qu’elles promettent d’avoir sur la société.

Auteur: Internet

Info: https://www.science-et-vie.com/ - Article issu de The Conversation, écrit par Frédéric Prost Maître de conférences en informatique, INSA Lyon – Université de Lyon 14 avril 2024

[ ouverture ] [ conformisme limitant ]