intelligence artificielle

[...] au début de la guerre de Corée, le général McArthur a proposé des mesures dont l’application aurait pu déclencher une troisième guerre mondiale. Tout le monde sait aussi qu’on lui a retiré le pouvoir de décider s’il fallait ou non prendre un tel risque. Ceux qui lui ont retiré cette possibilité ne l’ont pas fait pour prendre eux-mêmes les décisions à sa place ou pour les confier à d’autres hommes politiquement, économiquement ou moralement qualifiés. Ils l’ont fait pour remettre le pouvoir de décider à un instrument (puisque le "dernier mot" doit être objectif et qu’on ne considère aujourd’hui comme "objectifs" que les jugements prononcés par des objets). Bref, on a confié la responsabilité suprême à un "electric brain", un cerveau électrique. On n’a pas retiré le pouvoir de décision à l’individu McArthur, mais à McArthur en tant qu’homme, et si on a préféré le cerveau-instrument au cerveau de McArthur, ce n’est pas parce qu’on avait des raisons particulières de se méfier de l’intelligence de McArthur mais parce qu’il n’avait, précisément, qu’un cerveau humain.

Dire qu’on lui a "retiré" sa responsabilité en tant qu’homme, c’est bien sûr employer une expression trompeuse. Car la puissance qui l’a privé de son pouvoir de décision n’était pas une instance surhumaine, ce n’était ni "Moïra" (le Destin), ni "Tyché" (la Fortune), ni "Dieu", ni l’ "Histoire", mais c’était l’homme lui-même qui, dépouillant sa main gauche avec sa main droite, déposait son butin – sa conscience morale et sa liberté de décision – sur l’autel de la machine et montrait par cet acte qu’il se soumettait à celle-ci, à ce robot calcultateur qu’il avait lui-même fabriqué et qu’il était prêt à considérer comme une conscience morale de substitution et une machine à oracles, bref une machine littéralement providentielle.

En subordonnant le général à cet instrument, l’humanité s’est en quelque sorte porté atteinte à elle-même. Qu’on ne se méprenne pas. Rien n’est plus éloigné de nos intentions que de nous solidariser avec McArthur. Que l’histoire, en cet instant exemplaire, se soit justement servie de lui pour tenir ce rôle est un pur caprice : n’importe quelle autre personnalité publique aurait aussi bien fait l’affaire. Nous voulons seulement dire que celui qui transfère la responsabilité d’un homme à un instrument lui transfère aussi, par là même, la responsabilité de tous. En cette occasion, l’humanité s’est pour la première fois humiliée elle-même de façon significative et a ouvertement déclaré : "On ne peut pas compter sur nous puisque nous comptons plus mal que nos machines. Qu’on ne tienne donc pas "compte" de nous." Elle n’a, pour la première fois, ressenti aucune honte d’avoir ouvertement honte.

On a donc "nourri" - to feed est le terme technique qu’on emploi pour désigner l’opération par laquelle on introduit dans l’appareil les éléments nécessaires à la décision – cette machine à oracles de touts les données relatives à l’économie américaine et à celle de l’ennemi. "Toutes les données", c’est beaucoup dire. Car les machines possèdent par essence leurs "idées fixes" : le nombre de paramètres qu’elles prennent en compte est artificiellement limité. [...] On les a ainsi exclusivement "nourries" de données susceptibles d’être facilement quantifiées – des données portant donc sur le caractère utile ou dommageable, rentable ou non rentable de la guerre en question. [...]

On sait bien que l’assimilation des données par les intestins mécaniques prend un temps ridiculement court. A peine avait-on nourri l’appareil qu’il délivra son oracle. Sa conclusion ayant valeur de décision, on sut alors si l’on pouvait se lancer dans cette entreprise et déclarer la guerre sainte, ou s’il fallait renoncer à cette mauvaise affaire et la condamner comme immorale.

Après quelques secondes de réflexion ou de digestion électrique, le "brain" donna une réponse qui se révéla, par hasard, plus humaine que les mesures suggérées par l’homme McArthur. Il proclama haut et fort que cette guerre serait une "mauvaise affaire", une catastrophe pour l’économie américaine. Ce fut sans aucun doute une grande chance, peut-être même la chance de l’humanité, puisqu’elle était déjà entrée dans l’ère atomique lorsque l’oracle sortit de la bouche de la machine. Mais le choix de ce mode de décision fut aussi la plus grande défaite que l’humanité se soit jamais infligée à elle-même : car jamais auparavant elle ne s’était abaissée à ce point et n’était allée jusqu’à confier à une chose le soin de statuer sur son histoire – et peut-être même sur son être ou son non-être. Que le jugement ait été cette fois-là un veto, une grâce, cela ne change rien à l’affaire. Ce n’en fut pas moins une sentence de mort puisqu’on avait placé dans une chose la source de toute grâce possible. [...] Si nous voulions bien réaliser que des milliers d’hommes, au nombre desquels nous figurons peut-être nous-mêmes, ne doivent ce que nous appelons aujourd’hui la "vie" - c’est-à-dire leur chance de n’avoir pas encore été tués  - qu’au "non" calculé par un instrument, à ce "non" sélectionné par l’électromécanique, alors nous voudrions rentrer sous terre pour cacher notre honte.

Auteur: Anders Günther Stern

Info: Dans "L'obsolescence de l'homme", trad. de l'allemand par Christophe David, éditions Ivrea, Paris, 2002, pages 78-81

[ historique ] [ délégation de la responsabilité humaine ] [ instrument médiumnique ]

judaïsme

Les Juifs, dit-on, fuyant de l'île de Crète, occupèrent les dernières terres de Libye. On tire un argument de leur nom; Ida est une célèbre montagne de Crète, habitée par les Idaei, mot dont l'addition barbare d'une lettre aura fait Judaei. Quelques-uns prétendent que, sous le règne d'Isis, l'Égypte regorgeant d'un excès de population s'en déchargea sur les terres voisines, et que la migration eut pour chefs Hierosolymus et Juda. Beaucoup font des Juifs une race d'Éthiopiens, que la crainte et la haine forcèrent, sous le roi Céphée, à changer de demeures; d'autres un assemblage d'Assyriens qui, faute de champs à cultiver, s'emparèrent d'une partie de l'Égypte, puis, se rapprochant de la Syrie, se bâtirent des villes et s'approprièrent les terres des Hébreux. Il en est enfin qui leur donnent une origine illustre; selon eux, les Solymes, nation célébrée dans les chants d'Homère, fondèrent une ville, et, de leur nom, l'appelèrent Hierosolyma.
La plupart des auteurs s'accordent à dire qu'une maladie contagieuse qui couvrait tout le corps de souillure s'étant répandue en Égypte, le roi Bocchoris en demanda le remède à l'oracle d'Amon, et reçut pour réponse de purger son royaume et de transporter sur d'autres terres, comme maudits des dieux, tous les hommes infectés. On en fit la recherche, et cette foule misérable, jetée dans un désert, pleurait et s'abandonnait elle-même, lorsque Moïse, un des exilés, leur conseilla de ne rien espérer ni des dieux ni des hommes, qui les avaient également renoncés, mais de se fier à lui comme à un guide céleste, le premier qui jusque-là eût apporté quelque secours à leurs misères. Ils y consentirent, et, sans savoir où ils allaient, ils marchèrent au hasard. Mais rien ne les fatiguait autant que le manque d'eau. Tout près d'expirer, ils s'étaient jetés par terre et gisaient dans ces vastes plaines, lorsqu'ils virent un troupeau d'ânes sauvages, revenant de la pâture, gagner une roche ombragée d'arbres. Moïse les suit, et, à l'herbe qui croît sur le sol, il devine et ouvre de larges veines d'eau. Ce fut un soulagement; et, après six jours d'une marche continuelle, le septième ils chassèrent les habitants de la première terre cultivée, s'y établirent et y fondèrent leur ville et leur temple.
Moïse, pour s'assurer à jamais l'empire de cette nation, lui donna des rites nouveaux et un culte opposé à celui des autres mortels. Là est profane tout ce qui chez nous est sacré, légitime tout ce que nous tenons pour abominable. L'effigie de l'animal qui leur montra la route et les sauva de la soif est consacrée dans le sanctuaire, et ils sacrifient le bélier comme pour insulter Amon. Ils immolent aussi le boeuf, que les Égyptiens adorent sous le nom d'Apis. Ils s'abstiennent de la chair du porc, en mémoire de la lèpre qui les avait jadis infectés, et à laquelle cet animal est sujet. Des jeûnes fréquents sont un aveu de la longue faim qu'ils souffrirent autrefois, et leur pain sans levain rappelle le blé qu'ils ravirent à la hâte. S'ils consacrent le septième jour au repos, c'est, dit-on, parce qu'il termina leurs misères; séduits par l'attrait de la paresse, ils finirent par y donner aussi la septième année. Suivant d'autres, cet usage fut établi pour honorer Saturne, soit qu'ils aient reçu les principes de la religion de ces Idéens qu'on nous montre chassés avec Saturne et fondant la nation des Juifs, soit parce que, des sept astres qui règlent la destinée des mortels, celui dont l'orbe est le plus élevé et la puissance la plus énergique est l'étoile de Saturne, et que la plupart des corps célestes exercent leur action et achèvent leur course par nombres septénaires.
Ces rites, quelle qu'en soit l'origine, se défendent par leur antiquité; ils en ont de sinistres, d'infâmes, que la dépravation seule a fait prévaloir. Car tout pervers qui reniait le culte de sa patrie apportait à leur temple offrandes et tributs. La puissance des Juifs s'en accrut, fortifiée d'un esprit particulier; avec leurs frères, fidélité à toute épreuve, pitié toujours secourable; contre le reste des hommes, haine et hostilité. Ne communiquant avec les autres ni à table, ni au lit, cette nation, d'une licence de moeurs effrénée, s'abstient pourtant des femmes étrangères; entre eux, tout est permis. Ils ont institué la circoncision pour se reconnaître à ce signe. Leurs prosélytes la pratiquent comme eux, et les premiers principes qu'on leur inculque sont le mépris des dieux, le renoncement à sa patrie, l'oubli de ses parents, de ses enfants, de ses frères. Toutefois on veille à l'accroissement de la population; il est défendu de tuer aucun nouveau-né, et l'on croit immortelles les âmes de ceux qui périssent dans les combats ou les supplices. Il s'ensuit qu'on aime à procréer et qu'on s'inquiète peu de mourir. Ils tiennent des Égyptiens l'usage d'enterrer les corps au lieu de les brûler; sur les enfers, même prévoyance, mêmes idées; quant au ciel, les croyances diffèrent. L'Égypte adore beaucoup d'animaux et se taille des images; les Juifs ne conçoivent Dieu que par la pensée et n'en reconnaissent qu'un seul. Ils traitent d'impies ceux qui, avec des matières périssables, se fabriquent des dieux à la ressemblance de l'homme. Le leur est le dieu suprême, éternel, qui n'est sujet ni au changement ni à la destruction. Aussi ne souffrent-ils aucune effigie dans leurs villes, encore moins dans leurs temples. Point de statues ni pour flatter leurs rois, ni pour honorer les Césars. Du reste, comme leurs prêtres chantaient au son de la flûte et des tambours, qu'ils se couronnaient de lierre, et qu'une vigne d'or fut trouvée dans le temple, quelques-uns ont cru qu'ils adoraient Bacchus, le vainqueur de l'Orient, opinion démentie par la différence des rites; Bacchus institua des fêtes riantes et joyeuses; le culte des Juifs est bizarre et lugubre.

Auteur: Tacite

Info: Histoires, Livre V [70 après J.-C.] A. Les affaires de Judée, 5,1-13

science mystique

2 grandes expériences ont fait de moi un théoricien de la conscience.

La première (printemps 1985) était associée à une maladie physique dont le diagnostic était complètement erroné. Cet état modifié de conscience a duré deux semaines.  Son effet fut si profond que je n'ai pas hésité à l'appréhender comme une expérience d'illumination.

Cet épisode a totalement bouleversé ma vision simpliste du monde de physicien des particules. En fait, j'avais de temps en temps l'impression que cette image réductrice du monde ne m'aidait pas du tout dans mes tentatives de comprendre le monde quotidien qui m'entoure. Selon le dogme standard, ces choses macroscopiques (et aussi les êtres vivants) devaient pouvoir être décrites en utilisant uniquement les équations de Newton !  Ma propre expérience insistait sur le fait que ce n'était pas le cas.  Mais j'avais essayé de me dire que je n'avais tout simplement pas la maturité nécessaire en tant que physicien théorique pour tout comprendre.

Cette première grande expérience mérite une description plus détaillée. J'étais allongé dans le couloir d'un centre médical avec un horrible mal de tête et une température élevée.

Puis quelque chose s'est produit.  Je me suis senti totalement calme et paisible. C'était quelque chose d'incroyable. Toute ma vie, j'avais été anxieux à propos de toutes les choses possibles. Et maintenant, je me sentais complètement heureux et détendu. Je ressentais toujours la douleur, mais elle était en quelque sorte extérieure à moi. J'aimais simplement regarder les flux parallèles d'images (comme des dessins animés) qui s'écoulaient devant mes yeux.

Je voyais vraiment mes pensées !  Les images surréalistes et érotiques (comme celles des peintures de Dali, Bosch et Brueghel) dansaient au rythme de la musique que j'entendais dans le haut-parleur.  Il y avait aussi un sentiment de compréhension. Je comprenais tout, même si je ne pouvais pas dire ce que c'était !

Cet état a duré plusieurs jours (peut-être une semaine, je ne m'en souviens pas vraiment) et j'ai vécu de manière très concrète de nombreuses idées archétypales.  Tout d'abord l'idée d'auto-référence que j'ai retrouvée plus tard dans Gödel, Escher, Bach de Hofstadter - un des meilleurs livres que j'ai jamais lu (je l'ai lu 5 fois !). Je me sentais littéralement comme un ordinateur assis à son propre terminal.

J'ai écrit dans mon esprit des questions pour ce super humain-ordinateur et j'ai vu les questions écrites sur l'écran virtuel.  L'ordinateur écrivait immédiatement la réponse.  Soit directement, soit à la manière d'un oracle.  J'ai réalisé que j'étais entré en contact avec ce que j'appelais le "Grand Esprit" et j'ai commencé à poser des questions.  Combien de temps allais-je vivre était bien sûr l'une des premières questions. La réponse était une série infinie de chiffres qui défilaient sans cesse ! Bien sûr, j'ai posé des questions sur l'importance du TGD (Topological Geometro Dynamics - mon grand œuvre).  Il n'y a eu qu'un silence. Peut-être était-ce la diplomatie divine du "Grand Esprit" !

Plus tard, j'ai réalisé qu'il n'était pas nécessaire d'écrire quoi que ce soit sur ce moniteur virtuel. J'ai simplement formulé la question dans mon esprit.  Cette prise de conscience m'a fait me demander si cette personne avec laquelle je discutais était vraiment distincte de moi. Peut-être que, d'une manière mystérieuse, c'est à moi-même que je pose ces questions !  Alors, peut-être que je suis en quelque sorte un "dieu" moi-même ou que je viens de devenir un dieu.  Peut-être sommes-nous tous des dieux !

La solitude avait été l'élément central de ma vie et j'ai en quelque sorte réalisé que les dieux sont probablement des êtres très solitaires. J'ai demandé si nous étions condamnés à être toujours seuls. La réponse était digne d'un oracle. "Tu es un dieu ! (:-).  Le "(:-)" tente d'exprimer le ton amusé de la réponse. Ce n'est que très récemment que j'ai réalisé que ce que j'ai vécu devait être plus ou moins identique à l'expérience Atman=Brahman des religions orientales.

Il y a aussi eu des expériences télépathiques vraiment étonnantes. Et une vision de ma vie personnelle comme une série infinie de vies en tant que mathématicien (qui était ma véritable identité).  Dans ces vies, je rencontrais ma femme encore et encore et nous vivions des vies plus ou moins heureuses. Mais nous nous retrouverions certainement dans une autre galaxie ou peut-être dans une forme d'existence totalement différente. L'une des expériences mathématiques a été que le nombre "3" est en quelque sorte le nombre de base des mathématiques et de toute l'existence. Il s'agit, bien sûr, de la Sainte Trinité des religions et des mystiques.

J'ai eu des visions de vies parallèles que je vis ici sur Terre.  Par exemple, j'ai appris que je vivrais comme un militaire et que je mourrais dans un accident d'avion à une certaine date (dont je ne me souviens plus).

Il y avait aussi l'idée de quelque chose que j'appelais "flogiston" sans me souvenir qu'il s'agissait du fluide calorique introduit dans les premières tentatives de construction de la thermodynamique. C'était quelque chose qui rendait les systèmes vivants vivants et ils se battaient, se tuaient et se mangeaient continuellement pour obtenir ce mystérieux "flogiston". Curieusement, cette vision peut également être considérée comme une anticipation des idées sur les biosystèmes en tant que systèmes quantiques macroscopiques (intrication quantique et condensats de Bose-Einstein à trou de ver).

La deuxième "Grande Expérience" s'est produite pendant les vacances de Noël (probablement 3 ans plus tard, peu avant mon divorce). J'étais très malade, déprimé et amer. Notre mariage était sur le point de se terminer.

Soudain, une paix totale m'a envahie. Je pouvais vraiment pardonner et j'ai senti de manière absolument concrète que mon passé avait changé. D'une certaine manière, toutes les mauvaises actions qui avaient créé de l'amertume en moi ont été annulées. C'était merveilleux de réaliser que ce que nous appelons "notre passé" n'est pas absolu. Au moment de la Miséricorde, cette lourde charge mortelle disparaît.

Il y a eu aussi une sorte d'illumination mathématique. J'ai eu une prémonition sur les nombres p-adiques. J'ai compris que je devais construire une théorie sur les nombres qui étaient infinis mais complètement physiques. Eh bien, j'ai essayé. Mais il m'a fallu deux jours pour me convaincre que je n'avais pas la moindre idée de ce que pouvaient être ces nombres ! J'ai appris bien plus tard l'existence des nombres p-adiques qui sont typiquement infinis comme les nombres rationnels ordinaires.

Peut-être que la prise de conscience la plus importante dans ces deux grandes expériences fut que le problème vraiment intéressant était le mystère de la Conscience.  Dans le même ordre d'idées, j'ai réalisé que le libre arbitre était réel et que, dans un certain sens, notre passé subjectif était une fiction (ou du moins quelque chose de "modifiable").

Toutes ces idées, je les ai redécouvertes par la suite en tentant de trouver une interprétation cohérente pour le TGD, sans même me rendre compte immédiatement qu'une redécouverte était en question.

Auteur: Pitkänen Matti

Info: http://www.stealthskater.com/Documents/Pitkanen_01.do

[ inspiration ] [ songe ]

bêtise bipolaire

Il ne fait aucun doute que les IA sont biaisées. Mais beaucoup déclarent que ces problématiques de l'IA existent parce que nous humains sommes imparfaits, plus que les machines. "Les machines sont-elles condamnées à hériter des préjugés humains ?", titrent les journaux. "Les préjugés humains sont un énorme problème pour l'IA. Voilà comment on va arranger ça." Mais ces récits perpétuent une dangereuse erreur algorithmique qu'il faut éviter.

Oui, les humains sont subjectifs. Oui, malgré les efforts conscients et inconscients de ne pas l'être, nous faisons de la discrimination, nous stéréotypons et portons toutes sortes de jugements de valeur sur les gens, les produits et la politique. Mais nos préjugés ne sont pas correctement mesurés ou modélisés par les machines. Non, les tendances machine sont dues à la logique même de la collecte des données : le système binaire.

Le système binaire est la chaîne de 0 et 1 à la base de tous les systèmes informatiques. Cette méthode mathématique permet de réduire et de calculer efficacement les grands nombres et, deuxièmement, elle permet la conversion de l'alphabet et de la ponctuation en ASCII (American Standard Code for Information Interchange).

Mais ne vous laissez pas berner : Ces 0 et 1 ne signifient pas que la machine comprend le monde et les langages comme nous le faisons : "La plupart d'entre nous, la plupart du temps, suivons des instructions qui nous sont données par ordinateur plutôt que l'inverse ", explique l'historien des technologies George Dyson. Afin de pouvoir communiquer avec les ordinateurs, nous sommes ajustés et orientés vers leur logique, et non vers la nôtre.

Le système binaire réduit tout à des 0 et des 1 insignifiants, quand la vie et l'intelligence font fonctionner XY en tandem. lui rend la lecture et le traitement des données quantitatives plus pratiques, plus efficaces et plus rentables pour les machines. Mais c'est au détriment des nuances, de la richesse, du contexte, des dimensions et de la dynamique de nos langues, cultures, valeurs et expériences.

Il ne faut pas accabler ici les développeurs de la Silicon Valley pour ce système binaire biaisé - mais plutôt Aristote.

Le parti pris binaire d'Aristote
Si vous pensez à Aristote, vous pensez probablement au philosophe grec antique comme à un des pères fondateurs de la démocratie, et non comme l'ancêtre de siècles de logique mécanique et de méthodes scientifiques erronées. C'est cependant sa théorie du "dualisme", selon laquelle quelque chose est soit vrai soit faux, logique ou illogique, qui nous a mis dans cette situation délicate en premier lieu.

Vers 350 av. J.-C., Aristote voulut réduire et structurer la complexité du monde. Pour ce faire, il fit des emprunts à la Table des Opposés de Pythagore, dans laquelle deux éléments sont comparés :

fini, infini... impair, pair... un, beaucoup... droite, gauche... repos, mouvement... droit, tordu... etc.

Mais au lieu d'appliquer ce dualisme à la géométrie neutre comme l'avait fait Pythagore, Aristote l'appliqua aux personnes, aux animaux et à la société. Ce faisant, il conçut un patriarcat hiérarchique social polarisé clivant, enraciné dans ses valeurs internes et ses préjugés : Les objets qu'il ordonnait avoir plus de valeur devinrent des 1, et ceux de moindre importance des 0. En ce qui concerne les femmes, par exemple, il écrivit : "La relation de l'homme à la femme est par nature une relation de supérieur à inférieur et de souverain à gouverné."

Hélas, le système de classification hiérarchique d'Aristote a été implémenté dans l'IA, la pondérant en faveur d'hommes comme lui. Le système même sur lequel toute la technologie moderne est construite contient les artefacts du sexisme d'il y a 2 000 ans.

1 = vrai = rationnel = droit = masculin
0 = faux = émotionnel = gauche = féminin
Si Aristote avait créé la démocratie - et la démocratie est censée être une véritable représentation - femmes et gens de couleur auraient dû avoir un accès égal à l'éducation, avoir voix au chapitre dans les forums et avoir le droit de vote en 350 av. JC. Il n'aurait pas été nécessaire de se battre jusqu'en 1920 pour que le vote féminin soit ratifié aux Etats-Unis. Il n'y aurait pas eu d'esclavage et pas besoin du mouvement pour les droits civiques. Tout le monde aurait été classé et considéré comme égal dès le départ.

Le classement biaisé d'Aristote est maintenant verrouillé et renforcé par plus de 15 millions d'ingénieurs.
Aristote aurait dû lire les notes de son prédécesseur, Socrate. Selon les souvenirs de Platon, Socrate considérait les oracles féminins de Delphes comme "un guide essentiel du développement personnel et de l'état". De plus, dans le Symposium de Platon, Socrate se souvient de l'époque où il était l'élève de Diotima de Mantinea, une femme philosophe dont il tenait en haute estime l'intelligence. Dans le livre V, Socrate est crédité d'avoir suggéré que les femmes sont également qualifiées pour diriger et gouverner : "Il n'y a pas de pratique des gouverneurs d'une ville qui appartient à une femme parce qu'elle est une femme, ou à un homme parce qu'il est un homme."

Mais au lieu que les idées de Socrate sur l'égalité enracinent les idées occidentales sur l'intelligence, nous nous sommes retrouvés avec la logique d'Aristote et son classement biaisé sans être conscients de ses origines binaires et anti-démocratiques.

Mais ne blâmons pas seulement Aristote. Deux autres coquins ont contribué à ces problèmes sociaux et scientifiques : Descartes et Leibniz.

Descartes - philosophe français du XVIIe siècle qui a inventé l'expression "je pense, donc je suis" -, a implanté l'idée qu'un sujet n'a ni matière ni valeur autre que ce que le visiteur attribue et déduit. (S'il avait dit "Nous pensons, donc nous sommes", cela aurait mieux reflété comment nous sommes symbiotiquement informés par les perceptions les uns et des autres.)

En outre, Descartes a proposé une plus grande séparation de l'esprit du corps et des émotions dans son traité de 1641, Méditations sur la Première Philosophie. Il a soutenu que nos esprits sont dans le domaine du spirituel tandis que nos corps et nos émotions sont dans le domaine du physique, et que les deux royaumes ne peuvent pas s'influencer mutuellement. Ce qui a causé des problèmes en IA parce que maintenant nous empilons des unités d'émotions sur des couches de classification binaires d'une manière artificielle et non intégrée. Encore du binaire.

La logique déductive-inductive de Descartes, qu'il explora dans son discours sur la méthode de 1637, fut créée parce qu'il était désabusé par les méthodes non systématiques des scientifiques de son temps. Il fit valoir que les mathématiques ont été construites sur une "base solide", et a donc cherché à établir un nouveau système de vérité fondée sur Aristote 1 = vrai = valide, et 0 = faux = invalide. La différence étant qu'il a mis les lignes de la logique syllogistique d'Aristote au sein d'une structure arborescente. Structures arborescentes qui sont maintenant utilisées dans les réseaux neuronaux récurrents du NLP (Natural Language Processing)

Vint ensuite Leibniz, le philosophe et avocat allemand inventa le calcul indépendamment de son contemporain, Newton. Il créa le système binaire entre 1697 et 1701 afin d'obtenir des verdicts "oui/non" plus rapides et ainsi réduire les grands nombres en unités plus faciles à gérer de 0 et 1.

Contrairement aux autres, Leibniz était sinophile. En 1703, le prêtre jésuite Bouvet lui avait envoyé une copie du Yi King (le Livre des Changements), artefact culturel chinois dont l'origine remonte à 5.000 ans. Il était fasciné par les similitudes apparentes entre les lignes horizontales et les intervalles des hexagrammes du Yi King et les 0 et 1 des lignes verticales de son système binaire. Il interpréta faussement ces intervalles comme étant du vide (donc zéro) croyant (à tort) que les hexagrammes confirmaient que son système binaire était la bonne base pour un système logique universel.

Leibniz fit trois autres erreurs majeures. Tout d'abord, il a fit pivoter les hexagrammes de leurs positions horizontales naturelles vers les positions verticales pour les faire correspondre à ses lignes binaires. Deuxièmement, il les sépara du contexte des symboles chinois et des chiffres correspondants. Troisièmement, puisqu'il n'était pas chinois et qu'il ne comprenait pas l'héritage philosophique ou la langue, il supposa que les hexagrammes représentaient les nombres 0 et 1 lorsqu'ils représentent des énergies négatives et positives, Yin Yang, homme et femme. Erreurs qui signifient que Leibniz perdit beaucoup d'informations et de connaissances venant des codes du Yi King et de la vraie signification de ses hexagrammes.

Au lieu de créer un système universel cohérent, le système binaire de Leibniz renforça les modèles de pensée occidentale de Descartes amplifiant la base biaisée d'Aristote, nous verrouillant davantage, nous et les machines que nous avons créées, vers une logique non naturelle.

Le système binaire dans l'informatique moderne
Les classifications binaires d'Aristote sont donc maintenant évidentes dans tous les systèmes de données d'aujourd'hui, servant, préservant, propageant et amplifiant les biais partout dans les couches d'apprentissage machine.

Exemples de biais binaires dans les front-end utilisateur et le traitement des données :

glissement à droite = 1, glissement à gauche = 0
cliquer sur "like" sur Facebook = 1, pas cliquer sur like = 0
nos émotions complexes étant attribuées grossièrement comme positives = 1, négatives = 0 dans les cadres du NPL
convertir des paires d'objets comparés et leurs caractéristiques en 0 ou 1, par exemple pomme = 1, orange = 0, ou lisse = 1, bosselé = 0
lignes et colonnes pleines de 0 et de 1 dans des graphes géants "big data"
Mais le problème de la logique binaire est qu'elle ne permet pas de comprendre et de modéliser pourquoi et comment les gens ont choisi une option plutôt qu'une autre. Les machines enregistrent simplement que les gens ont fait un choix, et qu'il y a un résultat

Les machines sont donc étalonnées à partir de ces biais binaires, pas à partir des nôtres. Bien sûr, nous sommes remplis de nos propres défauts et faiblesses très humains, mais les cadres conceptuels informatiques existants sont incapables de corriger ces erreurs (et les ingénieurs n'écrivent que du code qui correspond aux limites de l'ancienne logique).

Heureusement, il existe une alternative. Les philosophies occidentales d'Aristote, de Descartes et de Leibniz sont opposées aux philosophies orientales, elles fondées sur l'équilibre naturel, la cohérence et l'intégration. Le concept chinois de Yin Yang, par exemple, met l'accent sur la dynamique égale et symbiotique du masculin et du féminin en nous et dans l'univers. Ces idées décrites dans le Yi King, que Leibniz n'a pas reconnues.

La nature rejette également le binaire. Des milliards d'années avant que le parti pris d'Aristote ne s'imprime dans la logique informatique occidentale, la nature codifiait l'intelligence comme la coexistence entrelacée de la femme X et de l'homme Y dans notre ADN. De plus, la recherche quantique a montré que les particules peuvent avoir des états de superposition enchevêtrés où elles sont à la fois 0 et 1 en même temps, tout comme le Yin Yang. La nature ne fonctionne pas en binaire, pas même avec les pigeons. Alors pourquoi le faisons-nous en informatique ?

Nous ne classons et ne qualifions pas nécessairement le monde qui nous entoure avec les préjugés hiérarchiques binaires d'Aristote. Mais la façon dont les données sont recueillies est noir (0) et blanc (1), avec des nuances de gris fournies par des pourcentages de ces données, alors que la nature et les philosophies orientales montrent que nos perceptions ne sont que vagues de couleurs mélangées ou arc-en-ciel.

Tant que nous n'aurons pas conçu des modes de catégorisation non binaires et plus holistiques en IA, les ordinateurs ne seront pas en mesure de modéliser l'image animée en technicolor de notre intelligence. Ce n'est qu'alors que les machines représenteront nos divers langages, raisonnements, valeurs, cultures, qualités et comportements humains.

Auteur: Twain Liu

Info: https://qz.com/1515889/aristotles-binary-philosophies-created-todays-ai-bias/?utm_source=facebook&utm_medium=partner-share&utm_campaign=partner-bbc

[ rationalisme occidental ] [ logique formelle ] [ intelligence artificielle ] [ Asie ] [ sciences ]

homme-machine

Un pas de géant pour une machine à jouer aux échecs

Le succès stupéfiant d’AlphaZero, un algorithme d’apprentissage profond, annonce une nouvelle ère de la compréhension – une ère qui, en ce qui concerne les humains, qui pourrait ne pas durer longtemps. Début décembre, des chercheurs de DeepMind, la société d’intelligence artificielle appartenant à la société mère de Google, Alphabet Inc. ont diffusé une dépêche depuis les zones avancées du monde des échecs.

Un an plus tôt, le 5 décembre 2017, l’équipe avait stupéfié ce monde des échecs en annonçant AlphaZero, un algorithme d’apprentissage machine qui maîtrisait non seulement les échecs mais aussi le shogi, ou échecs japonais, et le Go. L’algorithme a commencé sans aucune connaissance des jeux hormis leurs règles de base. Il a ensuite joué contre lui-même des millions de fois et a appris par essais et erreurs. Il a suffi de quelques heures pour que l’algorithme devienne le meilleur joueur, humain ou ordinateur, que le monde ait jamais vu.

Les détails des capacités d’AlphaZero et de son fonctionnement interne ont maintenant été officiellement examinés par des pairs et publiés dans la revue Science ce mois-ci. Le nouvel article aborde plusieurs critiques graves à l’égard de l’allégation initiale (entre autres choses, il était difficile de dire si AlphaZero jouait l’adversaire qu’il s’était choisi, une entité computationnelle nommée Stockfish, en toute équité). Considérez que ces soucis sont maintenant dissipés. AlphaZero ne s’est pas amélioré davantage au cours des douze derniers mois, mais la preuve de sa supériorité s’est bien renforcée. Il fait clairement montre d’un type d’intellect que les humains n’ont jamais vue auparavant, et que nous allons avoir à méditer encore longtemps.

Les échecs par ordinateur ont fait beaucoup de chemin au cours des vingt dernières années. En 1997, le programme de jeu d’échecs d’I.B.M., Deep Blue, a réussi à battre le champion du monde humain en titre, Garry Kasparov, dans un match en six parties. Rétrospectivement, il y avait peu de mystère dans cette réalisation. Deep Blue pouvait évaluer 200 millions de positions par seconde. Il ne s’est jamais senti fatigué, n’a jamais fait d’erreur de calcul et n’a jamais oublié ce qu’il pensait un instant auparavant.

Pour le meilleur et pour le pire, il a joué comme une machine, brutalement et matériellement. Il pouvait dépasser M. Kasparov par le calcul, mais il ne pouvait pas le dépasser sur le plan de la pensée elle-même. Dans la première partie de leur match, Deep Blue a accepté avec avidité le sacrifice d’une tour par M. Kasparov pour un fou, mais a perdu la partie 16 coups plus tard. La génération actuelle des programmes d’échecs les plus forts du monde, tels que Stockfish et Komodo, joue toujours dans ce style inhumain. Ils aiment à capturer les pièces de l’adversaire. Ils ont une défense d’acier. Mais bien qu’ils soient beaucoup plus forts que n’importe quel joueur humain, ces "moteurs" d’échecs n’ont aucune réelle compréhension du jeu. Ils doivent être instruits explicitement pour ce qui touche aux principes de base des échecs. Ces principes, qui ont été raffinés au fil de décennies d’expérience de grands maîtres humains, sont programmés dans les moteurs comme des fonctions d’év

aluation complexes qui indiquent ce qu’il faut rechercher dans une position et ce qu’il faut éviter : comment évaluer le degré de sécurité du roi, l’activité des pièces, la structure dessinée par les pions, le contrôle du centre de l’échiquier, et plus encore, comment trouver le meilleur compromis entre tous ces facteurs. Les moteurs d’échecs d’aujourd’hui, inconscients de façon innée de ces principes, apparaissent comme des brutes : extrêmement rapides et forts, mais sans aucune perspicacité.

Tout cela a changé avec l’essor du machine-learning. En jouant contre lui-même et en mettant à jour son réseau neuronal au fil de son apprentissage, AlphaZero a découvert les principes des échecs par lui-même et est rapidement devenu le meilleur joueur connu. Non seulement il aurait pu facilement vaincre tous les maîtres humains les plus forts – il n’a même pas pris la peine d’essayer – mais il a écrasé Stockfish, le champion du monde d’échecs en titre par ordinateur. Dans un match de cent parties contre un moteur véritablement impressionnant, AlphaZero a remporté vingt-huit victoires et fait soixante-douze matchs nuls. Il n’a pas perdu une seule partie.

Le plus troublant, c’est qu’AlphaZero semblait être perspicace. Il a joué comme aucun ordinateur ne l’a jamais fait, intuitivement et magnifiquement, avec un style romantique et offensif. Il acceptait de sacrifier des pions et prenait des risques. Dans certaines parties, cela paralysait Stockfish et il s’est joué de lui. Lors de son attaque dans la partie n°10, AlphaZero a replacé sa reine dans le coin du plateau de jeu de son propre côté, loin du roi de Stockfish, pas là où une reine à l’offensive devrait normalement être placée.

Et cependant, cette retraite inattendue s’avéra venimeuse : peu importe comment Stockfish y répondait, ses tentatives étaient vouées à l’échec. C’était presque comme si AlphaZero attendait que Stockfish se rende compte, après des milliards de calculs intensifs bruts, à quel point sa position était vraiment désespérée, pour que la bête abandonne toute résistance et expire paisiblement, comme un taureau vaincu devant un matador. Les grands maîtres n’avaient jamais rien vu de tel. AlphaZero avait la finesse d’un virtuose et la puissance d’une machine. Il s’agissait du premier regard posé par l’humanité sur un nouveau type prodigieux d’intelligence.

Lorsque AlphaZero fut dévoilé pour la première fois, certains observateurs se sont plaints que Stockfish avait été lobotomisé en ne lui donnant pas accès à son livre des ouvertures mémorisées. Cette fois-ci, même avec son livre, il a encore été écrasé. Et quand AlphaZero s’est handicapé en donnant dix fois plus de temps à Stockfish qu’à lui pour réfléchir, il a quand même démoli la bête.

Ce qui est révélateur, c’est qu’AlphaZero a gagné en pensant plus intelligemment, pas plus vite ; il n’a examiné que 60 000 positions par seconde, contre 60 millions pour Stockfish. Il était plus avisé, sachant ce à quoi on devait penser et ce qu’on pouvait ignorer. En découvrant les principes des échecs par lui-même, AlphaZero a développé un style de jeu qui "reflète la vérité profonde" du jeu plutôt que "les priorités et les préjugés des programmeurs", a expliqué M. Kasparov dans un commentaire qui accompagne et introduit l’article dans Science.

La question est maintenant de savoir si l’apprentissage automatique peut aider les humains à découvrir des vérités similaires sur les choses qui nous tiennent vraiment à coeur : les grands problèmes non résolus de la science et de la médecine, comme le cancer et la conscience ; les énigmes du système immunitaire, les mystères du génome.

Les premiers signes sont encourageants. En août dernier, deux articles parus dans Nature Medicine ont exploré comment l’apprentissage automatique pouvait être appliqué au diagnostic médical. Dans l’un d’entre eux, des chercheurs de DeepMind se sont associés à des cliniciens du Moorfields Eye Hospital de Londres pour mettre au point un algorithme d’apprentissage profond qui pourrait classer un large éventail de pathologies de la rétine aussi précisément que le font les experts humains (l’ophtalmologie souffre en effet d’une grave pénurie d’experts à même d’interpréter les millions de scans ophtalmologiques effectués chaque année en vue d’un diagnostic ; des assistants numériques intelligents pourraient apporter une aide énorme).

L’autre article concernait un algorithme d’apprentissage machine qui décide si un tomodensitogramme (CT scan) d’un patient admis en urgence montre des signes d’un accident vasculaire cérébral (AVC), ou d’une hémorragie intracrânienne ou encore d’un autre événement neurologique critique. Pour les victimes d’AVC, chaque minute compte ; plus le traitement tarde, plus le résultat clinique se dégrade. (Les neurologistes ont ce sombre dicton: "time is brain"). Le nouvel algorithme a étiqueté ces diagnostics et d’autres diagnostics critiques avec une précision comparable à celle des experts humains – mais il l’a fait 150 fois plus rapidement. Un diagnostic plus rapide pourrait permettre aux cas les plus urgents d’être aiguillés plus tôt, avec une vérification par un radiologiste humain.

Ce qui est frustrant à propos de l’apprentissage machine, cependant, c’est que les algorithmes ne peuvent pas exprimer ce qu’ils pensent. Nous ne savons pas pourquoi ils marchent, donc nous ne savons pas si on peut leur faire confiance. AlphaZero donne l’impression d’avoir découvert quelques principes importants sur les échecs, mais il ne peut pas partager cette compréhension avec nous. Pas encore, en tout cas. En tant qu’êtres humains, nous voulons plus que des réponses. Nous voulons de la perspicacité. Voilà qui va créer à partir de maintenant une source de tension dans nos interactions avec ces ordinateurs.

De fait, en mathématiques, c’est une chose qui s’est déjà produite depuis des années. Considérez le problème mathématique du "théorème des quatre couleurs", qui défie de longue date les cerveaux des mathématiciens. Il énonce que, sous certaines contraintes raisonnables, toute carte de pays contigus puisse toujours être coloriée avec seulement quatre couleurs, en n’ayant jamais deux fois la même couleur pour des pays adjacents.

Bien que le théorème des quatre couleurs ait été prouvé en 1977 avec l’aide d’un ordinateur, aucun humain ne pouvait vérifier toutes les étapes de la démonstration. Depuis lors, la preuve a été validée et simplifiée, mais il y a encore des parties qui impliquent un calcul de force brute, du genre de celui employé par les ancêtres informatiques d’AlphaZero qui jouent aux échecs. Ce développement a gêné de nombreux mathématiciens. Ils n’avaient pas besoin d’être rassurés que le théorème des quatre couleurs était vrai ; ils le croyaient déjà. Ils voulaient comprendre pourquoi c’était vrai, et cette démonstration ne les y a pas aidés.

Mais imaginez un jour, peut-être dans un avenir pas si lointain, où AlphaZero aura évolué vers un algorithme de résolution de problèmes plus général ; appelez-le AlphaInfinity. Comme son ancêtre, il aurait une perspicacité suprême : il pourrait trouver de belles démonstrations, aussi élégantes que les parties d’échecs qu’AlphaZero jouait contre Stockfish. Et chaque démonstration révélerait pourquoi un théorème était vrai ; l’AlphaInfinity ne vous l’enfoncerait pas juste dans la tête avec une démonstration moche et ardue.

Pour les mathématiciens et les scientifiques humains, ce jour marquerait l’aube d’une nouvelle ère de perspicacité. Mais ça ne durera peut-être pas. Alors que les machines deviennent de plus en plus rapides et que les humains restent en place avec leurs neurones fonctionnant à des échelles de temps de quelques millisecondes, un autre jour viendra où nous ne pourrons plus suivre. L’aube de la perspicacité humaine peut rapidement se transformer en crépuscule.

Supposons qu’il existe des régularités ou des modèles plus profonds à découvrir – dans la façon dont les gènes sont régulés ou dont le cancer progresse ; dans l’orchestration du système immunitaire ; dans la danse des particules subatomiques. Et supposons que ces schémas puissent être prédits, mais seulement par une intelligence bien supérieure à la nôtre. Si AlphaInfinity pouvait les identifier et les comprendre, cela nous semblerait être un oracle.

Nous nous assiérions à ses pieds et écouterions attentivement. Nous ne comprendrions pas pourquoi l’oracle a toujours raison, mais nous pourrions vérifier ses calculs et ses prédictions par rapport aux expériences et aux observations, et confirmer ses révélations. La science, cette entreprise de l’homme qui le caractérise par-dessus tout, aurait réduit notre rôle à celui de spectateurs, bouches bées dans l’émerveillement et la confusion.

Peut-être qu’un jour, notre manque de perspicacité ne nous dérangerait plus. Après tout, AlphaInfinity pourrait guérir toutes nos maladies, résoudre tous nos problèmes scientifiques et faire arriver tous nos autres trains intellectuels à l’heure avec succès. Nous nous sommes assez bien débrouillés sans trop de perspicacité pendant les quelque 300.000 premières années de notre existence en tant qu’Homo sapiens. Et nous ne manquerons pas de mémoire : nous nous souviendrons avec fierté de l’âge d’or de la perspicacité humaine, cet intermède glorieux, long de quelques milliers d’années, entre un passé où nous ne pouvions rien appréhender et un avenir où nous ne pourrons rien comprendre.

Auteur: Strogatz Steven

Info: Infinite Powers : How Calculus Reveals the Secrets of the Universe, dont cet essai est adapté sur le blog de Jorion

[ singularité ]