homme-machine

Les procédures du Big Data codifient le passé. Elle n'inventent pas l'avenir. Parce que pour ça, il faut de l'imagination morale, et voilà quelque chose que seuls les humains peuvent faire. Nous devons explicitement intégrer de meilleures valeurs dans nos algorithmes, en créant des modèles de grandes données (bid data) qui sont le reflet de notre éthique. Ce qui signifie qu'il faudra parfois faire passer l'équité avant le profit.

Auteur: O'Neil Cathy

Info: Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy

[ banques de données de masse ] [ Internet ] [ citation s'appliquant à ce logiciel ] [ prospective ] [ apprentissage automatique ]

intelligence artificielle

Les réseaux neuronaux profonds (DNN) sont analysés via le cadre théorique du principe du goulot d'étranglement de l'information (IB). Nous montrons d'abord que tout DNN peut être quantifié par l'information mutuelle entre les couches et les variables d'entrée et de sortie. A l'aide de cette représentation, on peut calculer les limites théoriques d'information optimales du DNN et obtenir des limites de généralisation d'échantillons finis. L'avantage de se rapprocher de la limite théorique est quantifiable tant par la généralisation liée que par la simplicité du réseau. Nous soutenons que tant l'architecture optimale, le nombre de couches et les caractéristiques/connexions de chaque couche, sont liés aux points de bifurcation de l'arbitrage du goulet d'étranglement de l'information, à savoir la compression pertinente de la couche d'entrée par rapport à la couche de sortie. Les représentations hiérarchiques du réseau en couches correspondent naturellement aux transitions de phases structurelles le long de la courbe d'information. Nous croyons que cette nouvelle perspective peut mener à de nouvelles limites d'optimalité et à de nouveaux algorithmes d'apprentissage en profondeur.

A) Stade initial : La couche de neurones 1 encode toute l'information qui rentre (input data), y compris toutes les étiquettes (labels, polarités) Les neurones de cette couche étant dans un état quasi aléatoire, avec peu ou pas de relation entre les données et leurs étiquettes.
Ainsi chaque neurone artificiel qui se déclenche transmet un signal à certains neurones de la couche suivante en fonction des variables d'entrée et de sortie. Le processus filtre le bruit et ne retient que les caractéristiques les plus importantes.

B) Phase de montage : à mesure que l'apprentissage en profondeur commence, les neurones des couches (layers) suivantes obtiennent des informations sur l'entrée qui s'adaptent mieux aux étiquettes.

C) Changement de phase: la couche (calque) change soudainement de vitesse et commence à "oublier les informations" de l'input.

D) Phase de compression: les couches supérieures compriment leur représentation des données d'entrée en ne conservant ce qui est le plus pertinent pour les infos de sortie. Elles précisent l'étiquetage.

E) Phase finale : la dernière couche obtient le meilleur équilibre entre précision et compression, ne conservant que ce qui est nécessaire pour définir l'étiquette.

Auteur: Tishby Naftali

Info: Bottleneck Theory of Deep Learning, abstract

[ classification ] [ tri ] [ informatique ] [ discernement ] [ pattern recognition ]

post-darwinisme

Internet et l’informatique en général ont joué un rôle permanent dans l’histoire de la mémétique, par exemple en faisant accepter l’idée que des codes non biologiques (typiquement, les virus informatiques) puissent avoir une reproduction autonome. La résolution de problèmes industriels a rebaptisé mémétiques les algorithmes génétiques. Mais surtout, le tissu social de l’internet, plus maillé de jour en jour, constitue une deuxième couche de lien social, d’interactions et de contenu. Il prend une telle épaisseur qu’il abrite sa propre faune. Des contenus – humoristiques, effrayants ou engagés – prolifèrent à une vitesse telle qu’on ne pourrait plus les contrôler sans "fermer" Internet. On appelle cela Internet memes parce que, depuis le début, la mémétique et la web culture sont consanguines. Le court-circuit linguistique ne s’est pas fait attendre, bien que personne ne l’ait anticipé : les "mèmes Internet" sont devenus mèmes par la grâce simplificatrice des médias grand public. Le nom sans objet a fusionné avec l’objet sans nom. Malheureusement, on se polarise trop sur les contenus sémantiques d’Internet, alors que l’on devrait aussi s’intéresser à la structure procédurale qui les sous-tend, en étudiant par exemple les puissants mèmes aux implications politiques et sociétales lourdes que sont Share (partagez du contenu), Like (dites que vous aimez) et Report (signaler un abus) !

Au fil des années, la communauté des méméticiens avait commencé à "tuer le père" en se détachant progressivement de Dawkins, de son analogie trop simple, éloquemment nommée "camisole intellectuelle" (Wallace, 2013). Mais voici qu’au festival de Cannes 2013, le succès des Internet memes fait sortir du bois "l’athée le plus célèbre du monde", avec un vidéo-clip taillé selon les codes visuels de YouTube. La nouvelle "petite phrase" de Dawkins est un pied de nez à toute la science sérieuse : "L’idée même de mème a elle-même muté et évolué dans une nouvelle direction".

Le jeu de mot "mutations are designed not random" (les mutations sont créées, pas aléatoires) est délibérément contestable : il ouvre une conception nouvelle du rapport entretenu par les variantes culturelles avec le terrain humain. La créativité et l’intention de l’artiste y font partie des conditions de naissance de la solution créative, sont le générateur de hasard.

Si exaspérant soit-il, Dawkins joue son rôle de diva en "levant des fonds" : il utilise le modèle économique de demain, celui qui convertit l’attention captée en revenus. Grâce aux Internet memes, il fait d’une pierre trois coups. Car pour une nouvelle science, il ne faut pas seulement de nouvelles lunettes et beaucoup de temps de cerveau, mais aussi un nouveau champ de données, une espèce inconnue, un nouveau continent. Autrement, on se heurte au reproche classique : "mais pourquoi aurait-on besoin de vos nouvelles lunettes, alors que celles que nous fabriquons déjà fonctionnent très bien ?" L’ennui, c’est que les vieilles lunettes ne voient pas bien ce qui est en train de se passer parce que cela va trop vite.

Une autre forme de science est nécessaire pour demain

On sait dire aujourd’hui "à quelle question la mémétique apporte une réponse". Les questions apparaissent chaque jour un peu plus clairement : pourquoi les phénomènes de société échappent-ils à toute prévision et plus encore à tout contrôle ? Pourquoi même les bonnes nouvelles sont-elles surprenantes ? Qu’est-ce qui influence les influenceurs ? Jusqu’où tel bouleversement va-t-il se propager ? Est-il normal que les objets nous utilisent et communiquent entre eux ? Aujourd’hui, la difficulté de prévoir, l’irruption permanente et encouragée de la nouveauté, voire de la disruption, ainsi que l’explosion des données massives (big data) appellent les compétences sociocognitives des "tendanceurs". Pensée rapide, échanges en réseau, erreur autorisée, remise en cause permanente et preuve par l’action. La mémétique rejoint cet arsenal des chasseurs de tendances parce qu’elle voit le monde avec d’autres lunettes, des lunettes qui savent que l’on regarde du vivant autoorganisé et non plus du "construit par l’homme selon des plans". Du coup ces lunettes nous rendent davantage capables de voir ce qui change rapidement et d’en percevoir les évolutions possibles. Aujourd’hui, la mouvance de l’économie collaborative se propose de mettre en partage le "code source" d’innovations citoyennes directement prêtes à être  expérimentées. 

Il devient impossible de penser seul ou en petits groupes centrés sur l’allégeance à un seul paradigme. Les sujets d’études offerts aux sciences de l’homme par le monde contemporain affolent par leur nombre, leur diversité et leur vitesse de renouvellement. De même, la connaissance se fabrique partout en même temps, dans un tissu ouvert constitué de personnes et de machines. La conscience même du sujet connecté n’est plus la même que celle du sujet isolé. La mémétique peut fournir un ensemble de métaphores agissant à la manière de passerelles interdisciplinaires, telles que la vision des solutions comme chemins entre états instables, celle du stockage partiel des souvenirs dans les objets, ou celle de l’ADN organisationnel comme fonctionnement implicite partagé des collectifs.

Une première condition est le recentrage indispensable de l’observation, du mème abstrait vers la solution concrète que l’on voit se reproduire et évoluer.

Une autre serait de mettre en lien souplement, autour de ce concept général de solutions, toutes les observations et réflexions – sans aucune contrainte disciplinaire – sur la manière dont nos actions s’inspirent et se déclenchent à partir des corps, des lieux et des objets, se répètent, sont bien ou mal vécues en commun, sont mémorisées, fabriquent des structures, produisent des récits…

Mais avant tout, la plus importante est de reconnaître la mémétique pour ce qu’elle est : un projet collaboratif, spontané, a-disciplinaire, mondial, qui nous équipe d’un regard neuf sur ce que la vie humaine est en train de devenir… un regard qui change jusqu’à notre conception de nous-mêmes. La mémétique ne mourra pas tant que ce travail restera à faire. Elle ne s’effacera pas, si ce n’est dans un projet plus grand qui réponde aux mêmes nécessités et partage la même ouverture.

Auteur: Jouxtel Pascal

Info: In Cairn infos, reprenant Hermès, La Revue 2013/3 (n° 67), pages 50 à 56

[ distanciation ] [ recul épistémologique ]

analyse holistique

Un type de raisonnement que l'AI ne peut remplacer

L'ingénieur en logiciel et philosophe William J. Littlefield II fait remarquer dans un essai récent qu'il existe trois types de raisonnement. Dont deux d'entre eux que nous avons probablement tous appris à l'école : le raisonnement déductif et inductif. Les ordinateurs peuvent très bien faire les deux.

Le raisonnement déductif : Les chiens sont des chiens. Tuffy est un chien. Tuffy est donc un chien.

Les premiers ordinateurs, dit Littlefield, utilisaient généralement le raisonnement déductif (qu'il considère comme un raisonnement "descendant"). Ce qui permet à de puissants ordinateurs de battre les humains à des jeux comme les échecs et le Go en calculant beaucoup plus de mouvements logiques à la fois qu'un humain ne peut le faire.

Le raisonnement inductif, en revanche, est un raisonnement "ascendant", qui va d'une série de faits pertinents à une conclusion, par exemple :

Un club a organisé 60 compétitions de natation, 20 dans chaque lieu ci-dessous :

Lorsque le Club organise des compétitions de natation à Sandy Point, nous obtenons en moyenne 80 % de votes d'approbation.

Lorsque le Club organise des compétitions de natation à Stony Point, nous obtenons en moyenne 60 % des suffrages.

Lorsque le Club organise des compétitions de natation à Rocky Point, nous obtenons une approbation moyenne de 40 %.

Conclusion : Les membres du club préfèrent les plages de sable fin aux autres types de plages.

Ici aussi l'avènement de nouvelles méthodes comme les réseaux neuronaux a permis à de puissants ordinateurs d'assembler une grande quantité d'information afin de permettre un tel raisonnement inductif (Big Data).

Cependant, le Flop IBM de Watson en médecine (supposée aider à soigner le cancer on vit l'AI incapable de discerner les infos pertinentes dans une grande masse de données) suggère que dans les situations où - contrairement aux échecs - il n'y a pas vraiment de "règles", les machines ont beaucoup de difficulté à décider quelles données choisir. Peut-être qu'un jour une encore plus grande masse de données résoudra ce problème. Nous verrons bien.

Mais, selon Littlefield, le troisième type de raisonnement, le raisonnement abductif, fonctionne un peu différemment :

"Contrairement à l'induction ou à la déduction, où nous commençons par des cas pour tirer des conclusions sur une règle, ou vice versa, avec l'abduction, nous générons une hypothèse pour expliquer la relation entre une situation et une règle. De façon plus concise, dans le raisonnement abductif, nous faisons une supposition éclairée." William J. Littlefield II, "La compétence humaine que l'IA ne peut remplacer"

Le raisonnement abductif, décrit à l'origine par un philosophe américain Charles Sanders Peirce (1839-1914), est parfois appelé "inférence vers la meilleure explication", comme dans l'exemple qui suit :

"Un matin, vous entrez dans la cuisine et trouvez une assiette et une tasse sur la table, avec de la chapelure et une noix de beurre dessus, le tout accompagné d'un pot de confiture, un paquet de sucre et un carton vide de lait. Vous en concluez que l'un de vos colocataires s'est levé la nuit pour se préparer une collation de minuit et qu'il était trop fatigué pour débarrasser la table. C'est ce qui, à votre avis, explique le mieux la scène à laquelle vous êtes confronté. Certes, il se peut que quelqu'un ait cambriolé la maison et ait pris le temps de manger un morceau pendant sur le tas, ou qu'un colocataire ait arrangé les choses sur la table sans prendre de collation de minuit, mais juste pour vous faire croire que quelqu'un a pris une collation de minuit. Mais ces hypothèses vous semblent présenter des explications beaucoup plus fantaisistes des données que celle à laquelle vous faites référence." Igor Douven, "Abduction" à l'Encyclopédie Stanford de Philosophie

Notez que la conclusion n'est pas une déduction stricte qu'il n'y a pas non plus suffisamment de preuves pour une induction. Nous choisissons simplement l'explication la plus simple qui tient compte de tous les faits, en gardant à l'esprit la possibilité que de nouvelles preuves nous obligent à reconsidérer notre opinion.

Pourquoi les ordinateurs ne peuvent-ils pas faire ça ? Littlefield dit qu'ils resteraient coincés dans une boucle sans fin :

Une part de ce qui rend l'enlèvement difficile, c'est que nous devons déduire certaines hypothèses probables à partir d'un ensemble vraiment infini d'explications....

"La raison pour laquelle c'est important, c'est que lorsque nous sommes confrontés à des problèmes complexes, une partie de la façon dont nous les résolvons consiste à bricoler. Nous jouons en essayant plusieurs approches, en gardant notre propre système de valeurs fluide pendant que nous cherchons des solutions potentielles. Plus précisément, nous générons des hypothèses. Où 'un ordinateur peut être coincé dans une boucle sans fin, itérant sur des explications infinies, nous utilisons nos systèmes de valeurs pour déduire rapidement quelles explications sont à la fois valables et probables. Peirce savait que le raisonnement abductif était au cœur de la façon dont nous nous attaquons à de nouveaux problèmes ; il pensait en particulier que c'était la façon dont les scientifiques découvrent les choses. Ils observent des phénomènes inattendus et génèrent des hypothèses qui expliquent pourquoi ils se produisent." William J. Littlefield II, "La compétence humaine que l'IA ne peut remplacer"

En d'autres termes, le raisonnement abductif n'est pas à proprement parler une forme de calcul, mais plutôt une supposition éclairée - une évaluation des probabilités fondée sur l'expérience. Il joue un rôle important dans la création d'hypothèses dans les sciences :

"Par exemple, un élève peut avoir remarqué que le pain semble se moisir plus rapidement dans la boîte à pain que dans le réfrigérateur. Le raisonnement abductif amène le jeune chercheur à supposer que la température détermine le taux de croissance des moisissures, comme l'hypothèse qui correspondrait le mieux aux données probantes, si elle est vraie.
Ce processus de raisonnement abductif est vrai qu'il s'agisse d'une expérience scolaire ou d'une thèse de troisième cycle sur l'astrophysique avancée. La pensée abductive permet aux chercheurs de maximiser leur temps et leurs ressources en se concentrant sur une ligne d'expérimentation réaliste.
L'enlèvement est considéré comme le point de départ du processus de recherche, donnant une explication rationnelle, permettant au raisonnement déductif de dicter le plan expérimental exact." Maryn Shuttleworth, "Abductive Reasining" Chez Explorable.com

Comme on peut le voir, le raisonnement abductif fait appel à une certaine créativité parce que l'hypothèse suggérée doit être développée comme une idée et non seulement additionnée à partir d'informations existantes. Et la créativité n'est pas quelque chose que les ordinateurs font vraiment.

C'est l'une des raisons invoquées par le philosophe Jay Richards dans The Human Advantage : L'avenir du travail américain à l'ère des machines intelligentes, comme quoi l'IA ne mettra pas la plupart des humains au chômage. Au contraire, elle changera la nature des emplois, généralement en récompensant la créativité, la flexibilité et une variété d'autres caractéristiques qui ne peuvent être calculées ou automatisées.

Auteur: Internet

Info: https://mindmatters.ai/2019/10/a-type-of-reasoning-ai-cant-replace/, 10 Oct. 2019

[ optimisme ] [ informatique ]