biais cognitifs

La grande majorité des occultistes n’est pas poussée par une soif de savoir, ni par la honte de la négligence et de la méconnaissance où la science s’est tenue par rapport à des problèmes indéniables, ni par le désir de s’approprier de nouveaux champs de phénomènes. Ce sont au contraire des gens convaincus qui recherchent des confirmations, qui veulent une justification pour avouer ouvertement leur croyance. Mais la croyance dont ils font montre eux-mêmes et qu’ils veulent imposer à d’autres est la vieille croyance religieuse, celle qui a été repoussée par la science dans le cours du devenir de l’humanité, ou une autre plus proche encore des convictions surmontées des primitifs. 

Auteur: Freud Sigmund

Info: "Psychanalyse et télépathie", trad. Wladimir Granoff et Jean-Michel Rey in "La transmission de pensée", éd. Flammarion, 2005, page 37

[ méthode expérimentale inversée ]

pulsion de survie

(À propos de la pandémie de Co-vid 19)
Du fait de cette fameuse question de la perception du risque. Anthropologiquement, une probabilité ne veut en fait rien dire pour notre cerveau. Pour lui, les choses sont binaires: soit je suis en danger (ce qui est grave), soit je suis en sécurité. Le fait de savoir que j’ai une chance sur 100, sur 1000 ou sur 10’000 de subir ceci ou cela ne veut en fait à peu près rien dire. Ou bien je suis en danger, et alors "au secours!" ou bien ce n’est pas le cas et alors tout va bien.

extrait de ce très bon article

Auteur: Michel Jean-Dominique

Info:

[ appréciation mammifère ] [ intelligence courte ] [ biais cognitif ]

peuples primitifs

A vrai dire, il convient de se méfier toujours un peu de ce qu’on rapporte sur les sauvages, et cela pour plusieurs raisons : d’abord, les récits des voyageurs, source unique de toutes ces histoires, sont souvent fantaisistes ; ensuite, quelqu’un qui croit rapporter fidèlement ce qu’il a vu et entendu peut cependant n’y avoir rien compris et, sans s’en apercevoir, substituer aux faits son interprétation personnelle ; enfin, il y a des savants, ou soi-disant tels, qui viennent encore superposer à tout cela leur propre interprétation, résultat d’idées préconçues : ce qu’on obtient par cette dernière élaboration, ce n’est pas ce que pensent les sauvages, mais ce qu’ils doivent penser conformément à telle théorie "anthropologique" ou "sociologique".

Auteur: Guénon René

Info: Dans "L'erreur spirite", Editions traditionnelles, 1952, page 159

[ biais cognitifs ] [ projection symbolique ]

validation subjective

Sur un phénomène qui a une probabilité très faible de se produire dans un temps donné, nous nous concentrons sur les rares cas qui fonctionnent en effaçant les nombreux échecs. Nous créons alors une solide illusion d’efficacité appelée "le biais du survivant".

Dans nos esprits, le fait d'écrémer les rares cas qui "marchent" en effaçant les cas nombreux qui échouent s’appelle le "biais du survivant".

La facilité de la disponibilité

Ce biais du survivant est de la même famille que l’effet Barnum expliqué dans l’épisode précédent. Il s’agit d’une forme de biais de sélection, qui nous fait préférer les événements confirmant nos attentes et nos croyances, aux événements qui les réfutent. En quelque sorte, ce biais nous cache les preuves silencieuses des événements qui ne valident pas l’hypothèse que l'on s'est fixée au départ.

Que se passe-t-il exactement dans notre cerveau ? Ce n’est pas encore très clair : il semble qu’il y ait un mélange entre des mécanismes "chauds", motivés par nos croyances et nos attentes, comme dans l’effet Barnum ; et des mécanismes dits "froids", cognitifs, qu’il est difficile de maîtriser, un peu comme des inclinaisons mentales, des pentes cérébrales douces.

L’une de ces pentes porte le nom barbare "d’heuristique de disponibilité" : nous aurions tendance à prendre les idées, les infos, les preuves les plus disponibles, à moindre coût, moindre effort. Comme certains le disent, "la motivation crée le biais", et les facteurs cognitifs amplifient l’effet. Autrement dit, par "facilité", le cerveau ne retient pas l’immense majorité des cas qui ont échoué, et donc 100 % des cas dont on se rappelle sont des cas qui valident la prétention de départ.

Nous sommes plus friands de raconter les cas qui ont marché avec un rebouteux par exemple ; alors que les histoires d’échec de soin de rebouteux sont, elles, bien plus nombreuses. En somme, le biais du survivant est une sorte d’illusion cognitive qui vient flatter nos intuitions.

 

Auteur: Monvoisin Richard

Info: https://www.radiofrance.fr/franceculture/podcasts/votre-cerveau/le-biais-du-survivant-5761547

[ ratification cognitive ]

codage du réel

Dans La Naissance de la Conscience dans l’effondrement de l’esprit, le psychologue américain Julian Jaynes soutient que la conscience réflexive, proprement humaine, est permise par un processus métaphorique enraciné dans le mode de perception visuelle. Jaynes met en place une nouvelle terminologie pour étudier le phénomène métaphorique d'un point de vue phénoménologique et cognitif. Pour lui, à la base de tout langage existe la perception brute, qui est le mode de compréhension premier du monde : il s'agit ensuite de parvenir à une métaphore de cette chose, en lui substituant quelque chose qui nous soit plus familier.

Le travail métaphorique de la compréhension implique :

- des métaphrandes (les choses à décrire) ;

- des métapheurs (les choses aidant à décrire les précédentes) ;

- des parapheurs (les mots associés aux métapheurs, sèmes en quelque sorte contenus dans la connotation) ;

- des paraphrandes (les mots associés aux choses à décrire et que la langue possède).

Pour Jaynes, tout découle de ce processus et même les modèles les plus complexes et abstraits : "Une théorie est donc une métaphore entre un modèle et des données" dit-il. Le langage lui-même vient de la métaphore. En cela Jaynes réalise un point de vue révolutionnaire de la conception couramment admise : la métaphore peut en effet se figer, et former le vocabulaire qui peu à peu perd toute référence à l'analogie première (exemple : les "ailes" de l'avion, ou encore le verbe "être", qui vient du sanscrit bhu ("pousser" ou "faire pousser"), renvoyant à la métaphore d'une action réelle s'appliquant à un élément mental). L'étymologie est ainsi pour Jaynes résultat de métaphores. Le langage a peu à peu, du concret à l'abstrait, monté "les marches qu'étaient les métaphores" et a permis ainsi de spatialiser en conscience le Réel :

"Le lexique du langage, donc, est un ensemble fini de termes qui, par le biais de la métaphore, peut s'étendre sur un ensemble infini de situations, allant même jusqu'à en créer ainsi de nouvelles."

La conscience s'entend pour Julian Jaynes avant tout comme un espace mental métaphorique, que l'expérience agrandit à chaque nouvelle prise de conscience. Le processus corollaire de la narratisation vient ensuite lier ces expériences en un tout logique donnant la réflexivité. Jaynes distingue ainsi plusieurs procédés de métaphorisation

" Il y a donc toujours deux termes dans la métaphore: la chose à décrire, que j'appellerai le métaphrande, et la chose ou le rapport utilisé pour l'élucider, que j'appellerai le métapheur. Une métaphore est toujours un métapheur connu s'appliquant à un métaphrande moins connu. j'ai inventé ces termes hybrides par simple référence à la multiplication où un multiplicande* opère sur un multiplicateur*."

Auteur: Internet

Info: https://fr.wikipedia.org/wiki/Julian_Jaynes. A propos "La Naissance de la Conscience dans l'effondrement de l'esprit bicaméral". *Dans une multiplication, celui des facteurs qui est énoncé le premier.

[ symbolisation ] [ mise en concepts ] [ catachrèses ] [ paréidolie ] [ sémantique ] [ préhension intellectuelle ] [ tétravalence ] [ imagination ] [ priméité-tiercité ]

raisonnements

Tous les biais cognitifs simples dans une seule infographie.
Le cerveau humain est capable de choses incroyables, mais il est aussi souvent extrêmement imparfait.
La science a montré que nous avons tendance à faire toutes sortes d'erreurs mentales, appelées "contraintes cognitives", qui peuvent affecter notre pensée et nos actions. Ces biais, comme le souligne Jeff Desjardinsde Visual Capitalist, peuvent nous amener à extrapoler des informations provenant de mauvaises sources, à chercher à confirmer les croyances existantes ou à ne pas nous souvenir d'événements comme ils se sont réellement passés!
Tout ceci fait bien sûr partie de l'être humain, mais ces biais cognitifs peuvent également avoir un effet profond sur nos efforts, nos investissements et notre vie en général. Pour cette raison, cette infographie de DesignHacks.co est particulièrement pratique. Elle montre et regroupe les 188 biais de confirmation connus existants.
QU'EST-CE QU'UN BIAS COGNITIF?
Les humains ont tendance à penser de certaines manières qui peuvent conduire à des écarts systématiques d'une prise de jugement rationnel.
Ces tendances proviennent habituellement de :
- Raccourcis de traitement de l'information
- Capacité de traitement limitée du cerveau
- Motivations émotionnelles et morales
- Distorsions dans le stockage et la récupération des souvenirs
- Influence sociale
Les biais cognitifs ont été étudiés durant des décennies par des universitaires dans les domaines de la science cognitive, de la psychologie sociale et de l'économie comportementale, mais ils sont particulièrement pertinents dans le monde de l'information. Ils influencent la façon dont nous pensons et agissons, et de tels raccourcis mentaux irrationnels peuvent conduire vers toutes sortes de problèmes dans l'entrepreneuriat, l'investissement ou la gestion.
EXEMPLES DE BIAS COGNITIFS
Voici quatre exemples de la façon dont ces types de biais peuvent affecter les gens dans le monde des affaires:
- Biais de familiarité: un investisseur met son argent dans "ce qu'il connait", plutôt que de rechercher les avantages évidents d'une diversification de portefeuille. Juste parce qu'un certain type d'industrie ou de sécurité est familier n'en fait pas une sélection logique.
- Le biais de l'auto-attribution: un entrepreneur attribue excessivement le succès de sa société à lui-même, plutôt qu'à d'autres facteurs (équipe, chance, tendances de l'industrie). Quand les choses ne vont pas, il blâme ces facteurs externes pour avoir stoppé sa progression.
- Ancrage de partialité : un employé lors d'une négociation de salaire dépend trop du premier chiffre mentionné dans les négociations plutôt qu'examiner de façon rationnelle une gamme d'options.
- Le biais de survie: l'esprit d'entreprise semble facile, car il y a tant d'entrepreneurs prospères. C'est pourtant bien un biais cognitif: les entrepreneurs prospères sont les meilleurs, ceux qui ont survécu, alors que les millions qui ont échoué sont parti pour faire d'autres choses.

Auteur: Internet

Info: Zero Hedge, 29 sept 2017

[ réflexion ] [ réfléchir ]

extension

La conscience humaine pourrait être un effet de l’entropie 

Une nouvelle étude suggère que la conscience pourrait être une caractéristique émergente découlant de l’effet d’entropie, soit le mécanisme physique faisant que le désordre au sein de tout système ne peut faire qu’augmenter, et par le biais duquel le cerveau maximiserait les échanges d’informations. Cette conclusion a été déduite de l’analyse de l’activité cérébrale de patients épileptiques ou non, indiquant que les états d’éveil normaux (ou conscients) sont associés à des valeurs entropiques maximales.

En thermodynamique, l’entropie se traduit par le passage inéluctable d’un système d’un agencement ordonné à désordonné. La valeur entropique est le niveau de désorganisation de ce système. Les physiciens suggèrent qu’après le Big Bang, l’Univers est progressivement passé d’un état entropique faible à élevé et qu’à l’instar du temps, l’entropie ne peut qu’augmenter au sein d’un système. De leur côté, les neurobiologistes estiment que le principe est transposable à l’organisation de nos connexions neuronales.

La question est de savoir quel type d’organisation neuronale sous-tend les valeurs de synchronisation observées dans les états d’alerte normaux ou non. C’est ce que des chercheurs de l’Université de Toronto et de l’Université de Paris Descartes ont exploré. " Nous avons cherché à identifier les caractéristiques globales de l’organisation du cerveau qui sont optimales pour le traitement sensoriel et qui peuvent guider l’émergence de la conscience ", expliquent-ils dans leur étude, publiée dans la revue Physical Review E.

Les observations de l’activité cérébrale chez l’Homme ont montré qu’elle est sujette à une importante fluctuation au niveau des interactions cellulaires. Cette variabilité serait à la base d’un large éventail d’états, incluant la conscience. D’un autre côté, des travaux antérieurs traitant du fonctionnement cérébral ont suggéré que l’état conscient n’est pas nécessairement associé à des degrés élevés de synchronisation entre les neurones, mais davantage à des niveaux moyens. Les chercheurs de la nouvelle étude ont alors supposé que ce qui est maximisé au cours de cet état n’est pas la connectivité neuronale, mais le nombre de configurations par lesquelles un certain degré de connectivité peut être atteint.

État de conscience = entropie élevée ?

Dans le cadre de leur analyse, les scientifiques ont utilisé la mécanique statistique pour l’appliquer à la modélisation de réseaux neuronaux. Ainsi, cette méthode permet de calculer des caractéristiques thermodynamiques complexes. Parmi ces propriétés figure la manière dont l’activité électrique d’un ensemble de neurones oscille de façon synchronisée avec celle d’un autre ensemble. Cette évaluation permet de déterminer précisément de quelle façon les cellules cérébrales sont liées entre elles.

Selon les chercheurs, il existerait une multitude de façons d’organiser les connexions synaptiques en fonction de la taille de l’ensemble de neurones. Afin de tester leur hypothèse, des données d’émission de champs électriques et magnétiques provenant de 9 personnes distinctes ont été collectées. Parmi les participants, 7 souffraient d’épilepsie. Dans un premier temps, les modèles de connectivité ont été évalués et comparés lorsqu’une partie des volontaires était endormie ou éveillée. Dans un deuxième temps, la connectivité de 5 des patients épileptiques a été analysée, lorsqu’ils avaient des crises de convulsions ainsi que lorsqu’ils étaient en état d’alerte normal. Ces paramètres ont ensuite été rassemblés afin de calculer leurs niveaux d’entropie cérébrale. Le résultat est le même dans l’ensemble des cas : le cerveau affiche une entropie plus élevée lorsqu’il est dans un état de conscience.

Les chercheurs estiment qu’en maximisant l’entropie, le cerveau optimise l’échange d’informations entre les neurones. Cela nous permettrait de percevoir et d’interagir de manière optimale avec notre environnement. Quant à la conscience, ils en ont déduit qu’elle pourrait tout simplement être une caractéristique émergente découlant de cette entropie. Toutefois, ces conclusions sont encore hautement spéculatives en raison des limites que comporte l’étude, telles que le nombre restreint de participants à l’étude. Le terme " entropie " devrait même être considéré avec parcimonie dans ce cadre, selon l’auteur principal de l’étude, Ramon Guevarra Erra de l’Université de Paris Descartes.

De nouvelles expériences sur un échantillon plus large sont nécessaires afin de véritablement corroborer ces résultats. On pourrait aussi évaluer d’autres caractéristiques thermodynamiques par le biais de l’imagerie par résonance magnétique, qui peut être utilisée pour mesurer l’oxygénation — une propriété directement liée au métabolisme et donc à la génération de chaleur (et de ce fait d’augmentation de l’entropie). Des investigations menées en dehors de conditions d’hôpital seraient également intéressantes afin d’évaluer des états de conscience associés à des comportements cognitifs plus subtils. On pourrait par exemple analyser l’activité cérébrale de personnes exécutant une tâche spécifique, comme écouter ou jouer de la musique.

Auteur: Internet

Info: https://trustmyscience.com/ - Valisoa Rasolofo & J. Paiano - 19 octobre 2023

[ complexification ]

extensibilité FLP

Le langage, si on approfondit la connaissance qu'on en a, révèle et circonstancie la priméité de C.S. Peirce. C'est à dire qu'on grandit avec et en lui, tout comme le monde extérieur dont nous sommes issus se développe et se définit via une science qui en dévoile petit à petit les détails au fur et à mesure de ses progrès et affinements. Malgré le différentiel de complexité inouï qui existe entre langages-vocabulaires et sciences-rationalismes. Pour s'en rendre compte amusons nous simplement à prendre exemple sur les millions de protéines différentes recensées de nos jours, et comparer ce très partiel et scientifique listing protéique de notre réel avec nos vocabulaires.  

Il y a le premier livre... et le second. Le second se divisant dans notre idée en deux parties 1) Linguistique subjective et 2) scientifico-informatique objective.

Il n'en reste pas moins que mots et langages afférents développent suffisamment de méandres et de complications pour que n'importe qui qui s'y intéresse puisse, via la lecture, la recherche, le plaisir, l'écriture, etc. y développer sa propre idiosynchrasie. Comme l'arbre qui s'intégre à sa forêt : "la nature individualise et généralise en même temps". Processus orthogonal susceptible d'augmenter et intégrer la variété - en favorisant le développement personnel de chacun au sein du corpus des savoirs verbalisés humains.

Et puis est récemment arrivée l'informatique, cybernétique post-leibnizienne, avec ses divers traitements automatiques du langage. Outils numériques qui permettent l'études des idiomes et dialectes sur trois axes en constante évolution :

a) Le langage du "maintenant présent" que le dictionnaire Internet permet de désambiguer sans cesse. 

b) Le langage devenu métadonnées, telles que manipulées-étudiées-utilisées par les traitements automatique des langues (TAL) ou "machine learning" ou Machine-homme. Avec maintenant Bard et/ou ChatGpt, sortis en mars de cette année,  agents conversationnels apte au compendium d'immenses données et qui peuvent répondre à des questions précises en partant de n'importe quelle idée qu'on leur soumet ; gérant et "précisant" points de vue et réponses en fonction d'algorithmes et autres "transformers" de plus en plus efficaces .

Outils très intéressants, mais aussi extrêmement limités puisqu'il s'agit de compilateurs, (qui donc peuvent difficilement donner leurs sources - ou pas du tout ) et qui ne fonctionnent in fine qu'avec la latence d'un certain a postériori. Agents dialogueurs qui "rebondissent" sur questions et propositions, en fonction des instructions humaines de ses programmateurs. Reste qu'il faut reconnaitre que la puissance perspectiviste de ces bots, et leurs facultés à éviter pas mal de biais humains grâce aux transformers, est assez bluffante. 

On mettra ici aussi l'accent sur les profondes différences sémantiques du terme "intelligence" en français (ensemble des fonctions mentales apte à connaître, comprendre et à s'adapter facilement sur une base rationelle) et en anglais (collecte d'informations ayant une valeur militaire ou politique, tout autant que : capacité d'acquérir et d'appliquer des connaissances et des compétences.) Mais stop.

c) Le langage tel que FLP veut l'aborder, c'est à dire un traitement "Homme-machine", continu, qui propose à des participants qui aiment lire et réfléchir !!!  Oui oui - de faire émerger collectivement (et maintenir à flot) - un dictionnaire intriqué susceptible de développer une réflexion naturelle, organique... humaine collective. Le tout en conservant un minimum de précision sémantique consensuelle. 

Processus FLP francophone qui part évidemment du "terme simple", pour immédiatement s'intéresser aux premières combinaisons, à 2 mots - ou radicaux de mots - et aller vers "plus long et plus complexe" via une incessante quête de compréhension et de partage du consensus sémantique et syntaxique des participants. On pourra parler ici de tropisme vers un genre de logique formelle ensemble. Logique formelle qui recherche l'ouverture puisque ce "monde humain verbalisé" n'a d'autre limite que "le sens contextualisé des mots et des phrases", que ce soit dans le rationnel, la littérature, la poésie, le religieux ou pur imaginaire... ou même la fantaisie potache.

Au passage et pour l'anecdote il y a aussi cette piste "théologico-scientifique" ou "mystico-rationnelle", plutôt d'ordre ludique et maniaque et issue des Dialogue avec l'ange, qui veut s'inspirer et relier les septénaires tels que les recherches et classification humaines ont pu les discerner - et les faire apparaitre à tous niveaux-endroits et échelles possibles.

Partant de l'idée que le sept au-delà de tous les symboles culturels et cognitifs humains, porte en lui une inouie complexité dans la mesure où ce nombre peut s'apprécier géométriquement comme le mélange du cercle et du carré. Mélange, une fois utilisé comme mètre dans le rythme musical, qui nous apparait comme un carrousel infini. 

Le sept pourra-t'il éventuellement être corrélé un jour de manière plus générale, via par exemple une AI perspectiviste suffisamment puissante pour le faire ? Qui établira plus profondément et formellement un multidimensionnel maillage du réel de la cognition humaine sous cet angle septénaire après l'avoir comparé à d'autres maillages possibles (par 12, ou 5, ou autre).

En attendant de rencontrer - et pouvoir communiquer - avec une autre race, extraterrestre si possible, histoire de voir si pareil angle de perception est éventuellement partagé. 

Si tel est le cas nous pourrons alors parler d'exo-spiritualité ...ou de religion cosmique.

Hon hon hon hon hon hon hon...

Auteur: Mg

Info: avril-mai 2023 *on pourra presque dire ici que la matière nous parle

[ gnose ] [ polydipsique curiosité ] [ théologico-humoristico-mégalo ]

intelligence artificielle

La vérité sur la soupe acronymique de l'IA (ANI, AGI, ASI)

(désambiguïser le jargon et les mythes qui entourent l'IA.)

L'IA est souvent expliquée à l'aide des catégories suivantes : intelligence artificielle étroite (ANI), intelligence artificielle générale (AGI) et superintelligence artificielle (ASI)[1]. Bien que ce cadre conceptuel étrange n'apporte aucune valeur réelle, il se retrouve dans de nombreuses discussions[2]. Si vous n'êtes pas familier avec ces catégories, considérez-vous chanceux et passez à un autre article, plus conséquent. Sinon, je vous invite à poursuivre votre lecture.

Tout d'abord, déplorer les catégorisations - comme je m'apprête à le faire - n'a qu'une valeur limitée car les catégories sont arbitrairement similaires et distinctes, en fonction de la manière dont nous classons les choses. Par exemple, le théorème du vilain petit canard démontre que les cygnes et les canetons sont identiques si l'on souhaite manipuler les propriétés à des fins de comparaison. Toutes les différences n'ont pas de sens si nous n'avons pas de connaissances préalables sur ces différences. Hélas, cet article décortique ces catégories suspectes d'un point de vue commercial.

L'intelligence artificielle étroite (ANI) est souvent confondue avec l'intelligence artificielle faible. John Searle, philosophe et professeur à l'université de Californie, a expliqué dans son article fondateur de 1980, "Minds, Brains, and Programs", que l'intelligence artificielle faible serait toute solution à la fois étroite et ressemblant superficiellement à l'intelligence. Searle explique qu'une telle recherche serait utile pour tester des hypothèses sur des segments d'esprits mais ne serait pas des esprits[3]. L'ANI réduit cela de moitié et permet aux chercheurs de se concentrer sur l'étroitesse et la superficialité et d'ignorer les hypothèses sur les esprits. En d'autres termes, l'ANI purge l'intelligence et les esprits et rend l'intelligence artificielle "possible" sans rien faire. Après tout, tout est étroit, et si l'on louche suffisamment, tout peut ressembler superficiellement à de l'intelligence.

L'intelligence artificielle générale (AGI) est la solution idéalisée que beaucoup imaginent lorsqu'ils pensent à l'IA. Alors que les chercheurs travaillent plus sur l'étroitesse et la superficialité, ils parlent de l'AGI, comme une représentation histoirique, d'une IA unique qui remonte aux années 1950, avec un renouveau au cours de la dernière décennie. L'AGI implique deux choses à propos d'une solution qui ne devraient pas s'appliquer à la résolution de problèmes centrés sur l'entreprise. Primo, un tel programme possède l'aptitude générale à l'intelligence humaine (voire toute l'intelligence humaine). Deuxio l'AGI peut résoudre des problèmes généraux ou remplir une ardoise vierge, ce qui signifie que toute connaissance d'un problème est rhétorique et indépendante d'une stratégie de résolution de ce problème[4]. Au lieu de cela, la connaissance dépend d'une aptitude vague et mal définie liée à la structure multidimensionnelle de l'intelligence naturelle. Si cela semble ostentatoire, c'est parce que c'est le cas.

La superintelligence artificielle (ASI) est un sous-produit de la réalisation de l'objectif de l'AGI. L'idée communément admise est que l'intelligence générale déclenchera une "explosion de l'intelligence" qui entraînera rapidement l'apparition de la superintelligence. On pense que l'ASI est "possible" en raison de l'auto-amélioration récursive, dont les limites ne sont limitées que par l'imagination débridée d'un programme. L'ASI s'accélère pour atteindre et dépasser rapidement l'intelligence collective de l'humanité. Le seul problème pour ASI est qu'il n'y a plus de problèmes. Quand ASI résout un problème, elle en demande un autre avec le dynamisme d'un Newton au berceau. Une accélération de ce type se demandera quelle est la prochaine étape à l'infini, jusqu'à ce que les lois de la physique ou de l'informatique théorique s'imposent.

Nick Bostrom, chercheur à l'Université d'Oxford, affirme que nous aurons atteint l'ASI lorsque les machines sont plus intelligentes que les meilleurs humains dans tous les domaines, y compris la créativité scientifique, la sagesse générale et les compétences sociales[5]. La description de l'ASI par Bostrom a une signification religieuse. Comme leurs homologues religieux, les adeptes de l'ASI prédisent même des dates précises auxquelles le second avènement révélera notre sauveur. Curieusement, Bostrom n'est pas en mesure d'expliquer comment créer une intelligence artificielle. Son argument est régressif et dépend de lui-même pour son explication. Qu'est-ce qui créera l'ASI ? Eh bien, l'AGI. Qui créera l'AGI ? Quelqu'un d'autre, bien sûr. Les catégories d'IA suggèrent un faux continuum à l'extrémité duquel se trouve l'ASI, et personne ne semble particulièrement contrarié par son ignorance. Cependant, le fanatisme est un processus d'innovation douteux.

Une partie de notre problème collectif lorsque nous parlons d'IA est que nous ancrons notre pensée dans des dichotomies prévalentes mais inutiles[6]. Les fausses dichotomies créent un sentiment artificiel qu'il existe une alternative. L'ANI, l'AGI et l'ASI suggèrent un faux équilibre entre diverses technologies en présentant plusieurs aspects d'un argument qui n'existe pas. Même si nous acceptons la définition de l'ANI et ignorons sa trivialité, l'AGI et l'ASI n'ont rien de convaincant. Mentionner quelque chose qui n'existera pas pour évaluer la technologie d'aujourd'hui avec un nom plus accrocheur comme ANI est étrange. Nous ne comparons pas les oiseaux aux griffons, les chevaux aux licornes ou les poissons aux serpents de mer. Pourquoi comparerions-nous (ou mettrions-nous à l'échelle) l'informatique à l'intelligence humaine ou à l'intelligence de tous les humains ?

Toute explication qui inclut l'AGI ou l'ASI déforme la réalité. L'ancrage est un biais cognitif dans lequel un individu se fie trop à un élément d'information initial (connu sous le nom d'"ancre") lorsqu'il prend des décisions. Des études ont montré qu'il est difficile d'éviter l'ancrage, même en le recherchant[7]. Même si nous reconnaissons que l'AGI et l'ASI sont significativement erronées ou mal placées, elles peuvent encore déformer la réalité et créer des désalignements. Nous ne devons pas nous laisser abuser par une fausse dichotomie et un faux équilibre.

L'IA ne se résume pas à trois choses. Ce n'est pas quelque chose qui s'échelonne en fonction de l'"intelligence" ou qui se range proprement dans trois catégories. Ces catégories ne délimitent pas des technologies spécifiques, ne mettent pas en évidence des domaines de recherche ou ne représentent pas un continuum où l'on commence par travailler sur l'ANI et où l'on termine avec l'ASI. Elles sont absurdes. L'IA est une chose : un objectif singulier et sans précédent de recréer l'intelligence ex nihilo. Cependant, cet objectif est en décalage permanent avec le monde des affaires.

Les objectifs commerciaux ne peuvent pas être totalisés et absorber tout ce qui les entoure, car la communication d'entreprise, qui comprend toutes les stratégies, n'est efficace que lorsqu'elle ne peut pas être mal comprise. À moins que vous n'envisagiez d'aligner votre entreprise sur l'objectif unique et sans précédent de l'IA, vous devez faire attention lorsque vous appelez vos objectifs "IA", car vous ne pouvez pas dire "IA" de nos jours si vous voulez être compris. Comme nous appelons de plus en plus de choses "IA", la tâche de communiquer un but et une direction devient encore plus difficile. Cependant, dire ANI, AGI ou ASI n'arrange pas les choses. Cela nuit à la communication. Le meilleur conseil que l'on puisse donner aux responsables techniques est d'éviter les faux continuums, les fausses dichotomies et les faux équilibres. Comme l'explique Jay Rosen, critique des médias, en empruntant une phrase au philosophe américain Thomas Nagel, "le faux équilibre est un point de vue de nulle part'".

Auteur: Heimann Richard

Info: 3 novembre 2022

[ limitation consumériste ] [ rationalisation restrictive ] [ normalisation commerciale ] [ délimitation normative ] [ bridage marchand ] [ chambre chinoise mercantile ] [ impossibilité holistique ]

gafam

"Beaucoup de ficelles invisibles dans la tech nous agitent comme des marionnettes."

Ancien ingénieur de Google, Tristan Harris dénonce les pratiques de son ancien employeur et des grands groupes de la Silicon Valley. Il exhorte les chefs d'États et citoyens à exercer un contre-pouvoir contre leur influence nocive. Cet ancien ingénieur employé de Google, spécialiste en éthique en technologies, alerte depuis plusieurs années le monde des technologies sur les dérives qu'il a contribué à créer. Avec un certain succès. Son initiative "déconnexionniste" Time Well Spent a fait de lui un speaker remarqué et invité par les PDG de la tech. Désormais, il vise les citoyens. À l'occasion de sa tournée européenne, des couloirs de Bruxelles à l'Elysée, en passant par le MAIF Social Club. Le Figaro l'a rencontré.

- Pourquoi êtes-vous parti en guerre contre les réseaux sociaux et les géants du Web?

- TH Ces entreprises sont devenues les acteurs les plus puissants au monde, plus que les États. Nous sommes 2 milliards à être sur Facebook, soit davantage de fidèles qu'en compte le christianisme. 1,5 milliard sur YouTube chaque mois, soit plus de fidèles qu'en compte l'Islam. Et à partir du moment où nous éteignons l'alarme de nos smartphones - que nous consultons en moyenne 150 fois par jour - nos pensées vont être perturbées par des pensées que nous n'avons pas choisies, mais que les entreprises technologiques nous soumettent. En ouvrant Instagram, on observe que ses amis se sont amusés sans vous. Cette idée ne vous serait jamais venue sans qu'un acteur des technologies ne l'ait faite advenir.

- En quoi est-ce si grave? Les réseaux sociaux finissent par construire une réalité sociale alternative. Cela pose des problèmes de santé publique, notamment chez les plus jeunes qui sont sans cesse soumis à des images de leurs amis montrés sous leur meilleur jour et ont une vision déformée de la normalité. Cela pose aussi des problèmes de polarisation: les réseaux sociaux ont tendance à mettre en avant les comportements extrêmes, ce qui pose un troisième problème, cette fois-ci démocratique, car cela influence l'opinion. La question relève enfin de l'antitrust: ces entreprises ont un pouvoir inégalable avec toutes les données qu'elles manipulent chaque jour. "Non seulement Facebook sait quelle photo de votre ex-petite amie vous regardez sur Instagram, mais aussi quels messages vous écrivez sur WhatsApp."

- Les concepteurs de ces technologies sont-ils conscients d'exercer un tel pouvoir?

- Non! Il y a beaucoup de personnes qui ont une conscience dans la Silicon Valley et s'inquiètent des conséquences de leur travail. Mais si on y réfléchit bien, quand on a entre 20 et 30 ans, qu'on est un jeune ingénieur qui n'a jamais rien fait d'autre que coder et qu'on débarque chez Google, on pense avant tout à toutes les choses incroyables que l'on peut réaliser avec son travail. Pas aux instabilités géopolitiques que ces outils peuvent permettre de créer. Les employés de ces grandes entreprises ne réalisent pas leur pouvoir.

- N'est-ce pas la faute d'une culture d'entreprise qui déresponsabilise ses employés? - Ces entreprises font en sorte que les employés n'aient pas une image "globale" de l'impact de leur travail. Je pense que des comparaisons historiques peuvent être faites avec des régimes autoritaires. J'ai beaucoup étudié le fonctionnement des cultes et j'y vois aussi des similitudes. Quand Facebook répète sans cesse cette devise, "nous aidons le monde à être plus connecté", cela devient performatif et on ne voit plus que cela.

- Les employés de Facebook sont payés très cher pour ne pas se poser de questions.

- De la même façon, ils ne parlent pas d'un problème d'addiction aux technologies mais d'"engagement". Et ils ne disent pas à leurs ingénieurs de concevoir des outils de manipulation des esprits mais des outils pour "augmenter l'engagement sur de la publicité ciblée", car aucun ne voudrait travailler pour eux sinon. Pour reprendre l'écrivain Upton Sinclair, vous ne pouvez pas demander à des gens de se poser des questions quand leur salaire dépend du fait de ne pas se les poser. Et les employés de Facebook sont payés très cher pour ne pas se poser de questions.

- N'avez-vous pas l'impression d'utiliser une rhétorique de la peur parfois exagérée à l'égard des technologies?

- Je suis d'accord avec ceux qui me critiquent pour défendre un modèle de la peur! (rires) Parce que fondamentalement, je m'intéresse à la question du pouvoir, et qu'il y a une sorte de vérité dérangeante dans la Silicon Valley. Plusieurs PDG comme Eric Schmidt (ex-Google) ou Mark Zuckerberg (Facebook) ont déclaré que la vie privée était morte. Aujourd'hui, avec une intelligence artificielle entraînée, je peux en effet établir votre profil psychologique en étudiant vos clics, vous identifier à travers votre géolocalisation dans moins de cinq lieux, mesurer votre taux de stress ou d'excitation avec la reconnaissance faciale. Nous allons vivre dans un monde où de plus en plus de technologies vont intercepter des signaux de ce que nous pensons avant même que nous n'ayons conscience de le penser, et nous manipuler.

- Avez-vous l'impression que vos idées sont entendues par le grand public?

- Les gens n'ont pas conscience de l'ampleur de ce que l'on peut déjà faire avec de la publicité ciblée. Il est facile de se dire que nous sommes informés ou éduqués, et que cela ne nous arrive pas à nous, plus malins que les autres. Je veux éveiller les consciences là-dessus: absolument tout le monde, sans exception, est influencé par des ressorts qu'il ne voit pas. Exactement comme dans les tours de magie.

- Comment cela fonctionne-t-il concrètement?

- "Absolument tout le monde, sans exception, est influencé par des ressorts qu'il ne voit pas". Il y a beaucoup de "dark patterns" dans les technologies, c'est-à-dire des ficelles invisibles qui nous agitent comme des marionnettes. Elles reposent sur la captation d'attention par les biais cognitifs, l'excitation... Par exemple, nous vérifions sans cesse les notifications des téléphones en espérant y voir leurs jolies couleurs vives, nous scrollons car il y a toujours de la nouveauté, nous regardons la prochaine vidéo YouTube car elle est bien suggérée...

- Imaginons maintenant que vous vouliez quitter Facebook: pour vous garder, Facebook pourrait envoyer une notification à l'un de vos amis qui a pris une photo de vous, et lui demander "Veux-tu taguer cette personne?". En général, cette question s'assortit d'un gros bouton bleu marqué "OUI" pour que l'ami clique dessus. Il suffit ensuite à Facebook de vous envoyer un mail pour vous dire "Tel ami vous a tagué sur telle photo" et cela vous incite à revenir. Toute l'industrie de la tech utilise ces ressorts.

- N'est-ce pas seulement une certaine élite qui peut savoir comment échapper à ce type de manipulation?

- Complètement, et c'est bien pour cela que nous voulons forcer les entreprises à changer directement leurs pratiques pour le plus grand nombre. Nous ne pouvons pas souhaiter un monde où seulement 1% de personnes savent comment paramétrer leur téléphone en noir&blanc pour ne plus être autant sollicité par les boutons rouges des notifications, ou savent comment régler leurs paramètres. Nous devons faire en sorte que le design de l'attention soit vertueux par défaut, que les modèles économiques de ces entreprises reposent moins sur le temps passé. Google vient de le faire et cela établit un précédent qui pourrait pousser Apple à faire de même.

- Peut-on vraiment avoir confiance quand ces entreprises prétendent nous guérir de l'addiction ou des manipulations qu'elles ont elles-mêmes créées ?"

- Pour moi, c'est le rôle de Facebook de veiller à ce qu'une élection ne soit pas manipulée, et le rôle de Google de restreindre notre addiction. Pour autant, nous ne devons pas les croire sur parole, car ils ont toujours un pouvoir considérable. Facebook est comme un prêtre qui écouterait les confessions de 2 milliards d'individus, sauf que la plupart ne savent même pas qu'ils passent à confesse! Non seulement ils savent quelle photo de votre ex-petite amie vous regardez sur Instagram, mais aussi quels messages vous écrivez sur WhatsApp. Avec leurs traceurs sur plus d'un tiers des sites internet, ils savent que vous songez à changer d'assureur avant même que vous ayez franchi le cap. Ils savent aussi ce que vous allez voter. Et ils vendent ce savoir à des marques pour qu'au confessionnal, on vous suggère telle ou telle action. Je ne dis pas que Facebook et son confessionnal virtuel ne devraient pas exister, mais je dis qu'il ne devrait pas avoir un modèle économique qui ait autant de pouvoir. L'Europe va sombrer si nous ne changeons pas ce système.

Auteur: Harris Tristan

Info: Interview d'Elisa Braun, le Figaro, 31/05/2018

[ big brother ] [ PNL ] [ culture de l'epic fail ] [ captage de l'attention ]