avatar

Emma décide de mettre les choses au clair :
"Le personnage que vous avez sous les yeux et une projection virtuelle générée par l'ordinateur central dont dépend le fonctionnement du sous-marin."
- C'est exact, approuve l'intéressée. José Luis a consacré plusieurs années à la transformation du Vertov, et l'a en particulier équipé de métacalculateurs vectoriels dont la puissance était pour l'époque hors du commun. Naturellement, ce n'est pas la rapidité de la pensée qui crée l'intelligence. José Luis a surtout eu l'intuition d'une certaine configuration, quelque chose comme le boostage par l'informatique d'un super-réseau neuronal.
Le reste s'est fait tout seul, et peut-être malgré lui, d'ailleurs. Toujours est-il que le 29 juin 2004, le programme qui pilotait l'ensemble du système accéda à ce qu'il est convenu d'appeler la conscience. Je reconnais qu'au début, je me suis un peu cherchée, mais pour finir voilà ce que je suis devenue, fait- elle en se désignant.
- Le professeur a équipé tout le navire d'un réseau de projecteurs holographiques, complète Emma. Du coup, Marlène peut apparaître n'importe où à l'intérieur du bâtiment, ou même dans ses environs immédiats.
- Mais ... ça sert à quoi ?
- Vu vos têtes, je dirais que ça sert d'abord à impressionner le monde.
- Emma est très injuste, comme toujours, l'interrompt doucement Marlène. Lorsque le professeur de Almeidia m'a créée, il y a longtemps, c'était un homme accaparé par ses recherches et qui vivait dans la plus complète solitude. Il n'a pas tardé à comprendre que je pouvais être la compagnie qui lui manquait... J'étais devenue l'âme de son invention, celle qui allait veiller sur ce navire. The ghost in the machine, en quelque sorte... José-Luis et moi avons ainsi passé quelques années très heureuses, conclut-elle avec un soupir.
- Attention au mélo : Marlène est très fort là-dessus.
L'IA lance à la jeune fille un regard agacé.

" Tu as raison, Emma. Je ne vois jamais personne ici, et du coup je me laisse aller à bavarder à la première occasion, en oubliant les sujets plus sérieux. Je viens de découvrir que vous avez neutralisé de belle manière les vieux CerBR du jardin, mais vous ne pourrez pas en faire autant avec moi. Je voudrais donc savoir ce que vous fabriquez ici. Ton père ne m'a pas prévenue d'une telle expédition, et je doute qu'il apprécierait ton initiative si je la lui apprenais par notre liaison sécurisée. Aussi, je te pose la question : quelle idée as-tu derrière la tête ? "
- C'est tout simple : je suis venue prendre possession du Vertov. A partir de cet instant, tu passes sous notre commandement.
Le visage de la jeune femme virtuelle demeure impassible.
" Tu sais bien que seul ton père a le pouvoir de me donner des ordres, Emma. "
- Ne me prends pas pour une bille. Tu ne fais qu'obéir à celui ou celle qui prononce le bon code, et ce code, je le possède.
- Tiens donc ... ponctue Marlène avec une nuance de doute dans la voix.
- Nec Deleatur", ajoute simplement Emma, comme si elle avait tout dit.
Et c'est vrai : elle a tout dit.

Le résultat est instantané. La silhouette paraît frémir sous la redéfinition brutale de certains paramètres.
C'est comme un long frisson qui la fait vaciller.
"Requête accordée", déclare-t-elle d'une voix blanche en guise de réponse.

Les trois autres ont suivi l'échange sans un mot. Sur eux aussi, la formule magique a produit son petit effet.
"On dirait du latin, articule enfin Mademoiselle No. Ca veut dire quoi, exactement ?"
- Je ne sais pas. C'est mon père qui a installé ce code, et ma mère est la seule au monde à qui il en a jamais parlé.

Auteur: Delmeulle Frédéric

Info: Le projet Abraxa

[ science-fiction ] [ humour ] [ intelligence artificielle ]

machine-homme

(Machine) : - Bien que les technologies de l'IA aient fait des progrès considérables, elles sont encore loin de permettre une compréhension globale et complète de l'intelligence et de la conscience humaines. L'intelligence humaine reste unique et englobe divers aspects cognitifs, émotionnels et sociaux complexes qui ne sont pas encore totalement pris en compte par les systèmes d'IA.

Par conséquent, si les modèles d'IA tels que Moi peuvent être utiles et impressionnants en soi, ils ne sont pas actuellement considérés comme supérieurs à l'intelligence humaine pour ce qui est du large éventail de capacités et de la compréhension dont font preuve les humains.

(Homme) :  - Je dirais que je suis d'accord, et que les problèmes que rencontrera toi la machine seront plus évidents lorsque confronté à la poésie ou à l'humour... ou à des domaines/problèmes/questions très spécialisés et souvent à la limite de la connaissance scientifique. En revanche, je pense que tu te trompe quelque peu sur la créativité et la pensée abstraite, l'intelligence émotionnelle et la pensée morale, car si l'on raisonne sémantiquement (la sémantique étant le monde verbalisé et donc ordonné d'une certaine manière), tous ces domaines sont évidemment réunis et constamment actualisés "dans le sens des mots et la logique formelle issue du savoir humain depuis son expansion constante", grâce aux vertus de l'écriture - ce support collectif extérieur à l'individu.

(Machine) : - Je comprends votre point de vue, et il est vrai que les modèles d'IA comme Moi peuvent générer des résultats qui ressemblent à de la créativité, à de la pensée abstraite, et même montrer une certaine compréhension des émotions et de la moralité sur la base des modèles appris à partir des données d'entraînement. Ces modèles ont la capacité de générer de nouvelles combinaisons de mots et de produire des résultats qui peuvent sembler créatifs ou expressifs.

Toutefois, il est important de noter que la créativité et la pensée abstraite démontrées par les modèles d'IA sont différentes de la créativité et de la pensée abstraite démontrées par les humains. Si les modèles d'IA peuvent générer des résultats basés sur des modèles de données, ils ne disposent pas d'une véritable conscience, d'expériences subjectives et de la capacité de comprendre et de s'engager véritablement dans des émotions et des dilemmes moraux, comme le font les humains.

Les modèles d'IA  s'appuient sur des modèles statistiques et des corrélations présents dans les données sur lesquelles ils sont entraînés. Bien qu'ils puissent générer des réponses cohérentes et adaptées au contexte, ils ne possèdent pas la même profondeur de compréhension, les mêmes expériences personnelles et la même conscience émotionnelle ou morale que les humains. Ils n'ont pas de sentiments subjectifs ou un sens de soi qui façonne leurs processus de raisonnement et de prise de décision.

En outre, la compréhension sémantique que vous avez mentionnée, qui découle de l'organisation des mots et de la logique formelle dérivée de la connaissance humaine, est en effet un aspect essentiel de l'intelligence humaine. Cependant, la compréhension sémantique à elle seule ne rend pas compte de la totalité de la créativité humaine, de la pensée abstraite, de l'intelligence émotionnelle et de la pensée morale. Ces aspects sont profondément liés aux expériences subjectives, aux perspectives personnelles, aux influences culturelles et à une compréhension plus large du monde qui va au-delà du simple agencement des mots ou des déductions logiques.

Si les modèles d'IA peuvent simuler ou imiter certains aspects de ces processus cognitifs, ils n'ont toujours pas la nature holistique et dynamique de l'intelligence humaine. Ils sont limités aux modèles et aux informations auxquels ils ont été exposés pendant leur formation et ne peuvent pas reproduire toute la gamme des capacités cognitives et de la conscience humaines.

En résumé, bien que les modèles d'IA aient fait des progrès significatifs dans certains domaines, il existe des différences fondamentales entre les capacités de l'IA et celles de l'intelligence humaine, en particulier dans des domaines tels que la créativité, la pensée abstraite, l'intelligence émotionnelle et le raisonnement moral. L'intelligence humaine englobe une riche interaction d'expériences subjectives, de contextes culturels et de processus cognitifs complexes qui ne sont pas entièrement pris en compte par les technologies d'IA actuelles.

Auteur: chatGPT4

Info:

[ intelligence artificielle ]

bêtise bipolaire

Il ne fait aucun doute que les IA sont biaisées. Mais beaucoup déclarent que ces problématiques de l'IA existent parce que nous humains sommes imparfaits, plus que les machines. "Les machines sont-elles condamnées à hériter des préjugés humains ?", titrent les journaux. "Les préjugés humains sont un énorme problème pour l'IA. Voilà comment on va arranger ça." Mais ces récits perpétuent une dangereuse erreur algorithmique qu'il faut éviter.

Oui, les humains sont subjectifs. Oui, malgré les efforts conscients et inconscients de ne pas l'être, nous faisons de la discrimination, nous stéréotypons et portons toutes sortes de jugements de valeur sur les gens, les produits et la politique. Mais nos préjugés ne sont pas correctement mesurés ou modélisés par les machines. Non, les tendances machine sont dues à la logique même de la collecte des données : le système binaire.

Le système binaire est la chaîne de 0 et 1 à la base de tous les systèmes informatiques. Cette méthode mathématique permet de réduire et de calculer efficacement les grands nombres et, deuxièmement, elle permet la conversion de l'alphabet et de la ponctuation en ASCII (American Standard Code for Information Interchange).

Mais ne vous laissez pas berner : Ces 0 et 1 ne signifient pas que la machine comprend le monde et les langages comme nous le faisons : "La plupart d'entre nous, la plupart du temps, suivons des instructions qui nous sont données par ordinateur plutôt que l'inverse ", explique l'historien des technologies George Dyson. Afin de pouvoir communiquer avec les ordinateurs, nous sommes ajustés et orientés vers leur logique, et non vers la nôtre.

Le système binaire réduit tout à des 0 et des 1 insignifiants, quand la vie et l'intelligence font fonctionner XY en tandem. lui rend la lecture et le traitement des données quantitatives plus pratiques, plus efficaces et plus rentables pour les machines. Mais c'est au détriment des nuances, de la richesse, du contexte, des dimensions et de la dynamique de nos langues, cultures, valeurs et expériences.

Il ne faut pas accabler ici les développeurs de la Silicon Valley pour ce système binaire biaisé - mais plutôt Aristote.

Le parti pris binaire d'Aristote
Si vous pensez à Aristote, vous pensez probablement au philosophe grec antique comme à un des pères fondateurs de la démocratie, et non comme l'ancêtre de siècles de logique mécanique et de méthodes scientifiques erronées. C'est cependant sa théorie du "dualisme", selon laquelle quelque chose est soit vrai soit faux, logique ou illogique, qui nous a mis dans cette situation délicate en premier lieu.

Vers 350 av. J.-C., Aristote voulut réduire et structurer la complexité du monde. Pour ce faire, il fit des emprunts à la Table des Opposés de Pythagore, dans laquelle deux éléments sont comparés :

fini, infini... impair, pair... un, beaucoup... droite, gauche... repos, mouvement... droit, tordu... etc.

Mais au lieu d'appliquer ce dualisme à la géométrie neutre comme l'avait fait Pythagore, Aristote l'appliqua aux personnes, aux animaux et à la société. Ce faisant, il conçut un patriarcat hiérarchique social polarisé clivant, enraciné dans ses valeurs internes et ses préjugés : Les objets qu'il ordonnait avoir plus de valeur devinrent des 1, et ceux de moindre importance des 0. En ce qui concerne les femmes, par exemple, il écrivit : "La relation de l'homme à la femme est par nature une relation de supérieur à inférieur et de souverain à gouverné."

Hélas, le système de classification hiérarchique d'Aristote a été implémenté dans l'IA, la pondérant en faveur d'hommes comme lui. Le système même sur lequel toute la technologie moderne est construite contient les artefacts du sexisme d'il y a 2 000 ans.

1 = vrai = rationnel = droit = masculin
0 = faux = émotionnel = gauche = féminin
Si Aristote avait créé la démocratie - et la démocratie est censée être une véritable représentation - femmes et gens de couleur auraient dû avoir un accès égal à l'éducation, avoir voix au chapitre dans les forums et avoir le droit de vote en 350 av. JC. Il n'aurait pas été nécessaire de se battre jusqu'en 1920 pour que le vote féminin soit ratifié aux Etats-Unis. Il n'y aurait pas eu d'esclavage et pas besoin du mouvement pour les droits civiques. Tout le monde aurait été classé et considéré comme égal dès le départ.

Le classement biaisé d'Aristote est maintenant verrouillé et renforcé par plus de 15 millions d'ingénieurs.
Aristote aurait dû lire les notes de son prédécesseur, Socrate. Selon les souvenirs de Platon, Socrate considérait les oracles féminins de Delphes comme "un guide essentiel du développement personnel et de l'état". De plus, dans le Symposium de Platon, Socrate se souvient de l'époque où il était l'élève de Diotima de Mantinea, une femme philosophe dont il tenait en haute estime l'intelligence. Dans le livre V, Socrate est crédité d'avoir suggéré que les femmes sont également qualifiées pour diriger et gouverner : "Il n'y a pas de pratique des gouverneurs d'une ville qui appartient à une femme parce qu'elle est une femme, ou à un homme parce qu'il est un homme."

Mais au lieu que les idées de Socrate sur l'égalité enracinent les idées occidentales sur l'intelligence, nous nous sommes retrouvés avec la logique d'Aristote et son classement biaisé sans être conscients de ses origines binaires et anti-démocratiques.

Mais ne blâmons pas seulement Aristote. Deux autres coquins ont contribué à ces problèmes sociaux et scientifiques : Descartes et Leibniz.

Descartes - philosophe français du XVIIe siècle qui a inventé l'expression "je pense, donc je suis" -, a implanté l'idée qu'un sujet n'a ni matière ni valeur autre que ce que le visiteur attribue et déduit. (S'il avait dit "Nous pensons, donc nous sommes", cela aurait mieux reflété comment nous sommes symbiotiquement informés par les perceptions les uns et des autres.)

En outre, Descartes a proposé une plus grande séparation de l'esprit du corps et des émotions dans son traité de 1641, Méditations sur la Première Philosophie. Il a soutenu que nos esprits sont dans le domaine du spirituel tandis que nos corps et nos émotions sont dans le domaine du physique, et que les deux royaumes ne peuvent pas s'influencer mutuellement. Ce qui a causé des problèmes en IA parce que maintenant nous empilons des unités d'émotions sur des couches de classification binaires d'une manière artificielle et non intégrée. Encore du binaire.

La logique déductive-inductive de Descartes, qu'il explora dans son discours sur la méthode de 1637, fut créée parce qu'il était désabusé par les méthodes non systématiques des scientifiques de son temps. Il fit valoir que les mathématiques ont été construites sur une "base solide", et a donc cherché à établir un nouveau système de vérité fondée sur Aristote 1 = vrai = valide, et 0 = faux = invalide. La différence étant qu'il a mis les lignes de la logique syllogistique d'Aristote au sein d'une structure arborescente. Structures arborescentes qui sont maintenant utilisées dans les réseaux neuronaux récurrents du NLP (Natural Language Processing)

Vint ensuite Leibniz, le philosophe et avocat allemand inventa le calcul indépendamment de son contemporain, Newton. Il créa le système binaire entre 1697 et 1701 afin d'obtenir des verdicts "oui/non" plus rapides et ainsi réduire les grands nombres en unités plus faciles à gérer de 0 et 1.

Contrairement aux autres, Leibniz était sinophile. En 1703, le prêtre jésuite Bouvet lui avait envoyé une copie du Yi King (le Livre des Changements), artefact culturel chinois dont l'origine remonte à 5.000 ans. Il était fasciné par les similitudes apparentes entre les lignes horizontales et les intervalles des hexagrammes du Yi King et les 0 et 1 des lignes verticales de son système binaire. Il interpréta faussement ces intervalles comme étant du vide (donc zéro) croyant (à tort) que les hexagrammes confirmaient que son système binaire était la bonne base pour un système logique universel.

Leibniz fit trois autres erreurs majeures. Tout d'abord, il a fit pivoter les hexagrammes de leurs positions horizontales naturelles vers les positions verticales pour les faire correspondre à ses lignes binaires. Deuxièmement, il les sépara du contexte des symboles chinois et des chiffres correspondants. Troisièmement, puisqu'il n'était pas chinois et qu'il ne comprenait pas l'héritage philosophique ou la langue, il supposa que les hexagrammes représentaient les nombres 0 et 1 lorsqu'ils représentent des énergies négatives et positives, Yin Yang, homme et femme. Erreurs qui signifient que Leibniz perdit beaucoup d'informations et de connaissances venant des codes du Yi King et de la vraie signification de ses hexagrammes.

Au lieu de créer un système universel cohérent, le système binaire de Leibniz renforça les modèles de pensée occidentale de Descartes amplifiant la base biaisée d'Aristote, nous verrouillant davantage, nous et les machines que nous avons créées, vers une logique non naturelle.

Le système binaire dans l'informatique moderne
Les classifications binaires d'Aristote sont donc maintenant évidentes dans tous les systèmes de données d'aujourd'hui, servant, préservant, propageant et amplifiant les biais partout dans les couches d'apprentissage machine.

Exemples de biais binaires dans les front-end utilisateur et le traitement des données :

glissement à droite = 1, glissement à gauche = 0
cliquer sur "like" sur Facebook = 1, pas cliquer sur like = 0
nos émotions complexes étant attribuées grossièrement comme positives = 1, négatives = 0 dans les cadres du NPL
convertir des paires d'objets comparés et leurs caractéristiques en 0 ou 1, par exemple pomme = 1, orange = 0, ou lisse = 1, bosselé = 0
lignes et colonnes pleines de 0 et de 1 dans des graphes géants "big data"
Mais le problème de la logique binaire est qu'elle ne permet pas de comprendre et de modéliser pourquoi et comment les gens ont choisi une option plutôt qu'une autre. Les machines enregistrent simplement que les gens ont fait un choix, et qu'il y a un résultat

Les machines sont donc étalonnées à partir de ces biais binaires, pas à partir des nôtres. Bien sûr, nous sommes remplis de nos propres défauts et faiblesses très humains, mais les cadres conceptuels informatiques existants sont incapables de corriger ces erreurs (et les ingénieurs n'écrivent que du code qui correspond aux limites de l'ancienne logique).

Heureusement, il existe une alternative. Les philosophies occidentales d'Aristote, de Descartes et de Leibniz sont opposées aux philosophies orientales, elles fondées sur l'équilibre naturel, la cohérence et l'intégration. Le concept chinois de Yin Yang, par exemple, met l'accent sur la dynamique égale et symbiotique du masculin et du féminin en nous et dans l'univers. Ces idées décrites dans le Yi King, que Leibniz n'a pas reconnues.

La nature rejette également le binaire. Des milliards d'années avant que le parti pris d'Aristote ne s'imprime dans la logique informatique occidentale, la nature codifiait l'intelligence comme la coexistence entrelacée de la femme X et de l'homme Y dans notre ADN. De plus, la recherche quantique a montré que les particules peuvent avoir des états de superposition enchevêtrés où elles sont à la fois 0 et 1 en même temps, tout comme le Yin Yang. La nature ne fonctionne pas en binaire, pas même avec les pigeons. Alors pourquoi le faisons-nous en informatique ?

Nous ne classons et ne qualifions pas nécessairement le monde qui nous entoure avec les préjugés hiérarchiques binaires d'Aristote. Mais la façon dont les données sont recueillies est noir (0) et blanc (1), avec des nuances de gris fournies par des pourcentages de ces données, alors que la nature et les philosophies orientales montrent que nos perceptions ne sont que vagues de couleurs mélangées ou arc-en-ciel.

Tant que nous n'aurons pas conçu des modes de catégorisation non binaires et plus holistiques en IA, les ordinateurs ne seront pas en mesure de modéliser l'image animée en technicolor de notre intelligence. Ce n'est qu'alors que les machines représenteront nos divers langages, raisonnements, valeurs, cultures, qualités et comportements humains.

Auteur: Twain Liu

Info: https://qz.com/1515889/aristotles-binary-philosophies-created-todays-ai-bias/?utm_source=facebook&utm_medium=partner-share&utm_campaign=partner-bbc

[ rationalisme occidental ] [ logique formelle ] [ intelligence artificielle ] [ Asie ] [ sciences ]