homme-machine

Mais le test de Turing est à double tranchant. Tu ne peux pas savoir si une machine est devenue plus intelligente ou si tu as simplement abaissé tes propres critères d'intelligence au point que la machine semble intelligente. Si tu peux avoir une conversation avec une personne simulée présentée par un programme d'IA, es-tu capable de te dire jusqu'à quel point tu as laissé le sens de ta personne se dégrader au point que l'illusion fonctionne avec toi ?

Les gens se dégradent constamment pour que les machines paraissent intelligentes. Avant le krach, les banquiers croyaient en des algorithmes prétendument intelligents capables de calculer les risques de crédit avant d'accorder de mauvais prêts. Nous demandons aux enseignants d'enseigner en fonction de tests standardisés pour qu'un élève paraisse bon aux yeux d'un algorithme. Nous avons démontré à maintes reprises la capacité inépuisable de notre espèce à abaisser ses normes pour que les technologies de l'information soient bien perçues. Tout exemple d'intelligence dans une machine est ambigu.

La même ambiguïté qui a motivé des projets d'IA académiques douteux dans le passé a été reconditionnée en culture de masse aujourd'hui. Ce moteur de recherche sait-il vraiment ce que tu veux, ou bien joues-tu le jeu en abaissant tes exigences pour qu'il paraisse intelligent ? S'il faut s'attendre à ce que la perspective humaine soit modifiée par les rencontres avec de nouvelles technologies profondes, l'exercice consistant à traiter l'intelligence des machines comme une réalité exige que les gens réduisent leur ancrage à la réalité.

Auteur: Lanier Jaron

Info: You are not a gadget

[ dépendance ] [ inversion ] [ abrutissement ]

outils asservissants

A ces approches technocritiques, la Silicon Valley oppose souvent ce cliché qu'il convient de fusiller sans sommation et à bout portant. Il s'énonce ainsi : " la technologie est neutre, son impact ne dépend au fond que du bon ou mauvais usage qu'on en fait. "

C'est une idée courte, et même une idée stupide, quadruplement stupide. Il n'est jamais inutile de redire pourquoi :

1° Parce que la technique porte en elle une valeur latente : l'efficacité. Autrement formulé : la possibilité d'agir sur nos environnements de façon forte. Toute machine prédétermine l'utilisateur à faire de l'efficacité la valeur de son action, avant tout choix de sa part. [...]

2° Parce qu'en amont, l'innovation technologique dépend de la Recherche qui dépend elle-même des crédits de recherche ou du capital-risque investi, et donc déjà d'une forte présélection des découvertes, produits et services et qu'on juge a priori " utiles " à développer car lucratifs. La machine reste donc toujours " sociale avant d'être technique " (Deleuze), c'est-à-dire qu'elle présuppose en univers capitaliste, pour être finalement fabriquée, une attente du marché et une rentabilité. [...]

3° Parce qu'en aval, une technologie induit une multitude d'effets, souvent difficiles à anticiper : elle réinvente des pratiques et reformate des comportements, elle enfante parfois une culture entière (le jeu massivement multijoueur, les danses internet, les animatiques) juste par les interactions nouvelles qu'elle offre. S'en servir c'est déjà transformée ses rapports à soi et ses relations aux autres, se ménager de nouvelles prises et consentir à de futures emprises en mutilant d'anciennes capacités qu'on sous-traite à l'appli. [...]

4° Enfin parce que toute technologie porte en elle un nouveau rapport au monde. On croit utiliser un frigo quand c'est notre façon de nous nourrir qui est révolutionnée par le stockage des aliments frais. La machine situe notre liberté et notre liberté s'exerce face à elle, en elle. Nous sommes libres de nos usages de la machine, libres même de ne pas l'utiliser, parfois. Mais c'est une liberté en situation, déjà située, un libre-arbitre qui s'exerce à l'intérieur d'un monde transformé et repotentialisé par la machine où il devient impossible de se comporter comme si elle n'existait pas. [...]

À cette quadruple aune, croire encore en la neutralité des technologies qu'on nous propose n'est même plus de la naïveté. C'est une faute politique.

Auteur: Damasio Alain

Info: Vallée du silicium, pp. 207-210

[ dépendance ]

subjectivation

"La chair est triste, hélas, et j'ai lu tous les livres" dira plus tard le poète... Quelle complétude particulière pouvait offrir l'ère christique pré-médiévale et médiévale, que son dépassement par la rationalité et la technè moderne ne pourra jamais combler ? Qu'est-ce qui a été manqué dans ce "dépassement"? Tout simplement la dimension de l'autre, seule apte à garantir correctement l'institution du sujet, dans une circularité relationnelle vivante et vascularisée. Alors que le sujet est face à l'autre (à l'Autre), l'individu (moderne) est face au monde. Ce qui se perd au passage est l'intersubjectivité et sa fonction nutritive et vitalisante. Car le problème est que le monde est aussi silencieux que l'épais silence qui envahit tout entière la gravure de Dürer, où seul le crissement bavard du stylet du putto sur sa tablette s'inscrit en creux. La maladie de la modernité, poussée à son paroxysme par la période contemporaine, est entièrement résumée ici. L'homme, de fait, ne dialogue pas avec le monde: le monde est muet et ne répond pas, si ce n'est par les soubresauts d'efficacité auxquels la technoscience le contraint dans sa brutalité. Pour qu'il y ait dialogue, il faut que le logos réponde au logos, et que le sujet fasse face à un autre lui-même. Car le sujet ne peut se comprendre que dans la plénitude de l'histoire de son inscription au sein du monde, et non comme une chimère hors sol, pure catégorie fonctionnelle et logique, comme l'ont voulu les linguistes depuis Saussure. Le sujet s'institue dans les conditions intersubjectives de son avènement au monde, conditions d'extrême dénuement et de fragilité absolue, qui le livrent sans recours possible à ceux qui l'ont à charge: sa mère, éminemment, puis son père, qui seuls peuvent lui éviter la mort corporelle, affective et psychique par les nourritures terrestre, affective, et spirituelle qu'ils lui dispenseront. Le sujet, c'est cela: une immense fragilité qui ne tient que par la relation - il serait d'ailleurs plus approprié d'écrire "les sujets", tant il est vrai qu'un sujet seul ne peut se concevoir en vertu de ce que je viens d'exposer. Or le sujet parvenu à sa pleine institution donne le sentiment d'une monade autonome et fermée, essentialisable jusque dans les catégories formelles de la linguistique - "est je qui dit je", comme disait de si tautologique et désespérante manière Ferdinand de Saussure, que nous avons cité en ouverture de cet ouvrage. La modernité est ici prise en flagrant délit de solipsisme, faute logique - et ontologique - s'il en est.

Auteur: Farago Pierre

Info: Une proposition pour l'autisme

[ dépendance ] [ illusion d'autocréation ] [ erreur moderne ] [ isolement ]