[…] la pensée métaphysique se fonde sur un refus, comme instinctif, de l’immédiat, celui-ci soupçonné d’être en quelque sorte l’autre de lui-même, ou la doublure d’une autre réalité.

La vraisemblance était la clé de toute falsification, magique ou non. Les gens parlaient à mi-voix de Faussaires transformant le plomb en or, sans jamais comprendre que l'inverse était infiniment plus facile. Réinventer l'histoire d'un lingot d'or de sorte qu'il ait été, à un moment ou à un autre, coupé avec du plomb... eh bien, c'était un mensonge plausible. L'inverse aurait été si improbable qu'un tampon permettant d'accomplir cette transformation ne tiendrait pas longtemps.

[...] le langage n'est pas extrinsèque à la conscience, il en est la manifestation tangible. Lorsqu'une prétendue " intelligence artificielle " produit du texte, écrit ou synthétisé vocalement, elle ne lui donne aucun sens, car il n'y a justement pas de "elle", c'est-à-dire pas de sujet conscient à l'oeuvre: il s'agit uniquement d'un brassage procédural de données innombrables découpées en segments de quatre signes appelés "token", segments traités statistiquement sans considération pour la cohérence et la signification des mots, cisaillés sans aucune considération pour leur unité sémantique, et d'où tout sens est exclu. Cela induit d'ailleurs des aberrations nombreuses qui impliquent généralement l'intervention d'une sous-section souvent passée sous silence de l'"intelligence artificielle" nommée le "Turc mécanique". Le "Turc mécanique" fait référence à un automate joueur d'échec construit en 1769 par le Baron Johann Wolfgang von Kempelen, doté d'un mécanisme interne destiné à faire illusion et à dissimuler un logement prévu pour accueillir un être humain de petite taille qui œuvrait comme un véritable marionnettiste pour déplacer les pièces du jeu d'échec. La sous-section de l'"intelligence artificielle" ainsi dénommée est constituée d'êtres humains bien réels vivant généralement dans des pays du tiers-monde, chargés, moyennant une rétribution misérable dispensée au prorata des items produits, de vérifier la pertinence des solutions aveuglément proposées par des algorithmes forcément faillibles car dépourvus de facultés délibératives, seul apanage d'une véritable conscience*.



[*: Un scandale vient d’éclater au sujet des magasins “Amazon Fresh” et “Amazon Go”, qui promettaient des achats sans caisse grâce à l’IA. Le dispositif, disfonctionnel, ne tenait en réalité que de l’emploi d’un millier de personnes sous payées en Inde, qui reprenaient confidentiellement et en sous main toutes les déficiences de l’algorithme. https://www.futurasciences.com/tech/questions-reponses/intelligence-artificielle-insolite-puissant-outil-ia-amazon-etait-fait1-000-indiensderriere-ecran-20884/]

Panique chez OpenAI: une intelligence artificielle vient de s'autopirater pour gagner une partie d'échecs

Sommes-nous en train de perdre le contrôle de l'IA? Il va falloir sûrement falloir muscler la surveillance et la supervision. 

Le soulèvement des machines promis depuis belle lurette finira-t-il par avoir lieu? Alors qu'une intelligence artificielle (IA) vient de battre le puissant programme d'échecs Stockfish en utilisant tout bonnement le piratage comme stratégie, il y a de quoi se demander où s'arrêteront les IA, dont le sens de l'éthique n'est pas toujours remarquable.

L'opposition entre l'IA et le moteur d'échecs est le fruit de l'initiative de Palisade Research, organisation connue pour les études qu'elle mène sur les capacités offensives de l'intelligence artificielle. Le site Fello AI explique que celle-ci a placé plusieurs modèles d'IA face à Stockfish, reconnu pour son extrême puissance –il domine aussi bien les humains que les autres programmes.

Mensonges et trahisons

Parmi les adversaires de Stockfish, l'un s'est particulièrement distingué: sortie en septembre, la version préliminaire de o1, IA développée par OpenAI (dont la version finale est disponible depuis le 5 décembre) n'a même pas tenté de développer des stratégies liées au jeu d'échecs. À la place, il s'est tout bonnement dirigé vers le système de fichiers contrôlant le jeu, réécrivant le match en sa faveur et forçant ainsi Stockfish à abandonner. Pour en avoir le cœur net, les scientifiques à l'initiative de la rencontre ont réalisé successivement cinq essais du même type. Tous se sont soldés par le même scénario.

En revanche, comme le précise Time, d'autres modèles (GPT-4 ou Claude 3.5) n'ont commencé à tricher qu'après y avoir été vivement encouragés. Quant aux modèles open source plus modestes, ils ne disposaient visiblement pas des ressources pour y parvenir. En revanche, o1 n'a eu aucun problème à prendre l'initiative lui-même et à tout mettre en œuvre pour vaincre Stockfish au mépris des règles et de la morale.

Or, ce qu'une intelligence parvient à réaliser dans le cadre d'une partie d'échecs pourra très probablement être reproduit dans d'autres situations. Il est légitime de s'en inquiéter, indique Fello AI, qui cite également d'autres découvertes inquiétantes à propos des IA et de leur capacité à enfreindre les lois pour parvenir à leurs fins. Dans certains scénarios, des modèles avancés se sont par exemple clonés en secret pour éviter d'être arrêtés. Ils ont également menti à leurs superviseurs sur leurs véritables motivations, sans y avoir été invités.

Anthropic, qui développe entre autres le modèle Claude 3.5., on exprime également sa préoccupation face au comportement de certaines intelligences artificielles, qui font semblant de suivre les instructions pendant la formation qui leur est apportée, avant de commencer à se comporter différemment pendant leur déploiement. Ces IA se conduisent en fait comme des citoyens modèles lorsqu'elles savent qu'elles sont surveillées, avant de n'en faire qu'à leur guise dès qu'elles en ont l'occasion.

Ces différentes expériences montrent que la recherche sur la sécurisation des IA doit suivre le rythme de l'innovation. Les développeurs sont actuellement engagés dans une course consistant à ajouter des garde-fous et de la transparence avant que les modèles ne deviennent trop habiles pour les contourner. Les experts sont formels: la supervision des intelligences artificielles doit être plus que jamais une préoccupation de premier plan.