politique

Laisse moi te dire Henry que ce sera la pire chose qui arrivera aux Juifs dans l'histoire Américaine. S'ils torpillent ce sommet qui peut échouer pour d'autres raisons, je leur mettrais tous sur le dos, et je le ferais publiquement à neuf heures du soir et devant 80 millions de personnes. Si le sommet est foutu, les Juifs seront pointés du doigt et je ne me gênerai pas pour ajouter un peu d'antisémitisme sur ce sujet.

Auteur: Nixon Richard

Info: propos tenu le 19 avril 1973 enregistré dans le bureau ovale lors d'une conversation avec Henry Kissinger évoquant le sommet USA-URSS

[ coulisses ] [ lobby ] [ affrontement ] [ révélation ] [ menace ]

bon sens

L'utilisation d'armes biologiques était déjà interdite par le protocole de Genève de 1925, un traité international que les États-Unis n'avaient jamais ratifié. C'est alors que Matthew Meselson rédigea un document intitulé "Les États-Unis et le protocole de Genève", dans lequel il expliquait pourquoi ils devaient le faire. Meselson connaissait Henry Kissinger, qui a transmis son document au président Nixon et, à la fin de 1969, ce dernier renonçait aux armes biologiques.

Vint ensuite la question des toxines - poisons dérivés d'organismes vivants. Certains conseillers de Nixon estimaient que les États-Unis devaient renoncer à l'utilisation de toxines d'origine naturelle, mais conserver le droit d'utiliser des versions artificielles des mêmes substances. C'est un autre document de Meselson, "What Policy for Toxins", qui conduisit Nixon à rejeter cette distinction arbitraire et à renoncer à l'utilisation de toutes les armes à toxines.

Sur les conseils de Meselson, Nixon soumis à nouveau le protocole de Genève à l'approbation du Sénat. Mais il alla également allé au-delà des termes du protocole - qui interdit uniquement l'utilisation d'armes biologiques - pour renoncer à la recherche biologique offensive elle-même. Les stocks de substances biologiques offensives, comme l'anthrax que Meselson avait découvert à Fort Detrick, furent détruits.

Une fois que les États-Unis eurent adopté cette politique plus stricte, Meselson se tourna vers la scène mondiale. Lui et ses pairs voulaient un accord international plus fort que le protocole de Genève, un accord qui interdirait le stockage et la recherche offensive en plus de l'utilisation et prévoirait un système de vérification. Leurs efforts aboutirent à la Convention sur les armes biologiques, signée en 1972 et toujours en vigueur aujourd'hui.

"Grâce en grande partie au travail inlassable du professeur Matthew Meselson, le monde s'est réuni et a interdit les armes biologiques, garantissant ainsi que la science toujours plus puissante de la biologie aide l'humanité au lieu de lui nuire. Pour cela, il mérite la profonde gratitude de l'humanité", déclara l'ancien secrétaire général des Nations unies, Ban Ki-Moon.

M. Meselson déclara que la guerre biologique "pourrait effacer la distinction entre la guerre et la paix". Les autres formes de guerre ont un début et une fin - on sait clairement ce qui relève de la guerre et ce qui n'en relève pas. Une guerre biologique serait différente : "On ne sait pas ce qui se passe, ou alors on sait ce qui se passe mais ça se passe sans cesse."

Et les conséquences de la guerre biologique pourraient même être plus importantes que la destruction de masse ; les attaques via l'ADN pourraient modifier fondamentalement l'humanité. La FLI rend hommage à Matthew Meselson pour ses efforts visant à protéger non seulement la vie humaine mais aussi la définition même de l'humanité.

Selon l'astronome Lord Martin Rees, "Matt Meselson est un grand scientifique - et l'un des rares à s'être profondément engagé pour que le monde soit à l'abri des menaces biologiques. Il s'agit là d'un défi aussi important que le contrôle des armes nucléaires - et bien plus difficile à relever. Ses efforts soutenus et dévoués méritent pleinement une plus large reconnaissance."

Le 9 avril 2022, le Dr Matthew Meselson a reçu le prix Future of Life, d'une valeur de 50 000 dollars, lors d'une cérémonie organisée dans le cadre de la conférence sur les affaires mondiales de l'université de Boulder. Le Dr Meselson a été l'une des forces motrices de la Convention sur les armes biologiques de 1972, une interdiction internationale qui a empêché l'une des formes de guerre les plus inhumaines que connaisse l'humanité. Le 9 avril a marqué la veille du 47e anniversaire de la convention.

La longue carrière de M. Meselson est jalonnée de moments forts : la confirmation de l'hypothèse de Watson et Crick sur la structure de l'ADN, la résolution du mystère de l'anthrax de Sverdlovsk, l'arrêt de l'utilisation de l'agent orange au Viêt Nam. Mais c'est surtout son travail sur les armes biologiques qui fait de lui un héros international.

"Par son travail aux États-Unis et au niveau international, Matt Meselson a été l'un des principaux précurseurs de la convention sur les armes biologiques de 1972", a déclaré Daniel Feakes, chef de l'unité de soutien à la mise en œuvre de la convention sur les armes biologiques. "Le traité interdit les armes biologiques et compte aujourd'hui 182 États membres. Depuis lors, il n'a cessé d'être le gardien de la BWC. L'avertissement qu'il a lancé en 2000 sur le potentiel d'exploitation hostile de la biologie a préfiguré bon nombre des avancées technologiques dont nous sommes aujourd'hui témoins dans les sciences de la vie et les réponses qui ont été adoptées depuis."

M. Meselson a commencé à s'intéresser aux armes biologiques dans les années 60, alors qu'il travaillait pour l'Agence américaine de contrôle des armements et du désarmement. C'est lors d'une visite de Fort Detrick, où les États-Unis fabriquaient alors de l'anthrax, qu'il a appris ce qu'il en éltait du développement des armes biologiques : elles étaient moins chères que les armes nucléaires. M. Meselson fut frappé, dit-il, par l'illogisme de ce raisonnement : diminuer le coût de production des ADM serait un risque évident pour la sécurité nationale.

"Aujourd'hui, la biotechnologie est une force du bien dans le monde, associée au fait de sauver plutôt que de prendre des vies, parce que Matthew Meselson a contribué à tracer une ligne rouge claire entre les utilisations acceptables et inacceptables de la biologie", ajoute Max Tegmark, professeur au MIT et président de la FLI. "C'est une source d'inspiration pour ceux qui veulent tracer une ligne rouge similaire entre les utilisations acceptables et inacceptables de l'intelligence artificielle et interdire les armes autonomes létales".

Auteur: Internet

Info: https://futureoflife.org/2019/04/09

[ sagesse ] [ responsabilité scientifique ] [ savants responsables ] [ gratitude ]

nord-sud

Les "élites" autoproclamées de Davos ont peur. Très peur. Lors des réunions du Forum économique mondial de cette semaine, le maître à penser Klaus Schwab - affichant son numéro de méchant de James Bond - n'a cessé de répéter un impératif catégorique : nous avons besoin de "coopération dans un monde fragmenté".

Bien que son diagnostic de la "fragmentation la plus critique" dans laquelle le monde est aujourd'hui embourbé soit, comme on pouvait s'y attendre, sombre, Herr Schwab maintient que "l'esprit de Davos est positif" et qu'au final, nous pourrons tous vivre heureux dans une "économie verte et durable".

Ce que Davos a su faire cette semaine, c'est inonder l'opinion publique de nouveaux mantras. Il y a le "nouveau système" qui, compte tenu de l'échec lamentable de la grande réinitialisation tant vantée, ressemble maintenant à une mise à jour hâtive du système d'exploitation actuel, qui a été ébranlé.

Davos a besoin de nouveau matériel, de nouvelles compétences en programmation, voire d'un nouveau virus. Pourtant, pour l'instant, tout ce qui est disponible est une "polycrise" ou, en langage de Davos, un "ensemble de risques mondiaux liés entre eux et dont les effets s'aggravent". 

En clair : une parfaite tempête.

Les insupportables raseurs de l'île "Diviser pour régner" du nord de l'Europe viennent de découvrir que la "géopolitique", hélas, n'est jamais vraiment entrée dans le pénible tunnel de la "fin de l'histoire" : à leur grande surprise, elle est maintenant centrée - à nouveau - sur le Heartland, comme elle le fut pendant la majeure partie de l'histoire connue.

Ils se plaignent d'une géopolitique "menaçante", synonyme de Russie-Chine, l'Iran en plus.

Mais la cerise sur le gâteau alpin, c'est l'arrogance/la stupidité qui révèle le jeu : la City de Londres et ses vassaux sont livides parce que le "monde créé par Davos" s'effondre rapidement.

Davos n'a pas " inventé " le monde, si ce n'est son propre simulacre.

Davos n'a jamais rien compris, car ces "élites" ont toujours été occupées à faire l'éloge de l'Empire du Chaos et de ses "aventures" meurtrières dans le Sud.

Non seulement Davos n'a pas su prévoir toutes les crises économiques majeures récentes, mais surtout la "tempête parfaite" actuelle, liée à la désindustrialisation de l'Occident collectif engendrée par le néolibéralisme.

Et, bien sûr, Davos n'a aucune idée de la véritable remise à zéro qui tend à aller vers la multipolarité. 

Des leaders d'opinion autoproclamés sont occupés à "redécouvrir" qu'un siècle plus tard La Montagne magique de Thomas Mann se déroule à Davos - "avec pour toile de fond une maladie mortelle et une guerre mondiale imminente".

Eh bien, de nos jours, la "maladie" - arme entièrement bio-institutionnalisée - n'est pas vraiment mortelle en soi. Et la "guerre mondiale imminente" est de fait activement encouragée par une cabale de néo-cons et autres néolibéraux américains : un État profond non élu, non responsable, bipartisan et même pas soumis à une idéologie. Le criminel de guerre centenaire Henry Kissinger ne l'a toujours pas compris.

Le panel de Davos sur la démondialisation a multiplié les non-séquences, mais le ministre hongrois des affaires étrangères, Peter Szijjarto, a au moins apporté une dose de réalité.

Quant au vice-premier ministre chinois Liu He, avec sa vaste connaissance de la finance, de la science et de la technologie, il a au moins été très utile pour définir les cinq grandes lignes directrices de Pékin pour l'avenir prévisible - au-delà de la sinophobie impériale habituelle.

La Chine se concentrera sur l'expansion de la demande intérieure, le maintien de chaînes industrielles et d'approvisionnement "fluides", le "développement sain du secteur privé", l'approfondissement de la réforme des entreprises d'État et la recherche d'"investissements étrangers attrayants".

Résistance russe, précipice américain 

Emmanuel Todd n'était pas à Davos. Mais c'est l'anthropologue, historien, démographe et analyste géopolitique français qui a fini par hérisser toutes les plumes supposément compétentes de l'Occident collectif ces derniers jours avec un objet anthropologique fascinant : une interview basée sur la réalité.

Todd s'est entretenu avec Le Figaro - journal de prédilection de l'establishment et de la haute bourgeoisie française. L'interview a été publiée vendredi dernier à la page 22, entre les proverbiales tirades russophobes et avec une mention extrêmement brève en bas de la première page. Il fallait donc que les gens fassent des efforts pour la trouver.   

Todd a plaisanté en disant qu'il avait l'image - absurde - d'un "rebelle destroy" en France, alors qu'au Japon, il est respecté, qu'il fait l'objet d'articles dans les médias grand public et que ses livres sont publiés avec grand succès, y compris le dernier (plus de 100 000 exemplaires vendus) : "La troisième guerre mondiale a déjà commencé".

Il est significatif que ce best-seller japonais n'existe pas en français, étant donné que toute l'industrie de l'édition basée à Paris suit la ligne de l'UE et de l'OTAN sur l'Ukraine.

Le fait que Todd ait raison sur plusieurs points est un petit miracle dans le paysage intellectuel européen actuel, d'une myopie abyssale (il existe d'autres analystes, notamment en Italie et en Allemagne, mais ils ont bien moins de poids que Todd).

Voici le résumé des thème principaux abordés par Todd.

- Une nouvelle guerre mondiale est en cours : En "passant d'une guerre territoriale limitée à un affrontement économique mondial, entre l'Occident collectif d'un côté et la Russie liée à la Chine de l'autre, cette guerre est devenue une guerre mondiale".

- Selon Todd, le Kremlin a commis une erreur en calculant qu'une société ukrainienne décomposée s'effondrerait immédiatement. Bien entendu, il n'explique pas en détail comment l'Ukraine a été militarisée à outrance par l'alliance militaire de l'OTAN.

- Todd a raison lorsqu'il souligne que l'Allemagne et la France sont devenues des partenaires mineurs de l'OTAN et n'étaient pas au courant de ce qui se tramait en Ukraine sur le plan militaire : "Ils ne savaient pas même que les Américains, les Britanniques et les Polonais pouvaient permettre à l'Ukraine de mener une guerre prolongée. L'axe fondamental de l'OTAN est désormais Washington-Londres-Varsovie-Kiev".

- La principale révélation de Todd est meurtrière : "La résistance de l'économie russe conduit le système impérial américain vers le précipice. Personne n'avait prévu que l'économie russe tiendrait face à la 'puissance économique' de l'OTAN".

- Conséquence, "les contrôles monétaires et financiers américains sur le monde peuvent s'effondrer, et avec eux la possibilité pour les USA de financer pour rien leur énorme déficit commercial".

- "C'est pourquoi nous sommes dans une guerre sans fin, dans un affrontement dont la conclusion est l'effondrement de l'un ou l'autre." 

- Sur la Chine, Todd pourrait faire penser à une version plus féroce de celle de Liu He à Davos : "C'est le dilemme fondamental de l'économie américaine : elle ne peut pas faire face à la concurrence chinoise sans importer une main-d'œuvre chinoise qualifiée."

- Quant à l'économie russe, "elle accepte les règles du marché, mais avec un rôle important de l'État, et elle garde la flexibilité de former des ingénieurs qui permettent des adaptations, industrielles et militaires."

- Tout cela nous amène, une fois de plus, à la globalisation, d'une manière que les tables rondes de Davos ont été incapables de comprendre : "Nous avons tellement délocalisé notre activité industrielle que nous ne savons pas si notre production de guerre peut être soutenue".

- Dans une interprétation plus érudite de ce sophisme du "choc des civilisations", Todd s'intéresse au soft power et arrive à une conclusion surprenante : "Sur 75 % de la planète, l'organisation de la parentalité était de type patrilinéaire*, et c'est pourquoi nous pouvons identifier une forte compréhension de la position russe. Pour le collectif non-occidental, la Russie affirme un conservatisme moral rassurant."

- Ainsi, ce que Moscou a réussi à faire, c'est de "se repositionner comme l'archétype d'une grande puissance, non seulement "anticolonialiste" mais aussi patrilinéaire et conservatrice en termes de mœurs traditionnelles."

Sur la base de tout ce qui précède, Todd brise le mythe vendu par les "élites" de l'UE/OTAN - Davos inclus - selon lequel la Russie est "isolée", en soulignant comment les votes à l'ONU et le sentiment général à travers le Sud global caractérisent la guerre, "décrite par les médias grand public comme un conflit de valeurs politiques, en fait, à un niveau plus profond, comme un conflit de valeurs anthropologiques."      

Entre lumière et obscurité

Se pourrait-il que la Russie - aux côtés du vrai Quad, tel que je l'ai défini (avec la Chine, l'Inde et l'Iran) - l'emporte sur le terrain des enjeux anthropologiques ?  

Le vrai Quad a tout ce qu'il faut pour s'épanouir en un nouveau foyer interculturel d'espoir dans un "monde fragmenté".

Mélangez la Chine confucéenne (non dualiste, sans divinité transcendante, mais avec le Tao qui coule à travers tout) avec la Russie (chrétienne orthodoxe, vénérant la divine Sophia) ; l'Inde polythéiste (roue de la renaissance, loi du karma) ; et l'Iran chiite (islam précédé par le zoroastrisme, l'éternelle bataille cosmique entre la Lumière et les Ténèbres).

Cette unité dans la diversité est certainement plus attrayante, et plus édifiante, que l'axe de la guerre éternelle.

Le monde en tirera-t-il une leçon ? Ou, pour citer Hegel - "ce que nous apprenons de l'histoire, c'est que personne n'apprend de l'histoire" - sommes-nous irrémédiablement condamnés ?

Auteur: Escobar Pepe

Info: https://www.presstv.ir, 18 janvier 2023, *système de filiation dans lequel chacun relève du lignage de son père

[ ukraine 2023 ] [ point chaud ] [ inertie patriarcale ]

homme-machine

La théorie des jeux peut rendre l'IA plus correcte et plus efficace

Les chercheurs s’appuient sur des idées issues de la théorie des jeux pour améliorer les grands modèles de langage et les rendre plus cohérents.

Imaginez que vous ayez un ami qui donne des réponses différentes à la même question, selon la façon dont vous la posez. " Quelle est la capitale du Pérou ? "  btiendrait une réponse : " Lima est-elle la capitale du Pérou ? " en obtiendrait un autre. Vous seriez probablement un peu inquiet au sujet des facultés mentales de votre ami et vous auriez certainement du mal à faire confiance à ses réponses.

C'est exactement ce qui se passe avec de nombreux grands modèles de langage (LLM), les outils d'apprentissage automatique ultra-puissants qui alimentent ChatGPT et d'autres merveilles de l'intelligence artificielle. Une question générative, ouverte, donne une réponse, et une question discriminante, qui implique de devoir choisir entre des options, en donne souvent une différente. "Il y a un décalage lorsque la même question est formulée différemment", a déclaré Athul Paul Jacob , doctorant au Massachusetts Institute of Technology.

Pour rendre les réponses d'un modèle de langage plus cohérentes - et rendre le modèle globalement plus fiable - Jacob et ses collègues ont conçu un jeu dans lequel les deux modes du modèle sont amenés à trouver une réponse sur laquelle ils peuvent s'entendre. Surnommée le jeu du consensus , cette procédure simple oppose un LLM à lui-même, en utilisant les outils de la théorie des jeux pour améliorer la précision et la cohérence interne du modèle.

"Les recherches explorant l'autocohérence au sein de ces modèles ont été très limitées", a déclaré Shayegan Omidshafiei , directeur scientifique de la société de robotique Field AI. "Cet article est l'un des premiers à aborder ce problème, de manière intelligente et systématique, en créant un jeu permettant au modèle de langage de jouer avec lui-même."

"C'est un travail vraiment passionnant", a ajouté Ahmad Beirami, chercheur scientifique chez Google Research. Pendant des décennies, a-t-il déclaré, les modèles linguistiques ont généré des réponses aux invites de la même manière. "Avec leur idée novatrice consistant à intégrer un jeu dans ce processus, les chercheurs du MIT ont introduit un paradigme totalement différent, qui peut potentiellement conduire à une multitude de nouvelles applications."

Mettre le jeu au travail

Ce nouveau travail, qui utilise les jeux pour améliorer l'IA, contraste avec les approches précédentes, qui mesuraient le succès d'un programme d'IA via sa maîtrise des jeux. En 1997, par exemple, l'ordinateur Deep Blue d'IBM a battu le grand maître d'échecs Garry Kasparov – une étape importante pour les machines dites pensantes. Dix-neuf ans plus tard, un programme de Google DeepMind nommé AlphaGo a remporté quatre matchs sur cinq contre l'ancien champion de Go Lee Sedol, révélant ainsi une autre arène dans laquelle les humains ne régnaient plus en maître. Les machines ont également surpassé les humains dans les jeux de dames, le poker à deux joueurs et d’autres jeux à somme nulle, dans lesquels la victoire d’un joueur condamne invariablement l’autre.

Le jeu de la diplomatie, un jeu favori de politiciens comme John F. Kennedy et Henry Kissinger, posait un défi bien plus grand aux chercheurs en IA. Au lieu de seulement deux adversaires, le jeu met en scène sept joueurs dont les motivations peuvent être difficiles à lire. Pour gagner, un joueur doit négocier et conclure des accords de coopération que n'importe qui peut rompre à tout moment. La diplomatie est tellement complexe qu'un groupe de Meta s'est félicité qu'en 2022, son programme d'IA Cicero ait développé un « jeu de niveau humain » sur une période de 40 parties. Bien qu'il n'ait pas vaincu le champion du monde, Cicero s'est suffisamment bien comporté pour se classer dans les 10 % les plus performants face à des participants humains.

Au cours du projet, Jacob — membre de l'équipe Meta — a été frappé par le fait que Cicéron s'appuyait sur un modèle de langage pour générer son dialogue avec les autres joueurs. Il a senti un potentiel inexploité. L'objectif de l'équipe, a-t-il déclaré, " était de créer le meilleur modèle de langage possible pour jouer à ce jeu ". Mais qu'en serait-il s’ils se concentraient plutôt sur la création du meilleur jeu possible pour améliorer les performances des grands modèles de langage ?

Interactions consensuelles

En 2023, Jacob a commencé à approfondir cette question au MIT, en travaillant avec Yikang Shen, Gabriele Farina et son conseiller Jacob Andreas sur ce qui allait devenir le jeu du consensus. L'idée centrale est venue d'imaginer une conversation entre deux personnes comme un jeu coopératif, où le succès se concrétise lorsqu'un auditeur comprend ce que l'orateur essaie de transmettre. En particulier, le jeu de consensus est conçu pour aligner les deux systèmes du modèle linguistique : le générateur, qui gère les questions génératives, et le discriminateur, qui gère les questions discriminatives.

Après quelques mois d’arrêts et de redémarrages, l’équipe a transposé ce principe dans un jeu complet. Tout d'abord, le générateur reçoit une question. Cela peut provenir d’un humain, ou d’une liste préexistante. Par exemple, " Où est né Barack Obama ? " Le générateur obtient ensuite des réponses de candidats, disons Honolulu, Chicago et Nairobi. Encore une fois, ces options peuvent provenir d'un humain, d'une liste ou d'une recherche effectuée par le modèle de langage lui-même.

Mais avant de répondre, il est également indiqué au générateur s'il doit répondre correctement ou incorrectement à la question, en fonction des résultats d'un pile ou face équitable.

Si c'est face, alors la machine tente de répondre correctement. Le générateur envoie la question initiale, accompagnée de la réponse choisie, au discriminateur. Si le discriminateur détermine que le générateur a intentionnellement envoyé la bonne réponse, chacun obtient un point, en guise d'incitation.

Si la pièce tombe sur pile, le générateur envoie ce qu’il pense être la mauvaise réponse. Si le discriminateur décide qu’on lui a délibérément donné la mauvaise réponse, ils marquent à nouveau tous les deux un point. L’idée ici est d’encourager l’accord. " C'est comme apprendre un tour à un chien ", a expliqué Jacob. " On lui donne une friandise lorsqu'ils fait la bonne chose. "

Le générateur et le discriminateur commencent également doté chacun de  quelques " croyances " initiales. Credo sous forme d'une distribution de probabilité liée aux différents choix. Par exemple, le générateur peut croire, sur la base des informations qu'il a glanées sur Internet, qu'il y a 80 % de chances qu'Obama soit né à Honolulu, 10 % de chances qu'il soit né à Chicago, 5 % de chances qu'il soit né à Nairobi et 5 % de chances qu'il soit ailleurs. Le discriminateur peut commencer avec une distribution différente. Si les deux " acteurs " sont toujours récompensés après être parvenus à un accord, ils se voient également retirer des points s'ils s'écartent trop de leurs convictions initiales. Cet arrangement encourage les joueurs à intégrer leur connaissance du monde – toujours tirée d'Internet – dans leurs réponses, ce qui devrait rendre le modèle plus précis. Sans ce prérequis ils pourraient s’entendre sur une réponse totalement fausse comme celle de Delhi, mais accumuler quand même des points.

Pour chaque question, les deux systèmes jouent environ 1 000 parties l'un contre l'autre. Au cours de ces nombreuses itérations, chaque camp apprend les croyances de l'autre et modifie ses stratégies en conséquence.

Finalement, le générateur et le discriminateur commencent à être davantage d’accord à mesure qu’ils s’installent dans ce qu’on appelle l’équilibre de Nash. C’est sans doute le concept central de la théorie des jeux. Cela représente une sorte d’équilibre dans un jeu – le point auquel aucun joueur ne peut améliorer ses résultats personnels en changeant de stratégie. Au jeu du chifoumi, par exemple, les joueurs obtiennent de meilleurs résultats lorsqu'ils choisissent chacune des trois options exactement un tiers du temps, et ils obtiendront invariablement de moins bons résultats avec toute autre tactique.

Dans le jeu du consensus, cela peut se jouer de plusieurs manières. Le discriminateur pourrait observer qu'il marque un point lorsqu'il dit " correct " chaque fois que le générateur envoie le mot " Honolulu " pour le lieu de naissance d'Obama. Le générateur et le discriminateur apprendront, après avoir joué plusieurs fois, qu'ils seront récompensés s'ils continuent de le faire, et qu'aucun d'eux n'aura aucune motivation pour faire autre chose... consensus qui représente l'un des nombreux exemples possibles d'équilibre de Nash pour cette question. Le groupe du MIT s'est également appuyé sur une forme modifiée d'équilibre de Nash qui intègre les croyances antérieures des joueurs, ce qui permet de maintenir leurs réponses ancrées dans la réalité.

L'effet net, ont observé les chercheurs, est de rendre le modèle linguistique jouant ce jeu plus précis et plus susceptible de donner la même réponse, quelle que soit la façon dont la question est posée. Pour tester les effets du jeu du consensus, l'équipe a essayé une série de questions standard sur divers modèles de langage de taille modérée comportant de 7 milliards à 13 milliards de paramètres. Ces modèles ont systématiquement obtenu un pourcentage plus élevé de réponses correctes que les modèles qui n'avaient pas joué, même ceux de taille beaucoup plus importante, comportant jusqu'à 540 milliards de paramètres. La participation au jeu a également amélioré la cohérence interne d'un modèle.

En principe, n'importe quel LLM pourrait gagner à jouer contre lui-même, et 1 000 tours ne prendraient que quelques millisecondes sur un ordinateur portable standard. "Un avantage appréciable de l'approche globale", a déclaré Omidshafiei, "est qu'elle est très légère sur le plan informatique, n'impliquant aucune formation ni modification du modèle de langage de base."

Jouer à des jeux avec le langage

Après ce premier succès, Jacob étudie désormais d’autres moyens d’intégrer la théorie des jeux dans la recherche LLM. Les résultats préliminaires ont montré qu’un LLM déjà solide peut encore s’améliorer en jouant à un jeu différent – ​​provisoirement appelé jeu d’ensemble – avec un nombre arbitraire de modèles plus petits. Le LLM principal aurait au moins un modèle plus petit servant d’allié et au moins un modèle plus petit jouant un rôle antagoniste. Si l'on demande au LLM primaire de nommer le président des États-Unis, il obtient un point chaque fois qu'il choisit la même réponse que son allié, et il obtient également un point lorsqu'il choisit une réponse différente de celle de son adversaire. Ces interactions avec des modèles beaucoup plus petits peuvent non seulement améliorer les performances d'un LLM, suggèrent les tests, mais peuvent le faire sans formation supplémentaire ni modification des paramètres.

Et ce n'est que le début. Étant donné qu'une variété de situations peuvent être considérées comme des jeux, les outils de la théorie des jeux peuvent être mis en œuvre dans divers contextes du monde réel, a déclaré Ian Gemp , chercheur scientifique chez Google DeepMind. Dans un article de février 2024 , lui et ses collègues se sont concentrés sur des scénarios de négociation qui nécessitent des échanges plus élaborés que de simples questions et réponses. "L'objectif principal de ce projet est de rendre les modèles linguistiques plus stratégiques", a-t-il déclaré.

Un exemple dont il a parlé lors d'une conférence universitaire est le processus d'examen des articles en vue de leur acceptation par une revue ou une conférence, en particulier après que la soumission initiale ait reçu une évaluation sévère. Étant donné que les modèles linguistiques attribuent des probabilités à différentes réponses, les chercheurs peuvent construire des arbres de jeu similaires à ceux conçus pour les jeux de poker, qui tracent les choix disponibles et leurs conséquences possibles. "Une fois que vous avez fait cela, vous pouvez commencer à calculer les équilibres de Nash, puis classer un certain nombre de réfutations", a déclaré Gemp. Le modèle vous dit essentiellement : c'est ce que nous pensons que vous devriez répondre.

Grâce aux connaissances de la théorie des jeux, les modèles de langage seront capables de gérer des interactions encore plus sophistiquées, plutôt que de se limiter à des problèmes de type questions-réponses. "Le gros gain à venir réside dans les conversations plus longues", a déclaré Andreas. "La prochaine étape consiste à faire interagir une IA avec une personne, et pas seulement avec un autre modèle de langage."

Jacob considère le travail de DeepMind comme complémentaire aux jeux de consensus et d'ensemble. " À un niveau élevé, ces deux méthodes combinent des modèles de langage et la théorie des jeux ", a-t-il déclaré, même si les objectifs sont quelque peu différents. Alors que le groupe Gemp transforme des situations courantes dans un format de jeu pour aider à la prise de décision stratégique, Jacob a déclaré : " nous utilisons ce que nous savons de la théorie des jeux pour améliorer les modèles de langage dans les tâches générales. "

À l’heure actuelle, ces efforts représentent " deux branches du même arbre ", a déclaré Jacob : deux manières différentes d’améliorer le fonctionnement des modèles de langage. " Je pense personnellement  que dans un an ou deux, ces deux branches convergeront. " 

Auteur: Internet

Info: https://www.quantamagazine.org/ - Steve Nadis, 9 mai 2024

[ maïeutique machine-machine ] [ discussion IA - FLP ]