femmes-hommes

Dites à une femme deux ou trois mots qu'elle ne comprenne pas, d'aspect profond. Ils la déroutent, l'inquiètent, la rendent anxieuse, la forcent à réfléchir et vous la ramènent consciente de son infériorité, sans défense. Car le reste est jeu d'enfant. Il n'est, bien entendu, pas nécessaire que vous les compreniez vous-même.

Auteur: Renard Jules

Info: Journal, Robert Laffont, Bouquins 1990, 17 février 1898 p.370

[ pensées-misogynes ] [ Manipulable ]

métaphysique

Ces entités sont assez intelligentes pour faire croire à Strieber qu'elles s'inquiètent de lui. Pourtant son tourment ne cesse jamais. Quel que soit son rapport avec les entités, il conclut de plus en plus que leur interaction avec lui est quelque chose de 'bon'. Mais il reste également terrifié par elles et incertain quant à ce qu'elles sont réellement.

Auteur: Ankerberg John

Info: The Facts on UFOs and Other Supernatural Phenomena, p. 21

[ extraterrestre ] [ illusion ] [ psychose ]

mort imminente

Nous avons vu combien les âmes sont fatiguées à leur retour dans l'au-delà, à tel point d'ailleurs que beaucoup ne veulent pas revenir sur terre. C'est encore plus flagrant lorsqu'elles n'ont pas atteint sur terre les objectifs qu'elles s'étaient fixés. Elles s'inquiètent donc à l'idée de quitter le monde spirituel régi par la connaissance de soi, la camaraderie et la compassion, pour un environnement où règnent l'incertitude et la peur causées par des humains agressifs et compétitifs.

Auteur: Newton Michael

Info: Souvenirs de l'au-delà

[ existence ] [ épreuve initiatique ]

impatience

Comment expliquer encore les longues files d'attente devant une librairie à minuit pour avoir un livre dès sa sortie, alors qu'il est possible de l'acheter tranquillement le lendemain ? La peur de manquer ? Dans notre époque d'abondance, voilà qui est pour le moins curieux. Que les personnes ayant vécu la guerre s'inquiètent devant un frigo vide ou des difficultés à se procurer tel ou tel objet, on peut comprendre, mais les plus jeunes ?

(voir fomo)

Auteur: Cadalen Sophie

Info: Vivre ses désirs, vite !

[ jeunesse ] [ consumérisme ] [ peur de passer à côté ] [ effet de mode ] [ accélération ]

femmes-par-femmes

Car toujours les mères courent, courent et s'inquiètent, de tout, d'un front chaud, d'un toussotement, d'une pâleur, d'une chute, d'un sommeil agité, d'une fatigue, d'un pleur, d'une plainte, d'un chagrin. Elles s'inquiètent dans leur coeur pendant qu'elles accomplissent tout ce que le quotidien réclame, exige, et ne cède jamais. Elles se hâtent et se démultiplient, présentes à tout, à tous, tandis qu'une voix intérieure qu'elles tentent de tenir à distance, de museler, leur souffle que jamais elles ne cesseront de se tourmenter pour l'enfant un jour sorti de leur flanc.

Auteur: Josse Gaëlle

Info: Une longue impatience

[ mamans ] [ soucieuses ]

rapports humains

Dans les régimes démocratiques, la coexistence d'une pluralité de cultures, d'appartenances religieuses, de courants politiques ou de modes de vie est reconnue par la majorité des acteurs sociaux comme un bien et comme une richesse. Ce consensus de surface n'empêche cependant pas cet état de fait d'être source de tensions innombrables. Un des rôles dont se saisit le roman consiste alors à rendre compte des perturbations de la coexistence et des troubles que connaissent les sociétés différenciées lorsqu'elles font face à des conflits de valeurs. En mettant en scène des individus qui peinent à partager le même espace parce qu'ils manifestent des sensibilités différentes pour le monde qui les entoure, les romans qu'on va explorer s'inquiètent chacun à leur manière de notre capacité à vivre ensemble.

Auteur: Message Vincent

Info: Romanciers pluralistes

[ littérature ] [ tolérance ] [ écriture ]

globalisation

-  [...] Bien que personnellement, je pense que le cyberespace signifie la fin de notre espèce.

- Ah... Pourquoi ça ?

- Parce que ça signifie la fin de l'innovation, rétorqua Malcolm. Cette idée que le monde entier est connecté est une mort de masse. Tous les biologistes savent que les petits groupes isolés évoluent plus rapidement. Vous mettez un millier d'oiseaux sur une île océanique et ils évolueront très vite. Vous en mettez dix mille sur un grand continent, et leur évolution ralentit. Maintenant, pour notre propre espèce, l'évolution se fait surtout par notre comportement. Nous innovons de nouveaux comportements pour nous adapter. Et chacun sur terre sait que l'innovation ne se produit que par de petits groupes. Mettez trois personnes dans un comité et elles pourront peut-être faire quelque chose. Dix personnes, et ça devient plus difficile. Trente personnes, et rien ne se passe. Trente millions, ça devient impossible. C'est l'effet des médias de masse - ils neutralisent tout, ils engloutissent la diversité. Chaque endroit devient identique. Bangkok ou Tokyo ou Londres : il y a un McDonald's à un coin de rue, un Benetton à un autre, un Gap en face. Les différences régionales disparaissent. Toutes les différences disparaissent. Dans un monde de médias de masse, il y a moins de tout ; restent les dix meilleurs livres, disques, films, idées. Les gens s'inquiètent de la perte de la diversité des espèces dans la forêt tropicale. Mais qu'en est-il de la diversité intellectuelle - notre ressource la plus nécessaire ? Elle disparaît à plus grande vitesse que les arbres. Et comme nous n'avons pas encore compris tout ça, alors nous prévoyons maintenant de rassembler six milliards de personnes dans le cyberespace. Et cela va geler toute l'espèce. Tout s'arrêtera de soi-même. Tout le monde pensera la même chose en même temps. L'uniformité mondiale. [..]

Auteur: Crichton Michael

Info: The Lost World

[ mondialisation ] [ uniformisation ] [ pessimisme ] [ anti-Cnn ]

jeu

Le fantasque Mario Balotelli, la vraie star de cet Euro 2012
Rebelle, iconoclaste, le joueur qualifié pour les demi-finales avec l'Italie contredit tous les clichés du politiquement correct.
"Oubliez-moi. La vraie rock star ici, c'est Mario Balotelli !" Déclare Noel Gallagher, le chanteur controversé de l'ex-groupe Oasis, qui parle de l'attaquant italien de Manchester City. Un rapide condensé de l'esprit de ce joueur qui vient de se qualifier pour les demi-finales de l'Euro 2012 avec la Squadra Azzurra. Et c'est d'ailleurs sa patrie d'adoption - l'Angleterre, où il évolue sous les couleurs de Manchester City - qu'il vient d'éliminer de la compétition, aux tirs au but, après y être allé de sa petite réalisation.
Mario Balotelli est un show à lui tout seul qui défraie la chronique. On en est fan ou on l'exècre. Soit on le considère comme un génie, soit comme un sombre abruti. Mais une chose est sûre, il ne laisse pas indifférent. Et pour ses débuts à l'Euro 2012, il n'a pas failli à sa réputation de joueur fantasque. Capable du pire comme du meilleur sur une pelouse, il a appliqué avec panache ce concept lors de la phase des poules. Il passe ainsi à côté de ses deux premiers matches et suscite la colère des tifosi pour son comportement de diva sur le terrain. Alors, pour faire taire tout le monde, l'attaquant italien est aussi en mesure d'inscrire un somptueux but lors du troisième match de poule et de le célébrer en boudant et en se faisant censurer par ses coéquipiers, de peur que l'intenable ne dérape dans ses propos ou dans la célébration de son but. Au final, ses partenaires s'en amusent et ont appris à composer avec ce caractère instable.
Compétitif et instable
Car Balotelli est un véritable ovni du ballon rond. Le genre de joueur complètement perché en marge totale des principes liés au monde du football professionnel. Conscient de son talent, il n'en fait qu'à sa tête, ce qui déclenche inévitablement des polémiques. Mais là où certains joueurs français pénalisent leur équipe par des attitudes immatures, la folie de Mario Balotelli le rend compétitif et hors du commun. Il peut, par exemple, se vanter en club cette saison d'un meilleur ratio buts-temps de jeu que la star de Manchester City Sergio Agüero et a été décisif dans l'obtention du titre de champion des Citizens. Et c'est d'ailleurs ce point précis qui dérange.
À une époque où l'on nous apprend que seuls la volonté, le travail et l'effort conditionnent la réussite sociale, Mario arrive au sommet de sa profession avec une attitude de dilettante. Alors que les médias font le constat d'une société en manque de repères qui découlerait d'une autorité défaillante, Mario Balotelli conteste fréquemment la figure hiérarchique du coach, ce qui ne l'empêche pas pour autant de faire une belle carrière. Quel joueur, du haut de ses 22 ans, a déjà gagné une Ligue des champions, trois championnats d'Italie et un titre de champion d'Angleterre ? Il met ainsi en porte à faux tous ces principes consensuels qui ont transformé le football en univers aseptisé où aucun comportement rebelle n'est toléré. Un constat qui a énormément de mal à passer et qui se verra toujours opposer des arguments fallacieux mettant en avant l'instabilité du garçon ou ses doigts d'honneur faits à la morale.
Il faut dire que le parcours de Mario Balotelli est lui-même hors norme. Né à Palerme, en Sicile, de parents ghanéens, il est recueilli à 2 ans par une famille italienne de Brescia. Et dans un pays loin d'être cosmopolite, il est l'un des rares enfants de couleur noire de cette ville. Pourtant, il n'a jamais été tenté par un "retour aux sources" salvateur ou mystique dont les joueurs français ou anglais d'origine africaine sont friands. Au contraire, il se revendique 100 % italien et déclare être un amoureux de sa patrie. N'a-t-il pas sorti un drapeau vert-blanc-rouge devant les supporteurs de Manchester City au moment de célébrer le titre avec eux ? Paradoxe : ce genre d'attitude - très certainement glorifiée en France par ceux qui s'inquiètent de ne voir aucun joueur chanter La Marseillaise - ne passe pas en Italie. Les Transalpins ne pardonnent rien à l'ancien sociétaire de l'Inter Milan.
Premier Noir de la Squadra Azzurra
Majoritairement xénophobe, l'Italie a eu du mal à accepter qu'un joueur de couleur noire soit la figure la plus visible de la Squadra Azzurra. Pire, Mario Balotelli est devenu en 2010 le premier joueur de couleur noire à revêtir le maillot de la Nazionale... De quoi déclencher de vives migraines chez les supporteurs les plus farouches et réactionnaires de la Petite Botte. D'autant plus que l'indiscipline de Mario n'arrange rien. Son passage à l'Inter Milan s'est d'ailleurs très mal terminé. Ce qui n'a rien d'étonnant vu que l'entraîneur était à l'époque José Mourinho. D'un côté, un coach portugais show man de classe mondiale qui est très à cheval sur les valeurs collectives de son équipe. De l'autre, un joueur individualiste et forte tête qui se considère comme la seule star de l'effectif. Le clash était inévitable.
Malgré ses frasques, ses attitudes incompréhensibles, son comportement immature et son inconscience avérée il vient de provoquer un incendie à son domicile en allumant pétards et feux d'artifice dans sa salle de bains), Mario Balotelli fait curieusement du bien au football. Il apporte de la fraîcheur et de l'originalité dans ce monde du ballon rond qui a perdu son innocence à cause des exigences du haut niveau. Qui ne s'est pas déjà ennuyé devant une interview d'un joueur de Ligue 1 au discours formaté du type "l'important, c'est les trois points" ?
Pourquoi les Cantona, Maradona, Romario, Ronaldinho ou Paul Gascoigne étaient si populaires ? Parce qu'ils ont toujours compris que le football était d'abord un jeu avant d'être leur travail. Et que le spectacle fait aussi partie de ce sport au même titre, voire plus, que la performance. Mario Balotelli, même s'il ne le revendique pas ouvertement, s'inscrit dans cet héritage. Il est l'enfant terrible du football moderne, directement engendré et inspiré par ces anciennes gloires du ballon rond. Mario Balotelli confond la pelouse d'un stade avec une cour d'école et c'est ce qui plaît. On l'adule ou on le hait, mais on ne peut pas nier qu'il apporte de la vie et de l'humain au football avec son comportement d'enfant.

Auteur: Cacace Giuseppe

Info: Le Point.fr, 25 juin 2012

[ fantaisie ] [ star ] [ sport ] [ révolte ]

gafam

"Beaucoup de ficelles invisibles dans la tech nous agitent comme des marionnettes."

Ancien ingénieur de Google, Tristan Harris dénonce les pratiques de son ancien employeur et des grands groupes de la Silicon Valley. Il exhorte les chefs d'États et citoyens à exercer un contre-pouvoir contre leur influence nocive. Cet ancien ingénieur employé de Google, spécialiste en éthique en technologies, alerte depuis plusieurs années le monde des technologies sur les dérives qu'il a contribué à créer. Avec un certain succès. Son initiative "déconnexionniste" Time Well Spent a fait de lui un speaker remarqué et invité par les PDG de la tech. Désormais, il vise les citoyens. À l'occasion de sa tournée européenne, des couloirs de Bruxelles à l'Elysée, en passant par le MAIF Social Club. Le Figaro l'a rencontré.

- Pourquoi êtes-vous parti en guerre contre les réseaux sociaux et les géants du Web?

- TH Ces entreprises sont devenues les acteurs les plus puissants au monde, plus que les États. Nous sommes 2 milliards à être sur Facebook, soit davantage de fidèles qu'en compte le christianisme. 1,5 milliard sur YouTube chaque mois, soit plus de fidèles qu'en compte l'Islam. Et à partir du moment où nous éteignons l'alarme de nos smartphones - que nous consultons en moyenne 150 fois par jour - nos pensées vont être perturbées par des pensées que nous n'avons pas choisies, mais que les entreprises technologiques nous soumettent. En ouvrant Instagram, on observe que ses amis se sont amusés sans vous. Cette idée ne vous serait jamais venue sans qu'un acteur des technologies ne l'ait faite advenir.

- En quoi est-ce si grave? Les réseaux sociaux finissent par construire une réalité sociale alternative. Cela pose des problèmes de santé publique, notamment chez les plus jeunes qui sont sans cesse soumis à des images de leurs amis montrés sous leur meilleur jour et ont une vision déformée de la normalité. Cela pose aussi des problèmes de polarisation: les réseaux sociaux ont tendance à mettre en avant les comportements extrêmes, ce qui pose un troisième problème, cette fois-ci démocratique, car cela influence l'opinion. La question relève enfin de l'antitrust: ces entreprises ont un pouvoir inégalable avec toutes les données qu'elles manipulent chaque jour. "Non seulement Facebook sait quelle photo de votre ex-petite amie vous regardez sur Instagram, mais aussi quels messages vous écrivez sur WhatsApp."

- Les concepteurs de ces technologies sont-ils conscients d'exercer un tel pouvoir?

- Non! Il y a beaucoup de personnes qui ont une conscience dans la Silicon Valley et s'inquiètent des conséquences de leur travail. Mais si on y réfléchit bien, quand on a entre 20 et 30 ans, qu'on est un jeune ingénieur qui n'a jamais rien fait d'autre que coder et qu'on débarque chez Google, on pense avant tout à toutes les choses incroyables que l'on peut réaliser avec son travail. Pas aux instabilités géopolitiques que ces outils peuvent permettre de créer. Les employés de ces grandes entreprises ne réalisent pas leur pouvoir.

- N'est-ce pas la faute d'une culture d'entreprise qui déresponsabilise ses employés? - Ces entreprises font en sorte que les employés n'aient pas une image "globale" de l'impact de leur travail. Je pense que des comparaisons historiques peuvent être faites avec des régimes autoritaires. J'ai beaucoup étudié le fonctionnement des cultes et j'y vois aussi des similitudes. Quand Facebook répète sans cesse cette devise, "nous aidons le monde à être plus connecté", cela devient performatif et on ne voit plus que cela.

- Les employés de Facebook sont payés très cher pour ne pas se poser de questions.

- De la même façon, ils ne parlent pas d'un problème d'addiction aux technologies mais d'"engagement". Et ils ne disent pas à leurs ingénieurs de concevoir des outils de manipulation des esprits mais des outils pour "augmenter l'engagement sur de la publicité ciblée", car aucun ne voudrait travailler pour eux sinon. Pour reprendre l'écrivain Upton Sinclair, vous ne pouvez pas demander à des gens de se poser des questions quand leur salaire dépend du fait de ne pas se les poser. Et les employés de Facebook sont payés très cher pour ne pas se poser de questions.

- N'avez-vous pas l'impression d'utiliser une rhétorique de la peur parfois exagérée à l'égard des technologies?

- Je suis d'accord avec ceux qui me critiquent pour défendre un modèle de la peur! (rires) Parce que fondamentalement, je m'intéresse à la question du pouvoir, et qu'il y a une sorte de vérité dérangeante dans la Silicon Valley. Plusieurs PDG comme Eric Schmidt (ex-Google) ou Mark Zuckerberg (Facebook) ont déclaré que la vie privée était morte. Aujourd'hui, avec une intelligence artificielle entraînée, je peux en effet établir votre profil psychologique en étudiant vos clics, vous identifier à travers votre géolocalisation dans moins de cinq lieux, mesurer votre taux de stress ou d'excitation avec la reconnaissance faciale. Nous allons vivre dans un monde où de plus en plus de technologies vont intercepter des signaux de ce que nous pensons avant même que nous n'ayons conscience de le penser, et nous manipuler.

- Avez-vous l'impression que vos idées sont entendues par le grand public?

- Les gens n'ont pas conscience de l'ampleur de ce que l'on peut déjà faire avec de la publicité ciblée. Il est facile de se dire que nous sommes informés ou éduqués, et que cela ne nous arrive pas à nous, plus malins que les autres. Je veux éveiller les consciences là-dessus: absolument tout le monde, sans exception, est influencé par des ressorts qu'il ne voit pas. Exactement comme dans les tours de magie.

- Comment cela fonctionne-t-il concrètement?

- "Absolument tout le monde, sans exception, est influencé par des ressorts qu'il ne voit pas". Il y a beaucoup de "dark patterns" dans les technologies, c'est-à-dire des ficelles invisibles qui nous agitent comme des marionnettes. Elles reposent sur la captation d'attention par les biais cognitifs, l'excitation... Par exemple, nous vérifions sans cesse les notifications des téléphones en espérant y voir leurs jolies couleurs vives, nous scrollons car il y a toujours de la nouveauté, nous regardons la prochaine vidéo YouTube car elle est bien suggérée...

- Imaginons maintenant que vous vouliez quitter Facebook: pour vous garder, Facebook pourrait envoyer une notification à l'un de vos amis qui a pris une photo de vous, et lui demander "Veux-tu taguer cette personne?". En général, cette question s'assortit d'un gros bouton bleu marqué "OUI" pour que l'ami clique dessus. Il suffit ensuite à Facebook de vous envoyer un mail pour vous dire "Tel ami vous a tagué sur telle photo" et cela vous incite à revenir. Toute l'industrie de la tech utilise ces ressorts.

- N'est-ce pas seulement une certaine élite qui peut savoir comment échapper à ce type de manipulation?

- Complètement, et c'est bien pour cela que nous voulons forcer les entreprises à changer directement leurs pratiques pour le plus grand nombre. Nous ne pouvons pas souhaiter un monde où seulement 1% de personnes savent comment paramétrer leur téléphone en noir&blanc pour ne plus être autant sollicité par les boutons rouges des notifications, ou savent comment régler leurs paramètres. Nous devons faire en sorte que le design de l'attention soit vertueux par défaut, que les modèles économiques de ces entreprises reposent moins sur le temps passé. Google vient de le faire et cela établit un précédent qui pourrait pousser Apple à faire de même.

- Peut-on vraiment avoir confiance quand ces entreprises prétendent nous guérir de l'addiction ou des manipulations qu'elles ont elles-mêmes créées ?"

- Pour moi, c'est le rôle de Facebook de veiller à ce qu'une élection ne soit pas manipulée, et le rôle de Google de restreindre notre addiction. Pour autant, nous ne devons pas les croire sur parole, car ils ont toujours un pouvoir considérable. Facebook est comme un prêtre qui écouterait les confessions de 2 milliards d'individus, sauf que la plupart ne savent même pas qu'ils passent à confesse! Non seulement ils savent quelle photo de votre ex-petite amie vous regardez sur Instagram, mais aussi quels messages vous écrivez sur WhatsApp. Avec leurs traceurs sur plus d'un tiers des sites internet, ils savent que vous songez à changer d'assureur avant même que vous ayez franchi le cap. Ils savent aussi ce que vous allez voter. Et ils vendent ce savoir à des marques pour qu'au confessionnal, on vous suggère telle ou telle action. Je ne dis pas que Facebook et son confessionnal virtuel ne devraient pas exister, mais je dis qu'il ne devrait pas avoir un modèle économique qui ait autant de pouvoir. L'Europe va sombrer si nous ne changeons pas ce système.

Auteur: Harris Tristan

Info: Interview d'Elisa Braun, le Figaro, 31/05/2018

[ big brother ] [ PNL ] [ culture de l'epic fail ] [ captage de l'attention ]

homme-machine

Comment l'IA comprend des trucs que personne ne lui lui a appris

Les chercheurs peinent à comprendre comment les modèles d'Intelligence artificielle, formés pour perroquetter les textes sur Internet, peuvent effectuer des tâches avancées comme coder, jouer à des jeux ou essayer de rompre un mariage.

Personne ne sait encore comment ChatGPT et ses cousins ​​de l'intelligence artificielle vont transformer le monde, en partie parce que personne ne sait vraiment ce qui se passe à l'intérieur. Certaines des capacités de ces systèmes vont bien au-delà de ce pour quoi ils ont été formés, et même leurs inventeurs ne savent pas pourquoi. Un nombre croissant de tests suggèrent que ces systèmes d'IA développent des modèles internes du monde réel, tout comme notre propre cerveau le fait, bien que la technique des machines soit différente.

"Tout ce que nous voulons faire avec ces systèmes pour les rendre meilleurs ou plus sûrs ou quelque chose comme ça me semble une chose ridicule à demander  si nous ne comprenons pas comment ils fonctionnent", déclare Ellie Pavlick de l'Université Brown,  un des chercheurs travaillant à combler ce vide explicatif.

À un certain niveau, elle et ses collègues comprennent parfaitement le GPT (abréviation de generative pretrained transformer) et d'autres grands modèles de langage, ou LLM. Des modèles qui reposent sur un système d'apprentissage automatique appelé réseau de neurones. De tels réseaux ont une structure vaguement calquée sur les neurones connectés du cerveau humain. Le code de ces programmes est relativement simple et ne remplit que quelques pages. Il met en place un algorithme d'autocorrection, qui choisit le mot le plus susceptible de compléter un passage sur la base d'une analyse statistique laborieuse de centaines de gigaoctets de texte Internet. D'autres algorithmes auto-apprenants supplémentaire garantissant que le système présente ses résultats sous forme de dialogue. En ce sens, il ne fait que régurgiter ce qu'il a appris, c'est un "perroquet stochastique", selon les mots d'Emily Bender, linguiste à l'Université de Washington. Mais les LLM ont également réussi à réussir l'examen pour devenir avocat, à expliquer le boson de Higgs en pentamètre iambique (forme de poésie contrainte) ou à tenter de rompre le mariage d'un utilisateurs. Peu de gens s'attendaient à ce qu'un algorithme d'autocorrection assez simple acquière des capacités aussi larges.

Le fait que GPT et d'autres systèmes d'IA effectuent des tâches pour lesquelles ils n'ont pas été formés, leur donnant des "capacités émergentes", a surpris même les chercheurs qui étaient généralement sceptiques quant au battage médiatique sur les LLM. "Je ne sais pas comment ils le font ou s'ils pourraient le faire plus généralement comme le font les humains, mais tout ça mes au défi mes pensées sur le sujet", déclare Melanie Mitchell, chercheuse en IA à l'Institut Santa Fe.

"C'est certainement bien plus qu'un perroquet stochastique, qui auto-construit sans aucun doute une certaine représentation du monde, bien que je ne pense pas que ce soit  vraiment de la façon dont les humains construisent un modèle de monde interne", déclare Yoshua Bengio, chercheur en intelligence artificielle à l'université de Montréal.

Lors d'une conférence à l'Université de New York en mars, le philosophe Raphaël Millière de l'Université de Columbia a offert un autre exemple à couper le souffle de ce que les LLM peuvent faire. Les modèles avaient déjà démontré leur capacité à écrire du code informatique, ce qui est impressionnant mais pas trop surprenant car il y a tellement de code à imiter sur Internet. Millière est allé plus loin en montrant que le GPT peut aussi réaliser du code. Le philosophe a tapé un programme pour calculer le 83e nombre de la suite de Fibonacci. "Il s'agit d'un raisonnement en plusieurs étapes d'un très haut niveau", explique-t-il. Et le robot a réussi. Cependant, lorsque Millière a demandé directement le 83e nombre de Fibonacci, GPT s'est trompé, ce qui suggère que le système ne se contentait pas de répéter ce qui se disait sur l'internet. Ce qui suggère que le système ne se contente pas de répéter ce qui se dit sur Internet, mais qu'il effectue ses propres calculs pour parvenir à la bonne réponse.

Bien qu'un LLM tourne sur un ordinateur, il n'en n'est pas un lui-même. Il lui manque des éléments de calcul essentiels, comme sa propre mémoire vive. Reconnaissant tacitement que GPT seul ne devrait pas être capable d'exécuter du code, son inventeur, la société technologique OpenAI, a depuis introduit un plug-in spécialisé -  outil que ChatGPT peut utiliser pour répondre à une requête - qui remédie à cela. Mais ce plug-in n'a pas été utilisé dans la démonstration de Millière. Au lieu de cela, ce dernier suppose plutôt que la machine a improvisé une mémoire en exploitant ses mécanismes d'interprétation des mots en fonction de leur contexte -  situation similaire à la façon dont la nature réaffecte des capacités existantes à de nouvelles fonctions.

Cette capacité impromptue démontre que les LLM développent une complexité interne qui va bien au-delà d'une analyse statistique superficielle. Les chercheurs constatent que ces systèmes semblent parvenir à une véritable compréhension de ce qu'ils ont appris. Dans une étude présentée la semaine dernière à la Conférence internationale sur les représentations de l'apprentissage (ICLR), le doctorant Kenneth Li de l'Université de Harvard et ses collègues chercheurs en intelligence artificielle, Aspen K. Hopkins du Massachusetts Institute of Technology, David Bau de la Northeastern University et Fernanda Viégas , Hanspeter Pfister et Martin Wattenberg, tous à Harvard, ont créé leur propre copie plus petite du réseau neuronal GPT afin de pouvoir étudier son fonctionnement interne. Ils l'ont entraîné sur des millions de matchs du jeu de société Othello en alimentant de longues séquences de mouvements sous forme de texte. Leur modèle est devenu un joueur presque parfait.

Pour étudier comment le réseau de neurones encodait les informations, ils ont adopté une technique que Bengio et Guillaume Alain, également de l'Université de Montréal, ont imaginée en 2016. Ils ont créé un réseau de "sondes" miniatures pour analyser le réseau principal couche par couche. Li compare cette approche aux méthodes des neurosciences. "C'est comme lorsque nous plaçons une sonde électrique dans le cerveau humain", dit-il. Dans le cas de l'IA, la sonde a montré que son "activité neuronale" correspondait à la représentation d'un plateau de jeu d'Othello, bien que sous une forme alambiquée. Pour confirmer ce résultat, les chercheurs ont inversé la sonde afin d'implanter des informations dans le réseau, par exemple en remplaçant l'un des marqueurs noirs du jeu par un marqueur blanc. "En fait, nous piratons le cerveau de ces modèles de langage", explique Li. Le réseau a ajusté ses mouvements en conséquence. Les chercheurs ont conclu qu'il jouait à Othello à peu près comme un humain : en gardant un plateau de jeu dans son "esprit" et en utilisant ce modèle pour évaluer les mouvements. Li pense que le système apprend cette compétence parce qu'il s'agit de la description la plus simple et efficace de ses données pour l'apprentissage. "Si l'on vous donne un grand nombre de scripts de jeu, essayer de comprendre la règle qui les sous-tend est le meilleur moyen de les comprimer", ajoute-t-il.

Cette capacité à déduire la structure du monde extérieur ne se limite pas à de simples mouvements de jeu ; il apparaît également dans le dialogue. Belinda Li (aucun lien avec Kenneth Li), Maxwell Nye et Jacob Andreas, tous au MIT, ont étudié des réseaux qui jouaient à un jeu d'aventure textuel. Ils ont introduit des phrases telles que "La clé est dans le coeur du trésor", suivies de "Tu prends la clé". À l'aide d'une sonde, ils ont constaté que les réseaux encodaient en eux-mêmes des variables correspondant à "coeur" et "Tu", chacune avec la propriété de posséder ou non une clé, et mettaient à jour ces variables phrase par phrase. Le système n'a aucun moyen indépendant de savoir ce qu'est une boîte ou une clé, mais il a acquis les concepts dont il avait besoin pour cette tâche."

"Une représentation de cette situation est donc enfouie dans le modèle", explique Belinda Li.

Les chercheurs s'émerveillent de voir à quel point les LLM sont capables d'apprendre du texte. Par exemple, Pavlick et sa doctorante d'alors, l'étudiante Roma Patel, ont découvert que ces réseaux absorbent les descriptions de couleur du texte Internet et construisent des représentations internes de la couleur. Lorsqu'ils voient le mot "rouge", ils le traitent non seulement comme un symbole abstrait, mais comme un concept qui a une certaine relation avec le marron, le cramoisi, le fuchsia, la rouille, etc. Démontrer cela fut quelque peu délicat. Au lieu d'insérer une sonde dans un réseau, les chercheurs ont étudié sa réponse à une série d'invites textuelles. Pour vérifier si le systhème ne faisait pas simplement écho à des relations de couleur tirées de références en ligne, ils ont essayé de le désorienter en lui disant que le rouge est en fait du vert - comme dans la vieille expérience de pensée philosophique où le rouge d'une personne correspond au vert d'une autre. Plutôt que répéter une réponse incorrecte, les évaluations de couleur du système ont évolué de manière appropriée afin de maintenir les relations correctes.

Reprenant l'idée que pour remplir sa fonction d'autocorrection, le système recherche la logique sous-jacente de ses données d'apprentissage, le chercheur en apprentissage automatique Sébastien Bubeck de Microsoft Research suggère que plus la gamme de données est large, plus les règles du système faire émerger sont générales. "Peut-être que nous nous constatons un tel bond en avant parce que nous avons atteint une diversité de données suffisamment importante pour que le seul principe sous-jacent à toutes ces données qui demeure est que des êtres intelligents les ont produites... Ainsi la seule façon pour le modèle d'expliquer toutes ces données est de devenir intelligent lui-même".

En plus d'extraire le sens sous-jacent du langage, les LLM sont capables d'apprendre en temps réel. Dans le domaine de l'IA, le terme "apprentissage" est généralement réservé au processus informatique intensif dans lequel les développeurs exposent le réseau neuronal à des gigaoctets de données et ajustent petit à petit ses connexions internes. Lorsque vous tapez une requête dans ChatGPT, le réseau devrait être en quelque sorte figé et, contrairement à l'homme, ne devrait pas continuer à apprendre. Il fut donc surprenant de constater que les LLM apprennent effectivement à partir des invites de leurs utilisateurs, une capacité connue sous le nom d'"apprentissage en contexte". "Il s'agit d'un type d'apprentissage différent dont on ne soupçonnait pas l'existence auparavant", explique Ben Goertzel, fondateur de la société d'IA SingularityNET.

Un exemple de la façon dont un LLM apprend vient de la façon dont les humains interagissent avec les chatbots tels que ChatGPT. Vous pouvez donner au système des exemples de la façon dont vous voulez qu'il réponde, et il obéira. Ses sorties sont déterminées par les derniers milliers de mots qu'il a vus. Ce qu'il fait, étant donné ces mots, est prescrit par ses connexions internes fixes - mais la séquence de mots offre néanmoins une certaine adaptabilité. Certaines personnes utilisent le jailbreak à des fins sommaires, mais d'autres l'utilisent pour obtenir des réponses plus créatives. "Il répondra mieux aux questions scientifiques, je dirais, si vous posez directement la question, sans invite spéciale de jailbreak, explique William Hahn, codirecteur du laboratoire de perception de la machine et de robotique cognitive à la Florida Atlantic University. "Sans il sera un meilleur universitaire." (Comme son nom l'indique une invite jailbreak -prison cassée-, invite à  moins délimiter-verrouiller les fonctions de recherche et donc à les ouvrir, avec les risques que ça implique) .

Un autre type d'apprentissage en contexte se produit via l'incitation à la "chaîne de pensée", ce qui signifie qu'on demande au réseau d'épeler chaque étape de son raisonnement - manière de faire qui permet de mieux résoudre les problèmes de logique ou d'arithmétique en passant par plusieurs étapes. (Ce qui rend l'exemple de Millière si surprenant  puisque le réseau a trouvé le nombre de Fibonacci sans un tel encadrement.)

En 2022, une équipe de Google Research et de l'École polytechnique fédérale de Zurich - Johannes von Oswald, Eyvind Niklasson, Ettore Randazzo, João Sacramento, Alexander Mordvintsev, Andrey Zhmoginov et Max Vladymyrov - a montré que l'apprentissage en contexte suit la même procédure de calcul de base que l'apprentissage standard, connue sous le nom de descente de gradient". 

Cette procédure n'était pas programmée ; le système l'a découvert sans aide. "C'est probablement une compétence acquise", déclare Blaise Agüera y Arcas, vice-président de Google Research. De fait il pense que les LLM peuvent avoir d'autres capacités latentes que personne n'a encore découvertes. "Chaque fois que nous testons une nouvelle capacité que nous pouvons quantifier, nous la trouvons", dit-il.

Bien que les LLM aient suffisamment d'angles morts et autres défauts pour ne pas être qualifiés d'intelligence générale artificielle, ou AGI - terme désignant une machine qui atteint l'ingéniosité du cerveau animal - ces capacités émergentes suggèrent à certains chercheurs que les entreprises technologiques sont plus proches de l'AGI que même les optimistes ne l'avaient deviné. "Ce sont des preuves indirectes que nous en sommes probablement pas si loin", a déclaré Goertzel en mars lors d'une conférence sur le deep learning à la Florida Atlantic University. Les plug-ins d'OpenAI ont donné à ChatGPT une architecture modulaire un peu comme celle du cerveau humain. "La combinaison de GPT-4 [la dernière version du LLM qui alimente ChatGPT] avec divers plug-ins pourrait être une voie vers une spécialisation des fonctions semblable à celle de l'homme", déclare Anna Ivanova, chercheuse au M.I.T.

Dans le même temps, les chercheurs s'inquiètent de voir leur capacité à étudier ces systèmes s'amenuiser. OpenAI n'a pas divulgué les détails de la conception et de l'entraînement de GPT-4, en partie du à la concurrence avec Google et d'autres entreprises, sans parler des autres pays. "Il y aura probablement moins de recherche ouverte de la part de l'industrie, et les choses seront plus cloisonnées et organisées autour de la construction de produits", déclare Dan Roberts, physicien théoricien au M.I.T., qui applique les techniques de sa profession à la compréhension de l'IA.

Ce manque de transparence ne nuit pas seulement aux chercheurs, il entrave également les efforts qui visent à comprendre les répercussions sociales de l'adoption précipitée de la technologie de l'IA. "La transparence de ces modèles est la chose la plus importante pour garantir la sécurité", affirme M. Mitchell.

Auteur: Musser Georges

Info: https://www.scientificamerican.com,  11 mai 2023. *algorithme d'optimisation utilisé dans l'apprentissage automatique et les problèmes d'optimisation. Il vise à minimiser ou à maximiser une fonction en ajustant ses paramètres de manière itérative. L'algorithme part des valeurs initiales des paramètres et calcule le gradient de la fonction au point actuel. Les paramètres sont ensuite mis à jour dans la direction du gradient négatif (pour la minimisation) ou positif (pour la maximisation), multiplié par un taux d'apprentissage. Ce processus est répété jusqu'à ce qu'un critère d'arrêt soit rempli. La descente de gradient est largement utilisée dans la formation des modèles d'apprentissage automatique pour trouver les valeurs optimales des paramètres qui minimisent la différence entre les résultats prédits et les résultats réels. Trad et adaptation Mg

[ singularité technologique ] [ versatilité sémantique ]