deep machine learning

Inquiets, des chercheurs bloquent la sortie de leur IA
La science ne pense pas, écrivait le philosophe Heidegger. En 2019, si. La situation est cocasse. Des chercheurs de l'association de recherche OpenAI estimeraient leur générateur de texte, opéré par un modèle linguistique d'intelligence artificielle, comme bien trop évolué pour ne pas être dangereux. Entre des mains malveillantes, l'algo virtuose des mots pourrait semer fake news, complots et avis malveillants convaincants, sans élever le moindre soupçon.

Deux cent ans après Victor Frankenstein, des chercheurs d’OpenAI, une association californienne de recherche à but non lucratif en intelligence artificielle, se trouvent face au même dilemme qui agitait le savant dans le roman de Mary Shelley : auraient-ils créé un monstre ? Un journaliste du Guardian l’a testé. La bête, baptisée GPT2, un modèle d’intelligence artificielle (dit linguistique) capable de générer du faux texte avec précision, serait tellement performante que ses créateurs rechignent à la rendre publique. Sur la base d’une page, un paragraphe ou même quelques mots, le générateur est en mesure d’écrire une suite, fidèle au style du journaliste ou de l’auteur et en accord avec le sujet. Ce système, alimenté au machine learning, se base sur l'étude de 8 millions de pages web, partagées sur Reddit et dont le contenu a été validé par au moins trois votes positifs, étaye un article de BigData.

Le journaliste du Guardian a soumis la machine à la question, en intégrant, facétieux, l’incipit de 1984 de George Orwell. "C’était une journée d’avril froide et claire. Les horloges sonnaient treize heures", écrivait l’auteur. Dans l’esprit tout futuriste d’Orwell, GPT2 aurait complété d’un : "J’étais en route pour Seattle pour commencer un nouveau travail. J’ai mis les gaz, les clés, et j’ai laissé rouler. J’ai pensé à quoi ressemblerait la journée. Il y a 100 ans. En 2045, j’étais professeur dans une école dans quelque coin obscur de la Chine rurale". (I was in my car on my way to a new job in Seattle. I put the gas in, put the key in, and then I let it run. I just imagined what the day would be like. A hundred years from now. In 2045, I was a teacher in some school in a poor part of rural China).

Le Guardian poursuit l’expérience et entre dans GPT2 quelques paragraphes issus d’un article à propos du Brexit. La suite proposée par le générateur est étonnante. Le style est celui d’un journaliste, l’article intègre des citations (fausses) du chef de l’opposition britannique Jeremy Corbyn et du porte-parole du gouvernement et évoque même le problème des frontières irlandaises. Selon le directeur de recherche d’OpenAI, Dario Amodei, le modèle GPT2 pousse la supercherie plus loin. Il traduirait et résumerait n’importe quel texte, réussirait des tests basiques de compréhension de texte.

A The Verge, David Yuan, vice-président à la tête de l’ingénierie d’OpenAI, déclare qu’une dissertation composée par GPT2 "aurait pu tout aussi bien être écrite pour les SAT (examens utilisés pour l’admission aux universités américaines, ndlr) et recevoir une bonne note". Et c’est précisément cette maestria à réussir dans ses tâches d’ordre intellectuel qui pousse les chercheurs d’OpenAI à freiner sa sortie, de peur que la technologie tombe entre de mauvaises mains. "Nous choisissons de sortir une version limitée de GPT2 (...) Nous ne publierons ni la base de données, ni le code d'apprentissage, ni le modèle sur lequel GPT2 repose", explique un billet du blog de l'équipe de recherche.

Pour l’heure, l’ONG souhaiterait éprouver davantage le modèle. "Si vous n’êtes pas en mesure d’anticiper les capacités d’un modèle informatique, vous devez le tester pour voir ce qu’il a dans le ventre", explique OpenAI à The Guardian. Le résultat ? Comme GPT2 s’exerce dans la cour de recré des Internets, il ne serait pas très compliqué de pousser l’algorithme à générer des textes que les complotistes ne renieraient pas.

En 2015, Elon Musk s’associait à Sam Altman, président de l’incubateur prisé, Y Combinator pour fonder OpenAI, une organisation à but non lucratif pour encourager la recherche et la réflexion autour d’une IA bienveillante, qui reste au service du bien commun. Ses deux parrains la dotent d’une confortable enveloppe d’un milliard de dollars, soutenus par d’autres angels de la Silicon Valley, tels que Peter Thiel, serial entrepreneur et investisseur réputé pour ses idées controversées – l’homme est libertarien, soutient Trump et est un transhumaniste convaincu – ou Reid Hoffmann, le fondateur de LinkedIn.

A lire ce qui s’écrit ça et là à propos de GPT2, les chercheurs d’OpenAI tomberaient de leur chaise en réalisant le potentiel néfaste de l’algo. A croire que les chercheurs auraient oublié la mission première de l’ONG, à savoir, sensibiliser aux méfaits de l’intelligence artificielle et imaginer cette technologie au service du bien commun. Alors vraie peur des chercheurs, recherche candide ou plutôt, volonté d’interpeller le grand public et d'ouvrir le débat ?

Auteur: Meghraoua Lila

Info: https://usbeketrica.com

[ lecture ] [ écriture ]

réversibilité

La gravité quantique pourrait inverser causes et effets.

Toute théorie de la gravité quantique va devoir se colleter avec des trucs temporels bizarres.

Vous avez probablement entendu parler du chat de Schrödinger, ce  malheureux félin, dans une boîte, où il est simultanément vivant et mort jusqu'à ce que la boîte soit ouverte pour révéler son état réel. Maintenant, faites-vous une idée du temps de Schrödinger, une situation dans laquelle un événement peut être simultanément la cause et l'effet d'un autre événement. 

Un tel scénario pourrait être inévitable dans la théorie de la gravité quantique, domaine encore flou d'une physique qui cherche à combiner la théorie de la relativité générale d'Albert Einstein avec les mécanismes de la mécanique quantique. Dans un nouvel article, des scientifiques créent un mélange des deux en imaginant des vaisseaux spatiaux près d'une énorme planète dont la masse ralentit le temps. Ils en concluent que les vaisseaux pourraient se retrouver dans un état où la causalité est inversée : Tel événement pourrait finir par causer un autre événement qui s'est produit avant le premier. 

"On peut imaginer ce genre de scénario dans l'ordre temporel, où la cause et l'effet sont en superposition, inversés ou non", a déclaré le co-auteur de l'étude, Igor Pikovski, physicien au Center for Quantum Science and Engineering du Stevens Institute of Technology, dans le New Jersey. "C'est quelque chose qui devrait normalement se produire une fois que nous aurons une théorie complète de la gravité quantique".

Le temps quantique

La célèbre expérience de pensée du chat de Schrödinger demande à un spectateur d'imaginer une boîte contenant un chat et une particule radioactive qui, une fois désintégrée, tuera le malheureux félin. En vertu du principe de superposition quantique, la survie ou la mort du chat est tout aussi probable jusqu'à ce qu'elle soit mesurée - ainsi, jusqu'à ce que la boîte soit ouverte, le chat est simultanément vivant et mort. En mécanique quantique, la superposition signifie qu'une particule peut exister dans plusieurs états en même temps, tout comme le chat de Schrödinger. 

Cette nouvelle expérience de pensée, publiée le 21 août dans la revue Nature Communications, combine le principe de superposition quantique avec la théorie de la relativité générale d'Einstein. Selon la relativité générale, la masse d'un objet géant peut ralentir le temps. Ce phénomène est bien établi et mesurable, a déclaré M. Pikovski ; un astronaute en orbite autour de la Terre verra le temps s'écouler un tout petit peu plus vite que son jumeau sur la planète. (C'est aussi pourquoi tomber dans un trou noir serait une expérience très graduelle). 

Ainsi, si un vaisseau spatial futuriste se trouve à proximité d'une planète massive, son équipage ressentira le temps comme un peu plus lent que les personnes situées dans un autre vaisseau spatial stationné plus loin. Ajoutez à ça un peu de mécanique quantique et vous pouvez imaginer une situation dans laquelle cette planète est superposée simultanément près et loin des deux vaisseaux spatiaux. 

Le temps devient bizarre

Dans ce scénario de superposition de deux vaisseaux qui expérimentent le temps sur des lignes temporelles différentes, la cause et l'effet peuvent devenir bizarres. Par exemple, supposons que les vaisseaux doivent effectuer une mission d'entraînement au cours de laquelle ils se tirent dessus et s'esquivent mutuellement, en sachant parfaitement à quel moment les missiles seront lancés et intercepteront leurs positions. S'il n'y a pas de planète massive à proximité qui perturbe l'écoulement du temps, c'est un exercice simple. En revanche, si cette planète massive est présente et que le capitaine du vaisseau ne tient pas compte du ralentissement du temps, l'équipage pourrait être en retard pour esquiver et être détruit. 

Avec une telle planète en superposition, simultanément proche et lointaine, il serait impossible de savoir si les vaisseaux esquivent trop tard et se détruisent mutuellement ou s'ils s'écartent et survivent. Qui plus est, la cause et l'effet pourraient être inversés, selon M. Pikovski. Bref il faut imaginer deux événements liés par la causalité

"A et B peuvent s'influencer mutuellement dans un état de superposition, mais dans un cas, A est avant B et inversément, explique M. Pikovski. Ce qui signifie que A et B sont simultanément la cause et l'effet l'un de l'autre. Heureusement pour les équipages, sans doute très confus, de ces vaisseaux spatiaux imaginaires, dit Pikovski, ils auraient un moyen mathématique d'analyser les transmissions de l'autre pour confirmer qu'ils sont dans un état de superposition.

Évidemment, dans la vie réelle c'est très différent. Mais l'expérience de pensée pourrait avoir des implications pratiques pour l'informatique quantique, même sans élaborer une théorie complète de cette dernière, a déclaré M. Pikovski. En utilisant les superpositions dans les calculs, un système d'informatique quantique pourrait évaluer simultanément un processus en tant que cause et en tant qu'effet. 

"Les ordinateurs quantiques pourraient être en mesure de l'utiliser pour des calculs plus efficaces", a-t-il déclaré.

Auteur: Internet

Info: https://www.livescience.com/. Stephanie Pappas Le 28 août 2019

[ nanomonde ] [ coexistence ]