mystère

Quelle que soit l'étendue de notre raison, au-delà se trouve encore davantage pour nous surprendre.

Auteur: Roszak Théodore

Info: Les Mémoires d'Elizabeth Frankenstein

dernières paroles

Je sais à quoi tu penses mais je n'ai rien à communiquer sur un sujet tel que la religion.

Auteur: Wollstonecraft Mary

Info: Elle mourut en donnant naissance à sa fille Mary, qui sera l'auteur du célèbre Frankenstein

mémoire

Oh étrange nature que la connaissance ! Qui s'accroche à l'esprit, et s'y intègre, comme un lichen sur le rocher.

Auteur: Shelley Mary

Info: The Novels and Selected Works of Mary Shelly (Volume 1) Frankenstein, Volume 2, Chapitre V (p. 90) William Pickering. Londres, Angleterre. 1996

[ sélective ]

instabilité

Ah ! Que les sentiments des humains sont variables ! Et combien étrange est cet attachement que nous portons à l'existence ! Même si elle ne nous dispense que peines et chagrins !

Auteur: Shelley Mary

Info: Frankenstein ou Le Prométhée moderne

[ inconfort ]

civilisation

[...] - Bon, d'accord [...] pour toi, l'esprit occidental est le croisement digne de Frankenstein d'une religion mal ficelée et des idées d'une bande de pédophiles grecs [...] ?
- Oui, à peu près.

Auteur: Burdett John

Info: Bangkok psycho

[ résumée ]

femmes-hommes

Que veut dire le fait qu'il existe l'homme et la femme ? Que veut dire le fait que l'homme pénètre la femme ? Qu'il pénètre en elle ? Pourquoi sommes-nous créés deux pour ensuite brûler du désir de devenir un ? C'est le Un qui compte. Et cela vaut la peine de brûler toute une vie.

Auteur: Roszak Theodore

Info: Les Mémoires d'Elizabeth Frankenstein

[ question ]

modernité

Nous avons pris l’habitude en toute chose de nous en remettre aux coachs. Pour faire du sport, pour perdre du poids, pour licencier gracieusement un salarié, pour nous intégrer à l’équipe, pour sauver notre couple, pour dompter l’enfant redevenu sauvage en entrant dans l’adolescence, comme s’il avait été élevé par des loups, pour retrouver la paix intérieure. Le coach est un avatar jeune, glabre et musclé du vieux sage. Si vous le déshabillez, vous découvrirez non sans effroi un corps couturé comme celui de la créature de Frankenstein, constitué de tronçons de professeur, de psy, de directeur de conscience, de masseuse thaïlandaise, de joueur de pipeau, de vendeur de canapés et de kleptomane. Mais tant que son torse est revêtu d’une veste de survêtement ou de costume, il a plutôt fière allure.

Auteur: Chevillard Eric

Info: Chronique dans Le Monde

[ illusion ] [ apparences ] [ ressources humaines ] [ vacherie ]

emballement technologique

Il serait plus juste de dire que rien ne nous caractérise davantage, nous, les hommes d'aujourd'hui que notre incapacité à rester spirituellement "up to date" par rapport au progrès de notre production, c'est-à-dire à changer au même rythme que nos propres produits, et à rattraper dans le futur (que nous appelons notre "présent") les instruments qui ont pris de l'avance sur nous. Par notre liberté prométhéenne illimitée de produire toujours du nouveau, liberté à laquelle nous payons le tribut d'une pression qui ne se relâche jamais, nous avons - en tant qu'êtres temporels - procédé en dépit du bon sens, si bien que, maintenant, nous sommes en retard sur ce que nous avons nous-mêmes projeté et produit, nous progressons lentement, avec la mauvaise conscience que nous inspire l'ancienneté du chemin que nous suivons, quand nous ne nous contentons pas de traîner comme des sauriens hagards au milieu de nos instruments.

Auteur: Anders Günther Stern

Info: Dans "L'obsolescence de l'homme", trad. de l'allemand par Christophe David, éditions Ivrea, Paris, 2002, page 30

[ frankenstein ] [ contrainte d'évolution ] [ inconscient ] [ dérèglement ]

savoir

Il est vrai que les innovations de la science peuvent servir au meilleur comme au pire, qu'elles sont sources de malheurs comme de bienfaits. Mais ce qui tue et ce qui asservit, ce n'est pas la science. Ce sont l'intérêt et l'idéologie. Malgré le Dr Frankenstein et le Dr Folamour, les massacres de l'histoire sont plus le fait de prêtres et d'hommes politiques que de scientifiques. Et le mal ne vient pas seulement de situations où l'on utilise intentionnellement la science à des fins de destruction. Il peut aussi être une conséquence lointaine et imprévisible d'actions mises en oeuvre pour le bien de l'humanité. Qui aurait pu prévoir la surpopulation comme suite aux développements de la médecine ? Ou la dissémination de germes résistants aux antibiotiques comme suite à l'usage même de ces médicaments ? Ou la pollution comme suite à l'emploi d'engrais permettant d'améliorer les récoltes ? Tous problèmes pour lesquels ont été ou seront trouvées des solutions.

Auteur: Jacob François

Info: Le jeu des possibles/Fayard 1981 <p.91-92>

[ bipolarité ] [ optimisme ]

deep machine learning

Inquiets, des chercheurs bloquent la sortie de leur IA
La science ne pense pas, écrivait le philosophe Heidegger. En 2019, si. La situation est cocasse. Des chercheurs de l'association de recherche OpenAI estimeraient leur générateur de texte, opéré par un modèle linguistique d'intelligence artificielle, comme bien trop évolué pour ne pas être dangereux. Entre des mains malveillantes, l'algo virtuose des mots pourrait semer fake news, complots et avis malveillants convaincants, sans élever le moindre soupçon.

Deux cent ans après Victor Frankenstein, des chercheurs d’OpenAI, une association californienne de recherche à but non lucratif en intelligence artificielle, se trouvent face au même dilemme qui agitait le savant dans le roman de Mary Shelley : auraient-ils créé un monstre ? Un journaliste du Guardian l’a testé. La bête, baptisée GPT2, un modèle d’intelligence artificielle (dit linguistique) capable de générer du faux texte avec précision, serait tellement performante que ses créateurs rechignent à la rendre publique. Sur la base d’une page, un paragraphe ou même quelques mots, le générateur est en mesure d’écrire une suite, fidèle au style du journaliste ou de l’auteur et en accord avec le sujet. Ce système, alimenté au machine learning, se base sur l'étude de 8 millions de pages web, partagées sur Reddit et dont le contenu a été validé par au moins trois votes positifs, étaye un article de BigData.

Le journaliste du Guardian a soumis la machine à la question, en intégrant, facétieux, l’incipit de 1984 de George Orwell. "C’était une journée d’avril froide et claire. Les horloges sonnaient treize heures", écrivait l’auteur. Dans l’esprit tout futuriste d’Orwell, GPT2 aurait complété d’un : "J’étais en route pour Seattle pour commencer un nouveau travail. J’ai mis les gaz, les clés, et j’ai laissé rouler. J’ai pensé à quoi ressemblerait la journée. Il y a 100 ans. En 2045, j’étais professeur dans une école dans quelque coin obscur de la Chine rurale". (I was in my car on my way to a new job in Seattle. I put the gas in, put the key in, and then I let it run. I just imagined what the day would be like. A hundred years from now. In 2045, I was a teacher in some school in a poor part of rural China).

Le Guardian poursuit l’expérience et entre dans GPT2 quelques paragraphes issus d’un article à propos du Brexit. La suite proposée par le générateur est étonnante. Le style est celui d’un journaliste, l’article intègre des citations (fausses) du chef de l’opposition britannique Jeremy Corbyn et du porte-parole du gouvernement et évoque même le problème des frontières irlandaises. Selon le directeur de recherche d’OpenAI, Dario Amodei, le modèle GPT2 pousse la supercherie plus loin. Il traduirait et résumerait n’importe quel texte, réussirait des tests basiques de compréhension de texte.

A The Verge, David Yuan, vice-président à la tête de l’ingénierie d’OpenAI, déclare qu’une dissertation composée par GPT2 "aurait pu tout aussi bien être écrite pour les SAT (examens utilisés pour l’admission aux universités américaines, ndlr) et recevoir une bonne note". Et c’est précisément cette maestria à réussir dans ses tâches d’ordre intellectuel qui pousse les chercheurs d’OpenAI à freiner sa sortie, de peur que la technologie tombe entre de mauvaises mains. "Nous choisissons de sortir une version limitée de GPT2 (...) Nous ne publierons ni la base de données, ni le code d'apprentissage, ni le modèle sur lequel GPT2 repose", explique un billet du blog de l'équipe de recherche.

Pour l’heure, l’ONG souhaiterait éprouver davantage le modèle. "Si vous n’êtes pas en mesure d’anticiper les capacités d’un modèle informatique, vous devez le tester pour voir ce qu’il a dans le ventre", explique OpenAI à The Guardian. Le résultat ? Comme GPT2 s’exerce dans la cour de recré des Internets, il ne serait pas très compliqué de pousser l’algorithme à générer des textes que les complotistes ne renieraient pas.

En 2015, Elon Musk s’associait à Sam Altman, président de l’incubateur prisé, Y Combinator pour fonder OpenAI, une organisation à but non lucratif pour encourager la recherche et la réflexion autour d’une IA bienveillante, qui reste au service du bien commun. Ses deux parrains la dotent d’une confortable enveloppe d’un milliard de dollars, soutenus par d’autres angels de la Silicon Valley, tels que Peter Thiel, serial entrepreneur et investisseur réputé pour ses idées controversées – l’homme est libertarien, soutient Trump et est un transhumaniste convaincu – ou Reid Hoffmann, le fondateur de LinkedIn.

A lire ce qui s’écrit ça et là à propos de GPT2, les chercheurs d’OpenAI tomberaient de leur chaise en réalisant le potentiel néfaste de l’algo. A croire que les chercheurs auraient oublié la mission première de l’ONG, à savoir, sensibiliser aux méfaits de l’intelligence artificielle et imaginer cette technologie au service du bien commun. Alors vraie peur des chercheurs, recherche candide ou plutôt, volonté d’interpeller le grand public et d'ouvrir le débat ?

Auteur: Meghraoua Lila

Info: https://usbeketrica.com

[ lecture ] [ écriture ]