savoir

Il est vrai que les innovations de la science peuvent servir au meilleur comme au pire, qu'elles sont sources de malheurs comme de bienfaits. Mais ce qui tue et ce qui asservit, ce n'est pas la science. Ce sont l'intérêt et l'idéologie. Malgré le Dr Frankenstein et le Dr Folamour, les massacres de l'histoire sont plus le fait de prêtres et d'hommes politiques que de scientifiques. Et le mal ne vient pas seulement de situations où l'on utilise intentionnellement la science à des fins de destruction. Il peut aussi être une conséquence lointaine et imprévisible d'actions mises en oeuvre pour le bien de l'humanité. Qui aurait pu prévoir la surpopulation comme suite aux développements de la médecine ? Ou la dissémination de germes résistants aux antibiotiques comme suite à l'usage même de ces médicaments ? Ou la pollution comme suite à l'emploi d'engrais permettant d'améliorer les récoltes ? Tous problèmes pour lesquels ont été ou seront trouvées des solutions.

Auteur: Jacob François

Info: Le jeu des possibles/Fayard 1981 <p.91-92>

[ bipolarité ] [ optimisme ]

nord-sud

Chers djihadistes,

Chevauchant vos éléphants de fer et de feu, vous êtes entrés avec fureur dans notre magasin de porcelaine. Mais c’est un magasin de porcelaine dont les propriétaires, de longue date, ont entrepris de réduire en miettes tout ce qui s’y trouvait entassé. Ils ne peuvent même survivre que par là. Vous les avez perturbés.

Vous êtes les premiers démolisseurs à s’attaquer à des destructeurs; les premiers Barbares à s’en prendre à des Vandales; les premiers incendiaires en concurrence avec des pyromanes. Cette situation est originale. Mais, à la différence des nôtres, vos démolitions s’effectuent en toute illégalité et s’attirent le blâme quasi unanime. Tandis que c’est dans l’enthousiasme général que nous mettrons au point nos tortueuses innovations, et que nous nous débarrassons des derniers fondements de notre ancienne civilisation.

C’est pourquoi cher djihadistes, nous triompherons de vous.

Nous vaincrons parce que nous sommes les plus morts.

Auteur: Muray Philippe

Info: Chers Djihadistes... 4e de couverture (Mille et une Nuits) Suite aux attentats du 11 sept 2001

[ post 9/11 ] [ humour ]

quatrième révolution industrielle

À côté de la révolution de l’intelligence artificielle, il y en a une deuxième qui pour moi est totalement fondamentale qui est celle du quantique, qui va là aussi, par la puissance de calcul et la capacité d’innovation, profondément changer notre industrie […] nous allons rentrer dans une ère d’accélération de l’innovation, de rupture très profonde d’innovation et donc de capacités à commoditiser certaines industries et créer de la valeur très vite. Par rapport à ce que j’ai dit, qu’est-ce que cela a comme impact ? Un, on va continuer à innover et à accélérer. C’est sûr. Deux, il y aura des impacts en termes d’ajustements sociaux et il faut les penser dès maintenant […] le sujet des inégalités sociales va être encore plus prégnant [...]. Trois, tout cela a des impacts en termes démocratiques qui sont massifs. Et donc, si vous voulez, pour moi, ces innovations vont être des accélérateurs de nos problèmes sur le plan social et démocratique.

Auteur: Macron Emmanuel

Info: Au Forum économique de Davos, le 26 janvier 2021

[ libéralisme ] [ conséquences ] [ prospective politique ]

évolutionnisme

Si une copie efficace est adaptative, ce qui fait que la sélection naturelle devrait favoriser une dépendance de plus en plus grande à l'apprentissage social par rapport à l'apprentissage asocial, alors le tournoi établit également qu'un certain nombre de caractéristiques fortement évocatrices de la culture humaine suivront automatiquement. L'augmentation du nombre de copies entraîne inévitablement : une plus grande diversité comportementale, la conservation des connaissances culturelles pendant de longues périodes, le conformisme et le renouvellement rapide des comportements tels qu' engouements, modes et changements technologiques. Sous condition que les erreurs de copie ou certaines innovations introduisent de nouvelles variantes comportementales, la copie peut simultanément accroître la base de connaissances d'une population et réduire l'éventail des comportements exploités à un noyau de variantes très performantes. Un raisonnement similaire explique l'observation selon laquelle la copie peut conduire à la conservation des connaissances sur de longues périodes tout en étant apte à déclencher un changement rapide de comportement. L'adoption d'un comportement sous-optimal à un faible niveau suffit à conserver de grandes quantités de connaissances culturelles dans les populations qui apprennent par la voie sociale, et ce sur de longues périodes. Un niveau élevé de copie augmente la rétention des connaissances culturelles de plusieurs ordres de grandeur.

Auteur: Laland Kevin Neville

Info: La symphonie inachevée de Darwin : comment la culture a donné naissance à l'esprit humain

[ ouverture ] [ objectivité-subjectivité ] [ mimétisme ]

consommation technique

Les fab labs ne sont en rien un dépassement de la société industrielle. Bien au contraire, ils forment la pointe la plus avancée d’un nouveau modèle industriel en germe depuis plusieurs décennies qui peut s’épanouir aujourd’hui grâce aux dernières innovations technologiques et à la diffusion de l’esprit du Web. Les valeurs qui les animent : créativité, goût du risque, innovation, disparition des frontières entre temps de travail et loisirs, entre sphère publique et privée, etc., sont celles du "Tous entrepreneurs" cher au modèle libéral, et finalement partagées par tous ces promoteurs, qu’ils s’inscrivent dans une tradition politique marquée à droite ou à gauche, voire même très à gauche.

Ces innovations ne nous permettent pas de dépasser le capitalisme et ces dégâts écologiques et sociaux, elles nous font entrer dans une nouvelle ère, celle d’un capitalisme numérique. Face à ces discours puissants, notamment parce qu’ils sont […] ambivalents et font appel à un spectre de valeurs très large, héritées de différentes traditions politiques considérées jusqu’ici comme antagonistes, il est très difficile de ne pas succomber aux sirènes des nouvelles technologies. Mais contre vents et marées, il faut continuer à expliquer comment l’informatique est la mise en ordre du monde selon une logique de rationalisation, de mise en gestion de toutes les activités humaines, de déqualifications des métiers, de rupture d’avec l’expérience sensible, de dépendance accrue à la machine, de remodelage de l’humain, de disparition de l’intériorité et de destruction du lien social.

Auteur: Biagini Cédric

Info:

[ autoreproduction du système ] [ conformisation ] [ critique ]

État-nation

Par économie-monde j'entends l'économie d'une portion seulement de notre planète, dans la mesure où elle forme un tout économique.
(...)
Il y a eu des économies-monde depuis toujours, du moins depuis très longtemps. De même qu'il y a eu des sociétés, des civilisations, des Etats, et même des empires.
(...)
Une économie nationale, c'est un espace politique transformé par l'Etat, en raison des nécessités et des innovations de la vie matérielle, en un espace économique cohérent, unifié, dont les activités peuvent se porter ensemble dans une même direction.
(...)
Une économie-monde peut se définir comme une triple réalité : elle occupe un espace géographique donné ; [...] une économie-monde accepte toujours un pôle, un centre [...] ; toute économie-monde se partage en zones successives. Le coeur, c'est à dire la région qui s'étend autour du centre [...] Puis viennent des zones intermédiaires autour du pivot central. Enfin, très larges, des marges, qui, dans la division du travail qui caractérise l'économie-monde, se trouvent subordonnées et dépendantes, plus que participantes.
(...)
La splendeur, la richesse, le bonheur de vivre se rassemblent au centre de l'économie-monde, en son coeur. C'est là que le soleil de l'histoire fait briller les plus vives couleurs, là que se manifestent les hauts prix, les hauts salaires, la banque, les marchandises "royales", les industries profitables, les agricultures capitalistes ; là que se situent le point de départ et le point d'arrivée des longs trafics, l'afflux des métaux précieux, des monnaies fortes et des titres de crédit.

Auteur: Braudel Fernand

Info: La dynamique du capitalisme, 1985

[ centralisation ] [ pouvoir ]

théologien protestant

[...] rien ne permet d’affirmer que Luther fut un moderniste avant la lettre, car il ne fut nullement mondain et ne cherchait à plaire à personne, ses innovations furent certes des plus audacieuses, [...] mais elles furent chrétiennes et rien d’autre ; elles ne devaient rien à aucune philosophie ni à aucun scientisme. Il refusait Rome, non parce qu’elle était trop spirituelle, mais au contraire parce qu’elle lui paraissait trop mondaine ; trop "selon la chair" et non "selon l’esprit", selon son optique particulière.

Le mystique de Wittenberg fut un Germain sémitisé par le Christianisme ; et il fut représentatif sous les deux rapports : foncièrement germain, il aimait ce qui est sincère et intérieur, non habile ni formalise ; sémite d’esprit, il n’admettait que la Révélation et la foi et ne voulait entendre parler ni d’Aristote ni des scolastiques. D’une part, il y avait dans sa nature quelque chose de robuste et de puissant (gewaltig), avec un complément de poésie et de douceur (Innigkeit) ; d’autre part, il fut un volontariste et un individualiste qui n’attendait rien ni de l’intellectualité ni de la métaphysique. [...]

Le message de Luther s’exprime substantiellement dans deux legs, qui témoignent de la personnalité de l’auteur et auxquels il est impossible de dénier la grandeur et l’efficacité : la Bible allemande et les cantiques. Sa traduction de l’Écriture, bien que conditionnée en quelques endroits par sa perspective doctrinale, est un joyau à la fois de langage et de piété ; pour ce qui est des cantiques, [...] [ils] sont devenus un élément fondamental du culte, et ils ont été pour l’Évangélisme un facteur puissant d’expansion.

Auteur: Schuon Frithjof

Info: Dans "Christianisme/Islam", éditions Archè Milano, 1981, pages 46-47

[ portrait psychologique ] [ réforme ]

évolution numérique

À ses débuts, Twitter fut largement raillé en tant que distraction frivole qui servait surtout à raconter à ses amis ce que l'on avait mangé au petit-déjeuner. Aujourd'hui, on l'utilise pour organiser et partager des informations sur les manifestations politiques en Iran, pour fournir un service d'assistance à la clientèle aux grandes entreprises, pour partager des informations intéressantes et pour un millier d'autres applications qui n'avaient pas effleuré l'esprit des fondateurs lorsqu'ils ont imaginé le service en 2006. Il ne s'agit pas seulement d'un cas d'exaptation culturelle : des personnes trouvent un nouvel usage à un outil conçu pour faire autre chose. Dans le cas de Twitter, ce sont les utilisateurs qui ont redessiné l'outil lui-même. La convention consistant à répondre à un autre utilisateur avec le symbole @ fut inventée spontanément par la base d'utilisateurs de Twitter. Les premiers utilisateurs de Twitter ont repris une convention de la plate-forme de messagerie IRC et commencèrent à regrouper un sujet ou un événement via le "hash-tag", comme dans "#30Rock" ou "inauguration". La possibilité de rechercher un flux de tweets en direct - qui devrait s'avérer cruciale pour le modèle économique final de Twitter, grâce à son potentiel publicitaire - fut développée par une toute autre start-up. Grâce à ces innovations, suivre un flux de tweets en direct sur un événement - débats politiques ou épisodes de Lost - devint un élément central de l'expérience Twitter. Mais pendant la première année d'existence de Twitter, ce mode d'interaction aurait été techniquement impossible avec Twitter. C'est comme inventer un four grille-pain et découvrir un an plus tard que tous vos clients ont, de leur propre chef, trouvé un moyen de le transformer en micro-ondes.

Auteur: Johnson Steven Berlin

Info: Where Good Ideas Come from : The Natural History of Innovation

[ créatives égrégores ]

homme-machine

Ici dans les laboratoires de Zurich, nous travaillons sur l’après. Dans les dix prochaines années, il y aura des innovations liées aux techniques d’intelligence artificielle qu’on mettra à disposition, telle que l’intelligence artificielle généralisée (AGI). Une intelligence artificielle plus intelligente. Un des concepts sur lesquels mes équipes travaillent ici est la partie symbolique, que l’on appelle l’intelligence symbolique*. L’idée est de ne pas seulement dépendre d’un réseau de neurones qui demande une quantité colossale de données à répétition pour pouvoir apprendre.

Je vous donne l’exemple d’un système de conduite pour automobile, pour que ce soit plus compréhensible. Au lieu d’entraîner le système avec une grosse quantité de vidéos de voitures qui s’arrêtent à une intersection quand une autre voiture arrive de la droite, nous pourrions lui faire ingérer le code de conduite directement, et intégrer cette notion dans celle-ci. On en arrivera au même point, mais avec l’apprentissage neuronal classique, il faut une quantité phénoménale de vidéos différentes qu’il faudra répéter plusieurs fois pour que le réseau ait compris et ajusté ses poids pour obtenir la bonne réponse.

Le travail est donc d’aller faire ingérer le modèle de ces 50 pages comprenant toutes les règles et leur description, puis d’utiliser cette intelligence symbolique en combinaison avec l’intelligence basée sur les données, le Deep Neural Network. Ce sera beaucoup plus efficace ainsi. Notamment dans les situations uniques où le modèle n’aurait pas été entraîné. Avec un système de conduite, cela pourrait être utile si une voiture rencontre un panneau stop tombé sur le bas-côté de la route. On pourra aller plus loin dans ce que l’on appelle la out of distribution generalization* : la généralisation de ce qu’on a appris en dehors des données fournies pendant l’apprentissage.

 

Auteur: Haas Robert

Info: https://www.01net.com/, 24 déc 2023, *à différencier du développement de la fonction symbolique chez l'enfant, c'est-à-dire la capacité d'avoir des représentations mentales. ****généralisation hors distribution (OOD), ou problème de généralisation de domaine, qui suppose l'accès uniquement à des données tirées d'un ensemble "Eavail" "domaines disponibles pendant la formation".  Il faut donc aller vers la généralisation d'un ensemble de domaines plus large "Eall" comprenant des domaines non vus.

[ combinaison ouverture ]

intelligence artificielle

Résumé et explication du texte "Attention is All You Need"

Le texte "Attention is All You Need" (Vaswani et al., 2017) a révolutionné le domaine du traitement du langage naturel (TLN) en introduisant l'architecture Transformer, un modèle neuronal basé entièrement sur le mécanisme d'attention. Ce résumé explique les concepts clés du texte et son impact sur le TLN.

Concepts clés:

• 
  

  Attention: Le mécanisme central du Transformer. Il permet au modèle de se concentrer sur des parties spécifiques d'une séquence d'entrée (par ex., une phrase) lors du traitement, capturant ainsi les relations à longue distance entre les mots.

  
  


• 
  

  Encodeur-décodeur: L'architecture du Transformer. L'encodeur traite la séquence d'entrée et produit une représentation contextuelle. Le décodeur utilise ensuite cette représentation pour générer la séquence de sortie.

  
  


• 
  

  Positional encoding: Ajoute des informations de position aux séquences d'entrée et de sortie, permettant au modèle de comprendre l'ordre des mots.

  
  


• 
  

  Apprentissage par self-attention: Le Transformer utilise uniquement des mécanismes d'attention, éliminant le besoin de réseaux récurrents (RNN) comme les LSTM.

  
  

Impact:

• 
  

  Efficacité: Le Transformer a surpassé les modèles RNN en termes de performance et de parallélisation, permettant un entraînement plus rapide et une meilleure scalabilité.

  
  


• 
  

  Polyvalence: L'architecture Transformer s'est avérée efficace pour une large gamme de tâches en TLN, telles que la traduction automatique, le résumé de texte et la réponse aux questions.

  
  


• 
  

  Impact durable: Le Transformer est devenu l'architecture de base pour de nombreux modèles de pointe en TLN et continue d'inspirer des innovations dans le domaine.

  
  

En résumé:

"Attention is All You Need" a marqué un tournant dans le TLN en introduisant l'architecture Transformer. Le mécanisme d'attention et l'absence de RNN ont permis d'améliorer considérablement l'efficacité et la polyvalence des modèles de TLN, ouvrant la voie à de nombreuses avancées dans le domaine.

Points importants:

• 
  

  Le Transformer repose sur le mécanisme d'attention pour capturer les relations à longue distance dans les séquences.

  
  


• 
  

  L'architecture encodeur-décodeur avec self-attention offre une grande efficacité et une grande flexibilité.

  
  


• 
  

  Le Transformer a eu un impact profond sur le domaine du TLN et continue d'inspirer de nouvelles recherches.

  
  

Auteur: Internet

Info: Compendium de gemini

[ historique ] [ traitement automatique du langage ] [ écrit célèbre ]