consumérisme

C’est triste que les esprits les plus brillants de notre génération réfléchissent à la manière de faire cliquer les gens le plus possible sur des publicités.

Auteur: Internet

Info: @jeremywaite

[ réseaux sociaux ]

fatigue

<Qat> Là, il est l'heure d'aller me coucher : je viens d'essayer de cliquer sur une mouche qui se baladais sur mon écran, pour la faire partir...

Auteur: Internet

Info:

[ humour ] [ dialogue-web ]

cliché

J'ai une façon de photographier. Vous travaillez avec de l'espace, vous avez une caméra, vous avez un cadre, puis une fraction de seconde. C'est très instinctif. Ce que vous faites, c'est une fraction de seconde, c'est là et ce n'est pas là. Mais dans cette fraction de seconde vient votre passé, votre avenir, votre relation avec les gens, votre idéologie, votre haine, votre amour - tous ça se matérialise ensemble dans cette fraction de seconde.

Auteur: Salgado Sebastiao

Info:

[ déclencher ] [ création ] [ cliquer ]

séparation

<Zooey> Au faite ! Comment on fait pour retirer le "en couple" sur facebook ?
<Benjamin> Hum ... Dans un premier temps je te demanderais pourquoi tu le demandes à moi ?
<Zooey> Sérieusement .. Aide moi s'il te plaît
<Benjamin> Dans un second temps donc, je vais te dire d'aller sur le truc bleuâtre sous ta photo de profil et de cliquer sur la flèche à coté de en couple et tu mets célib'
<Zooey> Oh Merci ! Tu es génial !
<Benjamin> Troisièmement, je vais souligner l'absurdité de demander cela à ton copain.

Auteur: Internet

Info:

[ ambigu ] [ dialogue-web ]

repli sur soi

La part de la vie éveillée passée hors de chez soi diminue avec l’exposition aux écrans. A l’extrême, celui qui reste fixé derrière son écran ne voit virtuellement plus la nature et peut même ignorer complètement l’enlaidissement et la contamination croissante du monde. Tout cela peut lui paraître indifférent tant qu’il a la possibilité de cliquer pour obtenir ce qu’il veut. Son monde dématérialisé se porte bien quand la nature suffoque. Enfin, parmi leurs nombreux effets délétères, exposés par Michel Demurget, il est à noter que les écrans façonnent des esprits plus narcissiques, plus centrés sur eux-mêmes, moins capables d’empathie et moins doués de sensibilité pour ce qui les environne. Tous ces effets pervers, qui ne peuvent qu’augmenter au fur et à mesure que l’exposition au numérique croîtra, rendent tout bonnement impossible l’émergence d’une réelle conscience écologique.

Auteur: Travers Guillaume

Info: "Le mythe de la dématérialisation", revue Éléments, n°192

[ bulle ] [ univers parallèle ] [ déréalisation ] [ déshumanisation ]

réseaux sociaux

A l’origine, Facebook était un réseau social, resserré sur ce qu’on appelle "les liens forts", c’est-à-dire vos interactions avec les personnes dont vous êtes les plus proches. Le problème, c’est que quand l’usage est vraiment social, il est difficile de le rentabiliser. Amener une publicité pour un annonceur extérieur dans une conversation entre proches, c’est extrêmement violent et ça ne donne pas envie de cliquer.

C’est donc pour gagner de l’argent que Facebook a fait venir d’autres éléments dans le fil d’actualité : les informations, les images, les vidéos…, y compris les fausses informations. Cela change la posture de l’internaute : il n’est plus engagé, il lit. Et avec cette métamorphose, Facebook était devenu beaucoup moins une plate-forme de sociabilité qu’une interface de lecture. Le volet social s’est déporté sur WhatsApp, Snapchat, Instagram ou encore Messenger. Le changement d’algorithme annoncé en début d’année revient en partie sur cette évolution, en voulant redonner de l’importance aux amis proches.

Auteur: Cardon Dominique

Info: https://www.lemonde.fr, 21 octobre 2018

[ lire ] [ évolution ] [ bulles informationelles ]

geek

Ils en ont attrapé un autre aujourd'hui, c'est partout dans les journaux. "Un adolescent arrêté dans un scandale de crime informatique", "Hacker arrêté après une falsification bancaire" ...
Putains les gars. Ils sont tous pareils.
Mais n'avez-vous jamais, dans votre psychologie à trois balle de techno cerveau des années 50, jeté un oeil derrière les yeux du pirate ? Ne vous êtes vous jamais demandé ce qui l'a fait cliquer, quelles forces l'ont façonné, ce qui peut l'avoir moulé?
Je suis un hacker, entrez dans mon monde...
Le mien est un monde qui commence avec l'école... Je suis plus intelligent que la plupart des autres enfants, cette merde qu'ils nous enseignent m'ennuie ...
Putain de mauvais élève. Tous les mêmes.
Je suis au lycée ou au collège. J'ai écouté les enseignants expliquer pour la quinzième fois comment réduire une fraction. Je comprends très bien. "Non, madame Smith, je ne montre pas mon travail, je le fais dans ma tête..."
Putain. Il a probablement copié. Ils sont tous pareils.
J'ai fait une découverte aujourd'hui. J'ai trouvé un ordinateur. Attendez une seconde, c'est cool. Il fait ce que je veux. S'il fait une erreur, c'est parce que j'ai merdé. Pas parce qu'il ne m'aime pas... Ou se sent menacé par moi.. Ou pense que je suis un âne intelligent.. Ou que je n'aime pas l'enseignement et suis à la mauvaise place...
Putain de gamin. Tout ce qu'il fait c'est de jouer à des jeux. Tous pareils.
Et puis c'est arrivé... une porte s'est ouverte vers un monde... surgissant via la ligne téléphonique comme l'héroïne au travers des veines d'un toxicomane, pulsion électronique envoyée, quête du refuge des incompétences au jour le jour... Une planche de salut est trouvée. "C'est ça ... c'est à ça que j'appartiens..." Je connais tout le monde ici... même si je ne les ai jamais rencontrés, n'ai jamais parlé avec eux, peut-être jamais en entendu parler... Je vous connais tous ...
Putain de môme. Encore vissé à sa ligne téléphonique. Tous pareils ...
Tu parles qu'on est tous les mêmes... A l'école on nous a alimentés à la cuillère avec de la nourriture pour bébé alors qu'on avait de l'appétit pour du steak... les morceaux de viande que vous avez laissé passer à travers étaient pré-mâchés et sans saveur. Nous avons été dominés par les sadiques, ou ignorés par les apathiques. Les rares qui avaient quelque chose à enseigner nous trouvaient disposés, mais ces profs là sont comme des gouttes d'eau dans le désert.
C'est notre monde maintenant... monde de l'électron et du commutateur, de la beauté du baud. Nous faisons usage d'un service déjà existant sans payer pour ce qui pourrait être bon marché si ce n'était pas exploité par des gloutons profiteurs, et vous nous nommez criminels. Nous explorons... et vous nous nommez malfaiteurs. Nous cherchons le savoir... et vous nous appelez criminels. Nous existons sans couleur de peau, sans nationalité, sans dénomination religieuse... et vous nous appelez criminels. Vous construisez des bombes atomiques, vous faites des guerres, vous tuez, trichez, nous mentez et essayez de nous faire croire que c'est pour notre propre bien, bref nous sommes des criminels.
Oui, je suis un criminel. Mon crime est d'être plein de curiosité. Mon crime est de juger les gens par ce qu'ils disent et pensent, pas par ce à quoi ils ressemblent. Mon crime est d'être plus malin que vous, quelque chose que vous ne me pardonnerez jamais.
Je suis un pirate, et ceci est mon manifeste. Vous pouvez arrêter cette personne là, mais vous ne pouvez pas nous arrêter tous... après tout, nous sommes tous les mêmes.

Auteur: Loyd Blankenship

Info: Le Manifeste du Hacker, 8 janvier 1986. Sous le pseude de : Le Mentor

[ liberté ] [ refuge ] [ Internet ]

neuro psychologie

Pourquoi notre cerveau nous pousse à détruire la planète et comment l’en empêcher.
A l’instar de "Biologie du Pouvoir" et de "La Nouvelle Grille", "Le Bug Humain" a pour ambition de trouver dans le fonctionnement même de notre cerveau des mécanismes qui expliquent nos comportements et nos choix à l’échelle individuelle et sociale et en quoi ces mêmes mécanismes sont responsables de notre déni devant la catastrophe écologique qui arrive à grands pas.
Mais contrairement à ses deux prédécesseurs, Le Bug Humain ne s’avance pas jusqu’à proposer une solution politique claire. Une frilosité que l’on regrettera.

Le constat est édifiant : L’humanité vit largement au dessus de ses moyens et ne semble pas prendre la réelle mesure des conséquences d’une telle surconsommation. A qui la faute ? Au striatum. Cette partie de notre cerveau a pour rôle de récompenser en dopamine des comportements qui favorisent la survie et la diffusion du patrimoine génétique : Se nourrir, avoir des relations sexuelles, le goût du moindre effort, l’utilité ou rang social et l’information. Si ces fonctions du striatum ont permises à l’Homo Sapiens de survivre et de croitre dans un environnement hostile et de rareté, il n’est plus adapté à nos sociétés d’abondance sécurisées. Il devient même dangereux quand il est confronté à des technologies telles que les réseaux sociaux. Car lorsque l’on publie ses photos de vacance sur Facebook ou qu’on se fend d’une réplique cinglante sur Twitter, nous donnons de l’importance aux likes et autres retweets qui vont répondre à la fois à notre besoin de reconnaissance sociale et à notre attirance vers le moindre effort puisque nous n’avons plus besoin d’agir en société ou au travail mais à cliquer sur quelques icônes pour nous situer socialement :

"Si vous obtenez moins de likes que ce que vous attendiez après avoir modifié votre profil, votre striatum s’éteint et votre estime de soi chute; si vous obtenez plus de likes que vous ne le prévoyiez, ce même striatum produit de violentes décharges de dopamine qui vous apporte une bouffée de bien-être. Cela se traduit par une mise à jour de votre estime de soi au sien de vos archives personnelles, lesquelles sont tenues par une zone de votre cerveau localisée deux centimètres en retrait de votre front. Cette zone cérébrale appelée cortex préfrontal ventromédian va en tirer des conclusions sur ce que vous valez à vos propres yeux. Si vous venez d’obtenir une récompense, [il] fait monter d’un cran votre estime de soi. Si vous avez reçu une punition, il la revoit à la baisse. Tout part de ce principe interne de recherche d’approbation par le striatum, une partie de nous-même qui nous enjoint constamment de faire face au jugement d’autrui, en quête de reconnaissance."

Pour autant, Le Bug Humain ne nous livre pas un déterminisme simpliste qui ferait du striatum tel qu’il est décrit le seul facteur déterminant de tous nos comportements. En prenant l’exemple de la prédominance des comportements altruistes chez les femmes par rapport aux hommes, Bohler illustre le concept de "conditionnement opérant". Si les femmes voient leurs comportements altruistes mieux récompensés par leur striatum c’est parce qu’elles ont appris à être altruistes. On leur a signifié dès leur plus jeune âge que le partage était une bonne chose. Le conditionnement socioculturel peut donc, dans une certaine mesure, orienter le système de récompense de notre cerveau.

S’il manque de témérité politique, Le Bug Humain a tout de même le mérite de vulgariser efficacement certaines connaissances et de nous alerter sur des problèmes intrinsèquement liés aux réseaux sociaux, au pouvoir et sur notre capacité à prendre conscience des conséquences de notre activité sur Terre tout en évitant les travers des déterminismes simplistes, qu’ils soient uniquement génétiques ou uniquement socioculturels.

Auteur: Internet

Info: A propos de Le Bug Humain de Sébastien Bohler (2019), Posted https://refractairejournal.noblogs.org 27/02/2019 by REFRACTAIRE

[ humains virus terrestres ] [ récompense ] [ motivation ]

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

machine-homme

Les algorithmes traditionnels alimentent des outils de calcul compliqués comme l'apprentissage automatique (machine learning). Une nouvelle approche, appelée algorithmes avec prédictions, utilise la puissance de l'apprentissage automatique pour améliorer les algorithmes.

Les algorithmes - morceaux de code qui permettent aux programmes de trier, filtrer et combiner des données, entre autres choses - sont les outils standard de l'informatique moderne. Tels de minuscules engrenages dans une montre, les algorithmes exécutent des tâches bien définies au sein de programmes plus complexes.

Ils sont omniprésents, et c'est en partie pour cette raison qu'ils ont été minutieusement optimisés au fil du temps. Lorsqu'un programmeur doit trier une liste, par exemple, il se sert d'un algorithme de "tri" standard utilisé depuis des décennies.

Aujourd'hui, des chercheurs jettent un regard neuf sur les algorithmes traditionnels, en utilisant la branche de l'IA , donc du machine learning. Leur approche, appelée "algorithmes avec prédictions", tire parti des informations que les outils d'apprentissage automatique peuvent fournir sur les données traitées par les algorithmes traditionnels. Ces outils doivent, en quelque sorte, rajeunir la recherche sur les algorithmes de base.

L'apprentissage automatique et les algorithmes traditionnels sont "deux façons très différentes de calculer, et les algorithmes avec prédictions sont un moyen de les rapprocher", a déclaré Piotr Indyk, informaticien au Massachusetts Institute of Technology. "C'est un moyen de combiner ces deux fils conducteurs assez différents".

La récente explosion d'intérêt pour cette approche a commencé en 2018 avec un article de Tim Kraska, informaticien au MIT, et d'une équipe de chercheurs de Google. Dans cet article, les auteurs ont suggéré que l'apprentissage automatique pourrait améliorer un algorithme traditionnel bien étudié appelé filtre de Bloom, qui résout un problème simple mais aussi complexe et ardu.

Imaginez que vous dirigez le service informatique de votre entreprise et que vous devez vérifier si vos employés se rendent sur des sites web présentant un risque pour la sécurité. Naïvement, vous pourriez penser que vous devez vérifier chaque site qu'ils visitent en le comparant à une liste noire de sites connus. Si la liste est énorme (comme c'est probablement le cas pour les sites indésirables sur Internet), le problème devient lourd - on ne peut vérifier chaque site par rapport à une liste énorme dans le minuscule lapts de temps qui précède le chargement d'une page Internet.

Le filtre Bloom offre une solution, en permettant de vérifier rapidement et précisément si l'adresse d'un site particulier, ou URL, figure sur la liste noire. Pour ce faire, il comprime essentiellement l'énorme liste en une liste plus petite qui offre certaines garanties spécifiques.

Les filtres Bloom ne produisent jamais de faux négatifs : s'ils disent qu'un site est mauvais, il est mauvais. Cependant, ils peuvent produire des faux positifs, de sorte que vos employés ne pourront peut-être pas visiter des sites auxquels ils devraient avoir accès. Cela s'explique par le fait qu'ils s'agit d'une forme d'échange qui implique une certaine imprécision due à cette énorme quantité de données compressées -  astuce intitulée "compression avec perte". Plus les filtres Bloom compriment les données d'origine, moins ils sont précis, mais plus ils économisent de l'espace.

Pour un simple filtre Bloom, chaque site Web est également suspect jusqu'à confirmaton qu'il ne figure pas sur la liste. Mais tous les sites Web ne sont pas égaux : Certains ont plus de chances que d'autres de se retrouver sur une liste noire, simplement en raison de détails comme leur domaine ou les mots de leur URL. Les gens comprennent cela intuitivement, et c'est pourquoi vous lisez probablement les URL pour vous assurer qu'elles sont sûres avant de cliquer dessus.

L'équipe de Kraska a mis au point un algorithme qui peut également appliquer ce type de logique. Ils l'ont appelé "filtre de Bloom instruit" et il combine un petit filtre de Bloom avec un réseau neuronal récurrent (RNN), modèle de machine learning qui apprend à quoi ressemblent les URL malveillantes après avoir été exposées à des centaines de milliers de sites web sûrs et non sûrs.

Lorsque le filtre Bloom vérifie un site web, le RNN agit en premier et utilise son apprentissage pour déterminer si le site figure sur la liste noire. Si le RNN indique que le site figure sur la liste, le filtre Bloom appris le rejette. Mais si le RNN dit que le site n'est pas sur la liste, alors le petit filtre Bloom peut à son tour, faire une recherche précise, mais irréfléchie, dans ses sites compressés.

En plaçant le filtre Bloom à la fin du processus et en lui donnant le dernier mot, les chercheurs ont fait en sorte que les filtres Bloom instruits puissent toujours garantir l'absence de faux négatifs. Mais comme le RNN préfiltre les vrais positifs à l'aide de ce qu'il a appris, le petit filtre de Bloom agit davantage comme une sauvegarde, en limitant également ses faux positifs au minimum. Un site Web bénin qui aurait pu être bloqué par un filtre Bloom de plus grande taille peut désormais passer outre le "filtre Bloom iinstruit" plus précis. En fait, Kraska et son équipe ont trouvé un moyen de tirer parti de deux méthodes éprouvées, mais traditionnellement distinctes, d'aborder le même problème pour obtenir des résultats plus rapides et plus précis.

L'équipe de Kraska a démontré que la nouvelle approche fonctionnait, mais elle n'a pas formellement expliqué pourquoi. Cette tâche a été confiée à Michael Mitzenmacher, spécialiste des filtres de Bloom à l'université de Harvard, qui a trouvé l'article de Kraska "novateur et passionnant", mais aussi fondamentalement insatisfaisant. "Ils font des expériences en disant que leurs algorithmes fonctionnent mieux. Mais qu'est-ce que cela signifie exactement ?" a-t-il demandé. "Comment le savons-nous ?"

En 2019, Mitzenmacher a proposé une définition formelle d'un filtre de Bloom INSTRUIT et a analysé ses propriétés mathématiques, fournissant une théorie qui explique exactement comment il fonctionne. Et alors que Kraska et son équipe ont montré que cela pouvait fonctionner dans un cas, Mitzenmacher a prouvé que cela pouvait toujours fonctionner.

Mitzenmacher a également amélioré les filtres de Bloom appris. Il a montré que l'ajout d'un autre filtre de Bloom standard au processus, cette fois avant le RNN, peut pré-filtrer les cas négatifs et faciliter le travail du classificateur. Il a ensuite prouvé qu'il s'agissait d'une amélioration en utilisant la théorie qu'il a développée.

Les débuts des algorithmes avec prédiction ont suivi ce chemin cyclique : des idées novatrices, comme les filtres de Bloom appris, inspirent des résultats mathématiques rigoureux et une compréhension, qui à leur tour conduisent à d'autres idées nouvelles. Au cours des dernières années, les chercheurs ont montré comment intégrer les algorithmes avec prédictions dans les algorithmes d'ordonnancement, la conception de puces et la recherche de séquences d'ADN.

Outre les gains de performance, ce domaine fait également progresser une approche de l'informatique de plus en plus populaire : rendre les algorithmes plus efficaces en les concevant pour des utilisations typiques.

À l'heure actuelle, les informaticiens conçoivent souvent leurs algorithmes pour qu'ils réussissent dans le scénario le plus difficile, celui conçu par un adversaire qui tente de les faire échouer. Par exemple, imaginez que vous essayez de vérifier la sécurité d'un site web sur les virus informatiques. Le site est peut-être inoffensif, mais il contient le terme "virus informatique" dans l'URL et le titre de la page. La confusion est telle que même les algorithmes les plus sophistiqués ne savent plus où donner de la tête.

Indyk appelle cela une approche paranoïaque. "Dans la vie réelle, dit-il, les entrées ne sont généralement pas générées par des adversaires." La plupart des sites Web que les employés visitent, par exemple, ne sont pas aussi compliqués que notre hypothétique page de virus, et il est donc plus facile pour un algorithme de les classer. En ignorant les pires scénarios, les chercheurs peuvent concevoir des algorithmes adaptés aux situations qu'ils sont susceptibles de rencontrer. Par exemple, alors qu'à l'heure actuelle, les bases de données traitent toutes les données de la même manière, les algorithmes avec prédiction pourraient conduire à des bases de données qui structurent le stockage de leurs données en fonction de leur contenu et de leur utilisation.

Et ce n'est encore qu'un début, car les programmes qui utilisent l'apprentissage automatique pour améliorer leurs algorithmes ne le font généralement que de manière limitée. Comme le filtre de Bloom, la plupart de ces nouvelles structures n'intègrent qu'un seul élément d'apprentissage automatique. M. Kraska imagine un système entier construit à partir de plusieurs pièces distinctes, dont chacune repose sur des algorithmes avec des prédictions et dont les interactions sont régulées par des composants améliorés par les prédictions.

"Tirer parti de cela aura un impact sur de nombreux domaines".

Gageons qu'avec de tels systèmes, un site comme FLP se retrouve à peu près certain de ne jamais être accepté par un filtre de Bloom - ou un filtre de Bloom instruit. Qui sont - objectivement - des instruments de contrôle, et donc de fermeture.  (Note du traducteur).

Auteur: Internet

Info: Nick Thieme, https://www.quantamagazine.org, A I, Machine Learning Reimagines the Building Blocks of Computing, March 15, 2022. Trad Mg

[ censure numérique ] [ triage web ] [ citation s'appliquant à ce logiciel ]