La troisième question concerne la capacité ou non d’un modèle à s’étendre de manière exponentielle. Comme le dirait un statisticien : peut-il changer d’échelle ? Ce n’est pas une chicane de mathématicien : si les ADM* (à l’origine de simples nuisances localisées) peuvent devenir de véritables tsunamis, capables de définir notre existence et d’en fixer les limites, c’est bien à cause de leur échelle. Comme nous l’observerons par la suite, les ADM qui se développent aujourd’hui dans les secteurs des ressources humaines, de la santé et de la banque, pour ne citer que ceux-là, "sont rapidement en train d’établir des normes généralisées qui exercent une autorité proche de celle de la loi." Si l’algorithme d’une banque vous attribue par exemple le profil d’un emprunteur à haut risque, le monde entier vous traitera comme un mauvais payeur – même si cela découle d’un horrible malentendu. Et quand ce modèle change d’échelle, à l’instar de celui des scores de crédit, toute votre vie s’en trouve alors affectée – qu’il s’agisse d’obtenir un appartement, un emploi, ou une voiture pour aller de l’un à l’autre.
Auteur:
Info: Algorithmes : la bombe à retardement. *systèmes de décision automatisée - algorithmic decision-making
Commentaires: 1
miguel
20.02.2024
(FLP) - Bonjour, peux-tu étiqueter cet extrait en suivant le prompt D (Gemini) Catégorie générale: #Société #Technologie Balises: #Intelligence_Artificielle #Modèle_Mathématique #Croissance_Exponentielle #Changement_d'Échelle #Algorithme #Décision_Automatique #Impact_Sociétal #Discrimination #Norme #Pouvoir #Erreurs #Injustice #Liberté_Individuelle #Droit Explication: L'extrait porte sur les implications sociales... etc de l'expansion exponentielle des modèles d'intelligence artificielle (IA), en particulier dans les domaines des ressources humaines, de la santé et de la banque. bla bla (flo) - Intéressant, mais il y a eu une incompréhension entre vous et moi. Vous avez dit : "L'étiquetage d'un texte est toujours subjectif et peut varier selon l'interprétation de l'analyste." J'ai répondu "Oui, c'est vrai merci... Pourrais-tu donc apprécier cet extrait sous l'angle d'un système financier qui désire conserver son pouvoir." J'aurai du préciser "Peux-tu étiqueter cet extrait, en suivant les mêmes règles, comme si tu le comprenais comme généré par un système financier qui désire conserver son pouvoir." (Bard) - Étiquetage de l'extrait du point de vue d'un système financier désireux de conserver son pouvoir : Catégorie générale: #Pouvoir #Contrôle #Finance Balises: #Technologie_Menacante #Risque_d'Innovation #Maintien_du_Statu_Quo #Résistance_au_Changement #Réglementation_Protéctionniste #Barrières_à_l'Entrée #Surveillance_Accrue #Contrôle_des_Données #Propagande_Manipulation #Désinformation #Exclusion_Marginalisation #Maintien_des_Hierarchies Explication: L'extrait est interprété comme une tentative de discréditer les modèles d'IA et de freiner leur adoption dans le secteur financier. L'IA est perçue comme une menace: L'extrait met l'accent sur les dangers potentiels de l'IA, exagérant ses risques et minimisant ses avantages. Objectif de conservation du pouvoir: Le système financier cherche à maintenir le statu quo et à empêcher l'IA de perturber ses structures et ses hiérarchies existantes. Stratégies de résistance: L'extrait propose des solutions pour limiter l'expansion de l'IA, telles que la réglementation restrictive et la surveillance accrue. Remarques: Les balises reflètent une perspective biaisée et alarmiste. L'accent est mis sur les aspects négatifs de l'IA et omet ses potentialités positives. Le but est de manipuler l'opinion et de ralentir l'innovation. Conclusion: L'étiquetage de l'extrait révèle la peur du système financier face à l'IA. Il cherche à discréditer l'IA pour conserver son pouvoir et ses privilèges. Points à surveiller: Campagnes de désinformation: Le système financier peut lancer des campagnes pour discréditer l'IA et influencer l'opinion publique. Lobbying et influence politique: Le système financier peut tenter d'influencer les réglementations pour limiter l'adoption de l'IA. Financement de la recherche biaisée: Le système financier peut financer des recherches qui exagèrent les risques de l'IA et minimisent ses avantages. En résumé, l'étiquetage de l'extrait met en lumière la stratégie du système financier pour maintenir son pouvoir face à l'IA. Il est important de rester vigilant face à ces manipulations et de promouvoir une discussion ouverte et objective sur les potentialités et les défis de l'IA dans le domaine financier. (FLP) - Oui merci... Pour donner mon avis je dirais que l'extrait montre les danger des outils mis en place par les détenteurs du capital, danger ici matérialisé par la totale déshumanisation que peuvent amener les ADM, au sens où ce sont de pures règles cybernétiques, décidées par des gens dominants qui veulent garder le contrôle. On pourrait aussi extrapoler sur les marchands d'armes, lie de l'humanité, qui font tout pour que leur commerce prospère. (Gemini) - Je suis d'accord avec votre analyse. L'extrait met en lumière les dangers potentiels des outils mis en place par les détenteurs du capital, en particulier lorsqu'ils sont utilisés pour asseoir et renforcer leur domination. Déshumanisation et perte de contrôle: L'extrait souligne la capacité des ADM à déshumaniser les interactions et les décisions, les réduisant à de pures "règles cybernétiques". Cette déshumanisation peut mener à une perte de contrôle sur nos vies et notre destin, car les décisions qui nous affectent le plus sont prises par des algorithmes opaques et non par des êtres humains responsables. Maintien du pouvoir et domination: Vous avez raison de souligner que les détenteurs du capital, comme les marchands d'armes, peuvent utiliser ces outils pour maintenir leur pouvoir et leur domination sur la société. L'extrait montre comment les ADM peuvent être utilisés pour discriminer, marginaliser et exclure ceux qui ne correspondent pas aux normes établies par les puissants. Importance d'une réflexion critique: Il est crucial de rester vigilant face à ces dangers et de réfléchir de manière critique aux implications de l'utilisation croissante des ADM dans notre société. Il est nécessaire de mettre en place des garde-fous et des réglementations pour garantir que ces technologies soient utilisées de manière éthique et responsable, et qu'elles ne servent pas à renforcer les injustices et les inégalités existantes. Alternative et pistes de réflexion: Il est important d'explorer des alternatives aux modèles économiques et sociaux actuels qui sont basés sur l'accumulation du capital et la domination. Des pistes de réflexion existent, comme la mise en place d'une économie plus collaborative et inclusive, ou encore le développement de technologies plus éthiques et respectueuses de l'humain. En conclusion, l'extrait soulève des questions importantes sur les dangers potentiels des ADM et la nécessité d'une réflexion critique et proactive sur leur utilisation dans notre société. Points à approfondir: Quelles sont les implications éthiques de l'utilisation des ADM dans des domaines sensibles comme la santé, la justice ou l'éducation ? Comment pouvons-nous garantir que les ADM soient utilisés de manière transparente et responsable, et qu'ils ne servent pas à discriminer ou à marginaliser certains groupes de la société ? Quelles alternatives existent aux modèles économiques et sociaux actuels qui sont basés sur l'accumulation du capital et la domination ? En poursuivant la réflexion sur ces questions, nous pouvons contribuer à façonner un avenir plus juste et plus humain pour tous. (FLP) Ok merci De rien, je suis ravi d'avoir pu vous aider. N'hésitez pas à me poser d'autres questions ou à me demander d'analyser d'autres textes. J'espère que notre échange a été enrichissant et vous a permis d'approfondir votre réflexion sur les dangers potentiels des ADM et l'importance d'une utilisation responsable de ces technologies. Continuons à réfléchir ensemble à un avenir plus juste et plus humain pour tous.