technologie
La troisième question concerne la capacité ou non d’un modèle à s’étendre de manière exponentielle. Comme le dirait un statisticien : peut-il changer d’échelle ? Ce n’est pas une chicane de mathématicien : si les ADM* (à l’origine de simples nuisances localisées) peuvent devenir de véritables tsunamis, capables de définir notre existence et d’en fixer les limites, c’est bien à cause de leur échelle. Comme nous l’observerons par la suite, les ADM qui se développent aujourd’hui dans les secteurs des ressources humaines, de la santé et de la banque, pour ne citer que ceux-là, "sont rapidement en train d’établir des normes généralisées qui exercent une autorité proche de celle de la loi." Si l’algorithme d’une banque vous attribue par exemple le profil d’un emprunteur à haut risque, le monde entier vous traitera comme un mauvais payeur – même si cela découle d’un horrible malentendu. Et quand ce modèle change d’échelle, à l’instar de celui des scores de crédit, toute votre vie s’en trouve alors affectée – qu’il s’agisse d’obtenir un appartement, un emploi, ou une voiture pour aller de l’un à l’autre.
Auteur:
O'Neil Cathy
Années: 1972 -
Epoque – Courant religieux: Récent et libéralisme économique
Sexe: F
Profession et précisions: mathématicienne, data scientist et militante
Continent – Pays: Amérique du nord - Usa
Info:
Algorithmes : la bombe à retardement. *systèmes de décision automatisée - algorithmic decision-making
[
outil de pouvoir
]
[
conservation
]