futur

Il y a bien plus de travaux universitaires sur les habitudes de vie de la mouche de fumier que sur les risques existentiels quant à l'avenir de l'humanité.

Auteur: Bostrom Nick

Info:

[ insouciance ]

parents-enfants

Peut-être l'amélioration germinale conduira à plus d'amour et d'attachement parentaux. Peut-être certains pères et mères trouveront plus facile d'aimer un enfant qui, grâce aux améliorations [génétiques], sera brillant, beau et en bonne santé.

Auteur: Bostrom Nick

Info: "A transhumanist perspective on human genetic enhancements"

[ évaluation marchande ] [ adéquation désir-réalité ] [ eugénisme ] [ produit satisfaisant ]

humanité

Loin d'être une des espèces biologiques les plus intelligentes, nous ferions probablement mieux de nous considérer comme une des plus stupide espèces capables de démarrer une civilisation technologique - niche que nous occupons parce que nous y sommes arrivés les premiers, pas parce que nous sommes en quelque manière mieux adaptés.

Auteur: Bostrom Nick

Info: Superintelligence: Paths, Dangers, Strategies

[ civilisation ] [ humilité ]

singes savants

On peut supposer que la lenteur, le caractère hésitant et vacillant quant aux progrès de l'humanité sur nombre de "problèmes éternels" de la philosophie sont dus à l'inadaptation du cortex humain au travail philosophique. De ce point de vue, nos plus célèbres penseurs sont comme des chiens marchant sur leurs pattes arrière - atteignant tout juste le niveau de performance requis pour s'engager dans ce genre d'activité.

Auteur: Bostrom Nick

Info: Superintelligence: Paths, Dangers, Strategies

[ humaine autocritique ]

prospective

Au cours du siècle prochain, nous allons inventer des technologies radicalement nouvelles - l'intelligence des machines, peut-être les nanotechnologies, de grandes avancées en biologie synthétique et d'autres choses auxquelles nous n'avons même pas encore pensé. Et ces nouveaux pouvoirs ouvriront de merveilleuses opportunités, mais ils pourraient aussi entraîner certains risques. Or, nous n'avons pas toujours su gérer ces risques. Donc s'il y a de grands risques existentiels, je pense qu'ils viendront de nos propres activités et surtout de notre propre inventivité et créativité.

Auteur: Bostrom Nick

Info: Sur www.pbs.org

[ discernement communautaire ] [ humanité ] [ sagesse ] [ anticipation ]

homme-machine

Définissons une machine ultra-intelligente comme un engin qui peut dépasser de loin toutes les activités intellectuelles de l'homme le plus intelligent. Comme la conception des machines est l'une de ses activités intellectuelles, une machine ultra-intelligente pourra concevoir des machines encore meilleures. Ce qui serait incontestablement une "explosion de l'intelligence", où l'homme et son intelligence seraient laissés loin derrière. Donc la première machine ultra-intelligente est la dernière invention que l'homme doit réaliser, à moins que la machine soit assez docile pour nous dire comment la garder elle-même sous contrôle.

Auteur: Bostrom Nick

Info: Superintelligence: Paths, Dangers, Strategies. Citation totalement piquée à John Irving Good

[ intelligence artificielle ] [ prospective ] [ singularité technologique ]

prospective

Lorsque nous saurons comment rendre les machines vraiment intelligentes, c'est que nous aurons trouvé moyens de les aligner sur les objectifs et les intentions de l'homme afin de leur faire faire ce que nous voulons. Pour l'instant, on peut définir une fonction objective. Dans de nombreux cas, c'est assez facile. Si vous voulez entraîner un agent à jouer aux échecs, vous pouvez définir ce qu'est une bonne performance. Vous obtenez un 1 si vous gagnez une partie et un 0 si vous perdez une partie, et 1/2 point peut-être si vous faites un match nul. C'est donc un objectif que nous pouvons définir. Mais dans le monde réel, tout bien considéré, les humains se soucient de choses comme le bonheur, la justice, la beauté et le plaisir. Aucune de ces choses n'est très facile à définir en C++ ou en Python. Il faudrait donc trouver un moyen de faire en sorte que des agents potentiellement ultra-intelligents servent réellement d'extension de la volonté humaine, de manière à ce qu'ils réalisent quelles sont nos intentions pour être ensuite capables de les exécuter fidèlement. Il y a là un grand défi de recherche au plan technique et beaucoup de chercheurs s'y attellent actuellement. Et en supposant que nous puissions résoudre ce problème technique, nous pourrons alors nous offrir le luxe de nous confronter à des questions politiques plus larges. Par exemple, qui doit décider de l'utilisation de l'IA, à quelles fins sociales doit-elle être utilisée, à quoi doit ressembler le monde futur de la superintelligence ?

Auteur: Bostrom Nick

Info:

[ intelligence artificielle ] [ questions ] [ pouvoir ]