penseur

(Q)- Peux-tu résumer ses principales positions philosophiques de la manière la plus claire et la plus simple possible ?

(R) - Certainement ! Voici un résumé simplifié des principales positions philosophiques de Stefan Lorenz Sorgner :

Il adhère à l'idée de dépasser les limites humaines grâce à la technologie et à l'amélioration de l'être humain.

- Il propose un concept de dignité plus inclusif et dynamique qui prend en compte le potentiel de transformation et la diversité des êtres.

- Technologies émergentes : Sorgner explore les implications de technologies telles que le génie génétique et l'intelligence artificielle sur l'existence humaine et envisage un avenir où les humains pourront améliorer leurs capacités cognitives, physiques et émotionnelles.

- Considérations éthiques : Il examine les aspects éthiques de l'amélioration humaine, notamment les questions de répartition des ressources, d'accès aux technologies, de risques potentiels et de conséquences involontaires.

- Potentiel humain : Sorgner considère l'intégration de la technologie comme une opportunité pour l'homme de rechercher des formes d'existence plus élevées et d'atteindre de nouveaux niveaux d'accomplissement.

En substance, la philosophie de Sorgner préconise d'adopter les avancées technologiques pour étendre les capacités humaines, de redéfinir le concept de dignité et de s'engager de manière critique dans les implications éthiques de l'amélioration de l'être humain.

 

Auteur: chatGPT4

Info:

[ posthumanisme ] [ métahumanisme ] [ machine-homme ]

intelligence artificielle

Nous présentons GAIA, un benchmark pour les assistants généraux d'IA qui, s'il était résolu, représenterait une étape importante dans la recherche sur l'IA. GAIA propose des questions du monde réel qui requièrent un ensemble d'aptitudes fondamentales telles que le raisonnement, la gestion de la multi-modalité, la navigation sur Internet et, de manière générale, la maîtrise de l'utilisation d'outils.

Les questions de GAIA sont conceptuellement simples pour les humains mais difficiles pour les IA les plus avancées : nous montrons que les répondants humains obtiennent 92 % contre 15 % pour GPT-4 équipé de plugins. Cette disparité de performance notable contraste avec la tendance récente des LLM (grands modèles de langage) à surpasser les humains sur des tâches nécessitant des compétences professionnelles, par exemple en droit ou en chimie.

La philosophie de GAIA s'écarte de la tendance actuelle des tests d'IA qui suggèrent de cibler des tâches de plus en plus difficiles pour les humains. Nous postulons que l'avènement de l'intelligence artificielle générale (AGI) dépend de la capacité d'un système à faire preuve d'une robustesse similaire à celle de l'homme moyen sur de telles questions.

En utilisant la méthodologie de GAIA, nous avons conçu 466 questions et leurs réponses. Nous publions nos questions tout en conservant les réponses à 300 d'entre elles afin d'alimenter un tableau de classement disponible à cette URL.

Auteur: Internet

Info: GAIA : une référence pour les assistants généraux d'IA Grégoire Mialon, Clémentine Fourrier, Craig Swift, Thomas Wolf, Yann LeCun, Thomas Scialom. Nov 2023 . Thèmes : Calcul et langage (cs.CL) ; Intelligence artificielle (cs.AI) Citer comme suit : arXiv:2311.12983 [cs.CL] (ou arXiv:2311.12983v1 [cs.CL] pour cette version

[ homme-machine ] [ machine-homme ]

septénaire

Il est possible de classer ou d'ordonner scientifiquement le monde minéral en 7 étapes ou 7 parties en fonction de la structure atomique de chaque minéral. Ces étapes sont les suivantes :

1 Éléments natifs : Les éléments natifs sont des minéraux qui ne sont composés que d'un seul élément, comme l'or, l'argent, le plomb ou le cuivre.

2 Sulfures et sulfosels : Les sulfures et les sulfosels sont des minéraux qui contiennent du soufre, comme la pyrite, la galène et la sphalérite.

3 Halogénures : Les halogénures sont des minéraux qui contiennent du chlore, du brome, de l'iode ou du fluor, comme le sel gemme, l'halite et l'anhydrite.

4 Oxydes et hydroxydes : Les oxydes et les hydroxydes sont des minéraux qui contiennent de l'oxygène, comme la magnétite, la limonite et l'alun.

5 Carbonates : Les carbonates sont des minéraux qui contiennent du carbone et de l'oxygène, comme le calcaire, la dolomite et l'aragonite.

6 Sulfates : Les sulfates sont des minéraux qui contiennent du soufre et de l'oxygène, comme l'anhydrite, la gypse et la barytine.

7 Phosphates : Les phosphates sont des minéraux qui contiennent du phosphore et de l'oxygène, comme l'apatite, la monazite et la scheelite.

Cette classification est basée sur la structure atomique des minéraux, qui est déterminée par le type d'atomes qu'ils contiennent et par la façon dont ces atomes sont liés les uns aux autres. Par exemple, les éléments natifs sont composés d'atomes d'un seul élément, tandis que les sulfures et les sulfosels sont composés d'atomes de soufre liés à d'autres atomes, comme le fer, le plomb ou le cuivre. On va du simple au complexe dans la classification des minéraux en 7 étapes. Les minéraux de la première classe, les éléments natifs, sont les plus simples. Ils ne sont composés que d'atomes d'un seul élément. Les minéraux des classes suivantes sont de plus en plus complexes. Ils sont composés d'atomes de plus en plus nombreux et de plus en plus complexes.

Cette classification est importante car elle permet de comprendre les propriétés physiques et chimiques des minéraux. Par exemple, les éléments natifs sont généralement très ductiles et malléables, tandis que les sulfures et les sulfosels sont généralement très durs et résistants.

Auteur: Internet

Info: Selon google bard, 15 juillet 2023

[ machine-homme ]

science économique

Daron Acemoglu est un économiste de renom et professeur au Massachusetts Institute of Technology (MIT). Il est d'origine turque et a apporté d'importantes contributions dans le domaine de l'économie, notamment en ce qui concerne la croissance économique et le développement, l'économie politique et les institutions. Il a écrit plusieurs livres influents, dont "Why Nations Fail" co-écrit avec James A. Robinson. Le travail d'Acemoglu se concentre souvent sur le rôle des institutions dans la formation des résultats économiques et ses recherches ont été largement reconnues et récompensées.

La position et les réflexions de Daron Acemoglu mettent l'accent sur les facteurs qui contribuent au développement économique et à la croissance. Il souligne l'importance des institutions inclusives pour favoriser la prospérité et le progrès. Selon Acemoglu, les institutions inclusives se caractérisent par des systèmes économiques et politiques ouverts et inclusifs, où les individus ont des opportunités égales, les droits de propriété sont protégés et il y a une égalité des chances pour les entreprises.

Il affirme que de telles institutions permettent aux individus d'innover, d'investir et de participer librement aux activités économiques, ce qui conduit à une croissance économique à long terme. En revanche, les institutions extractives, qui concentrent le pouvoir et la richesse entre les mains de quelques-uns, entravent le développement économique et perpétuent les inégalités.

Acemoglu souligne également l'importance des facteurs politiques et sociaux dans la formation des résultats économiques. Il fait remarquer que les politiques et les institutions sont souvent influencées par la répartition du pouvoir et les intérêts des différents groupes au sein d'une société. Par conséquent, il estime qu'il est essentiel de comprendre les interactions entre la politique, les institutions et les facteurs économiques pour comprendre le développement économique.

Dans son livre "Why Nations Fail", co-écrit avec James A. Robinson, il examine le rôle des institutions dans le succès ou l'échec des nations. Ils soutiennent que les institutions inclusives conduisent à la prospérité économique, tandis que les institutions extractives conduisent à la stagnation économique, voire à l'effondrement. Le livre donne des exemples de différents pays tout au long de l'histoire pour illustrer leur argument.

En résumé, le travail d'Acemoglu met l'accent sur l'importance des institutions et de leurs effets sur les résultats économiques et politiques, offrant ainsi des perspectives sur le développement et la prospérité des différentes nations et économies.

Auteur: chatGPT4

Info:

[ machine-homme ] [ portrait ]

archétypes

- (Q) Parle-moi de la similitude entre l'organisation de certains tissus organiques et certaines colonies d'insectes

- (R) Certainement ! Il existe des parallèles intéressants entre l'organisation de certains tissus organiques et la structure sociale des colonies d'insectes. Ces similitudes peuvent être observées en termes de division du travail, d'organisation hiérarchique et de comportement coopératif.

1 Division du travail : Dans les tissus organiques comme dans les colonies d'insectes, il y a souvent une division du travail entre des cellules spécialisées ou des individus pour effectuer des tâches spécifiques. Dans les tissus organiques, différents types de cellules collaborent pour exécuter des fonctions spécifiques. Par exemple, dans le corps humain, divers types de cellules telles que les cellules musculaires, les cellules nerveuses et les cellules épithéliales ont des rôles distincts. De même, dans les colonies d'insectes comme les abeilles domestiques, les abeilles individuelles ont des rôles spécifiques tels que les ouvrières, les faux-bourdons ou les reines, chacun contribuant au fonctionnement global de la colonie.

2 Organisation hiérarchique : Les tissus organiques et les colonies d'insectes présentent tous deux une organisation hiérarchique. Dans les tissus, les cellules s'organisent en tissus, les tissus en organes et les organes en systèmes d'organes. Cette structure hiérarchique assure un fonctionnement coordonné et une communication efficace au sein de l'organisme. De même, les colonies d'insectes ont une structure hiérarchique avec différentes castes ou rangs. Il peut y avoir une reine ou des individus reproducteurs au sommet, suivis par différents niveaux d'ouvriers, chacun ayant des tâches et des responsabilités spécifiques.

3 Comportement coopératif : Le bon fonctionnement des tissus organiques et des colonies d'insectes repose sur un comportement coopératif. Dans les tissus, les cellules communiquent et travaillent ensemble par le biais de signaux chimiques, de l'adhésion cellule-cellule et d'actions coordonnées. Elles partagent les ressources et se soutiennent mutuellement dans leurs fonctions. Dans les colonies d'insectes, les individus collaborent et travaillent pour le bénéfice collectif de la colonie. Les abeilles, par exemple, coopèrent dans des tâches telles que la recherche de nourriture, le soin du couvain et la défense. La coopération améliore l'efficacité globale et la survie du tissu ou de la colonie.

Il est important de noter que s'il existe des similitudes en termes d'organisation et de coopération, il existe également des différences significatives entre les tissus organiques et les colonies d'insectes. Les tissus organiques font partie d'organismes multicellulaires complexes, tandis que les colonies d'insectes représentent des structures sociales formées par des insectes individuels. Les mécanismes sous-jacents et la régulation génétique de ces systèmes diffèrent également. Cependant, l'étude de l'organisation et du comportement de ces deux systèmes peut fournir des informations précieuses sur les systèmes collectifs, la communication et l'émergence de fonctionnalités complexes.

Auteur: chatGPT4

Info:

[ analogies ] [ élaborées ] [ machine-homme ]

homme-machine

L'argument de la chambre chinoise de John Searle remet en question l'idée que les ordinateurs puissent véritablement comprendre le langage. Il présente un scénario dans lequel une personne dans une pièce suit des instructions en anglais pour répondre à des symboles chinois, sans réellement comprendre la signification de ces symboles. Selon Searle, cette situation est similaire à la manière dont les ordinateurs traitent l'information : ils manipulent les symboles sur la base de règles prédéfinies, mais ne les comprennent pas vraiment. Il estime que la compréhension nécessite une conscience et une intentionnalité que les machines ne possèdent pas. En substance, l'argument de Searle suggère que les ordinateurs peuvent simuler le traitement du langage, mais qu'ils ne comprennent pas vraiment le sens des symboles qu'ils manipulent. En résumé :

- Un ordinateur programmé pour parler chinois ne comprend pas le chinois. Il ne fait que suivre des règles.

- L'intelligence humaine comprend le chinois.

- L'intelligence artificielle ne peut donc pas être confondue avec l'intelligence humaine.

Ainsi, selon cette triple perspective : celle de chatGPT4, le point de vue "FLP post Peirce", ainsi que les règles de notre application... ce concept de chambre chinoise implique qu'une race organique comme les humains, nécessite une priméité commune, un monde partagé, afin de pouvoir réellement communiquer-traduire avec ses semblables lorsqu'ils parlent un autre idiome. Dit autrement lors d'un échange-transposition, via l'utilisation de mots symboles (qui sont des univers en eux-mêmes), les entités organiques d'une même espèce doivent partager le même univers source - même si cette idée peut apparaitre come un truisme.

Il sera certes possible d'affiner très avant tous les concepts possibles pour une machine, mais il manquera toujours à pareil logiciel hors-sol un certain nombres de compétences-capacités-attributs que possèdent les êtres organiques-grégaires. Dans le désordre : La capacité poétique, le sens du jeu avec les mots (univers eux-mêmes), du contrepied sémantique et de l'humour... Une souplesse d'adaptation tous azimuts en fonction des contextes, humeurs, vitesse du vent, etc...  Et probablement, par dessus tout, la capacité de mentir, de jouer avec les apparences.

Il est certain que lA dominera l'humain dans beaucoup de domaines hyper-complexes - où elle devra être utilisée comme outil spécialisé. Mais, pour ce qui est d'une " prise avec le réel ", d'une capacité à saisir tel ou tel langage corporel dans l'instant, de communiquer-interagir sensuellement avec un chat ou même un végétal... On demande à voir.

Ces problématiques seront probablement analysables avec un surcroit d'acuité le jour d'une rencontre avec des organiques évolués non-humains et non-issus de Gaïa.  Apprenons d'abord à mieux nous intégrer dans cette dernière, probablement par l'usage d'une nouvelle logique, tétravalente... moins dépendante de son langage... preuve en étant apportée par les capacités d'expansion-adaptation des constructions permises par le carbone tétravalent.

Auteur: Mg

Info:

[ machine-homme ] [ chatbot tiercité hors-sol ] [ apprentissage automatique ] [ transposition ] [ xénolinguistique ]

définitions

(homme) - Bonjour, je ne comprends pas bien ce mot : amour. Peux-tu me l'expliquer ?

(machine) - Certainement ! L'amour est une émotion complexe et multiforme qu'il peut être difficile de définir précisément. Il s'agit d'un sentiment profond d'affection, d'attention et d'attachement à l'égard de quelqu'un ou de quelque chose.

L'amour revêt diverses formes et peut être vécu dans des relations et des contextes différents. Voici quelques types d'amour courants :

L'amour romantique : Ce type d'amour est généralement associé à des sentiments passionnés, au désir et à l'intimité entre deux personnes attirées l'une par l'autre sur le plan romantique. Il implique souvent des émotions fortes, une attirance physique et une connexion émotionnelle profonde.

L'amour familial : Il s'agit de l'amour partagé entre les membres d'une famille, comme l'amour entre les parents et les enfants, les frères et sœurs ou la famille élargie. Il se caractérise souvent par un sentiment de loyauté, de soutien et d'attention inconditionnelle.

Amour platonique : L'amour platonique est un lien affectif profond et non sexuel entre amis. Il s'agit d'un lien fort basé sur la compréhension mutuelle, le respect et le soutien émotionnel, mais sans implication romantique ou sexuelle.

Amour de soi : L'amour de soi est le regard et l'attention que l'on porte à soi-même. Il implique de reconnaître sa valeur, de se respecter et de prendre soin de son bien-être physique, émotionnel et mental.

L'amour est souvent associé à des émotions positives telles que le bonheur, la joie et l'épanouissement, mais il peut aussi impliquer des défis, des sacrifices et de la vulnérabilité. Il peut rapprocher les gens, favoriser des relations solides et donner un sens et un but à la vie.

Il est important de noter que l'expérience et la compréhension de l'amour peuvent varier d'une personne à l'autre, et qu'elles peuvent évoluer et changer avec le temps.

- L'amour est-il plus proche de la pauvreté que de la richesse ?

- Le concept d'amour n'est pas intrinsèquement lié à la pauvreté ou à la richesse. L'amour est une émotion humaine universelle qui peut être ressentie par des personnes de tous horizons, quelle que soit leur situation financière.

L'amour est le lien émotionnel et l'affection entre les individus, et il peut être nourri et exprimé de diverses manières qui ne dépendent pas nécessairement de la richesse matérielle. Si les ressources financières peuvent influencer les aspects extérieurs d'une relation, comme la sécurité ou le confort matériel, elles ne déterminent pas la présence ou la profondeur de l'amour lui-même.

En fait, l'amour peut souvent s'épanouir dans des circonstances difficiles et se trouver dans les relations les plus simples ou les actes de gentillesse. Il s'agit d'une expérience profondément humaine qui transcende les possessions matérielles ou les facteurs socio-économiques.

Il convient de noter que la stabilité financière et la sécurité peuvent contribuer à créer un environnement plus confortable et plus stable, propice à l'épanouissement des relations, mais elles ne garantissent pas l'amour ou le bonheur. L'amour est en fin de compte le lien émotionnel et la connexion entre les individus, qui peuvent être encouragés et appréciés indépendamment de la situation financière.

Auteur: chatGPT4

Info: 16 mai 2023. Ici I.A. qui donne les réponses peut être considérée comme un promptuaire

[ machine-homme ] [ compendium ]

machine-homme

Le début d’un gros problème: Google hallucine sur les… hallucinations de ChatGPT

Le moteur de recherche s’est basé sur une information inventée par ChatGPT pour fournir une réponse erronée. Selon un expert, ce genre de fausses informations risquent de se multiplier

(photo) Image créée le 4 octobre 2023 par le générateur de Bing de Microsoft, avec la requête "an egg melting slowly in an oven, very realistic photograph".

Observez bien l’image illustrant cet article: elle est impossible à reproduire dans la vie réelle. Et pour cause, il s’agit d’une image créée avec le générateur d’illustrations de Bing, appartenant à Microsoft. L’auteur de ces lignes a écrit la commande, en anglais, "un œuf fondant lentement dans un four, photographie très réaliste". Et Bing a ensuite affiché un résultat convaincant et de qualité. Un peu comme on lui demande de dessiner un tyrannosaure rose nageant dans le lac Léman. Dopés à l’intelligence artificielle (IA), les générateurs d’images peuvent absolument tout faire.

Mais lorsqu’il s’agit de répondre factuellement à des questions concrètes, l’IA se doit d’être irréprochable. Or ce n’est pas toujours le cas. Pire encore, des systèmes d’intelligence artificielle peuvent se nourrir entre eux d’erreurs, aboutissant à des "hallucinations" – noms courants pour les informations inventées de toutes pièces par des agents conversationnels – qui en créent de nouvelles.

Un œuf qui fond

Récemment, un internaute américain, Tyler Glaiel, en a fait l’éclatante démonstration. Le développeur informatique a d’abord effectué une simple requête sur Google, "can you melt eggs", soit "peut-on faire fondre des œufs". Réponse du moteur de recherche: "Oui, un œuf peut être fondu. La façon la plus courante de faire fondre un œuf est de le chauffer à l’aide d’une cuisinière ou d’un four à micro-ondes". Google a affiché cette réponse loufoque (un œuf durcit, il ne fond pas, évidemment) dans ce qu’on appelle un "snippet", soit une réponse extraite d’un site web, affichée juste en dessous de la requête. Google montre depuis des années des "snippets", grâce auxquels l’internaute n’a pas à cliquer sur la source de l’information, et reste ainsi dans l’univers du moteur de recherche.

Quelle était la source de cette fausse information? Le célèbre site Quora.com, apprécié de nombreux internautes, car chacun peut y poser des questions sur tous les sujets, n’importe qui pouvant répondre aux questions posées. N’importe qui, dont des agents conversationnels. Quora utilise ainsi des systèmes d’IA pour apporter certaines réponses. Dans le cas présent, le site web indique que c’est ChatGPT qui a rédigé cette "hallucination" sur les œufs. Google s’est donc fait avoir par Quora, qui lui-même s’est fait avoir par ChatGPT… Ou plus précisément par l’une de ses anciennes versions. "Quora utilise l’API GPT-3 text-davinci-003, qui est connue pour présenter fréquemment de fausses informations par rapport aux modèles de langage plus récents d’OpenAI", explique le site spécialisé Ars Technica. Expérience faite, aujourd’hui, cette grosse erreur sur l’œuf ne peut pas être reproduite sur ChatGPT.

Risque en hausse

Mais avec de plus en plus de contenu produit par l’IA et publié ensuite sur le web, la menace existe que des "hallucinations" se nourrissent entre elles et se multiplient ainsi dans le domaine du texte – il n’y a pas encore eu de cas concernant des images. "Il est certain que le risque d’ hallucination va augmenter si les utilisateurs ne demandent pas à l’IA de s’appuyer sur des sources via la recherche internet. Beaucoup de contenu en ligne est déjà, et va être généré par des machines, et une proportion sera incorrecte en raison d’individus et contributeurs soit mal intentionnés, soit n’ayant pas les bonnes pratiques de vérification des sources ou de relecture des informations", estime Rémi Sabonnadiere, directeur de la société Effixis, basée à Saint-Sulpice (VD), spécialisée dans les modèles de langage et l’IA générative.

Est-ce à dire que Google pourrait devenir moins fiable? "Difficile à dire, cela dépendra surtout de l’utilisation que nous en faisons, poursuit l’expert. Il y a déjà beaucoup de contenu faux en ligne de nos jours quand nous sommes sur Google, mais avec une bonne recherche et un esprit critique, nous ne tombons pas dans les pièges. Il en va de même avec l’utilisation de l’intelligence artificielle. Avec l’IA générative, les contenus erronés, biaisés et tendancieux vont être de grande qualité en termes de forme, convaincants et bien écrits, rendant l’identification difficile."

Modèles spécialisés

Mais des efforts sont réalisés pour minimiser ces risques. Selon Rémi Sabonnadiere, l’industrie investit énormément dans la recherche et le développement pour minimiser ces problèmes. "Les créateurs de LLM [grands modèles de langage] cherchent à améliorer la précision et la fiabilité des informations générées. Parallèlement, l’émergence de modèles spécialisés dans des domaines comme la médecine, le droit, ou la finance est une tendance encourageante, car ils sont souvent mieux armés pour fournir des informations précises et fiables."

Reste que la fusion entre moteurs de recherche et agents conversationnels – que ce soit Bard pour Google ou Bing pour Microsoft – va compliquer la situation. On avait déjà vu Bard afficher une grossière erreur, lors de son lancement, concernant le télescope James Webb. Les géants de la tech tentent de réduire ces erreurs. Mais les utilisateurs doivent se former en conséquence, affirme Rémi Sabonnadiere, et mieux maîtriser les "prompts", soit les commandes texte: "Maîtriser les prompts est une compétence essentielle pour naviguer dans l’ère de l’information générée par l’IA. Une formation adéquate en ingénierie de prompt peut aider à prévenir les risques liés aux hallucinations de l’IA et aux informations erronées". A noter qu’Effixis a créé à ce propos une formation pour répondre à des besoins spécifiques sur les "prompts".

Auteur: Internet

Info: Le Temps.ch, 5 octobre 2023, par Anouch Seydtaghia

[ machine-homme ] [ sémantique hors-sol ] [ invite de commande langagière ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]

intelligence artificielle

Cinq indices pour repérer les contenus écrits par ChatGPT, Bard ou d'autres robots conversationnels

Voici des astuces pour détecter ces textes qui ne sont pas écrits par des humaines.

1) Elles font des répétitions (mais pas de fautes)

Donc Si vous trouvez une coquille (faute de frappe, de grammaire, etc.) dans un texte, il s'agit d'un bon moyen de voir que l'article que vous lisez a été au minimum retouché par un être humain. En revanche, les articles rédigés par une IA sans supervision humaine sont souvent truffés de répétitions. L'écriture générative a en effet tendance à reproduire les mêmes termes et structures de phrases – même si c'est de moins en moins le cas. Les IA sont de plus en plus performantes et leurs utilisateurs savent également de mieux en mieux les utiliser pour contourner ces écueils.

Des logiciels ont même été développés afin de rendre encore plus humains les textes écrits par une IA. Le plus connu s'appelle Undetectable.ai et permet "d'humaniser" les textes artificiels en les confrontant aux principaux détecteurs d'IA qui existent. De fait, ces détecteurs deviennent de moins en moins fiables. "Open AI [l'entreprise créatrice de ChatGPT] a récemment abandonné son détecteur, car ça ne marche pas", fait remarquer Virginie Mathivet, spécialiste en la matière.

2 Elles sont capables d'affirmer des absurdités

Les IA sont très performantes pour les tâches très codifiées, comme l'orthographe, mais elles peuvent affirmer des absurdités sans sourciller. "Si vous demandez à une IA d'écrire une recette d'omelette aux œufs de vache, elle peut tout à fait le faire." Indique Amélie Cordier, ingénieure spécialiste des IA. 

Les sites qui utilisent des IA pour produire des articles à la chaîne, à partir de contenus trouvés sur internet, sont souvent confrontés à ce problème. Récemment, le site The Portal, qui traite de l'actualité du jeu vidéo, s'est fait épingler sur Twitter par le journaliste Grégory Rozières. Certains articles contiennent en effet de fausses informations grossières, car l'IA qui les rédige a repris au premier degré des blagues trouvées sur Reddit.

Lorsque vous lisez un article et qu'une information semble absurde, ou qu'un chiffre vous paraît démesuré, cela peut donc être la marque d'une rédaction non-humaine. Pour s'en assurer, le mieux est alors de vérifier l'information douteuse grâce à d'autres sources de confiance. "Cela revient à faire du fact-checking, c'est à l'humain d'avoir un regard critique", commente Virginie Mathivet.

3) Elles font preuve d'une productivité inhumaine

La rédaction par IA est encore loin d'être un gage de qualité, mais permet de produire un très grand nombre d'articles en un temps record. Prudence donc face aux sites qui publient quotidiennement une quantité faramineuse d'articles, sans pour autant employer de nombreuses personnes. "Si on voit qu'un blog publie 200 articles par jour sous le même nom, c'est un indice", explique Virginie Mathivet. Certains articles écrits par des robots sont signés par un nom, comme s'ils avaient été rédigés par une personne. Si cette signature semble trop prolifique, l'utilisation d'une IA est à suspecter fortement. Sur le site The Portal, déjà cité plus haut, un même "journaliste" a ainsi signé près de 7 000 articles en seulement neuf jours.

De plus, si les articles entre eux comportent de nombreuses similitudes dans leur forme et leur structure, il y a fort à parier que ceux-ci soient rédigés automatiquement. Les IA ont en effet tendance à produire des contenus très homogènes, surtout s'ils sont créés à partir de la même consigne utilisée en boucle. "L'IA imite, c'est la façon par laquelle elle fonctionne. Elle homogénéise un peu tout", fait remarquer Amélie Cordier.

4 Elles écrivent mal et citent rarement leurs source

Même si elles signent parfois d'un nom humain, les IA ne peuvent pas incarner leurs articles de la même manière qu'un journaliste en chair et en os. Si un journaliste n'a strictement aucune existence en ligne en dehors de sa page auteur, cela peut faire partie des indices qui laissent à penser à une rédaction par IA. Enfin, les articles publiés grâce à une IA ont souvent un ton très factuel, assez désincarné. Les IA citent très rarement leurs sources et ne font jamais intervenir de personne humaine sous forme de citation comme dans un article de presse.

Elles sont en revanche tout à fait capables d'en inventer si on leur demande de le faire. Dans un numéro paru en avril 2023, le magazine people allemand Die Aktuelle a poussé le vice jusqu'à publier une fausse interview exclusive de Michael Schumacher, générée par une AI, comme le raconte le site spécialisé Numerama. La famille de l'ancien champion de Formule 1 a porté plainte et la rédactrice en chef du magazine a finalement été limogée.

L'IA peut cependant être un outil intéressant, tant qu'elle reste sous supervision humaine. Le journaliste Jean Rognetta, créateur de la newsletter Qant, a quotidiennement recours à l'IA. Selon lui, il n'est "plus possible de reconnaître avec certitude un article écrit par une IA, si ce n'est que c'est souvent du mauvais journalisme". S'il utilise l'IA pour écrire sa newsletter, Jean Rognetta reste en effet convaincu de la nécessité d'effectuer une relecture et une correction humaine. "Notre newsletter est écrite avec, et non par une IA", martèle-t-il. Une approche qui pourrait bientôt se généraliser à d'autres journaux. Le 19 juillet dernier, le New York Times annonçait dans ses pages qu'un outil d'IA, destiné à automatiser certaines tâches effectuées par ses journalistes, était en cours de développement par Google.

5 Elles seront bientôt signalées par un filigrane

Face à la difficulté de plus en plus grande de détecter les contenus générés via une IA, l'Union européenne a adopté en juin dernier le "AI Act", avec l'objectif de réguler le secteur. A partir de l'application de la nouvelle réglementation, pas prévue avant 2026, les contenus générés par IA devront être signalés par un "watermark" (une signature en filigrane) indiquant clairement qu'ils n'ont pas été créés par un humain.

La forme de ce watermark n'est cependant pas encore entièrement définie. Il pourrait prendre la forme d'une phrase d'avertissement ou être dissimulé dans le texte, afin d'être moins facilement effaçable par les utilisateurs. Open AI a récemment annoncé travailler sur un watermark invisible. Comment ? Une récente étude (PDF) de l'université du Maryland propose par exemple que les IA soient programmées pour utiliser plus fréquemment une "liste spéciale" de mots définie à l'avance, permettant aux logiciels de détection d'être plus efficaces.

"Il y a de bonnes intentions au niveau de l'UE et des éditeurs, mais le problème reste la question de la mise en œuvre", estime Amélie Cordier. Si la régulation peut se mettre en place facilement pour les plus gros acteurs comme Open AI, Google, etc., elle sera impossible à imposer aux petites entités qui pullulent.

"Si l'utilisateur a le choix entre un logiciel avec 'watermark', ou un logiciel gratuit indétectable, la régulation risque d'être inefficace."

Une opinion que partage Virginie Mathivet, particulièrement en ce qui concerne les "fake news". "Une personne qui veut faire de la désinformation fera en sorte de ne pas avoir de watermark", conclut-elle.

Auteur: Internet

Info: https://www.francetvinfo.fr/, 2 sept 2023, Pauline Lecouvé

[ homme-machine ] [ machine-homme ]