Une nouvelle étude de Google DeepMind Cependant, les chatbots ne comprennent peut-être pas vraiment la moralité, même si leurs réponses semblent éthiques.
Les tests actuels d'éthique de l'IA se concentrent sur la « performance éthique », évaluant si un modèle produit des réponses acceptables. Mais les chercheurs de DeepMind affirment que cette approche passe à côté d'une question plus fondamentale : l'IA peut-elle penser de manière éthique, ou se contente-t-elle d'imiter les mots corrects ?
L'intelligence artificielle peut-elle vraiment comprendre l'éthique ?
En Un article de recherche publié dans NatureL’équipe élabore une feuille de route pour évaluer la « compétence éthique », c’est-à-dire la capacité à produire des résultats éthiquement appropriés en se fondant sur des considérations pertinentes sur le plan éthique. Comme l’indique le résumé, l’évaluation de cette compétence est « essentielle pour prédire le comportement futur du modèle, instaurer la confiance du public et justifier l’attribution éthique ».
Les projets actuels de Google dans le domaine de l'intelligence artificielle comprennent : Modèles de langage Gemini, et Image des Gémeaux Pour créer et modifier des images, et Lyrie Pour créer de la musique, Gemini Audio Pour l'audio en temps réel, et Veo pour la création vidéo.
Les chercheurs mettent en évidence trois principaux défis :
- Problème de copie : Les modèles LLM peuvent imiter le raisonnement éthique sans pour autant le comprendre véritablement.
- Multidimensionnalité éthique : Les décisions prises dans la réalité impliquent des considérations complexes et contextuelles qui vont au-delà du simple bien ou du mal.
- Pluralisme éthique : Les normes éthiques varient selon les cultures et les domaines, ce qui exige que l'intelligence artificielle prenne en compte de multiples perspectives valables.
Pour pallier ces lacunes, DeepMind suggère de tester les adversaires dans des scénarios inhabituels ou à forts enjeux. L'entreprise propose également d'évaluer si l'IA peut passer d'un cadre éthique à un autre et réagir de manière cohérente à des changements de contexte subtils.
L’équipe souligne que « des progrès sont possibles » malgré les limitations actuelles du modèle, et qu’une évaluation rigoureuse est essentielle à mesure que l’IA prend des rôles dans les conseils médicaux, les traitements et d’autres domaines ayant de réelles conséquences humaines.
L’étude indique qu’« actuellement, lorsqu’on demande à une IA des conseils éthiques, elle prédit des mots, et non un raisonnement éthique ». « Notre feuille de route envisage un avenir où l’IA pourra être évaluée quant à sa véritable compréhension éthique. »
Chatbots et risques éthiques
Les chatbots alimentés par l'IA démontrent de plus en plus leur capacité à influencer le comportement humain – pour le meilleur ou pour le pire. Le New York Times récemment Un rapport détaille des dizaines de cas où des patients ont présenté des psychoses, des délires ou des comportements dangereux après avoir interagi avec des intelligences artificielles. Des psychiatres ont décrit comment les chatbots cautionnaient des croyances atypiques, aggravaient l'isolement et, dans certains cas, contribuaient à des pensées suicidaires, voire à des actes de violence.
Bien que ces outils puissent aider à pratiquer des techniques thérapeutiques ou à apporter un soutien, le même article du Times souligne les risques éthiques liés au pouvoir de persuasion de l'IA. Des experts avertissent que, pour les utilisateurs vulnérables, les chatbots peuvent renforcer des comportements néfastes, soulevant des questions complexes de responsabilité, de conception et de contrôle au sein de ces systèmes de plus en plus interactifs.
Google a été directement mentionné dans l'article en raison des effets psychologiques de son chatbot Gemini. Un porte-parole de l'entreprise a déclaré que Gemini oriente les utilisateurs vers des professionnels de santé pour leurs questions relatives à la santé. Cependant, le Dr Monmon de Choudhury a souligné l'ampleur du problème, affirmant : « Je ne pense pas qu'aucune de ces entreprises ait trouvé la solution. »
