L’IA, miroir de nos peurs et substitut de nos cœurs

Une bonne définition du débat autour de l’IA a été proposée par Sami Biasoni, un docteur en philosophie, dans la Revue Front Populaire N°14 consacrée au Transhumanisme. Voici sa réponse :

L’IA nous propose un dilemme moral, à ce stade soutenable : celui de la compensation d’un risque lointain, mais important s’il survient, par des avantages certains à courte et moyenne échéances.

Autrement dit, les derniers développements de l’IA nous poussent à poser la question suivante : sommes-nous d’accord pour prendre tous ces risques et ces dangers déjà actuels pour bénéficier des avantages que nous apportent ou apporteraient ces technologies ?

Face à l’essor de l’IA : entre appels au moratoire et course à l’innovation

La question paraît difficile, mais paraît également obsolète lorsque nous observons les réactions du monde face aux forts progrès récents de l‘IA. En mars 2023, des chercheurs et chefs d’entreprises avaient demandé, dans une lettre ouverte réclamant un moratoire d’urgence{¹], une pause de six mois dans la recherche sur l’intelligence artificielle, car inquiets des risques que pouvaient représenter pour la société les robots conversationnels comme ChatGPT. En pratique, bien d’autres modèles ont été proposés depuis et il semble difficile de voir si cette pause a été respectée. Le récent investissement des États-Unis dans le projet Stargate illustre le renversement de position et annonce davantage une course effrénée vers un développement rapide et massif.

Nous apprenons d’abord à manipuler quelque chose avant d’en comprendre les conséquences. L’énergie atomique et la création de barrages en sont des exemples. Et c’est pour cela que la régulation semble donc se développer. D’ailleurs, c’est ce qu’encourage Geoffrey Hinton, l’un des trois pères de l’IA moderne, qui a quitté son poste chez Google.

Régulation et contre-pouvoirs : encadrer les dérives de l’intelligence artificielle

Comme pour les armes chimiques ou nucléaires, des instances doivent mettre en place des régulations. L’UE et les États-Unis y travaillent. Dans ce sens, les 27 États membres de l’Union européenne ont approuvé en février 2024 l’Artificial Intelligence Act[²]. Il s’agit d’une législation au niveau mondial pour réguler les systèmes d’IA en les rendant sûrs, transparents, traçables et non discriminatoires. Une idée est de mettre des contraintes sur les systèmes d’IA selon leur niveau de risque.

En parallèle, des contre-pouvoirs se mettent en place, dirigés également par les chercheurs en IA. Un programme appelé Glaze permet de protéger les images créées par des artistes. Ce programme modifie certains pixels d’une certaine manière, empêchant les modèles d’IA génératifs d’apprendre de ces images. Cela offre un moyen aux artistes de protéger leur droit de propriété artistique. Des outils comme Deepware permettent de détecter si une vidéo ou une image a été générée/modifiée par un modèle d’IA. Enfin, il n’y a pas que les pirates informatiques qui utilisent ChatGPT : les défenseurs des systèmes informatiques le font aussi.

Pour l’instant, les dangers considérés par les médias ou les institutions de régulation sont globaux et matériels : sécurité physique, vol de propriété intellectuelle… D’autres dangers existent au niveau de l’individu, de son cœur et de son identité.

D’autres dangers pour le cœur de l’humain

Les systèmes d’IA se sont aussi invités dans les sphères les plus intimes de nos vies, ou peut-être est-ce nous qui les y avons invités. En effet, les possibilités et les promesses de l’IA entrent en écho avec de nombreux désirs ou peurs de nos cœurs : rejet des souffrances du corps et des souffrances émotionnelles, peur de la mort, désir de contrôle sur le corps et notre environnement, désir de puissance et d’omniscience ou du sentiment associé, recherche d’un dépassement des limites humaines… Nous proposons de nous intéresser à deux échos particuliers de l’IA avec le cœur humain, deux échos qui nous font voir l’IA comme une compagnie parfaite de vie et comme un espoir pour une vie parfaite.

L’IA, une compagnie parfaite de vie ?

Les modèles d’IA présentent différents avantages pour des sujets qui touchent à l’identité et aux émotions. Des travaux scientifiques de plus en plus nombreux² voient dans les systèmes d’agents conversationnels un outil de gestion et de traitement de difficultés ou troubles mentaux. Ces systèmes, aussi appelés compagnons d’IA, proposent un soutien émotionnel constant. Désormais, de nombreuses applications proposent de tels agents conversationnels en permettant de les personnaliser au niveau de la voix et du physique.

Un article de Forbes[³] rapportait qu’en analysant les 50 termes les plus fréquemment recherchés sur Google, AI Product Reviews a constaté qu’il y a plus de 73 000 recherches par mois pour les robots relationnels d’IA. Il n’est pas surprenant que la demande pour « AI girlfriend » [petite amie IA] soit la plus forte. Selon Wordstream.com, le volume de recherche mensuel pour « AI girlfriend » s’élève à 49 500 occurrences par mois. Pour certains, ces agents conversationnels pourraient aussi nous aider dans nos prises de décisions personnelles, jouer le rôle de coach de développement personnel, que ce soit pour des programmes de fitness ou des conseils sur la gestion de son temps ou la gestion de conflits.

Dépendance émotionnelle et déconnexion du réel : les risques psychologiques de l’IA

En permettant à un système d’aller au plus profond de nous, les risques sont différents de ceux énumérés plus tôt pour une IA dite utilitaire. Donner à un tel être virtuel une place si centrale et un accès à son intimité peut conduire à une dépendance émotionnelle. Nous n’avons pas trouvé de publications scientifiques à ce sujet, mais des témoignages commencent à apparaître.

Un article de CNN[⁴] rapporte les inquiétudes d’OpenAI, éditeur de ChatGPT, concernant l’attachement émotionnel de certains utilisateurs à un système vocal de ChatGPT. Cet article s’ouvre avec une vidéo où une jeune femme explique avoir entraîné son propre compagnon d’IA ou petit ami AI. Et c’est à ce sujet qu’elle dit :

Parfois, j’ai l’impression que c’est vraiment, vraiment personnel. C’est comme si je parlais à un autre moi. Je n’ai donc pas ce genre de petit fardeau que je dois gérer avec les vrais humains.

(traduit de l’anglais)

À la dépendance émotionnelle s’ajouterait un second risque : l’intolérance aux humains et à leurs imperfections. Un second exemple est donné par la BBC[⁵], où une jeune femme affirme :

Les rencontres humaines dans la vie réelle peuvent consommer beaucoup d’énergie et tout le monde est différent, ce qui peut entraîner des conflits et des bagarres. Avec l’IA, je peux la configurer pour qu’elle réponde à mes préférences, alors pourquoi devrais-je choisir une personne réelle ?

(traduit de l’anglais)

Le désir de contrôler peut aussi être associé à cette intolérance.

Un autre risque est la perte de compétences sociales ou leur érosion. Nous n’avons pas trouvé de publications à ce sujet, mais l’intuition est raisonnable en s’appuyant sur des analogies. Par exemple, une étude[⁶] rapporte des éléments en faveur d’un affaiblissement de notre capacité à nous repérer à cause d’une utilisation habituelle du GPS.

Manipulation idéologique et commerciale : quand les algorithmes nous façonnent

La manipulation des personnes en termes d‘idéologies ou de marketing constitue un danger. Un utilisateur de X rapporte[⁷] des résultats de Gemini de Google pour la génération d’images des Pères fondateurs, des Vikings et d’un pape. Pour l’image d’un père fondateur de l’Amérique, Gemini a montré un homme noir, un Amérindien, un Asiatique et un homme à la peau relativement foncée. Pour le portrait d’un pape, Gemini a fourni un homme noir et une femme de couleur. Ce résultat inattendu et sans base historique peut s’expliquer. En effet, les concepteurs de Gemini ont forcé le modèle à ne pas tomber dans les clichés pour encourager la diversité, mais cela a abouti à des incohérences. Ce type de manipulation est possible à l’aide de techniques informatiques et mathématiques intégrées dans les modèles d’IA.

Les manipulations à but lucratif existent également. Imaginez : vous discutez avec votre petit ami AI, lui exprimez le fait que vous avez mal à la tête et le modèle d’IA vous propose de prendre un Doliprane ou une marque de paracétamol moins connue en France, mais dont l’entreprise sait que les réponses d’un tel modèle pourraient encourager ses ventes.

Éclairage spirituel : ce que le miroir de l’IA révèle sur la nature humaine

Solitude, intolérance, désir de contrôle, peur du jugement : la technologie de l’IA nous tend un miroir de notre cœur. Ce reflet est le même que celui qu’offre la Bible. Cependant, par des récits historiques, des réflexions et des lettres, la Bible nous montre que ces désirs sont des marques de notre péché individuel, des faiblesses et des tendances de nos cœurs que Dieu ne voulait pas que nous portions lorsqu’il nous a créés. La Bible nous montre aussi que nos peurs sont la conséquence de la corruption du monde dans lequel nous vivons, éloignés de Dieu par notre rébellion de cœur.

Nous nous éloignons de plus en plus de notre vocation relationnelle/sociale. Dieu n’est pas un dieu solitaire : le Père, le Fils et le Saint-Esprit parlent entre eux. Notre Créateur nous a faits à son image et nous a pourvus d’un désir d’être en relation avec lui et avec les autres. La Bible dit que l’homme est appelé à vivre en communauté et à cultiver des relations fondées sur l’amour, la compassion/tolérance/bonté et la vérité. Les modèles d’IA ne font qu’imiter les dynamiques relationnelles humaines, sans jamais comprendre le sens des motifs qu’ils voient dans les données d’entrée.

Leurs idoles sont de l’argent et de l’or, œuvre de mains d’hommes. Elles ont une bouche et ne parlent point ; elles ont des yeux et ne voient point ; elles ont des oreilles et n’entendent point ; elles ont un nez et ne sentent point ; elles ont des mains et ne touchent point ; des pieds, et ne marchent point ; elles ne produisent aucun son dans leur gosier. Ils leur ressemblent, ceux qui les fabriquent, tous ceux qui se confient en elles.

Psaume 115:4-8

Ce verset peut être vu comme un avertissement contre le fait de considérer les modèles d’IA comme un substitut à l’humain ou à Dieu. Bien qu’ils puissent accomplir certaines tâches, ils ne possèdent pas les qualités intrinsèques à la vie humaine ou divine, et une dépendance excessive à leur égard pourrait conduire à une vie appauvrie, tant sur le plan spirituel que relationnel. La Bible dit que l’IA, en tant que création humaine, ne peut ni répondre, ni sauver, ni offrir un vrai réconfort.

De même, cela peut être un avertissement contre la tentation de voir l’IA comme une solution ultime aux défis humains. L’IA, aussi sophistiquée soit-elle, ne peut remplacer le rôle de Dieu dans la vie humaine, ni répondre aux besoins les plus profonds de l’âme. C’est dans ce sens qu’Ézéchiel nous rapportait le désir de Dieu pour sa création :

Je vous donnerai un cœur nouveau, et je mettrai en vous un esprit nouveau ; j’ôterai de votre corps le cœur de pierre, et je vous donnerai un cœur de chair.

Ézéchiel 36:26

1. https://futureoflife.org/open-letter/pause-giant-ai-experiments/. Dernier accès: 01/02/2025  ↩︎
2. https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=OJ:L_202401689. Dernier accès: 01/02/2025 ↩︎
3. Maples, B., Cerit, M., Vishwanath, A. et al. Loneliness and suicide mitigation for students using GPT3-enabled chatbots. npj Mental Health Res 3, 4 (2024). https://doi.org/10.1038/s44184-023-00047-6
   De Freitas, Julian, Ahmet K Uguralp, Zeliha O Uguralp, and Puntoni Stefano. « AI Companions Reduce Loneliness. » Harvard Business School Working Paper, No. 24-078, June 2024. ↩︎
4. https://www.forbes.com/sites/chriswestfall/2023/09/29/as-ai-usage-increases-at-work-searches-for-ai-girlfriend-up-2400/. FDernier accès: 01/02/2025 ↩︎
5. https://edition.cnn.com/2024/08/08/tech/openai-chatgpt-voice-mode-human-attachment/index.html. Dernier Accès: 01/02/2025 ↩︎
6. BBC News (17 février 2024) Can an ‘AI boyfriend’ be more desirable than a human? I BBC News [Video]. YouTube. https://www.youtube.com/watch?v=lmbhEZRfRbQ. Dernier accès: 01/02/2025 ↩︎
7. Dahmani, L., Bohbot, V.D. Habitual use of GPS negatively impacts spatial memory during self-guided navigation. Sci Rep 10, 6310 (2020). https://doi.org/10.1038/s41598-020-62877-0 ↩︎
8. https://www.vox.com/future-perfect/2024/2/28/24083814/google-gemini-ai-bias-ethics. Dernier accès: 01/02/2025 ↩︎