IA : Entre opportunités et dangers pour l’humain et la société

Opportunités pour la société et l’humain

Après avoir exploré les aspects techniques de l’IA, nous vous proposons d’examiner ses applications concrètes et les opportunités qu’elle offre. Les dernières prouesses des générateurs de textes ou de vidéos ne suffisent pas pour illustrer la variété des secteurs transformés par l’IA et mettre en avant tous les enjeux économiques et sociétaux soulevés par cette technologie.

Une variété d’opportunités

Assistants vocaux et outils d’accessibilité numérique

Parmi les usages courants, nous pouvons penser aux systèmes de recommandation en ligne, qui, bien qu’incitant parfois à une consommation accrue, peuvent aussi aider à mieux consommer en proposant des choix plus pertinents et adaptés aux besoins individuels.

La reconnaissance et la synthèse vocales en sont un autre exemple frappant : elles permettent d’interagir avec des assistants vocaux comme Alexa ou Google Assistant, facilitant la vie quotidienne. Cependant, ces technologies sont aussi d’une aide précieuse pour les personnes en situation de handicap, leur offrant de nouvelles possibilités d’interaction avec leur environnement. Associés à un traducteur en temps réel, de tels outils permettent de voyager dans des pays étrangers sans maîtriser la langue locale et de faciliter la communication multiculturelle.

Révolution des transports et véhicules autonomes

Les véhicules autonomes, qui ont fait l’objet d’un intérêt croissant ces dernières années, illustrent également l’impact potentiel de l’IA dans la mobilité et la sécurité routière.

Optimisation industrielle et automatisation des tâches

Dans l’industrie, l’IA permet d’automatiser des tâches répétitives et sources d’erreurs humaines. Par exemple, elle peut contrôler la qualité d’une carte électronique comportant des centaines de composants ou détecter les gâteaux défectueux sur une ligne de production. Bien que ces systèmes de détection existent depuis plus de vingt ans, les progrès récents en IA ont considérablement amélioré leur efficacité. Toujours dans le domaine industriel, des modèles prédictifs peuvent offer des outils d’optimisation logistique des ressources ou des stocks.

Sécurité financière et détection des fraudes bancaires

Dans le secteur financier, les banques et assurances exploitent l’IA non pas tant pour prédire les gains ou les pertes, mais pour détecter les fraudes. En analysant d’immenses volumes de données en temps réel, ces systèmes repèrent des anomalies et des comportements inhituels, renforçant ainsi la sécurité des transactions.

Rôle de l’IA en médecine et recherche scientifique

En médecine, l’IA joue un rôle de plus en plus important. Elle ne se limite pas à l’aide au diagnostic ou à la chirurgie, mais contribue également à la recherche scientifique. Déjà mentionné dans ce livre, AlphaFold, développé par DeepMind, est un modèle révolutionnaire qui permet de mieux comprendre la structure des protéines et d’accélérer la découverte de traitements pour des maladies complexes.

Suivi environnemental et modélisation écologique

L’IA trouve aussi des applications dans des domaines plus vastes, comme le suivi environnemental. Elle permet d’analyser en continu l’évolution des zones agricoles, des phénomènes météorologiques, de la biodiversité et des dynamiques de population. Grâce à ses capacités de modélisation, elle aide à anticiper des événements majeurs et à mieux y répondre.

Ces exemples montrent la diversité des applications de l’IA, mais nous souhaitons rentrer dans le détail d’une application pour mieux illustrer son impact.

Un exemple concret : l’IA aux urgences

Réduction des erreurs médicales et fatigue nocturne

Lors de la conférence des Journées Francophones de la Radiologie 2023, une cadre des urgences d’un hôpital français a présenté un retour d’expérience sur l’utilisation d’un système d’IA pour détecter les fractures sur les radiographies des patients admis aux urgences.

Avant l’intégration de cette technologie, une analyse des données passées avait révélé que la plupart des fractures non détectées l’étaient en soirée, avec un pic d’erreurs vers 3 heures du matin. Cette observation s’explique aisément : en pleine nuit, malgré tout leur professionnalisme, les médecins subissent naturellement la fatigue. Une autre intervenante lors de cette conférence soulignait également l’augmentation constante du nombre de radiographies à analyser, rendant la tâche encore plus ardue.

Collaboration homme-machine et retour visuel pour l’urgentiste

L’introduction d’un logiciel de détection automatique de fractures a permis de réduire ces erreurs nocturnes. Contrairement aux médecins, les systèmes d’IA ne se fatiguent pas : leur performance est la même à 10 heures du matin qu’à 3 heures. L’expérience a révélé deux faits intéressants. Premièrement, le système d’IA seule obtenait des résultats proches de ceux d’un interne en radiologie. Deuxièmement, un interne assisté par le système d’IA détectait des fractures qui auraient autrement été manquées. Ce cas met en évidence un aspect clé : ce modèle d’IA ne remplace pas le médecin, mais il agit comme un outil de soutien qui améliore les performances humaines.

Une autre caractéristique essentielle de ces systèmes est leur capacité à fournir un retour visuel : plutôt qu’un simple message indiquant la présence d’une fracture, le système d’IA met en évidence les zones suspectes directement sur l’image, facilitant ainsi la validation par l’urgentiste.

L’importance des bases de données dans l’IA médicale

L’ampleur des données nécessaires à l’entraînement de ce système illustre également les exigences de qualité propres à l’IA médicale. Ce modèle a été entraîné sur plus de 500 000 radiographies issues d’une vingtaine de centres internationaux. Pour garantir une annotation fiable, chaque image a été analysée par deux radiologues et, en cas de désaccord, par un troisième. Au total, 50 radiologues spécialisés ont contribué à la constitution de cette base de données. Une fois l’algorithme entraîné, sa performance a été validée sur une base de test de 60 000 images, également annotées par ces experts.

Ces multiples exemples montrent à quel point l’IA s’intègre progressivement dans notre quotidien, souvent de manière discrète mais avec des impacts majeurs. Son potentiel est immense, notamment lorsqu’elle est mise au service du bien commun. Reste à s’interroger : ces outils, aussi performants soient-ils, sont-ils toujours utilisés de manière éthique et bénéfique ? C’est une question que nous explorerons plus en détail par la suite.

Dangers pour la société et l’humain

Comme toute avancée scientifique et technologique, les systèmes d’IA présentent non seulement des opportunités mais aussi des risques et des effets indésirables. Certains de ces impacts sont déjà visibles, tandis que d’autres relèvent encore de projections et de débats.

Conséquences néfastes

Quel impact de l’IA sur l’emploi et le chômage ?

L’un des premiers effets redoutés de l’IA est son impact sur l’emploi. L’automatisation pourrait entraîner des suppressions massives de postes, en particulier dans les secteurs où les tâches sont répétitives et peu qualifiées. Toutefois, certains experts nuancent ce constat : l’histoire montre que chaque révolution technologique a supprimé des emplois tout en en créant de nouveaux. L’essor d’Internet et de la robotique illustre bien cette dynamique. La question qui se pose alors n’est pas seulement celle de la disparition d’emplois, mais aussi celle de la transition et de la requalification des travailleurs.

Dépendance technologique et perte de compétences humaines

Un autre risque réside dans la dépendance excessive aux systèmes d’IA, qui pourrait affaiblir certaines capacités humaines telles que la créativité, l’esprit critique et l’intuition. Lorsque nous nous reposons trop sur des outils automatisés, nous risquons de perdre des compétences essentielles à la prise de décision et à l’innovation. Cela fait écho à l’exemple du détecteur de fractures mentionné précédemment : l’IA est un outil d’assistance, mais elle ne remplace pas l’expertise humaine. Les médecins restent indispensables pour valider les diagnostics et assurer le bon fonctionnement des algorithmes. La véritable question est donc : comment former les experts de demain à travailler avec ces nouveaux outils sans devenir totalement dépendants d’eux ?

Biais algorithmiques et discriminations de l’apprentissage automatique

L’IA soulève aussi des enjeux éthiques et sociétaux, notamment en ce qui concerne les biais algorithmiques. Les systèmes d’apprentissage automatique (machine learning) sont entraînés sur des bases de données qui reflètent la réalité humaine, avec ses préjugés et ses inégalités. Un exemple frappant est celui du système de recrutement automatisé d’Amazon, qui, en 2018, a appris à discriminer les candidatures féminines simplement en analysant les tendances du marché du travail. Ce problème illustre l’importance d’une donnée de qualité et d’une supervision humaine rigoureuse. Mais une question plus large se pose : sommes-nous réellement capables de produire des jeux de données exempts de biais ? Dans certains domaines sociaux, cette exigence semble difficilement atteignable.

L’effet « boîte noire » et opacité des modèles génératifs

Enfin, les systèmes d’IA, en raison de leur complexité, peuvent parfois adopter des comportements imprévus, avec des conséquences inattendues. Plus un modèle est sophistiqué, plus il devient difficile de comprendre son fonctionnement interne. C’est particulièrement vrai pour des modèles génératifs comme ChatGPT ou Midjourney, dont les décisions ne sont pas toujours explicables. À l’inverse, des algorithmes conçus pour des tâches spécifiques, comme la détection de fractures en radiologie, sont généralement plus prévisibles et maîtrisables.

Les véritables dangers de l’IA

Désinformation massive et deepfakes électoraux

L’un des dangers majeurs réside dans la manipulation de l’information. La capacité des modèles d’IA à générer des vidéos, des images et des enregistrements sonores de manière convaincante ouvre la voie à une désinformation massive (deepfakes). Par exemple, en janvier 2024[1], alors que les électeurs du New Hampshire s’apprêtaient à voter pour la primaire démocrate, de nombreux votants ont reçu un appel téléphonique de Joe Biden… ou plutôt, d’une voix générée artificiellement par un modèle d’IA, leur conseillant de ne pas voter. Cet usage frauduleux de l’IA dans le contexte électoral montre à quel point ces technologies peuvent être instrumentalisées pour influencer l’opinion publique et manipuler les citoyens.

Cybercriminalité et attaques informatiques par IA

L’IA est également exploitée dans le domaine de la cybercriminalité. Des modèles comme ChatGPT peuvent générer du code permettant d’infiltrer des réseaux d’entreprise, d’envoyer des e-mails frauduleux sophistiqués (phishing), ou encore d’automatiser des attaques informatiques. Cette accessibilité accrue des outils malveillants renforce la vulnérabilité des infrastructures numériques et menace la sécurité des données personnelles.

Usurpation d’identité et arnaques aux clones vocaux

Le risque ne s’arrête pas là. Imaginons qu’un individu malveillant collecte les publications d’un enfant sur les réseaux sociaux au fil des années. En entraînant un modèle d’IA sur ce contenu, un escroc pourrait utiliser ce modèle pour reproduire son style d’écriture à l’âge adulte et se faire passer pour lui dans des messages envoyés à ses proches. Poussons l’exemple plus loin : si cet escroc utilise des images, des audios et des vidéos de l’enfant, il pourrait simuler un appel vidéo (deepfake vidéo) et convaincre un parent qu’il s’agit réellement de son fils ou de sa fille, en détresse et demandant une aide financière urgente. Ces scénarios ne relèvent pas de la science-fiction : ils sont déjà techniquement réalisables et des cas avec une reproduction de voix d’enfants ont été rapportés[2]. Il est donc crucial d’adopter une attitude prudente face aux sollicitations numériques et de toujours prendre du recul avant d’agir sous le coup de l’émotion.

Armes autonomes et enjeux éthiques militaires

Enfin, l’un des dangers les plus préoccupants est l’utilisation de l’IA dans les systèmes d’armement. L’automatisation de la détection et de l’identification d’objectifs, couplée aux performances des systèmes d’IA, pourrait conduire au développement d’armes autonomes capables de prendre des décisions létales sans intervention humaine. Une telle évolution soulves d’immenses questions éthiques et stratégiques : doit-on confier à des algorithmes le pouvoir de vie et de mort ?

Conclusion, vers un usage responsable de l’IA

Ces défis ne doivent pas conduire à un rejet de l’IA, mais à une réflexion sur la manière de l’utiliser de façon responsable. L’enjeu n’est pas d’opposer l’humain et la machine, mais de concevoir une collaboration intelligente, où l’IA reste un outil au service de l’homme, et non l’inverse. Derrière tous ces dangers se trouvent d’innombrables débats de sécurité, d’économie, de géopolitique, mais surtout d’éthique. Maintenant que nous avons vu les avancées que nous apporte ou apportera l’IA, et maintenant que nous avons vu aussi ses dangers et ses risques, nous sommes prêts à nous poser la question suivante : quel est donc le débat autour de l’IA ?

---

[1] https://edition.cnn.com/2024/01/22/politics/fake-joe-biden-robocall/index.html. Dernier accès: 01/02/2025

[2] https://www.independent.co.uk/news/world/americas/ai-phone-scam-voice-call-b2459449.html. Dernier accès: 01/02/2025