L’intelligence artificielle n’est plus une simple technologie émergente : elle est devenue un puissant moteur de transformation. Lors de la Masterclass Impact AI, labellisée « Sommet pour l’action sur l’IA 2025 », consacrée à l’IA responsable, trois experts de renom ont partagé leurs réflexions sur les défis et opportunités offerts par l’IA et proposé une vision ambitieuse et collective d’un avenir harmonieux : Gilles Babinet, Digital Champion de la France auprès de la Commission européenne et vice-président du CNNum ; Francesca Rossi, IBM AI Ethics Global Leader, AAAI President, Co-chair of GPAI expert group on Responsible AI, Co-chair of OECD expert group on AI Future ; Serge Tisseron, psychiatre, créateur de l’Institut pour l’étude des relations homme-robot (IERHR) et co-responsable du premier diplôme de cyber psychologie créé en 2019 à l’Université de Paris Cité.

Ci-dessous une synthèse detaillée de chacune de ces Masterclass rédigée par Nicolas Marescaux, Directeur adjoint Réponses Besoins Sociétaires et Innovation, MACIF et membre du CA Impact AI

Gilles Babinet : « Trois raisons de croire à un monde harmonieux à l’ère de l’IA »

L’intelligence artificielle est un sujet essentiel mais souvent abordé de façon fragmentée. En prenant un peu de hauteur, je suis convaincu qu’il existe trois raisons de croire en un monde harmonieux à l’ère de l’IA.

L’ampleur de la révolution technologique. L’IA représente une véritable rupture anthropologique, comparable aux grandes révolutions industrielles. Nous vivons un moment clé : des technologies qui semblaient relever de la science-fiction il y a quelques années deviennent réalité. Cela s’explique par l’accélération exponentielle de la puissance de calcul, illustrée par des lois comme celle de Moore et de Huang. Ces progrès transforment profondément notre société, de notre manière de travailler à nos interactions quotidiennes.

Prenons l’exemple du domaine politique. Aujourd’hui, des technologies d’intelligence artificielle influencent directement les élections dans le monde, dépassant les pratiques d’ingérence comme les fermes de trolls. Ce phénomène soulève des questions fondamentales sur l’avenir de nos démocraties. Comment concilier efficacité technologique et éthique ? Les institutions publiques doivent s’adapter, intégrer cette transversalité qu’impose l’IA, et repenser leur fonctionnement pour rester pertinentes dans les décennies à venir.

L’impact sur notre sphère intime. L’IA transforme également notre relation au monde, y compris nos interactions personnelles. Nous passons plus de temps à interagir avec des machines qu’avec d’autres humains. Cela a des effets profonds sur nos cognitions et sur le fonctionnement de la démocratie.

Par exemple, comme le souligne Robert Putnam dans ses travaux sur la démocratie, la polarisation actuelle est en partie due à notre tendance à éviter les confrontations directes. Nous débattons moins avec des personnes ayant des opinions divergentes, ce qui renforce les extrêmes. Cependant, l’IA peut aussi jouer un rôle positif, notamment dans des domaines comme la santé mentale. Des startups développent des solutions utilisant l’intelligence artificielle pour accompagner des troubles cognitifs complexes, comme la schizophrénie.

Les opportunités pour les systèmes productifs. L’IA offre une opportunité unique de repenser nos systèmes productifs et notre contrat social. En intégrant l’IA dans nos modèles économiques, nous pouvons améliorer la productivité tout en favorisant une transition écologique.

L’Europe, avec ses réglementations comme la CSRD peut devenir un leader en matière d’IA responsable et durable. Nous pouvons utiliser ces technologies pour relever les défis environnementaux. D’ici quelques années, l’IA pourrait devenir le deuxième facteur de décarbonation, juste derrière les énergies renouvelables.

Conclusion. Nous vivons un moment charnière. Si nous parvenons à construire une culture collective autour de l’IA, basée sur des faits et des principes éthiques, nous pourrons créer un projet politique et technologique ambitieux. En ce sens, des initiatives comme Café IA, que nous avons lancées pour sensibiliser et dialoguer sur ces sujets dans les territoires, sont essentielles.

Francesca Rossi : « Les dimensions insoupçonnées de la gouvernance de l’IA »

Francesca Rossi, forte de sa riche expérience en matière de gouvernance de l’IA, a abordé les différentes dimensions de la gouvernance de l’IA.

Pourquoi la gouvernance de l’IA est-elle essentielle ?

Francesca Rossi part de ce questionnement : qu’est-ce qui fait de nous, humains, des décideurs responsables ? Ce n’est pas seulement notre capacité à prendre une décision et à l’appliquer, mais aussi notre capacité à raisonner sur les options disponibles, à évaluer les conséquences pour nous-mêmes, pour les autres, pour la société, et même pour l’environnement. C’est ce cadre de réflexion et de contrôle qui constitue notre « gouvernance ».

Pour l’IA, c’est la même chose. Si nous voulons qu’elle prenne des décisions responsables, il faut mettre en place une gouvernance de l’IA. Cela signifie concevoir des cadres qui garantissent que les systèmes d’IA fonctionnent de manière éthique, transparente et efficace dans le monde réel.

Les dimensions verticales de la gouvernance de l’IA

La gouvernance du cycle de vie de l’IA. Lorsqu’un système d’IA est développé, il passe par plusieurs étapes : définition des objectifs, collecte des données, entraînement, tests, déploiement et suivi. À chaque étape, il est crucial d’ajouter des mécanismes de gouvernance, comme : identifier et réduire les biais dans les données ; assigner des responsabilités claires pour gérer des problèmes comme l’explicabilité ou la transparence ; documenter chaque étape pour garantir que les utilisateurs finaux comprennent comment utiliser le système de manière responsable.

Avec l’IA générative, ce processus devient encore plus complexe, car ces systèmes, comme les modèles de langage, sont d’abord entraînés sur des tâches générales avant d’être spécialisés. La gouvernance doit donc couvrir un cycle de vie plus long et impliquer davantage d’acteurs.

L’évaluation des risques. Même si un système d’IA est techniquement bien conçu, son utilisation peut être inappropriée ou irresponsable. La gouvernance des risques implique d’évaluer si les caractéristiques techniques de l’IA sont adaptées à son cas d’usage ; de s’assurer que les utilisateurs finaux sont dignes de confiance ; de minimiser les risques d’exclusion ou d’injustice.

La gouvernance d’entreprise. Les entreprises doivent structurer leur gouvernance de l’IA. Chez IBM, par exemple, nous avons un comité d’éthique dédié à l’IA. Ce comité supervise tout, depuis l’évaluation des risques jusqu’à la formation des développeurs pour intégrer des pratiques responsables.

Il est également essentiel de collaborer avec d’autres acteurs : universités, ONG, et institutions publiques. L’IA responsable ne peut pas être réalisée par une seule organisation ; elle nécessite un effort collectif à l’échelle mondiale.

L’introspection des systèmes d’IA. De plus en plus, les systèmes d’IA incluent des mécanismes d’autorégulation. Tout comme un être humain choisit entre intuition et raisonnement en fonction des situations, les systèmes d’IA utilisent des méthodologies variées pour résoudre les problèmes. L’intégration de la gouvernance directement dans ces systèmes, via des approches comme la métacognition, est une étape clé.

La conformité aux normes. La conformité aux lois, normes sociales et valeurs humaines est un pilier fondamental de la gouvernance. Cependant, se contenter de suivre les réglementations ne suffit pas. Les entreprises les plus innovantes vont au-delà de la simple conformité pour construire des IA véritablement responsables.

Les dimensions horizontales de la gouvernance de l’IA

L’intégration. Les différentes dimensions de la gouvernance doivent être interconnectées pour éviter les incohérences ou redondances. IBM a mis en place un programme intégré pour harmoniser ces efforts, ce qui a considérablement amélioré l’adoption de l’IA responsable.

Ouverture et transparence. Rendre publics les modèles et les cadres de gouvernance de l’IA est essentiel pour deux raisons : cela renforce la robustesse et la sécurité des systèmes grâce à la contribution de la communauté ; et cela réduit les inégalités entre ceux qui développent des modèles d’IA et ceux qui ne font que les utiliser.

Conclusion

Investir dans la gouvernance de l’IA, bien que coûteux en temps et en ressources, n’est pas un obstacle à l’innovation : c’est une condition pour une innovation éthique et durable. Le progrès technologique doit servir à augmenter le progrès humain, et non l’inverse.

Serge Tisseron « « L’éducation au défi de l’IA et des transformations des élèves »

Alexis de Tocqueville écrivait : « Chaque nouvelle génération est un nouveau peuple. » Cette phrase prend une signification particulière à l’ère numérique, où les transformations technologiques modifient en profondeur nos rapports au savoir, à l’apprentissage, à l’identité, à l’autorité et aux liens sociaux.

Les quatre grandes transformations de l’ère numérique

1. Rapport au savoir — Avec des outils comme Wikipédia, la transmission du savoir a profondément changé. Aujourd’hui, un élève ou un employé passionné peut en savoir davantage sur un sujet précis que son professeur ou son supérieur hiérarchique.
2. Rapport à l’apprentissage — Les jeux vidéo ont favorisé le développement de nouvelles formes de mémoire, comme la mémoire associative, essentielle dans un monde où l’IA joue un rôle croissant.
3. Rapport à l’attention — À côté de l’attention soutenue requise pour lire ou bricoler, des formes d’attention brèves mais intenses se sont développées. Malheureusement, elles ne sont pas encore pleinement exploitées dans les systèmes éducatifs ou les entreprises.
4. Rapport à l’identité et à l’autorité — Les identités personnelles sont devenues fluides : il est désormais courant de changer de pays, de langue, voire de sexe au cours d’une vie. Parallèlement, l’autorité est moins perçue comme une imposition et davantage comme un équilibre à trouver entre conformité et originalité.

Les défis posés à l’éducation

Ces transformations posent trois défis majeurs à l’éducation : apprendre à apprendre tout au long de la vie, au-delà de l’acquisition de connaissances ponctuelles ; promouvoir les activités collaboratives plutôt que la compétition individuelle ; encourager des formes d’intelligence variées (corporelle, sensorielle, visuelle, etc.) en complément de l’intelligence hypothético-déductive.

L’impact de l’IA et la nécessité d’un nouvel imaginaire

L’apparition d’outils comme ChatGPT en novembre 2022 a révélé les lacunes dans la préparation à ces changements. Pour surmonter les craintes liées à l’IA, il est crucial de réfléchir à l’imaginaire collectif qu’elle suscite. Cet imaginaire se décline en quatre pôles :

1. Les élèves oscillent entre la volonté d’être supérieurs aux autres et celle de collaborer.
2. Les parents sont tiraillés entre l’espoir que l’IA résolve des problèmes complexes et la crainte d’une société de surveillance.
3. Les enseignants cherchent à élever le niveau de tous tout en valorisant les singularités de chacun.
4. Les dirigeants perçoivent l’IA soit comme une ressource économique, soit comme un bien commun à protéger.

Penser l’IA comme un bien commun permet de concilier ces imaginaires et d’encourager une utilisation collaborative et responsable.

Trois axes pour apprivoiser l’IA

1. Travailler l’IA — Il s’agit de comprendre ses limites et imperfections. Par exemple, lorsque ChatGPT se trompe, demandez-lui pourquoi. Cela aide à développer une approche critique et à éviter l’anthropomorphisme.
2. Travailler avec l’IA — Utiliser l’IA comme outil collaboratif, que ce soit pour rédiger des rapports, analyser des données ou améliorer les processus. Cependant, il est essentiel de conserver une capacité critique et une empathie humaine pour éviter une dépendance excessive.
3. Apprendre de l’IA — L’IA peut enrichir notre compréhension en nous initiant à de nouvelles formes d’intelligence, comme les intelligences multimodales (textes, images, vidéos). Elle exige aussi une maîtrise accrue du langage et une éthique rigoureuse pour garantir une utilisation vertueuse.

Conclusion

Face à l’IA, notre responsabilité collective est d’apprendre, de collaborer et de développer une nouvelle psychologie adaptée à un monde connecté. Cela nécessite de promouvoir des groupes d’entraide et de discussion pour ne laisser personne de côté.

Vers une alliance entre technologie et humanité

Ces interventions ont convergé vers une conclusion claire : l’IA n’est qu’un outil. Ce sont nos valeurs, nos choix et nos collaborations qui détermineront son impact. Christophe Lienard, président d’Impact AI, a résumé cet esprit : « L’IA de confiance nécessite un effort collectif. Ensemble, nous pouvons transformer ces défis en opportunités et accélérer l’adoption de l’IA responsable. »

Pour plus, nous vous invitons à regarder la version replay des Masterclass de l’IA responsable 2024 sur notre chaîne Youtube.