Compte-rendu de la commission Europe & géopolitique du 22 février 2024 – Rencontre avec Cédric VILLANI et Guillaume GÉRARD

Le groupe des anciens députés a reçu Cédric Villani, ancien député, lauréat de la prestigieuse médaille Fields, tel que nous le connaissons avec sa lavallière nouée autour du cou et arborant son imposante broche araignée sur son vêtement accompagné de Monsieur Guillaume Gérard Responsable de GenAI Europe du Sud et Centrale de CAP GEMINI.

Cédric Villani est venu expliquer les nouveaux enjeux posés par l’Intelligence Artificielle. Pour lui « il ne faut pas céder à l’illusion que l’IA va tout solutionner. Voilà cinq ans, il a rédigé, sur commande du gouvernement d’Edouard Philippe, un rapport sur l’intelligence artificielle balayant toute une liste de recommandations et de problématiques. Entre les exaltés et les alarmistes, il veut être réaliste.

D’abord, fait-il observer, l’IA on s’en sert tous les jours, en utilisant son GPS ou en complétant automatiquement les mots sur son smartphone. Ce n’est pas de l’IA à l’ancienne. De même que la traduction automatique poussée à un très haut niveau aujourd’hui. Elle est devenue banale et pourtant personne n’en parle.
La définition de l’IA: c’est un développement technologique qui automatise des taches que l’on croyait réservées à l’humain. Lorsqu’elle s’introduit dans les usages, on n’y pense même plus. On ne parle d’elle que quand elle fait le « buzz » médiatique ou scientifique.
Sa grande richesse, c’est le dialogue entre la technique et tout le reste : les rapports humains, les imaginaires, le social, la politique, et d’autres domaines. L’impact humain est considérable.

La vraie rupture a eu lieu en 2017, quand des ingénieurs de Google ont inventé les « transformeurs « qui sont au cœur des grands modèles de langage comme ChatGPT. Il y a eu un saut dans la qualité des produits accessibles au public. Le phénomène touche tout le monde. Les lycéens testent ChatGPT sur leurs devoirs, des journalistes l’utilisent pour vérifier leur style…mais, ChatGPT n’est pas conçu pour être fiable. Il donne des réponses plausibles et parfois il dit des choses qui n’ont jamais existé.

Ces IA vont-elles changer nos pratiques ? Dans certains domaines comme la médecine ou la production d’écrits, oui, incontestablement. Mais dans d’autres secteurs comme les transports, le bâtiment, l’agriculture, c’est l’inconnu.
Dans le domaine de la santé l’IA a déjà apporté beaucoup en matière de diagnostic ou de détection. Elle pourra faire gagner du temps, grâce aux logiciels d’analyse de texte dans les rapports et comptes rendus d’opérations, pour repérer une technique chirurgicale précise ou un médicament plus adapté avec les antécédents médicaux. Malgré ce, beaucoup de tâches chirurgicales relèvent de l’humain, du chirurgien.
Si la machine a une mémoire inouïe, l’humain par ses émotions, ses capacités d’imagination peut avoir des raccourcis extrêmement efficaces au-delà de ce que font les programmes.

Des réflexions éthiques sont nécessaires au sein des ingénieurs pour savoir quelles informations doivent être partagées où rester confidentielles. Sans le scandale de l’affaire Snowden et les affaires d’espionnage de la CIA et du FBI, il n’y aurait pas de RGPD en Europe pense-t-il.

Dans le domaine du travail, il ne s’attend pas à un creusement des inégalités entre emplois qualifiés et non qualifiés. L’IA est mauvaise sur les métiers dit peu qualifiés. Elle devrait toucher davantage les métiers de compétences intermédiaires, le médecin généraliste, plus que le chirurgien ou l’infirmière. On ne sait pas faire des robots de livraison, de la manutention ou du soin à la personne. A Pôle emploi, ce sont des algorithmes qui ont permis de mieux recenser les potentielles ressources d’emplois à proximité du demandeur. Les infirmiers, les ATSEM, ou les auxiliaires de vie sociale ne sont pas près d’être remplacés. Pour l’instant la révolution annoncée n’a pas eu lieu. Ne cédons pas à l’illusion que l’IA va tout solutionner. On ne résoudra pas la pénurie des enseignants par des algorithmes.

Aujourd’hui, l’expérimentation de la vidéosurveillance algorithmique fait débat, mais pour lui, la question est de savoir où on doit placer la confiance ? Dans une technologie, ou dans les personnes qui la mettent en œuvre ? Les contrôles seront ils assurés par l’Etat ? Que sait-on de l’entreprise en charge de ces contrôles ? Si la confidentialité et la transparence sont assurées, pourquoi pas ? Sinon, il faut s’y opposer.

L’IA peut être un atout dans la lutte pour le climat, en théorie il y a des recherches pour une IA sobre en énergie qui servirait des causes nobles et aider le GIEC à fournir des résultats fins et précis, mais en pratique ce sont les IA les plus gourmandes en ressources qui se développent. Les grands modèles de langage ont des besoins pharaoniques en énergie. Il dénonce la grande escroquerie qu’est la capture directe de carbone.

Dans son rapport « donner un sens à l’IA », trois mots clés figuraient dans ces recommandations : partagé, expérimentation, et souveraineté qui restent toujours d’actualité.

Pour lui, l’IA a démontré sa capacité à surprendre et nous invite à l’humilité.
Il rappelle que pendant ses études , ce sujet intéressait peu les mathématiciens, c’était le pré carré des amoureux de la logique et des sciences cognitives. Aujourd’hui, les gouvernements se demandent combien de milliards investir dans le secteur.
Parmi les grands scientifiques de l’IA, il y’a ceux qui ont terriblement peur de son développement, ceux qui sont réservés et appellent à un moratoire, et ceux qui incitent à prendre le sujet à bras le corps, dont il se sent plus proche.

Dans le temps, il a trouvé Elon Musk enthousiasmant, aujourd’hui, il le considère comme l’une des pires menaces qui pèsent sur nos sociétés. Faire son show médiatique en brandissant la peur de l’IA, c’est aussi une manière de faire affluer les capitaux dans ses entreprises. Sur la disparition massive d’emplois, c’est la même tactique, car au fond personne ne sait ce qui va se passer.

Il essaye d’avoir une approche réaliste. D’abord, les discours enthousiastes et catastrophiques ne sont pas si éloignés, ils partagent le pari d’un fort impact. Il ne croit pas à l’IA prenant le contrôle de l’humanité mais qu’il faut s’attendre à des chamboulements très importants sur le plan politique, social, économique. Et pas qu’en bien. Il n’a aucune naïveté sur l’ampleur des dégâts que ces technologies peuvent causer. On ne peut s’en sortir sans règlements forts sur ce sujet. Mais le discours catastrophique a aussi des effets néfastes. En médecine par exemple, en freinant les expériences et les développements importants attendus, on perd plus qu’on ne gagne. Il espère que les avancées sur l’IA nous permettront d’augmenter notre compréhension du monde, la façon dont nous sommes nous-mêmes organisés. Et pour le fédéraliste qu’il est, il estime qu’il y a un boulevard pour la recherche en Europe.