Pour ou contre : faut-il freiner le développement de l’intelligence artificielle ? (Colin de la Higueira face à Paul Midy)

Écoutez cet articleLa pétition lancée la semaine dernière par le  Future of Life Institute a fait l’effet d’un séisme dans la Silicon Valley, dont les secousses ont été ressenties dans le monde entier. Et pour cause : au cœur même du laboratoire de l’innovation mondiale, des voix puissantes comme Elon Musk ou Steve Wozniak se sont élevées pour exiger un moratoire de six mois sur le développement de l’intelligence artificielle (IA). L’initiative n’a pas tardé à faire réagir les politiques. Ce mardi, le président américain Joe Biden a lui aussi évoqué les risques potentiels de l’IA, « pour notre société, notre économie, et notre sécurité nationale » et a appelé les acteurs de la tech à mettre en place des garde-fous.Depuis sa sortie le 30 novembre, la tech et le grand public ont accueilli le robot conversationnel ChatGPT comme une révolution technologique d’une ampleur comparable à l’arrivée de l’ordinateur. Non sans appréhension. Ceux qui comme Elon Musk promettaient hier que l’innovation et l’intelligence artificielle allait sauver l’humanité semblent maintenant pris de remords. Au discours technophile (« la technologie améliore nos vies ») et fataliste (« on arrête pas le progrès ») succèdent les exhortations à mettre sur pause la machine de l’IA, s’il en est encore temps.

Alors, faut-il freiner le développement de l’intelligence artificielle ?

 

Après chaque développement technologique de ces dernières semaines, je me surprends à être surpris. Je ne suis pas certain que nous ayons connu une telle accélération. On peut penser à l’imprimerie, l’électricité, le moteur à explosion. Mais dans ces cas-là, la société avait le temps de s’adapter. Si Gutenberg invente l’imprimerie en 1450, le premier livre est produit en 1454 !

Lors d’un cours de master sur l’IA donné en mars, j’ai réalisé que je répondais à mes élèves en fonction de ma réflexion du mois de février. Or, depuis, les capacités nouvelles de GPT-4 rendaient caduques des réflexions concernant les limites de GPT-3. Et l’on voit que ce n’est pas la fin. Cela va trop vite. Aujourd’hui, il y a un malaise chez la plupart des chercheurs en IA de ma génération. Nous nous inquiétons d’une accélération des lancements de nouveaux outils d’IA basés sur des technologies qui ne seraient pas assez contrôlées. Leurs effets sur la société sont trop dangereux pour que le calendrier nous soit dicté par quelques géants de la tech.

Dans le monde du travail, les IA pourraient remplacer jusqu’à 300 millions d’emplois dans le monde, pour un gain de PIB mondial annuel de 7% selon une étude récente de Goldman Sachs. Leur développement est si rapide que des métiers gratifiants ou créatifs (enseignant, architecte, journaliste… pour ne citer que des métiers que des métiers « col-blanc ») pourraient ne plus exister quand les jeunes ou les étudiants qui s’y préparent auront l’âge de travailler. Que dire à un enfant de 13 ans sur son avenir professionnel ?

Lire aussiPour ou contre : le bitcoin peut-il se relever de l’hiver crypto ? (Alexandre Stachtchenko face à David Cayla)

Si l’on peut ne pas être d’accord avec tous les scénarios catastrophistes présentés dans la pétition, il y a un point de danger qui mérite d’être souligné. L’une des raisons principales d’être de la démocratie est que ce soient les citoyens fassent les grands choix de société. En ce moment, c’est loin d’être le cas. Les transformations probables de la société liées à cette IA ne sont pas voulues, ni même accompagnées, par la volonté des citoyens ou de leurs représentants élus.

Le laissez-faire à ses limites. En raison du décalage entre le temps technologique et le temps politique, nous avons toutes les chances de voir nos dirigeants se retrouver devant le fait accompli d’une révolution technologique qu’ils auront subi et sur laquelle ils devront légiférer. Il est toujours plus difficile de régler les difficultés et les problèmes a posteriori.

Notre demande est donc que les géants de la tech cessent d’expérimenter pendant six mois mois, pour laisser le temps de réfléchir et de proposer, si nécessaire, des garde-fous. Je ne sais pas si une période de six mois est suffisante. Cela donne au moins le temps de donner aux grandes organisations internationales le temps de commencer à travailler et de réfléchir à trois grands problèmes de société : comment éviter une confusion encore plus grande entre le vrai et le faux ? Comment éduquer à l’IA ? Comment gérer les questions d’éthique qui apparaissent au quotidien ?

Tous les systèmes d’intelligence artificielle ne sont pas à bannir pour autant. Certains servent déjà dans la médecine ou l’agriculture. Il faudrait maintenant pouvoir freiner et sortir des innovations qu’on ne contrôle plus.

 

Ce n’est pas une pause qu’il faut, mais accélérer le développement de l’IA française et européenne ! L’intelligence Artificielle (IA) fascine autant qu’elle inquiète. Elle représente un enjeu économique et de souveraineté majeur, le marché mondial étant estimé à 80 milliards d’euros et devrait atteindre 1.500 milliards d’euros d’ici à 2030.

L’IA offre des solutions concrètes pour répondre à nos défis actuels comme la transition écologique, la santé ou la sécurité. Grâce à l’IA, la startup XXII analyse en temps réel les flux vidéo des caméras pour détecter les agressions dans la rue ou le port d’armes, Aqemia développe de nouveaux médicaments, et Artefact aide ses clients à développer des solutions de transition écologique.

Compte tenu de ces enjeux, le Président de la République a annoncé dès 2018 son ambition de faire de la France un leader mondial de l’IA en lançant une stratégie nationale avec un budget de 3 milliards d’euros. Depuis, la France est devenue le premier écosystème d’IA en Europe continentale. Mais les nouvelles technologies suscitent toujours des appréhensions, et aujourd’hui c’est Elon Musk lui-même qui appelle à faire une pause de six mois sur la recherche en IA.

Lire aussiPour ou contre : faut-il augmenter les impôts pour financer la transition écologique ? (Aurélie Trouvé face à Agnès Verdier-Molinié)

Arrêter d’innover serait une erreur. Nous n’avons pas fait de « pause » dans le mouvement de mécanisation de l’agriculture qui a réduit le besoin de main d’œuvre agricole, ni dans le développement d’Internet parce que Google menait parfois vers des sites illégaux ou relayant de fausses informations.

Ce que veut dire Elon Musk, c’est qu’il faut vite réguler l’IA. Si c’est pertinent de le proposer pour les États-Unis qui n’ont rien fait en la matière, ça ne l’est pas pour l’Union européenne qui a déjà anticipé le sujet. Un « IA Act » a été proposé dès 2021 par la Commission et sera voté ce mois-ci par le Parlement européen. Il définit 4 niveaux de risques en fonction des types d’IA, assortis d’obligations et de règles spécifiques, et consolide les droits fondamentaux des citoyens face aux usages de l’IA. Une pause de six mois ne changerait rien, à part donner de l’avance à ceux qui ne feraient pas de pause.

Notre défi est de rester dans la course mondiale et au meilleur niveau. Nous avons parmi les meilleurs scientifiques et ingénieurs au monde avec l’Université Paris-Saclay ou l’Institut Polytechnique de Paris par exemple. Ce sont des Français qui ont créé Hugging Face, équivalent open source de ChatGPT. Pour rester dans la course mondiale et au meilleur niveau, nous avons besoin de parier sur de bonnes équipes (on peut en citer quelques-unes comme celles d’AnotherBrain, PhotoRoom, Dental Monitoring ou Shift Technology) et, pour cela, de renforcer considérablement nos capacités de financement.

La mission Midy sur le financement des startups « early stage », l’initiative Tibi sur le « late stage » ou le fonds Initiative Champions Technologiques Européens sont des premières étapes utiles. Mais nous devons aller plus loin et c’est en Européens que nous réussirons dans cette compétition mondiale.