Pour Cédric Villani, « la superintelligence, c’est une façon de récupérer des super milliards »
A l’heure où la Silicon Valley planche sur de nouvelles formes d'IA la crème des experts français dans ce domaine – Cédric Villani, Aurélie Jean et Edouard Grave – ont clarifié ces différents concepts lors du forum Artificial Intelligence Marseille (AIM), organisé par « La Tribune ».
Natasha Laporte 18 Nov 2024 latribune.fr
C'est un superlatif qui est sur toutes les lèvres des acteurs de l'industrie de l'intelligence artificielle (IA) : la « superintelligence », promise par OpenAI. Elle pourrait émerger dans « quelques milliers de jours seulement », estimait récemment Sam Altman, le patron de l'entreprise créatrice de ChatGPT. Le tout à l'occasion du lancement d'une nouvelle famille de modèles d'IA, dotée de capacités de raisonnement complexes et censées représenter une première étape vers des IA autonomes.
Le principe ? Les résultats s'améliorent et, à ce rythme-là, la superintelligence pourrait être atteinte rapidement, en dépassant l'intelligence humaine, décrypte l'ancien député et auteur de la stratégie nationale de l'IA, Cédric Villani. Déjà, « sur certaines tâches, les intelligences artificielles font bien mieux que les humains. C'est vrai pour un diagnostic de cancer ou de fracture, ou en jeu de go, en somme, dans toutes sortes d'activités », pointe le mathématicien.
Cependant, si, en parlant d'intelligence, on se réfère à « un être qui a conscience d'être un être et prend une décision », le médaillé Fields affiche son scepticisme. « Il n'est pas clair qu'on ait avancé même un pouième là-dedans ». Et de trancher : « La superintelligence, c'est une façon de récupérer des super milliards ».
Au-delà du raisonnement analytique
« Le mot 'intelligence artificielle' a été créé à une époque où l'on réduisait l'intelligence humaine à l'intelligence analytique », abonde la docteure en algorithmique et entrepreneuse Aurélie Jean. Une vision qui ne correspond plus à celle de la psychologie et des neurosciences d'aujourd'hui, qui font état des intelligences au pluriel - émotionnelle, créative ou pratique.
Dans ces conditions, si l'intelligence générale est capable de maîtriser, modéliser et simuler l'ensemble des tâches cognitives d'un être humain, cela devrait donc inclure « le raisonnement analytique, bien entendu, mais aussi les émotions et la conscience », déduit Aurélie Jean. Or, l'entraînement d'un algorithme reste un calcul d'optimisation, nourri avec des milliers de paramètres. Et si on peut construire un agent conversationnel qui nous dira « je t'aime » - ce n'est pas pour autant qu'il ressentira cette émotion... Ainsi, pour Aurélie Jean, il y a d'un côté les scientifiques qui ne croient pas à cette possibilité, et puis, « quelques-uns qui font du marketing et de la communication. Sam Altman en fait partie ».
Loin d'une superintelligence générale
Écho similaire de la part d'Edouard Grave, chercheur au laboratoire français Kyutai. « Des concepts telles que la conscience ou la volonté, c'est quelque chose qui, aujourd'hui, n'est pas du tout présent dans les algorithmes utilisés ». Et si certains pensent qu'à terme, des comportements d'intelligence tels qu'on l'entend pour les humains pourraient émerger, l'échelle qu'il faudrait atteindre est « délirante et probablement irréaliste », souligne ce spécialiste.
En outre, il estime nécessaire de distinguer la superintelligence de l'IA générale. « D'une certaine manière, on a déjà des superintelligences qui sont très spécifiques, comme le go et la détection de cancers », confirme-t-il. Quant à l'IA générale, « on a commencé à avoir des algorithmes un peu plus généraux et pas seulement spécifiques, qui, notamment, commencent à être capables de faire des tâches pour lesquelles ils n'ont pas forcément été directement entraînés ». De là à atteindre une superintelligence générale, en conséquence, une machine qui serait capable de tout faire mieux qu'un humain, « on en est effectivement assez loin ».
Une « grande diversion »
Quand bien même cela serait possible un jour, serait-ce pour autant souhaitable ? Une superintelligence serait « un gouffre énergétique phénoménal ! », s'exclame Cédric Villani. Enfin, même en supposant que le problème énergétique soit résolu, resterait la question de la finalité. « Si quelqu'un arrive à faire une hyperintelligence, ce sera un projet pour dominer le monde », redoute celui qui est également président de la Fondation de l'écologie politique.
Non sans humour, il imagine une mission extraterrestre en reconnaissance de ce qui se passe sur la Terre, constatant que face à une situation critique de la planète, avec un climat déréglé et des guerres, les humains construisent... des centres de données. « Il y a quelque chose qui ressemble à une très grande diversion », ironise-t-il. Une manière, aussi, de détourner les regards des problématiques actuelles de l'IA - « son impact environnemental et sociétal, la discrimination technologique, le digital labor, de même que son effet sur la démocratie », renchérit Aurélie Jean.
Ce qui n'empêche pas, bien au contraire, de poursuivre la recherche en matière de superintelligence. « Nous sommes à un moment unique dans l'histoire de l'humanité où nous allons être capables de redéfinir ce qu'est l'humain, une conscience, une émotion, le fait de penser et de réfléchir, grâce aussi, entre autres, à l'IA », poursuit-elle. En collaboration avec des linguistes et des neuroscientifiques, l'enjeu est donc de pousser les limites des modèles d'IA en espérant comprendre ce que nous sommes - à la différence d'une machine.
