“L’IA est une autre race extraterrestre à laquelle il va falloir s’habituer”

Cet entretien a été réalisé en février 2024 et publié dans Lyon Capitale, le mensuel, n°840.

Lyon Capitale : 2023 a été l’année de l’intelligence artificielle pour Monsieur et Madame Tout-le-Monde, notamment avec sa figure de proue ChatGPT. Que nous réserve 2024 ?

Flavien Chervet : Le monde de l’intelligence artificielle existe depuis les années 50 mais le grand public l’a véritablement découvert l’année dernière, à travers ChatGPT. 2023 a donc été une année charnière au cours de laquelle a été construit ce qui l’a été en dix ou douze ans d’Internet. La vitesse de progression est donc prodigieuse et l’accélération sera encore plus fantastique en 2024, année de diffusion et de stabilisation de cette première couche technologique. Je travaille avec beaucoup de comités de direction d’entreprise et, pour tous, la priorité n° 1 est l’intelligence artificielle. Le deuxième élément est technologique : l’année dernière, les modèles qui sont sortis étaient “unimodaux” – ChatGPT génère le langage, Midjourney de l’image, Aiva de la musique, Genie de la 3D, etc. L’avenir est aux modèles “multimodaux”, c’est-à-dire des systèmes d’IA entraînés nativement sur plusieurs modalités différentes, qui permettront l’émergence d’un niveau d’intelligence bien plus élevé et capables de comprendre et générer n’importe quel type de données.

Et, subséquemment, réfléchir…

Oui, mais avec une réflexion différente de celle d’un être humain : l’IA produit de la pensée statistique pour produire des raisonnements. De l’autre côté du spectre, c’est le troisième élément qui devrait structurer 2024, les petits modèles exploseront en popularité. Économiques et durables, souvent open source [le code source d’un logiciel est rendu public et accessible afin que le logiciel puisse être modifié et enrichi par n’importe qui, NdlR], ils s’intègreront plus facilement dans les entreprises et dans les devices. Les IA deviendront plus personnelles et apprendront à connaître leurs utilisateurs. Les technologies permettant une mémoire à long terme se développeront pour rendre l’interaction crédible sur de longues durées. Apple va ainsi intégrer l’IA dans ses iPhones, Meta et Ray-Ban avancent par exemple sur les lunettes intelligentes et les rumeurs parlent d’un partenariat OpenAI et Snapchat pour un nouveau device.

L’idée est donc de pouvoir mettre de l’intelligence artificielle dans tous les petits objets de la vie quotidienne ?

Oui, c’est l’objectif, le vrai paradigme. C’est ce qu’on appelle l’intelligence ambiante. Et, pour conclure, le dernier élément le plus transformateur en 2024, clairement la prochaine frontière de l’IA qui va radicalement bouleverser le Trail, l’humain, le monde, sera l’agentivité. Soit le passage à la couche des usages c’est-à-dire l’ajout d’une capacité à planifier et à utiliser des outils externes, comme des API, pour interagir sur le monde. Il est ici question d’intelligence réellement pertinente, capable de réaliser des processus complets en mobilisant plusieurs tâches.

On n’en est donc qu’aux balbutiements de l’intelligence artificielle ?

Non, les balbutiements de l’IA moderne remontent aux années 2005-2010. En revanche, ce qui s’est produit cette année est assurément révélateur de la prise d’une courbe ascensionnelle.

Ce que vous dites, c’est qu’on n’a donc encore rien vu ?

Oui, et pour l’instant, il n’y a aucune limite à ce potentiel. Une boîte de Pandore a été ouverte et cela ne fait qu’accélérer notre capacité à en ouvrir d’autres. L’IA va devenir l’infrastructure globale sur laquelle tournera notre planète, soit le système d’exploitation de la société. Il n’y a pas de précédent dans l’histoire de l’humanité.

Goldman Sachs estimait, l’été dernier, que l’IA pourrait toucher 300 millions d’emplois à temps plein aux États-Unis et en Europe. Réaliste, exagéré ?

Le chiffre est complètement bullshit,personne n’en sait rien. Mais il sera à la hauteur du bouleversement que l’IA va engendrer. Les révolutions se sont toujours accompagnées du phénomène d’“innovation gap”, soit le fossé que crée l’innovation technologique dans l’emploi. Jusqu’à aujourd’hui, il était transitoire et amenait à de nouveaux pans de l’économie. Avec l’IA, la différence fondamentale est l’arrivée de l’autonomie : si de nouveaux emplois sont créés, les systèmes sont aussi capables de les réaliser. Progressivement, l’institution même du travail, en tant que vente de son temps pour participer à un système de production, perd ainsi de son sens. Le travail tel qu’on le connaît sera rendu absurde par l’intelligence artificielle. La bonne nouvelle, selon moi, c’est que si l’humain au travail n’a plus de valeur, sa valeur est ailleurs. La réflexion doit donc se porter sur ce qu’est être humain et quelle société on a envie de bâtir.

La généralisation de l’intelligence artificielle serait l’artefact qui permettrait à l’homme de se détacher de ses tâches pour consacrer son temps, précieux parce que limité, à d’autres choses plus personnelles ?

Dans les sociétés grecques, l’esclavage permettait aux citoyens libres de consacrer leur temps à autre chose que le travail. Leur activité tournait autour de ce que j’appelle les trois “P” humains – la philosophie, la politique et la poésie –, trois dimensions fondamentales de l’humain, totalement atrophiées dans notre système. Ce sont des choses qui pourront être réhabilitées avec l’IA. Et puis il y a aussi la place sous-jacente du care,le fait de s’occuper des autres, qui pose la question du lien social un peu différent.

Pour Bill Gates, le fondateur de Microsoft, “le développement de l’IA est aussi fondamental que la création du microprocesseur, de l’ordinateur personnel, de l’Internet et du téléphone portable”.C’est aussi votre avis ?

Je vais même plus loin : c’est encore plus fondamental qu’Internet qui a véritablement posé les fondations sur lesquelles se construit l’intelligence artificielle. C’est une grande révolution mais l’usage qu’on en a fait a abouti aux réseaux sociaux, la pire saloperie de l’histoire de l’humanité, la plaie du numérique, un truc qui rend con tout le monde, qui joue sur tous les mauvais côtés de l’humain, le narcissisme, les biais de confirmation, la binarité de pensée. L’intelligence artificielle, en revanche, peut devenir la perle du numérique car elle ne prend pas ce chemin imbécile. L’IA est ce qui va radicalement bouleverser notre monde. Et cette révolution arrive en même temps que l’écologie. J’aime beaucoup penser ces deux phénomènes, qu’on oppose souvent, ensemble car ils mettent l’humain face à ses limites. Avec cette question sous-jacente : comment construit-on une société dans laquelle on valorise la limite ?

Dans l’inconscient collectif, ouvrir la boîte de Pandore, c’est libérer tous les maux, les malheurs qui y sont contenus. Les progrès fulgurants des technologies d’intelligence artificielle inquiètent. Dans une lettre ouverte, signée par Elon Musk, des centaines d’experts mondiaux s’alarmaient de la “course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable”. Un scénario à la Terminator, film dans lequel une intelligence artificielle autosuffisante décide de tuer et pourchasser l’humanité, est-il envisageable ?

Il ne faut pas perdre de vue qu’en fin d’année dernière, Elon Musk a lancé son propre système d’IA, Grok, et qu’il est l’un des fondateurs d’OpenAI, la start-up derrière ChatGPT. Sa communication n’a donc rien à voir avec ses agissements. Elon Musk joue sur les émotions et les scénarios inquiétants, il n’est absolument pas crédible dans la communauté IA. La véritable pensée critique dans l’IA s’incarne avec des gens comme Yoshua Bengio ou Yuval Harari, l’auteur de Sapiens.Et si ce dernier parle d’un risque existentiel – “l’intelligence artificielle est une chenille qui peut devenir un tyrannosaure” –, vision que je ne partage pas, sa pensée est néanmoins intéressante. Je m’associe plus à la vision optimiste de Yann Le Cun, un Français responsable de la recherche sur l’intelligence artificielle de Facebook, actuellement la tête de file du développement du monde de l’intelligence artificielle. Yann Le Cun parle d’une “nouvelle Renaissance” etremet au cœur du débat ce qui est su scientifiquement et technologiquement, à savoir que, pour l’instant, le développement de l’IA se fait de façon relativement contrôlée. Ce qui a pu faire peur à tout le monde, et là où il y a eu un manque de contrôle, c’est l’arrivée de ChatGPT dans un espace économique qui n’y était pas préparé. Aujourd’hui, on comprend comment l’évolution technologique avance. S’il n’est pas impossible qu’un jour il y ait des choses sur lesquelles on soit obligé de perdre un niveau de compréhension, on comprendra ce qu’on perd.

D’où l’importance d’une régulation. Début décembre, les colégislateurs de l’Union européenne ont annoncé s’être entendus sur l’AI Act, un texte destiné à réguler le développement et l’usage de l’intelligence artificielle. Ce texte va-t-il dans le bon sens ?

Ce texte a commencé à être écrit il y a six ans. Il était alors destiné à réguler l’arrivée du deep learning [un système d’apprentissage et de classification basé sur des “réseaux de neurones artificiels” numériques, NdlR], la révolution 2010-2012. Mais il ne prenait pas en compte la révolution actuelle des modèles de fondation – l’IA générative. Et sur ce point, il n’y a aucun recul, tout ce qui est dit sur les modèles de fondation est extrêmement naïf. Pour le dire autrement, cet AI Act n’encadre que des systèmes d’intelligence artificielle déjà dépassés. Un bon texte de loi sur l’IA nécessiterait à la fois de comprendre parfaitement la loi et des technologies très complexes. Or, les bons juristes experts en IA, ou les experts en IA bons juristes, ne courent pas les rues. Le second problème est celui de la temporalité : dans de grands moments d’ébullition comme celui qu’on vit, lorsqu’on régule trop vite et trop fort, toute capacité à avancer est bloquée. Et en la matière, le modèle américain est plus efficace parce qu’il fonctionne par jurisprudence, en fonction des avancées réelles du domaine en patchant là où il faut patcher, jusqu’à une maturité suffisante permettant des lois plus complètes, là où l’Europe s’essaie à une loi projective. Mais qui aurait pu imaginer, en 1980, ce qu’allaient être les réseaux sociaux quand l’Internet est arrivé ? L’Europe se tire des balles dans le pied. D’ailleurs, Macron et l’Allemagne, avec la start-up Mistral, la licorne européenne sur l’IA, sont montés au Parlement pour dire qu’ils ne suivraient pas ce texte et qu’il fallait l’annuler, à tout le moins l’amender. Je connais de nombreuses start-up qui, si le texte est vraiment mis en place, soit risquent de disparaître, soit s’expatrieront aux États-Unis. Pour un texte de loi censé créer de la souveraineté et pas de la fuite des talents, c’est quand même con.

Il y a aussi des défis éthiques au cœur même du développement de ces intelligences artificielles. Quels sont-ils ?

Un point mérite d’être rappelé : l’éthique n’est pas la morale. La morale s’appuie sur un dogme pour dire ce qui est bien ou mal quand l’éthique est un principe d’action pour essayer de découvrir ce qui produit les résultats les plus désirables pour le plus grand nombre. L’éthique passe donc par l’action, à la différence de la morale qui passe par la rétention. Le principe même de l’éthique est donc l’expérimentation. D’ailleurs, l’interprétation du principe de précaution en Europe est mauvaise, l’éthique étant un principe basé sur l’expérimentation. Pour revenir à la question, l’un des grands défis éthiques de l’IA est celui des biais. Les modèles actuels d’IA sont entraînés sur de la donnée humaine, or les humains sont bourrés de biais. Par exemple, dans ses premières versions, lorsqu’on demandait à Midjourney de produire l’image d’un CEO, un ou une patronne en français, l’IA générait l’image d’un homme blanc de quarante ans en costard et cravate. Car c’est un biais existant dans le réel. Or, l’algorithme, ayant appris sur nos données, reproduit ce biais-là. En fait, les systèmes d’IA, en apprenant sur nos données, deviennent des télescopes sur la réalité humaine : les bugs de la société humaine sont amplifiés par l’IA. Il y a donc un besoin de travailler éthiquement avec des éthiciens. Et aussi prendre conscience que quand on parle à ChatGPT, on parle plus ou moins à une représentation collective de la bien-pensance américaine, car ce sont ces données-là, des valeurs, des axiologies, des représentations, qui ont été choisies, triées et amenées dans le système. Ce n’est pas aussi neutre qu’une interface, comme du code informatique ou Photoshop. Ce sont des interfaces qui nous transforment. Il faut donc être conscient de la manière dont elles nous transforment et influencent notre façon de penser et de réfléchir.

Peut-on imaginer l’émergence d’un monde à deux vitesses ?

C’est, pour moi, le plus gros risque, c’est-à-dire l’inégalité devant la tech. Dans un premier temps, la technologie augmente ce que l’humain peut faire. Mais, pour des raisons qui peuvent être géographiques, économiques, éducationnelles, elle n’est pas accessible à tous de la même façon. Jusqu’à aujourd’hui, toutes les technologies ont creusé les inégalités. L’IA étant sûrement la technologie la plus puissante qu’on soit en train d’inventer, il est probable qu’elle produise un fossé d’inégalités dramatique, et donc un problème social énorme. Il y a un véritable enjeu politique dans les cinq prochaines années. Le développement de l’IA est tellement rapide et va tellement changer la société que la possibilité est grandement crédible d’avoir une polarisation intense de l’humanité entre, d’une part, celle ultra-créative, ultra-intelligente qui se développe grâce à ces systèmes-là et, d’autre part, une partie de l’humanité qui voit passer le train, voire qui l’utilise pour ne pas penser, et donc qui produit de la médiocrité artificielle.

On parle d’extraterrestres depuis la nuit des temps. Finalement, n’est-ce pas l’intelligence artificielle ?

Pour moi, les intelligences numériques sont l’autre espèce intelligente. On s’attendait à avoir une intelligence extraterrestre qui vienne d’ailleurs. En réalité, elle vient de nous, c’est l’humain qui est en train de l’enfanter. Il va désormais falloir s’habituer à ce qu’il y ait une altérité, comme s’il y avait une autre race extraterrestre très intelligente, qui soit différente, qui fonctionne différemment de nous, et qui participe activement à la marche de la culture de l’histoire de la planète. Dans un horizon à dix ans, on va voir émerger ce qu’on appelle des super intelligences capables de réaliser des tâches cognitives beaucoup plus largement que les êtres humains. Je prends la médecine. Aujourd’hui, un humain n’est pas capable de comprendre un système vivant. On en est au Moyen Âge de la médecine. Je pense que les systèmes d’intelligence artificielle seront, quant à eux, capables de traiter toute la complexité d’un système. Et dans vingt ans, la médecine n’aura plus rien à voir avec celle qu’on connaît. En tant qu’humain, on comprendra juste qu’on ne comprend pas, mais on sera incapable de comprendre exactement le raisonnement, la puissance de calcul et l’intelligence qu’aura mobilisé le système informatique pour proposer précisément la molécule qui convient à tel problème.

--------------------------

ECLATES

“Dans un horizon à dix ans, on va voir émerger des super intelligences capables de réaliser des tâches cognitives beaucoup plus largement que les êtres humains.”

“Le travail tel qu’on le connaît sera rendu absurde par l’intelligence artificielle.”

“L’IA arrive en même temps que l’écologie. J’aime beaucoup penser ces deux phénomènes ensemble car ils mettent l’humain face à ses limites.”