Une entreprise basée a Annecy met au point un logiciel capable de détecter, dans un texte, quel passage a été écrit par une IA.
Chat GPT, Barde ou encore YouChat, les intelligences artificielles se multiplient et prospèrent sur Internet depuis quelques temps. En janvier dernier, des cas de triche en milieu scolaire avaient été remontés à Lyon. La réflexion s'est donc amorcée pour trouver une solution contre ces logiciels. Compilatio, une entreprise rhônalpine basée à Annecy se penche sérieusement sur la question.
Lire aussi : Chat GPT : À Lyon, réflexion sur la cohabitation avec l’intelligence artificielle
Une intelligence artificielle, qu'est-ce que c'est ?
Chat GPT, c’est une intelligence artificielle spécialisée dans la conversation (chat en anglais). Cette IA est apparue fin novembre 2022, aujourd’hui encore, la version disponible au grand public est au stade de prototype. Cette technologie est développée par la société américaine Open IA. Lyon Capitale s’est prêté au jeu pour vous, nous avons demandé à l’IA d’écrire une carte de vœux.
En termes informatiques, cette IA est un agent conversationnel. Il apprend en permanence, se corrige, interagit… Le programme a reçu deux méthodes d’apprentissage. La première : “l’apprentissage supervisé”, un formateur lui enseigne la manière dont il doit interagir avec un utilisateur. Deuxièmement : l’IA reçoit un “apprentissage par renforcement”, elle “dialogue” avec elle-même. Chat GPT pioche tout son savoir dans une base de données. Là, une de ses limites apparaît, la base en question ne comprend que des éléments antérieurs à 2021. L’IA sera donc incapable de traiter un fait d’actualité par exemple.
Édito de Lyon Capitale : Le jour où ChatGPT a rédigé cette chronique
Compilatio, une solution pour lutter contre l'IA
Compilatio est spécialisé dans la détection de plagiat dans un texte. "Nous travaillons en collaboration avec de nombreux acteurs de l'éducation en France et à l'étranger", explique Lucile Guillermin, chargée de marketing dans l'entreprise. En effet, même les universités lyonnaises utilisent le logiciel pour les examens.
"Une grande partie des effectifs s'est penchée sur la question d'un logiciel capable de détecter les IA", dévoile Frédéric Agnès, le directeur de Compilatio.
À l'arrivé de Chat GPT, branle-bas de combat dans l'entreprise. "Une grande partie des effectifs s'est penchée sur la question d'un logiciel capable de détecter les IA", dévoile à Lyon Capitale, Frédéric Agnès, le directeur. En quelques mois, ils ont réussi à lancer une première version d'essai du logiciel qui est disponible gratuitement, en ligne. Pour l'instant, neuf fois sur dix, le programme réussit à déterminer si le texte est écrit par un humain ou une IA. En revanche il ne peut analyser que des petites portions de texte.
À termes, Compilatio veut pouvoir analyser des textes plus longs et pouvoir détecter quelles sont les parties rédigées par des IA et lesquelles sont écrites par un humain. Ainsi, couplé avec le logiciel anti-plagiat, on pourrait déterminer avec précision quels sont les portions rédigées par l'élève, celles qui ont été plagiées et celles écrites par un robot.
Comment cela fonctionne ?
La stratégie de Compilatio est simple : combattre le feu, par le feu. En effet, c'est une intelligence artificielle qui est chargée d'analyser les textes. Cette dernière a été formée grâce à une technologie proche de celle de Chat GPT. Elle est entraînée avec une sélection de textes d'humains ou de robots. Ainsi, elle apprend à les reconnaître.
Plus spécifiquement, cela est possible grâce à une trouvaille mathématique récente. "Vulgairement, il s'agit de pouvoir placer des mots dans l'espace", détaille Frédéric Agnès. Il ajoute : "les intelligences artificielles vont rester dans des constructions de phrases très basiques : toujours la même longueur, toujours les mots justes, etc... c'est ainsi qu'on peut les repérer."
"Il est très important d'un point de vue de société d'être capable de distinguer production humaine et écriture d'intelligences artificielle"
Le logiciel devrait être officiellement lancé au cours de l'année 2023. "Nous espérons une sortie dans le semestre", confie Lucile Gillermin. En attendant, cocorico, l'entreprise se dit fière de proposer un logiciel fiable et développé en France. "D'autant plus qu'il est très important d'un point de vue de société d'être capable de distinguer production humaine et écriture d'intelligences artificielle", soutient Frédéric Agnès.
Lire aussi : "ChatGPT, le robot conversationnel porte d'entrée sur le savoir"
