Voici mon retour sur ma session/débat à MeasureCamp Paris 2025 sur l’imposture intellectuelle de l’IA. On y parle d’éthique, de durabilité et d’autres considérations sur l’impact de l’IA (générative) sur notre société et notre condition en tant qu’espèce.
Apparemment, ma deuxième session sur l’IA avec l’accroche subtilement putaclic “la raison #3 vous surprendra!” avait réuni une salle comble avant que je commence mon intervention. Pas de pression!
Une fois n’étant pas coutume, pas de slides donc je vous livre un compte-rendu de la session ci-dessous.
Pour info, cet article a été rédigé intégralement par votre serviteur sans aide de l’IA!
Idiocracy était un documentaire
Pour une mise en contexte générale, on observe une baisse généralisée de la croissance du QI (en moyenne entre 90 et 100). Ce n’est donc pas tant que nous devenons plus stupides en tant qu’espèce mais, dans les faits, l’humanité n’a plus de prédateurs ou de dangers immédiats — à l’exception des problèmes qu’elle se crée (surpopulation, guerres, environnement).
Puisqu’on parle de surpopulation, pour ceux qui ont vu le film Idiocracy, on observe que la natalité est supérieure chez les couples au QI inférieur par rapport à celle des couples éduqués et intelligents. Là où l’intelligence était autrefois un trait désirable chez un partenaire, on se rend compte que ce sont des attributs physiques qui reprennent le dessus comme critères de séduction.
Et comme l’éducation sur ce sujet fait des ravages, il suffit d’entendre dans les cours de récréation le mot “intello” utilisé comme une insulte. C’est triste mais c’est malheureusement un signe des temps.
L’humanité n’a plus “besoin” de développer son QI, elle s’appuie maintenant sur des béquilles cognitives telles que les réseaux sociaux et, plus récemment, “l’intelligence artificielle”.
IA ou IA pas?
Comme dans ma conférence d’ouverture de Superweek 2024 sur l’intelligence artificielle, et pour remettre les choses dans le contexte, on peut définir “l’intelligence artificielle” comme la façon d’automatiser des tâches qui requièrent une intelligence humaine. Une version numérique de chaînes de production automobile ou <insérer votre automatisation industrielle ici>.
On parle d’IA mais dans l’immense majorité des cas, il s’agit de machine learning ou de deep learning, dans lequel on alimente/entraîne un modèle algorithmique avec des données diverses et variées.
Par un calcul massif de proximité entre éléments, on arrive à “prédire” quel élément suivra le prochain. En poussant le processus, on arrive à reproduire du texte, du son, ou des images. On parle donc d’IA générative ou gen-AI.
L’utilisation d’IA générative repose donc sur d’autres données pour deviner une version de ce que demande un prompt. Ceci veut dire que, outre les problèmes liés à la propriété, à l’exploitation, et à la propreté des données utilisées pour l’entraînement de modèles, la pertinence des résultats est conditionnée par la pertinence, la complétude, et la récence des données d’entraînement. Et évidemment ça veut dire que les plateformes telles que ChatGPT vont devoir arrêter de pomper du contenu sur d’autres sites ou sur d’autres plateformes d’IA.
Dans un nouveau monde où la plupart du contenu n’est que du recyclage ou de la génération assistée par de l’IA, la création de nouveaux contenus par ChatGPT et consorts peut ressembler à du gloubi-boulga bien formaté: pas de cohérence, données erronées ou obsolètes, etc.
Stagnation ou innovation?
C’est le moment dans ma discussion où je fais un parallèle avec le livre de Cixin Liu, The Three Body Problem, dans lequel des extraterrestres — pour conquérir la Terre — empêchent le développement scientifique et technologique des terriens qui se retrouvent à développer une stratégie de défense face à une race interplanétaire avec un niveau de technologie et de recherche de 2020.
Quand on ramène ça à l’utilisation de l’IA qui ne peut qu’apprendre à partir d’un corpus existant de texte, d’images ou de son, cela ne fait que renforcer mon point précédent sur la pertinence et la fraîcheur des données: l’innovation ne peut pas avoir lieu si on se base uniquement sur le passé.
Ceci pose de réelles questions sur la façon dont l’être humain évoluera en tant qu’espèce si notre innovation et notre créativité est sous-traitée à un algorithme par paresse intellectuelle.
Les chatons qui font du ski
On arrive à la partie du débat qui traite de la génération d’images photo-réalistes de chatons faisant du ski (exagération grossière et délibérée).
On a vu ces images partout: à la télévision, sur les réseaux sociaux, et dans à près tous les médias.
Plus récemment, on trouve des messages politiques générés sur Facebook, Twitter, et autres. On ne compte déjà plus le nombre de publications complotistes et désinformatrices qui mettent en scène des responsables politiques en situation compromettante sur des photos clairement retouchées ou générées.
Ce problème est crucial car ce phénomène contribue à éroder notre démocratie en inondant les médias et canaux d’information secondaires (tels que les réseaux sociaux) avec de la désinformation massive.
On voit aussi des chatbots vocaux nous appeler au téléphone pour nous vendre quelque chose en se faisant passer pour un humain.
L’IA générative crée une déformation de la réalité et influence la perception de personnes qui ne savent pas faire la différence entre une image réelle et une image générée.
Que faire face à ce tsunami?
L’utilisation de cette technique de génération d’images décrédibilise nos références en terme d’information: les médias, les canaux d’information traditionnels, ainsi que les entités gouvernementales.
Comme on le sait grâce à la loi de Brandolini sur l’asymétrie du bullshit, l’énergie l’effort nécessaire pour débunker une contre-vérité est de plusieurs ordres de magnitude supérieur à l’énergie nécessaire pour conforter une vérité — ou pour pour créer/générer la désinformation. Et grâce à l’IA, on peut industrialiser la création de fake news.
Clairement, nous avons dépassé le stade de la responsabilisation. C’est pour cela que nous avons besoin de davantage de réglementation sur l’utilisation qui est faite de l’IA, même si en Europe nous déjà avons fait les premiers pas avec l’AI Act.
Il faut également qu’une politique d’éducation soit mise en place pour sensibiliser, dès le plus jeune âge, les enfants à modérer leur accès aux réseaux sociaux malgré les habitudes en cours et apprendre à distinguer une image artificielle d’une image réelle. Sur ce dernier point, nos concitoyens plus âgés doivent aussi bénéficier de ce genre de formation.
Il faut aussi apprendre à tout un chacun à savoir vérifier une information par la recherche de davantage, de sources contradictoires ou confirmatoires.
L’IA n’est pas durable
La session a été interactive et des questions ont commencées à être posées sur la durabilité de la pratique de l’IA. Si on se préoccupe de l’empreinte carbone, on peut commencer à regarder quel est la consommation en CO2 de son service cloud. Pendant la crise du “style Ghibli” ou du “starter pack”, on a commencé à voir des estimations d’impact et de consommation en eau d’un prompt IA pour créer une illustration de figurine sous blister.
L’IA générative peut être utile, fun, mais clairement elle a un impact sur nos ressources.
Pas le moment de déprimer
On ne va pas se mentir, les conclusions du débat étaient assez négatives sur nos perspectives en tant qu’espèce:
- surpopulation,
- baisse du QI,
- stagnation de l’innovation,
- sur-utilisation de ressources,
- fracture numérique,
- impact environnemental
Comme pour tout, l’IA doit être utilisée avec parcimonie et clarté de jugement. Elle requiert un accompagnement tout particulier sur les aspects éthique, juridique, durable, et éducation.
Evidemment, ce n’est pas à l’issue d’un débat de 30 minutes que nous allions sauver le monde, mais j’aime à penser que les participants se sont senti investis d’une mission d’évangélisation sur le sujet de l’IA.
Les discussions se sont poursuivies autour d’un verre mais ne doivent pas s’arrêter là. Intéressez-vous au sujet et impliquez vous dans les effort d’éducation et d’évangélisation.
A bientôt et à l’année prochaine pour MeasureCamp, à Paris ou ailleurs! Faites moi part de vos commentaires ici!
