{"id":3225,"date":"2025-06-18T12:23:01","date_gmt":"2025-06-18T10:23:01","guid":{"rendered":"https:\/\/juliencoquet.com\/?p=3225"},"modified":"2025-09-30T17:54:18","modified_gmt":"2025-09-30T15:54:18","slug":"ia-imposture-intellectuelle-measurecamp-paris-2025-discussions-sur-lia","status":"publish","type":"post","link":"https:\/\/juliencoquet.com\/fr\/2025\/06\/18\/ia-imposture-intellectuelle-measurecamp-paris-2025-discussions-sur-lia\/","title":{"rendered":"L\u2019IA est une imposture intellectuelle"},"content":{"rendered":"\n

Voici mon retour sur ma session\/d\u00e9bat \u00e0 MeasureCamp Paris 2025<\/a> sur l’imposture intellectuelle de l’IA. On y parle d’\u00e9thique, de durabilit\u00e9 et d’autres consid\u00e9rations sur l’impact de l’IA (g\u00e9n\u00e9rative) sur notre soci\u00e9t\u00e9 et notre condition en tant qu’esp\u00e8ce.<\/p>\n\n\n\n

Apparemment, ma deuxi\u00e8me session sur l\u2019IA avec l\u2019accroche subtilement putaclic \u201cla raison #3 vous surprendra!\u201d avait r\u00e9uni une salle comble avant que je commence mon intervention. Pas de pression!<\/p>\n\n\n\n

Une fois n\u2019\u00e9tant pas coutume, pas de slides donc je vous livre un compte-rendu de la session ci-dessous.<\/p>\n\n\n\n

Pour info, cet article a \u00e9t\u00e9 r\u00e9dig\u00e9 int\u00e9gralement par votre serviteur sans aide de l\u2019IA!<\/p>\n\n\n\n

Idiocracy \u00e9tait un documentaire<\/h2>\n\n\n\n
\"\"
Baisse du QI? \u2014 Source: Tenor<\/a><\/figcaption><\/figure>\n\n\n\n

Pour une mise en contexte g\u00e9n\u00e9rale, on observe une baisse g\u00e9n\u00e9ralis\u00e9e de la croissance du QI<\/a> (en moyenne entre 90 et 100). Ce n\u2019est donc pas tant que nous devenons plus stupides en tant qu\u2019esp\u00e8ce mais, dans les faits, l\u2019humanit\u00e9 n\u2019a plus de pr\u00e9dateurs ou de dangers imm\u00e9diats \u2014 \u00e0 l\u2019exception des probl\u00e8mes qu\u2019elle se cr\u00e9e (surpopulation, guerres, environnement).<\/p>\n\n\n\n

Puisqu\u2019on parle de surpopulation, pour ceux qui ont vu le film Idiocracy<\/a>, on observe que la natalit\u00e9 est sup\u00e9rieure chez les couples au QI inf\u00e9rieur par rapport \u00e0 celle des couples \u00e9duqu\u00e9s et intelligents. L\u00e0 o\u00f9 l\u2019intelligence \u00e9tait autrefois un trait d\u00e9sirable chez un partenaire, on se rend compte que ce sont des attributs physiques qui reprennent le dessus comme crit\u00e8res de s\u00e9duction.<\/p>\n\n\n\n

Et comme l\u2019\u00e9ducation sur ce sujet fait des ravages, il suffit d\u2019entendre dans les cours de r\u00e9cr\u00e9ation le mot \u201cintello\u201d utilis\u00e9 comme une insulte. C\u2019est triste mais c\u2019est malheureusement un signe des temps.<\/p>\n\n\n\n

L\u2019humanit\u00e9 n\u2019a plus \u201cbesoin\u201d de d\u00e9velopper son QI, elle s\u2019appuie maintenant sur des b\u00e9quilles cognitives telles que les r\u00e9seaux sociaux et, plus r\u00e9cemment, \u201cl\u2019intelligence artificielle\u201d.<\/p>\n\n\n\n

IA ou IA pas?<\/h2>\n\n\n\n

Comme dans ma conf\u00e9rence d\u2019ouverture de Superweek 2024 sur l\u2019intelligence artificielle<\/a>, et pour remettre les choses dans le contexte, on peut d\u00e9finir \u201cl\u2019intelligence artificielle\u201d comme la fa\u00e7on d\u2019automatiser des t\u00e2ches qui requi\u00e8rent une intelligence humaine<\/em>. Une version num\u00e9rique de cha\u00eenes de production automobile ou <ins\u00e9rer votre automatisation industrielle ici>.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

On parle d\u2019IA mais dans l\u2019immense majorit\u00e9 des cas, il s\u2019agit de machine learning<\/a> ou de deep learning<\/a>, dans lequel on alimente\/entra\u00eene un mod\u00e8le algorithmique avec des donn\u00e9es diverses et vari\u00e9es.<\/p>\n\n\n\n

Par un calcul massif de proximit\u00e9 entre \u00e9l\u00e9ments, on arrive \u00e0 \u201cpr\u00e9dire\u201d quel \u00e9l\u00e9ment suivra le prochain. En poussant le processus, on arrive \u00e0 reproduire du texte, du son, ou des images. On parle donc d\u2019IA g\u00e9n\u00e9rative ou gen-AI.<\/em><\/p>\n\n\n\n

L\u2019utilisation d\u2019IA g\u00e9n\u00e9rative repose donc sur d\u2019autres donn\u00e9es pour deviner une version de ce que demande un prompt. Ceci veut dire que, outre les probl\u00e8mes li\u00e9s \u00e0 la propri\u00e9t\u00e9, \u00e0 l\u2019exploitation, et \u00e0 la propret\u00e9 des donn\u00e9es utilis\u00e9es pour l\u2019entra\u00eenement de mod\u00e8les, la pertinence des r\u00e9sultats est conditionn\u00e9e par la pertinence, la compl\u00e9tude, et la r\u00e9cence des donn\u00e9es d\u2019entra\u00eenement. Et \u00e9videmment \u00e7a veut dire que les plateformes telles que ChatGPT vont devoir arr\u00eater de pomper du contenu sur d\u2019autres sites ou sur d\u2019autres plateformes d\u2019IA<\/a>.<\/p>\n\n\n\n

Dans un nouveau monde o\u00f9 la plupart du contenu n\u2019est que du recyclage ou de la g\u00e9n\u00e9ration assist\u00e9e par de l\u2019IA, la cr\u00e9ation de nouveaux contenus par ChatGPT et consorts peut ressembler \u00e0 du gloubi-boulga bien format\u00e9<\/strong>: pas de coh\u00e9rence, donn\u00e9es erron\u00e9es ou obsol\u00e8tes, etc.<\/p>\n\n\n\n

Stagnation ou innovation?<\/h2>\n\n\n\n

C\u2019est le moment dans ma discussion o\u00f9 je fais un parall\u00e8le avec le livre de Cixin Liu, The Three Body Problem<\/em><\/a>, dans lequel des extraterrestres \u2014 pour conqu\u00e9rir la Terre \u2014 emp\u00eachent le d\u00e9veloppement scientifique et technologique des terriens qui se retrouvent \u00e0 d\u00e9velopper une strat\u00e9gie de d\u00e9fense face \u00e0 une race interplan\u00e9taire avec un niveau de technologie et de recherche de 2020.<\/p>\n\n\n\n

Quand on ram\u00e8ne \u00e7a \u00e0 l\u2019utilisation de l\u2019IA qui ne peut qu\u2019apprendre \u00e0 partir d\u2019un corpus existant de texte, d\u2019images ou de son, cela ne fait que renforcer mon point pr\u00e9c\u00e9dent sur la pertinence et la fra\u00eecheur des donn\u00e9es: l\u2019innovation ne peut pas avoir lieu si on se base uniquement sur le pass\u00e9<\/strong>.<\/p>\n\n\n\n

Ceci pose de r\u00e9elles questions sur la fa\u00e7on dont l\u2019\u00eatre humain \u00e9voluera en tant qu\u2019esp\u00e8ce si notre innovation et notre cr\u00e9ativit\u00e9 est sous-trait\u00e9e \u00e0 un algorithme par paresse intellectuelle.<\/p>\n\n\n\n

Les chatons qui font du ski<\/h2>\n\n\n\n

On arrive \u00e0 la partie du d\u00e9bat qui traite de la g\u00e9n\u00e9ration d\u2019images photo-r\u00e9alistes de chatons faisant du ski (exag\u00e9ration grossi\u00e8re et d\u00e9lib\u00e9r\u00e9e).<\/p>\n\n\n\n

\"\"\/
Les chatons qui skient sont r\u00e9els \u2014 le chocolat chaud aussi ; Source: Midjourney<\/figcaption><\/figure>\n\n\n\n

On a vu ces images partout: \u00e0 la t\u00e9l\u00e9vision, sur les r\u00e9seaux sociaux, et dans \u00e0 pr\u00e8s tous les m\u00e9dias.<\/p>\n\n\n\n

Plus r\u00e9cemment, on trouve des messages politiques g\u00e9n\u00e9r\u00e9s sur Facebook, Twitter, et autres. On ne compte d\u00e9j\u00e0 plus le nombre de publications complotistes et d\u00e9sinformatrices qui mettent en sc\u00e8ne des responsables politiques en situation compromettante sur des photos clairement retouch\u00e9es ou g\u00e9n\u00e9r\u00e9es.<\/p>\n\n\n\n

Ce probl\u00e8me est crucial car ce ph\u00e9nom\u00e8ne contribue \u00e0 \u00e9roder notre d\u00e9mocratie en inondant les m\u00e9dias et canaux d\u2019information secondaires (tels que les r\u00e9seaux sociaux) avec de la d\u00e9sinformation massive.<\/p>\n\n\n\n

On voit aussi des chatbots vocaux nous appeler au t\u00e9l\u00e9phone pour nous vendre quelque chose en se faisant passer pour un humain.<\/p>\n\n\n\n

L\u2019IA g\u00e9n\u00e9rative cr\u00e9e une d\u00e9formation de la r\u00e9alit\u00e9 et influence la perception de personnes qui ne savent pas faire la diff\u00e9rence entre une image r\u00e9elle et une image g\u00e9n\u00e9r\u00e9e.<\/strong><\/p>\n\n\n\n

Que faire face \u00e0 ce tsunami?<\/h2>\n\n\n\n

L\u2019utilisation de cette technique de g\u00e9n\u00e9ration d\u2019images d\u00e9cr\u00e9dibilise nos r\u00e9f\u00e9rences en terme d\u2019information: les m\u00e9dias, les canaux d\u2019information traditionnels, ainsi que les entit\u00e9s gouvernementales.<\/p>\n\n\n\n

\"\"\/
\u201cLa source est fiable, tkt\u201d \u2014 Source: Midjourney<\/figcaption><\/figure>\n\n\n\n

Comme on le sait gr\u00e2ce \u00e0 la loi de Brandolini<\/a> sur l\u2019asym\u00e9trie du bullshit<\/em>, l\u2019\u00e9nergie l\u2019effort n\u00e9cessaire pour d\u00e9bunker<\/em> une contre-v\u00e9rit\u00e9 est de plusieurs ordres de magnitude sup\u00e9rieur \u00e0 l\u2019\u00e9nergie n\u00e9cessaire pour conforter une v\u00e9rit\u00e9 \u2014 ou pour pour cr\u00e9er\/g\u00e9n\u00e9rer la d\u00e9sinformation. Et gr\u00e2ce \u00e0 l\u2019IA, on peut industrialiser la cr\u00e9ation de fake news<\/em>.<\/p>\n\n\n\n

Clairement, nous avons d\u00e9pass\u00e9 le stade de la responsabilisation. C\u2019est pour cela que nous avons besoin de davantage de r\u00e9glementation sur l\u2019utilisation qui est faite de l\u2019IA, m\u00eame si en Europe nous d\u00e9j\u00e0 avons fait les premiers pas avec l\u2019AI Act<\/a>.<\/p>\n\n\n\n

Il faut \u00e9galement qu\u2019une politique d\u2019\u00e9ducation soit mise en place pour sensibiliser, d\u00e8s le plus jeune \u00e2ge, les enfants \u00e0 mod\u00e9rer leur acc\u00e8s aux r\u00e9seaux sociaux malgr\u00e9 les habitudes en cours et apprendre \u00e0 distinguer une image artificielle d\u2019une image r\u00e9elle<\/strong>. Sur ce dernier point, nos concitoyens plus \u00e2g\u00e9s doivent aussi b\u00e9n\u00e9ficier de ce genre de formation.<\/p>\n\n\n\n

Il faut aussi apprendre \u00e0 tout un chacun \u00e0 savoir v\u00e9rifier une information par la recherche de davantage, de sources contradictoires ou confirmatoires.<\/p>\n\n\n\n

L\u2019IA n\u2019est pas durable<\/h2>\n\n\n\n

La session a \u00e9t\u00e9 interactive et des questions ont commenc\u00e9es \u00e0 \u00eatre pos\u00e9es sur la durabilit\u00e9 de la pratique de l\u2019IA. Si on se pr\u00e9occupe de l\u2019empreinte carbone, on peut commencer \u00e0 regarder quel est la consommation en CO2 de son service cloud<\/a>. Pendant la crise du \u201cstyle Ghibli\u201d<\/a> ou du \u201cstarter pack\u201d, on a commenc\u00e9 \u00e0 voir des estimations d\u2019impact et de consommation en eau d\u2019un prompt IA pour cr\u00e9er une illustration de figurine sous blister.<\/p>\n\n\n\n

L\u2019IA g\u00e9n\u00e9rative peut \u00eatre utile, fun, mais clairement elle a un impact sur nos ressources.<\/p>\n\n\n\n

Pas le moment de d\u00e9primer<\/h2>\n\n\n\n

On ne va pas se mentir, les conclusions du d\u00e9bat \u00e9taient assez n\u00e9gatives sur nos perspectives en tant qu\u2019esp\u00e8ce:<\/p>\n\n\n\n