Un panel de haute facture sur l’IA responsable a mis en lumière la nature paradoxale de cette technologie, lors de la 3ème édition de l’African ESG Summit (9 octobre). Elle est d’une part un catalyseur puissant de performance ESG; de l’autre, elle représente une source de risques éthiques et énergétiques.
Les intervenants du panel ont également soulevé les risques nouveaux et considérables que la prolifération rapide de l’IA, notamment à travers l’émergence des agents autonomes, fait peser sur la gouvernance sociétale et sur l’humanité elle-même dans ses fondements cognitifs et organisationnels.
Pour ce, Ahmed Kaddour insistera sur l’émergence des agents IA autonomes. A savoir des systèmes dotés de capacités de raisonnement et de prise de décision indépendante.
Ainsi, il souligne que le défi imminent et pressant concerne la gouvernance de ces agents aux capacités sans précédent. Il est donc nécessaire de développer ce qu’il appelle des “Constitutions IA“. C’est-à-dire des ensembles structurés de lois et de règles destinés à encadrer rigoureusement ces systèmes. Exactement de la même manière que les êtres humains sont régis par le droit positif et les normes sociales…
Deux risques majeurs émergent, analyse Kaddour. Le premier concerne l’implication cognitive profonde de l’usage massif de l’IA. Pour étaye ses dires, il évoque le phénomène bien documenté du
Google Effect, processus par lequel le cerveau humain externalise progressivement sa fonction mémorielle vers Internet et les moteurs de recherche. Il craint que l’externalisation croissante de l’intelligence vers des systèmes conversationnels, comme ChatGPT, ne conduise à une diminution progressive des capacités cognitives humaines fondamentales, menant potentiellement à une perte dangereuse de contrôle du raisonnement critique…
Quant au second risque majeur, il concerne l’impact énergétique considérable de l’infrastructure de l’IA. Les centres de données nécessaires au fonctionnement des systèmes d’intelligence artificielle représentent déjà environ 1,5 % de la consommation électrique mondiale totale. Une proportion qui atteint même 5 % aux États-Unis, le pays hébergeant la plus forte concentration de ces infrastructures.
Pour pallier à cet impact énergétique préoccupant et croissant, Maledh Marrakchi et Ahmed Kaddour plaident avec conviction pour une rationalisation profonde de l’usage de l’IA. Il est absolument impératif, estiment-ils, de ne pas utiliser des modèles surpuissants pour des tâches relativement simples qui ne nécessitent pas une telle puissance de calcul…
La solution pragmatique et écologiquement responsable réside dans l’adoption généralisée de Small Language Models, des modèles linguistiques de petite taille. Lesquels sont considérablement moins gourmands en énergie tout en étant parfaitement ciblés et efficaces sur des domaines précis et délimités.
M. Kaddour plaide pour que l’humain investisse du temps et de la réflexion en amont pour développer méticuleusement l’architecture conceptuelle et le plan détaillé d’un projet. Et ce, afin d’optimiser véritablement l’utilisation des capacités de l’IA et de s’assurer fermement de ne pas mobiliser inutilement une machine trop puissante pour des tâches qui ne le justifient pas. L’IA doit impérativement rester un outil auxiliaire qui aide à résoudre des problèmes préalablement et clairement analysés par l’intelligence humaine.
Lire l’article complet
