Réuni à Tunis, dans le cadre de la 3ème édition de l’African ESG Summit, un panel de haut niveau sur l'IA responsable a mis en lumière la nature paradoxale de cette technologie. A savoir : un catalyseur puissant de performance ESG d'une part; et une source de risques éthiques et énergétiques d'autre part. Les experts ont convergé vers des recommandations claires : intégrer les critères ESG dès la conception des systèmes d'IA; privilégier les modèles légers et ciblés plutôt que les architectures surpuissantes; établir une gouvernance stricte des agents autonomes émergents; et surtout maintenir impérativement l'humain au centre de toute boucle décisionnelle.
Pour l'Afrique en particulier, le défi est double : saisir la révolution de l'IA comme levier de développement tout en évitant le piège d'une croissance carbonée qui consommerait la moitié du budget carbone mondial restant. La durabilité ne doit plus être un ajout cosmétique, mais le socle même de toute innovation technologique.
Portant sur le thème « Responsible AI &Footprint : AI's Double-EdgedRole in ESG », le panel a révélé la nature profondément ambivalente de l'Intelligence artificielle dans notre société contemporaine. Les experts réunis ont mis en lumière comment cette technologie se présente simultanément comme un catalyseur incontournable de la performance ESG, englobant les dimensions environnementale, sociale et de gouvernance. Tout en constituant une source préoccupante de risques éthiques et énergétiques qui appellent une régulation immédiate et réfléchie.
Au cœur de ces discussions, un consensus s'est dégagé autour d'un impératif fondamental : placer l'humain et la durabilité au centre même de la conception des systèmes d'intelligence artificielle.
L'IA par conception : intégrer l'ESG dès l'origine
Maledh Marrakchi, fondateur de Mind of Mind, a posé les fondations conceptuelles du débat en introduisant la notion cruciale de l'IA par conception. Un principe qui insiste sur la nécessité d'intégrer les exigences ESG dès les premières étapes du cycle de vie des systèmes technologiques. Cette approche proactive repose sur quatre règles essentielles qui constituent le socle d'un développement responsable de l'IA.
La première règle concerne le choix d'infrastructures durables. Une décision qui doit impérativement prendre en compte les défis considérables de consommation énergétique ainsi que les multiples aspects éthiques inhérents au déploiement de l'IA.
La deuxième règle s'articule autour de la conception pour la circularité. Un principe qui exige l'intégration de choix respectueux de l'environnement et de la durabilité tout au long du parcours du système, depuis sa conception initiale jusqu'à sa fin de vie.
Quant à
la troisième règle, elle plaide pour une approche résolument centrée sur l'humain. Ce qui implique un respect rigoureux de l'éthique, des droits humains fondamentaux, de la vie privée, de l'inclusion et de l'équité. Ces considérations ne doivent jamais être reléguées au second plan, mais maintenues au cœur des développements technologiques.
Enfin,
la quatrième règle appelle à la nécessité d'une gouvernance solide et efficace dès le lancement de tout produit ou système d'intelligence artificielle.
En conclusion de son intervention, Monsieur Marrakchi a réaffirmé avec force que l'intégration des critères ESG devait impérativement se faire dès la phase de conception. Et ce, notamment à travers l'élaboration minutieuse de la feuille de route du produit. Garantissant ainsi que ces préoccupations fondamentales ne soient pas de simples ajouts tardifs mais des éléments structurants du projet.
Les piliers des cadres d'IA responsable
Poursuivant cette réflexion sur la structure des cadres de référence, Ahmed Kaddour, Executive Technology Advisor - Industry Solutions Engineering Microsoft, a apporté un éclairage sur les six piliers principaux qui soutiennent les cadres d'IA responsable adoptés par les grands acteurs technologiques mondiaux.
Ces piliers comprennent :
- l'équité, garantissant un traitement juste et non discriminatoire;
- la fiabilité et la sécurité, assurant le bon fonctionnement et la protection des systèmes;
- la confidentialité, protégeant les données personnelles et sensibles;
- l'inclusion, permettant l'accès et le bénéfice pour tous;
- la transparence, rendant les processus compréhensibles et vérifiables;
- et enfin la responsabilité, établissant des mécanismes de redevabilité clairs.
Toutefois, Monsieur Kaddour n’a pas manqué de souligner avec pragmatisme que ces cadres théoriques, aussi bien conçus soient-ils, ne peuvent produire leurs effets bénéfiques que s'ils sont accompagnés d'une culture organisationnelle véritablement adéquate et d'un programme de formation continue des équipes, permettant une appropriation réelle et durable de ces principes au sein des organisations.
L'IA comme moteur de transformation du Reporting ESG
Jean Syrille Kossi, Senior Manager Sustainability & ESG - KPMG, s'appuyant sur son expérience approfondie chez KPMG où il pilote les pratiques de durabilité pour l'Afrique de l'Ouest et centrale, a repositionné l'IA comme un véritable transformateur radical de la performance et du reporting ESG. Il a souligné que le reporting, loin d'être une simple formalité administrative, constitue une étape finale absolument essentielle à la prise de décision éclairée des investisseurs et des parties prenantes, et que l'IA responsable apporte dans ce domaine un triple bénéfice structurant.
Dans un premier temps, l'IA assure la collecte et la fiabilisation automatique des données, une capacité transformatrice qui permet de structurer des volumes massifs d'informations provenant de sources extrêmement diverses telles que les chaînes d'approvisionnement complexes, les capteurs environnementaux déployés sur le terrain, ou encore les systèmes comptables intégrés. Cette fiabilisation automatisée améliore considérablement la transparence des processus, renforce la traçabilité de l'information et garantit l'auditabilité des informations rendues publiques.
Dans un deuxième temps, l'IA facilite l'analyse et le pilotage approfondi de la performance organisationnelle. L'IA responsable permet d'aller bien au-delà du simple chiffre brut pour explorer l'information qualitative qui se cache derrière les données quantitatives. À titre d'exemple, elle peut décortiquer et analyser en profondeur les conditions précises qui ont conduit à un certain taux de fréquence d'accidents de travail. Donnant ainsi au décideur la capacité réelle d'agir de manière préventive plutôt que de simplement anticiper ou réagir après coup.
Enfin, dans un troisième temps, l'IA renforce considérablement l'auditabilité en permettant la mise en place systématique des éléments de preuve nécessaires à la vérification rigoureuse des informations collectées et diffusées auprès des parties prenantes.
Monsieur Kossi a conclu cette partie de son intervention en insistant sur le rôle de l'IA comme outil au service de l'humain. Soulignant que ce dernier doit toujours rester celui qui prend la décision finale. Garantissant ainsi la responsabilité ultime et la redevabilité du processus. Pour lui, la priorité absolue et non négociable demeure de maintenir l'humain au cœur du processus décisionnel et au cœur même du business.
Le défi africain : croissance et durabilité
Elyes Ben Rayana, Co-Founder and CEO at Value, a apporté une perspective continentale essentielle en recentrant la réflexion sur les enjeux spécifiques du continent africain. Il a souligné avec force que la première priorité stratégique pour l'Afrique est de ne pas manquer la révolution de l'intelligence artificielle, un impératif qui pourrait déterminer la trajectoire de développement du continent pour les décennies à venir. Il a mis en évidence le saut de développement considérable que l'Afrique est contrainte d'opérer dans un contexte démographique et économique particulièrement tendu.
Le continent fait face à une véritable bombe sociale : il représente actuellement environ 18 % de la population mondiale. Une proportion qui devrait augmenter significativement pour atteindre 28% d'ici 2050. Avec une part croissante de jeunes de moins de quinze ans. Pourtant, malgré ce poids démographique considérable et croissant, l'Afrique ne représente que 4 % du PIB mondial. Dans ce contexte de déséquilibre profond, l'IA apparaît comme un levier fondamental de transformation, absolument indispensable pour révolutionner des secteurs clés tels que l'éducation. Permettant alors une formation massive et de qualité, la santé, améliorant l'accès aux soins et leur qualité, et la finance, facilitant l'inclusion financière et le développement économique.
Cependant, cet impératif de croissance rapide et de rattrapage économique se trouve mis en tension considérable par la question climatique globale. Monsieur Ben Rayana a exposé un dilemme crucial : si l'Afrique suivait le même modèle de croissance fortement carbonée que d'autres nations ont emprunté lors de leur propre rattrapage économique historique, elle pourrait consommer près de 50 % du budget carbone restant qui est encore disponible pour limiter le réchauffement climatique à un niveau de 1,5 degré Celsius, le seuil critique identifié par les scientifiques.
Face à cette équation complexe, la double priorité pour les gouvernements africains s'impose avec évidence : ils doivent investir massivement et simultanément dans la technologie, particulièrement l'intelligence artificielle; tout en développant de manière accélérée les énergies renouvelables pour atténuer significativement l'impact environnemental de leur décarbonation progressive et de leur développement économique.
Monsieur Ben Rayana a également exprimé une préférence marquée pour le concept plus englobant de durabilité plutôt que pour celui, plus restrictif selon lui, de cadre réglementaire ESG. Ce dernier étant souvent perçu comme une source de complexité excessive dans le reporting et un terrain propice au green washing superficiel. Selon sa vision, l'IA doit être utilisée de manière stratégique pour aider les entreprises africaines à concevoir des stratégies de durabilité véritablement pertinentes et adaptées à leur contexte. Et ce, en s'assurant méticuleusement que ces critères de durabilité ne contredisent pas leurs objectifs stratégiques fondamentaux. Il a pris l'exemple de l'industrie minière, un secteur particulièrement important pour de nombreux pays africains, où l'impact sur les communautés locales est absolument déterminant pour la pérennité même de l'activité extractive. Sa priorité opérationnelle demeure de mesurer l'impact réel et tangible avant de procéder à l'innovation ou au lancement de tout projet d'envergure.
Les défis émergents : cognition, énergie et gouvernance
Les intervenants du panel ont également soulevé avec acuité les risques nouveaux et considérables que la prolifération rapide de l'IA, notamment à travers l'émergence des agents autonomes, fait peser sur la gouvernance sociétale et sur l'humanité elle-même dans ses fondements cognitifs et organisationnels.
Ahmed Kaddour a particulièrement insisté sur l'émergence des agents IA autonomes, des systèmes dotés de capacités de raisonnement et de prise de décision indépendante. Le défi imminent et pressant concerne la gouvernance de ces agents aux capacités sans précédent. Il a évoqué la nécessité urgente de développer ce qu'il appelle des Constitutions IA, c'est-à-dire des ensembles structurés de lois et de règles destinés à encadrer rigoureusement ces systèmes, exactement de la même manière que les êtres humains sont régis par le droit positif et les normes sociales. Ces agents autonomes ont impérativement besoin de règles clairement définies par l'humain avant même d'être mis en œuvre dans des environnements réels.
Deux risques majeurs émergent selon l'analyse de Monsieur Kaddour. Le premier concerne l'implication cognitive profonde de l'usage massif de l'IA. Il a évoqué le phénomène bien documenté du Google Effect, ce processus par lequel le cerveau humain externalise progressivement sa fonction mémorielle vers Internet et les moteurs de recherche. Il craint légitimement que l'externalisation croissante de l'intelligence vers des systèmes conversationnels comme ChatGPT ne conduise à une diminution progressive des capacités cognitives humaines fondamentales, menant potentiellement à une perte dangereuse de contrôle du raisonnement critique. Il a martelé que l'humain doit absolument conserver sa capacité de raisonnement critique autonome, cette faculté qui constitue le cœur de l'intelligence humaine.
Le second risque majeur concerne l'impact énergétique considérable de l'infrastructure de l'IA. Les centres de données nécessaires au fonctionnement des systèmes d'intelligence artificielle représentent déjà environ 1,5 % de la consommation électrique mondiale totale. Une proportion qui atteint même 5 % aux États-Unis, le pays hébergeant la plus forte concentration de ces infrastructures.
Pour pallier à cet impact énergétique préoccupant et croissant, Maledh Marrakchi et Ahmed Kaddour ont conjointement plaidé avec conviction pour une rationalisation profonde de l'usage de l'IA. Il est absolument impératif, estiment-ils, de ne pas utiliser des modèles surpuissants pour des tâches relativement simples qui ne nécessitent pas une telle puissance de calcul. Ils ont utilisé la métaphore parlante de la voiture de Formule 1 : il serait absurde d'utiliser un tel véhicule ultra-performant pour effectuer de simples courses quotidiennes. La solution pragmatique et écologiquement responsable réside dans l'adoption généralisée de Small Language Models, des modèles linguistiques de petite taille. Lesquels sont considérablement moins gourmands en énergie tout en étant parfaitement ciblés et efficaces sur des domaines précis et délimités.
Monsieur Kaddour a également souligné l'importance cruciale du Prompt Engineering, cette ingénierie des instructions données aux systèmes d'IA. Il a insisté sur le fait que l'humain doit investir du temps et de la réflexion en amont pour développer méticuleusement l'architecture conceptuelle et le plan détaillé d'un projet, afin d'optimiser véritablement l'utilisation des capacités de l'IA et de s'assurer fermement de ne pas mobiliser inutilement une machine trop puissante pour des tâches qui ne le justifient pas. L'IA doit impérativement rester un outil auxiliaire qui aide à résoudre des problèmes préalablement et clairement analysés par l'intelligence humaine.
Maintenir l'humain au centre
Face à l'ensemble de ces défis techniques, éthiques et environnementaux, tous les panélistes ont réitéré avec une unanimité remarquable l'importance absolument fondamentale de maintenir le principe de l'human in the loop, c'est-à-dire l'humain dans la boucle décisionnelle. Ce principe garantit que l'outil technologique, aussi sophistiqué et puissant soit-il, ne se substitue jamais au décideur final humain. Préservant ainsi la responsabilité ultime, le jugement éthique et la capacité de discernement qui caractérisent l'humanité et qui doivent demeurer au cœur de toute utilisation de l'intelligence artificielle.
