5 défis sous-estimés de l’IA dont on ne parle pas assez

Personne n’a pu passer à côté, voilà déjà des mois que l’intelligence artificielle a le vent en poupe. Chaque jour, de nouveaux outils, promesses et innovations font la une des médias, nous projetant dans un futur où l'IA nous facilite la vie, automatise les tâches ingrates et réinvente notre manière de travailler.

Mais au-delà de cet enthousiasme (parfois aveugle !), il existe des réalités dont on parle beaucoup moins. Chez Ada, on ne veut pas jouer les rabat joie, mais on pense qu’une approche lucide et critique est nécessaire pour développer une IA utile, inclusive et durable.

Voici donc 5 défis majeurs qui mériteraient plus d'attention à nos yeux, et des pistes pour y répondre !

1. La (non) mixité de l’IA : un risque de délit d’initiés

L'IA est aujourd'hui développée par un cercle restreint de spécialistes, avec une mixité encore trop faible. La sous-représentation des femmes et des minorités dans ce secteur pose un véritable problème : celui d'un risque de "délit d'initiés", où une élite conçoit des technologies qui influenceront pourtant la vie de tout le monde.

Selon une étude de l'UNESCO, seulement 22% des professionnel·les de l'IA sont des femmes. Ce manque de diversité dans l'écosystème entraîne des biais dans les algorithmes et des produits technologiques qui ne répondent pas à tous les besoins.

Que faire ?

• Promouvoir des parcours inclusifs dès le plus jeune âge, avec des programmes d'apprentissage accessibles aux groupes sous-représentés
• Soutenir les initiatives qui visent à rendre la tech plus inclusive, comme Women in AI (ou Ada Tech School !).
• Adopter des pratiques de recrutement plus inclusives pour diversifier les équipes IA.

2. La compréhension des modèles : une fracture grandissante

Les modèles d'IA reposent sur des architectures complexes (LLM, réseaux neuronaux, machine learning). Or, la majorité des utilisateur·ices ne comprend pas grand chose ces technologies, ce qui crée un fossé croissant entre les expert·es et le grand public. Selon un rapport de la Commission Européenne, 42% des citoyen·nes européen·nes n'ont qu'une compréhension basique du numérique, ce qui limite leur capacité à utiliser et questionner ces outils de manière éclairée.

Alors que l'IA devient omniprésente dans nos vies, ce manque de connaissances sur son fonctionnement est préoccupant. L’IA influence déjà des décisions majeures (recrutement, justice, santé…), et pourtant, rares sont celleux qui en captent l’essence. Cette méconnaissance alimente une relation de dépendance aveugle et un manque de contrôle citoyen sur l’outil  ! Comment utiliser de manière critique un outil dont on ignore le fonctionnement ? Comment réguler un système aussi opaque ?

Les pistes auxquelles on pense :

• Intégrer des cours d'IA dans les programmes scolaires et universitaires, pour donner à tout le monde les clés de compréhension et former des utilisateur·ices capables d’adopter un regard critique
• Créer des formats pédagogiques accessibles (vidéos, MOOCs, podcasts) pour expliquer l'IA au grand public
• Renforcer la transparence des entreprises qui conçoivent ces modèles, avec des audits ouverts et des explications claires

3. L’impact sur notre apprentissage : assistant ou raccourci intellectuel ?

Peut-être l’as-tu déjà remarque dans ton utilisation, l'IA transforme la façon dont nous apprenons. Elle est une formidable formidable assistante, mais elle pose aussi un vrai défi en matière de pédagogie. Avec des outils comme ChatGPT, Gemini, Le Chat, le réflexe de chercher une réponse toute faite au lieu de réfléchir par soi-même est très tentant ! Or, apprendre ne se limite pas à obtenir des informations : c’est aussi comprendre, questionner et relier des concepts.

Selon une étude de Stanford, l’usage excessif des outils d’IA peut réduire la capacité des apprenant·es à développer leur esprit critique. Une autre recherche menée par l’Université d’Oxford montre même que la dépendance à l’IA peut altérer les compétences analytiques et nuire à la créativité des étudiant·es.

Alors, qu’est-ce qu’on fait ?

• Former les enseignant·es à intégrer l’IA dans leurs méthodes pédagogiques de manière constructive
• Encourager les apprenant·es à questionner et analyser les réponses fournies par l’IA
• Développer des solutions pédagogiques où l’IA est utilisée comme un support et non comme un substitut à la réflexion humaine
• Mettre en place des garde-fous dans les outils pédagogiques intégrant l’IA pour éviter une dépendance excessive

4. Les fausses croyances : non, le développement informatique ne va pas disparaître

Beaucoup de mythes circulent sur l'impact de l'IA sur les métiers. Non, le développement informatique ne va pas disparaître, mais il va évoluer. L’IA ne remplace pas les humain·es, elle automatise certaines tâches, modifiant ainsi la nature des compétences requises. Le besoin de développeur·ses, d’expert·es en données et d’architectes IA est toujours bien présent, mais ces professions doivent s’adapter à de nouvelles méthodes de travail.

D’après le rapport du Forum Économique Mondial sur l’avenir de l’emploi, l’IA va créer autant de nouveaux emplois qu’elle en transformera. De plus, une étude de McKinsey estime que 50% des tâches actuelles pourront être automatisées d’ici 2055, mais que de nouvelles compétences seront nécessaires pour accompagner ces changements.

On fait quoi ?

• Intégrer des formations en IA dans les cursus universitaires et de reconversion professionnelle
• Développer des formations en compétences hybrides, combinant expertise technique et compétences humaines comme l’adaptabilité et la gestion de projet
• Sensibiliser les entreprises à l’importance d’accompagner leurs salarié·es dans la transition vers des métiers augmentés par l’IA
• Créer des politiques publiques pour garantir l’accès à la formation continue et anticiper la transformation des métiers

5. Et la planète dans tout ça ? L’IA est une ogresse énergétique

On entend souvent dire que l’IA est dématérialisée, qu’elle existe "dans le cloud". Spoiler alert : il n’y a pas de nuage magique, seulement des milliers de data centers qui tournent jour et nuit.

Entraîner un modèle comme GPT-4 coûte à OpenAI plus de 100 millions de dollars et consomme d'énormes quantités d'énergie et d’eau pour refroidir les serveurs.

Autre chose : une requête sur un modèle avancé peut consommer 10 fois plus d'énergie qu'une recherche Google. Sans parler des ressources nécessaires pour fabriquer les puces et matériels spécialisés (qui sont loin d'être infinis). La réalité, c'est que l'IA a un coût environnemental que l'on ne peut plus ignorer.

Que faire ?

• Développer des modèles d’IA plus économes en ressources (IA frugale, edge computing).
• Encourager l’adoption de data centers alimentés par des énergies renouvelables.
• Sensibiliser les utilisateur·ices à l’empreinte écologique de l’IA pour favoriser un usage plus responsable.

Alors, on fait quoi ?

Parler des limites de l'IA ne signifie pas qu'il faut la rejeter. Au contraire, comprendre ces défis, c'est la clé pour créer des outils plus responsables, inclusifs et pertinents.

Chez Ada Tech School, on croit que l’avenir de l’IA ne doit pas être laissé à quelques acteurs privilégiés. Il doit être entre les mains de personnes formées à ces enjeux, qui questionnent, défient et construisent une tech à visage humain. Si ça te parle, clique ici pour découvrir notre école et nos programmes !

L’IA a du potentiel, et il ne tient qu’à nous de la rendre vraiment utile pour tous et toutes !

À propos de la fondation Ada Tech School

La Fondation Ada Tech School a vu le jour en 2023, sous l’égide de la Fondation Agir Contre l’Exclusion (FACE).

Elle vise à identifier et déployer des actions complémentaires à la formation dans l’objectif de favoriser l’inclusion et développer la diversité dans le secteur du numérique, en particulier sur le métier de développeur·se informatique.

La Fondation Ada Tech School cible en priorité les femmes, demandeuses d’emploi ou en parcours de reconversion professionnelle.