L'Intelligence Artificielle : zone de non-droit ?

Le terme "Intelligence Artificielle" s'est répandu dans l'espace public depuis les année 2010. Il qualifie « l'ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence humaine»

Yanninck Meneceur est venu nous éclairer sur  les biais, les bénéfices et les dangers de ces nouvelles technologies. Au programme :

• Les nouvelles technologies sont-elles discriminantes ?
• Peut-on soumettre l'Intelligence Artificielle à des lois ?
• L'intervention du droit dans l'IA : bonne ou mauvaise idée ?

Yannick est magistrat, détaché au Conseil de l’Europe. Il est aussi expert auprès de l’Observatoire éthique et IA de l’Institut Sapiens. Passionné par ces questions, il a publié son premier ouvrage, « L’intelligence artificielle en procès » en 2020.

Pour voir ou revoir cette conférence passionnante, c'est par ici ! ⬇️

Les nouvelles technologies : des machines à discriminer ?

Qu'est ce qui se cache derrière de simples lignes de code ? On pourrait penser que les lignes de code sont neutres, en réalité, derrière elles se cachent beaucoup d’intentionnalité (voulue ou non) et des possibles biais algorithmiques ou cognitifs.

Deux avis s’opposent sur le sujet de l’Intelligence Artificielle :

• Un courant plutôt très enthousiaste qui reconnait les avancés spectaculaires que les nouvelles technologies permettent à la société
• De l’autre côté, on retrouve un courant extrêmement alarmiste selon lequel  tous les maux présents et à venir seraient le résultat du numérique et de l’avènement de technologies comme l’Intelligence Artificielle

Elon Musk, le célèbre CEO de Tesla et SpaceX fait parti des personnalités tenant un discours très alarmiste sur le sujet. De son point de vu, il est impératif de ne pas sous-estimer l'IA et de prendre garde à la direction qu'elle emprunte.

À l'image de Terminator, Elon Musk craint la création de robots tueurs qui réduiraient les populations en esclavage.

Avec toutes ces informations contraires, il est donc plutôt difficile de distinguer le vrai du faux. Cette dichotomie entre le bien et le mal au sujet de l’Intelligence Artificielle ne nous permet pas de voir clairement ce à quoi nous avons à faire.

Aujourd’hui, nous avons des systèmes qui ont des biais. Les discriminations sont donc inévitables. La question est la suivante : préfère-t-on les biais des machines ou les biais des humains, tout aussi inévitables ?

Il n'est pas possible d'échapper aux biais générés par l'IA dans la mesure ou ces nouvelles technologies servent à trier, classifier et catégoriser selon une certaine conception de l'environnement et du monde, qui elle, est régie par les hommes. C'est pour cela qu'il est important que les hommes se protègent en faisant appel à la justice.

L'intervention du droit dans l'IA : bonne ou mauvaise idée ?

Il est évident que l'IA doit être encadrée et respecter une certaine éthique. Mais cette idée de l'intervention de la justice dans les nouvelles technologies n'est pas apprécié de tout le monde. Les Big Tech craignent un ralentissement du développement de leurs produits dans un contexte ultra-compétitif.

Pour ne pas trop freiner l'innovation, c'est un droit dit "mou" (qui s'oppose au droit dur) qui est appliqué au secteur de l'IA. Cela se traduit par des sanctions assez faibles et des réglementations souples, qui visent à responsabiliser les entreprises plutôt qu'à les pénaliser.

Ce droit mou a certes des avantages pour les acteurs de l'Intelligence Artificielle, mais en cas de manquement éthique grave, il n'est d'aucune utilité. C'est à dire qu'il n'y a aucun mécanisme  à invoquer devant un tribunal pour se défendre. Seul le droit "dur", c'est à dire les lois, les conventions sont applicables dans ce cas la.

On peut notamment citer comme exemple Facebook qui n'a pas eu de préjudice judiciaire après le scandale de l'affaire Cambridge Analytica  

Cet article : "The invention of Ethical AI" de Rodrigo Ochigame explique d'ailleurs comment les Big Tech auraient inventé une "éthique de l'IA" pour pouvoir en fait garder le contrôle sur les réglementations.

Renforcer le droit de l'Intelligence Artificielle permettrait de créer un cadre de confiance. Les algorithmes ont aujourd'hui un impact tel sur nos vies qu'il est complètement incompréhensible qu'ils échappent à une vraie réglementation juridique. Ce renforcement serait donc profitable aux citoyens pour avoir un recours effectif en cas de problème.

Alors certes, certaines perspectives de profit économique peuvent se voir entravées par un renforcement du droit de l'IA, mais tout cela doit pouvoir être tempéré par nos siècles de connaissances en philosophie, sciences sociales, mathématiques... En rassemblant tous ces savoirs il serait éventuellement possible de trouver un juste équilibre des choses.

Pour conclure, Yannick nous parlait de multi-disciplinarité comme la solution pour éclairer des problèmes. C'est la rencontre du droit, du numérique, de philosophie, de statistiques et de bien d'autres domaines qui permettrait de trouver des solutions.

À Ada Tech School notre richesse réside aussi dans la diversité de nos apprenants. Nous sommes une formation accessible à toutes et à tous sans pré-requis technique. Nous accueillons donc des personnes issues de reconversion professionnelle qui s'enrichissent les uns les autres de leurs expériences respectives.

Si tu es intéressé par notre formation, n'hésite pas à candidater juste ici !

Pour consulter les sources citées par Yannick pendant la conférence :

• L’Empire des données, Adrien Basdevant, JP Mignard, Éditions Don Quichotte
• Le goût du vrai, Etienne Klein, Tracts, Éditions Gallimard
• Intelligence artificielle, la nouvelle barbarie, Marie David, Cédric Sauviat Éditions du Rocher
• L’intelligence artificielle en procès, Yannick Meneceur, Éditions Bruylant
• Podcast Les Temps Éléctriques, Yannick Meneceur
• Pourquoi la société ne se laisse pas mettre en équation, Pablo Jensen,  Éditions Seuil
• iHuman - L'intelligence artificielle et nous, documentaire Arte

À propos d’Ada Tech School

Ada Tech School est une école d’informatique d’un nouveau genre. Elle s’appuie sur une pédagogie alternative, approchant le code comme une langue vivante, ainsi que sur un environnement féministe et bienveillant. Elle doit son nom à Ada Lovelace qui fut la première programmeuse de l’histoire.

L’école est située à Paris, Nantes et Lyon et accueille chaque promotion pour deux ans. Après neuf mois de formation, les étudiants sont opérationnels et prêts à réaliser leur apprentissage - rémunéré - pendant douze mois dans une des entreprises partenaires de l’école comme Trainline, Deezer, Blablacar ou encore Botify. Aucun pré-requis technique n’est exigé pour candidater. Il suffit d’avoir plus de 18 ans. La sélection se fait en deux temps : formulaire de candidature puis entretien avec une réponse sous 2 semaines. Pour plus d’informations sur la formation, télécharge notre brochure de présentation.