Jeudi 3 Octobre 2019, l’équipe RespAI (Responsible Artificial Intelligence) d’OCTO Technology, qui s’intéresse à l’usage responsable des traitements algorithmiques des données, a accueilli des intervenants aux profils variés afin de discuter d’un nouvel enjeu de l’IA : “Ethical by Design”.
Ensemble, ils ont tenté de répondre aux questions suivantes :
L’apport positif et l’efficacité de l’IA ne sont plus à prouver. Certains modèles dépassent même les capacités humaines, comme on a pu le constater grâce aux IA qui gagnent contre des champions de jeux stratégiques comme le Go ou les échecs, ou encore des IA capables de diagnostiquer un cancer mieux que des médecins. Maintenant que l’IA fait partie de notre vie quotidienne, certains scandales ont fait ressentir l’impact négatif potentiel de celle-ci. On peut mentionner la sélection de CVs sexiste (dûe à un biais dans les données d'entraînement) par Amazon, ou encore la voiture autonome d’Uber qui a percuté et tué un piéton.
Les organisations ont donc trois postures potentielles à adopter face à cette émergence des risques liés à l’IA :
Nous verrons par la suite en quoi la 3ème option est généralement la plus avantageuse.
Le mathématicien Lê Nguyên Hoang insiste sur l’urgence et la complexité de rendre les IA bénéfiques pour les humains.
Thèse 1 : Rendre les IA bénéfiques est une urgence
La technologie en général, IA incluse, a un fort impact à grande échelle. Cet impact peut être positif, comme la réduction des morts infantiles ou la prospérité économique, ou négatif, comme les effets secondaires du ciblage personnalisé de contenu en ligne. On peut retrouver cela sur les réseaux sociaux tel Facebook, comme l’a montré le scandale de Cambridge Analytica, où il y a eu une volonté de manipulation politique de masse pendant les présidentielles américaines de 2016.
Ce ciblage de contenu pourrait être mieux encadré, et utilisé à des fins bénéfiques telle la détection d’utilisateurs potentiellement dépressifs, afin de les aider.
Thèse 2 : Rendre les IA bénéfiques est un défi monumental
Des algorithmes très performants, conçus par des leaders dans le monde de la technologie, peuvent se retrouver victimes d’attaques adversarial, comme :
Un autre point rend le problème de l’éthique en IA encore plus complexe : comment définir ce qui est “bénéfique” ?
Nous, humains, avons des biais cognitifs qui sont peut-être contradictoires avec nos valeurs morales. Un utilisateur sur Youtube peut avoir une volonté à court terme de regarder une vidéo drôle, mais idéalement il aurait préféré vouloir regarder une vidéo à caractère scientifique, qui lui sera plus bénéfique sur le long terme. Ce genre de réflexion a donné naissance au concept de “volition cohérente extrapolée”, selon lequel une IA devrait agir selon notre intérêt supérieur, et non notre désir à court terme.
Avant de pouvoir trouver des solutions aux problèmes éthiques de l’IA, il est important de comprendre les raisons principales qui poussent les gens à se montrer méfiants.
Un sondage Ifop pour Impact AI, un collectif d’entreprises françaises s’intéressant à l’impact social de l’IA, a permis d’identifier 3 axes d’inquiétude majeurs :
Comment calmer ces craintes ? L’Ethical by Design vient en réponse à cette question, non pas en tant que solution toute prête mais en tant qu’état d’esprit et principes généraux qui orientent la réflexion en amont de tout projet autour de l’IA.
Garder les humains dans la boucle
La sortie de l’algorithme est généralement sous forme de probabilités. On peut automatiser les choix certains et laisser les utilisateurs décider quand l’incertitude est élevée, ce qui aurait pour résultat la mise en confiance de ces derniers ainsi que la réduction des erreurs.
Prévenir les biais discriminatoires
Plusieurs questions à se poser sur les données (Les distributions sont-elles équilibrées ? Quelles transformations à effectuer ?) et l’algorithme (Quel impact, à priori et à posteriori ? Quel choix de métrique ?)
Protéger les données
Julie Gallavardin, consultante chez OCTO, conseille de revenir à la raison d’être du RGPD (Règlement Général sur la Protection des Données), afin de se l’approprier comme démarche positive et valorisante et non comme outil contraignant.
Afin de bien cerner le “why” du RGPD, il faut revenir au contexte historique de l’organisme l’ayant créé : la CNIL (Commission Nationale de l’Informatique et des Libertés). Cette commission a vu le jour après la seconde guerre mondiale, en réponse au traumatisme des français dû au fichage, et donc à leur désir d’avoir une entité indépendante qui protégerait leurs données personnelles.
Mieux comprendre l’origine du RGPD et le pourquoi de ses principes peut aider à en tirer un avantage compétitif, comme pour SNIPS, start-up française qui tient tête à Alexa, produit du géant Amazon, en mettant en avant leur politique de Privacy by Design. On peut aussi mentionner Apple, qui fait de la protection des données un argument de vente majeur, ou encore Microsoft, qui utilise son hébergement des données en France dans ses publicités.
Transparence et explicabilité
Emmanuel-Lin Toulemonde, consultant chez OCTO, revient sur l’importance d’avoir un système IA interprétable.
Un système est dit interprétable s’il est :
Afin d’identifier ce que l’on cherche concrètement en terme d’interprétabilité, quatre questions sont intéressantes à se poser :
Un autre point important est d’identifier les causes de la complexité du système. Cette complexité peut venir des données, de l’algorithme (comparez le fonctionnement d’un arbre de décision à celui d’un réseau de neurones), ou encore de sa taille.
On pourra ensuite trouver le bon compromis entre performance et interprétabilité, afin de maximiser l’utilité du système, en s’appuyant sur :
Mener à bien un projet innovant est une tâche compliquée. OCTO s’appuie sur trois facteurs clés de succès :
La e-santé est un domaine de recherche en pleine expansion, dont les éléments principaux (cloud computing, machine learning, IoT, réalité augmentée, chatbot,...) ont pour but d'améliorer le parcours de soin en permettant une médecine préventive et personnalisée.
Un projet d’e-santé a des spécificités qu’Olivier Taraud, Business Developer chez OCTO, a identifié comme suit :
On peut donc imaginer que les projets innovants dans le domaine de la santé sont particulièrement complexes, et requièrent un écosystème comprenant des profils aux compétences variées.
Laurent Ribière, consultant chez OCTO, et Isabelle Estournet-Djehizian, Présidente de VINAYA, tous deux bénévoles dans l’association AURA, nous ont fait un retour d’expérience sur ce projet associatif open source et open hardware, où des talents variés (médecins, ingénieurs, data analysts, etc.) conjuguent leur efforts dans le but d’améliorer la qualité de vie des patients épileptiques.
La démarche centrée à la fois sur les patients et les médecins a permis de mettre en évidence deux problématiques majeures : l’imprévisibilité des crises, et plus généralement la difficulté de connaître leur nombre exact entre deux visites médicales, à cause du phénomène d’amnésie post-crise. L’équipe d’AURA se fait aussi accompagner par une philosophe qui travaille sur les aspects éthiques du projet.
Dans le cadre du projet AURA, OCTO a pu contribuer à une librairie python open source d’analyse de rythme cardiaque (https://pypi.org/project/hrv-analysis/), ainsi qu’à une plateforme de suivi des patients en vie réelle.
Il est important de gagner et/ou maintenir la confiance des utilisateurs dans les systèmes IA, afin de profiter de leurs avantages compétitifs en les faisant adopter le plus rapidement et efficacement possible. Cela vient par :
OCTO Technology est bien outillé pour faire face à ce défi grâce à son écosystème varié, constitué de différentes entités, comme Culture innov’ (comment mener à bien un projet innovant), la tribu UX (User Experience), les tribus data (AIDA, BDA, NAD), RespAI (Responsible Artificial Intelligence), etc.