Au cœur des algorithmes. Démarche scientifique de l’automatisation, enjeux éthiques, juridiques et sociétaux - Institut Imagine

L’utilisation, la conception et le développement des algorithmes posent nombre de questions aux chercheurs et aux ingénieurs : comment éviter ou corriger, si cela est possible, les biais informationnels qui sont des sources d'injustice ? Qui, du concepteur, de l’entreprise ou de l’utilisateur, est responsable en cas d’accident ou d’externalité négative ? Comment interpréter scientifiquement les corrélations liées au croisement entre des bases de données massives ? Comment assurer l’anonymat ? Faut-il tenter de coder des règles déontologiques dans le fonctionnement des machines autonomes ? Ce ne sont là que quelques enjeux éthiques, juridiques ou scientifiques qui sont soulevés au quotidien.

Pour les aborder de manière éclairée, il convient de redéfinir, à la lumière de ces technologies et de ces usages, les grands concepts qui animent la réflexion éthique : « consentement », « responsabilité », « autonomie», « accompagnement », « bienfaisance », ou encore « justice ». Mais, au-delà, nous ne pourrons pas faire l’économie d’une réflexion poussée sur la pratique de l’éthique dans les équipes de recherche, dans les laboratoires et dans les entreprises. Devons-nous promouvoir une éthique by design qui propose des règles de conceptions vertueuses ? Ou plutôt pencher pour la création de comités d’éthique qui permettent de discuter les questions de manière collective ? Devons-nous fixer des principes intangibles à respecter, ou bien privilégier une logique utilitariste ? A côté de la loi, du code de déontologie et des chartes d’entreprise, quelle place pour l’éthique ?

Ce colloque interdisciplinaire d’éthique POLÉTHIS entend initier une réflexion nécessaire sur l’éthique des algorithmes en invitant des scientifiques de différentes disciplines et des ingénieurs à croiser leurs regards dans une approche transdisciplinaire.

Programme

8h30 : Ouverture

Nadia Abchiche-Mimouni

Maîtresse de conférences en informatique (intelligence artificielle distribuée), Univ. Évry, Université Paris-Saclay

Au cœur du traitement de l’information, l’éthique

Claude Kirchner

Directeur de recherche émérite INRIA, directeur du Comité national pilote d’éthique du numérique, membre du CCNE

9h10 : Conférence introductive

Gilles Dowek

Professeur à l’École normale supérieure Paris-Saclay, chercheur à l’Inria, membre du Comité national pilote d’éthique du numérique

10h : Conférence

• Ce qui résiste aux algorithmes : épistémologie des limites dans le champ de l'IA

Léo Coutellec

Enseignant-chercheur (MCF) en épistémologie et éthique des sciences contemporaines, Université Paris-Sud-Paris-Saclay, membre conseil pour l’éthique de la recherche et l’intégrité scientifique, Université Paris-Saclay (POLÉTHIS)

10h40 : Pause café

11h : Table-ronde

Enjeux éthiques et sociétaux, impacts humains

• L’explicabilité de l’IA et la construction des récits

Alexei Grinbaum

Chercheur en physique et en éthique des sciences et des technologies, CEA Saclay-LARSIM, conseil pour l’éthique de la recherche et l’intégrité scientifique, membre du conseil pour l’éthique de la recherche et l’intégrité scientifique, Université Paris-Saclay (POLÉTHIS, membre du Comité national pilote d’éthique du numérique

• Principe de garantie humaine de l’IA en santé

David Gruson

Membre de Comité de direction de la Chaire Santé de Sciences Po Paris, professeur associé à la faculté de médecine de l’Université Paris-Descartes, fondateur de l’initiative Ethik IA, membre du Comité national pilote d’éthique du numérique

• IA : une révolution graphique au service de l’homme ?

Joachim-Nicolas Herrera

Doctorant à l’École de Droit, Institut d’études politiques de Paris (Sciences Po)

Jean-Marie John-Mathews

Data scientist, doctorant en éthique algorithmique, Médialab, Institut d’études politiques de Paris (Sciences Po)

Présentation, animation de la table-ronde :

Nadia Abchiche-Mimouni

Maîtresse de conférences en informatique (intelligence artificielle distribuée), Univ. Évry, Université Paris-Saclay

13h : Repas libre

14h30 : Conférence

Pas d’éthique sans interprétabilité des algorithmes ?

Emmanuel-Lin Toulemonde

Data scientist, Octo Technology

15h10 : Table-ronde

• Réflexions, bonnes pratiques,gouvernances,régulations – approches croisées

• Pouvons-nous programmer des agents des agents artificiels éthiques ?

Grégory Bonnet

Maître de conférences HDR en IA, Laboratoire GREYC, Université de Caen Normandie, membre du CA de l’Association française d’intelligence artificielle

• Des principes à la pratique pour une IA de confiance

Raja Chatila

Professeur, Sorbonne Université, Institut des Systèmes Intelligents et de Robotique (ISIR), Paris, membre du Comité national pilote d’éthique du numérique

• Chatbots et robots affectifs : défis éthiques

Laurence Devillers

Professeur en intelligence artificielle, chaire DataIA, Université Paris-Sorbonne, Chercheuse LIMSI-CNRS, Université Paris-Saclay, membre du Comité national pilote d’éthique du numérique, auteure de Des Robots et des hommes (Plon)

Présentation, animation de la table-ronde

Sébastien Claeys

Responsable de la médiation, Espace de réflexion éthique Région Île-de-France, enseignant master éthique, sciences et société, Université Paris-Saclay (POLÉTHIS), auteur de De disruption à prosommateur : 40 mots-clés pour le monde de demain (Le Pommier)

16h45 : Synthèse du colloque

Emmanuel Hirsch

Professeur d’éthique médicale, Université Paris-Saclay, président du conseil pour l’éthique de la recherche et l’intégrité scientifique, Université Paris-Saclay (POLÉTHIS), membre du Comité national pilote d’éthique du numérique