Discipline and prescribe: ethics by design in the AI era
Contexte
Communication aux journées d’étude « Éthique by design en intelligence artificielle : perspectives théoriques et pratiques », Paris, Unesco EVA Chair on AI.
Résumé
Released at the turn of the 2010s, deep learning technologies (a subfamily of machine learning) are based on opaque architectures. As they automate more and more tasks, these black boxes, that are not understandable to humans, overcome the usual ethical and moral categories. Faced with these challenges, some people want to “take back control.” However, if machines (through a mirror effect) reveal the “inhuman” part of humanity, does the human/machine separation still make sense? On the other hand, embedding ethics in a computer program (“by design”) requires making them explicit and fixed—which is the opposite of a dialogical dynamic. To overcome AI challenges, we must therefore “normative ethics” (prescription) and “capability ethics” (potentiation).
Surveiller et prescrire : l’éthique by design face aux intelligences artificielles
Apparues au tournant des années 2010, les technologies du deep learning (une sous-famille de l’apprentissage automatique) reposent sur une architecture technique structurellement opaque. En automatisant de plus en plus de tâches, ces boîtes noires (black boxes) échappant à l’entendement humain bousculent les habituelles catégories éthiques ou morales. Face à ces défis, certaines personnes invitent à « reprendre la main ». Cette visée pose cependant problème car si l’on considère que les machines, par effet de miroir, révèlent la part « inhumaine » de l’humanité, la partition humain/machine a-t-elle encore un sens ? D’autre part, encoder de l’éthique dans un programme informatique (en amont de la conception, « by design ») suppose qu’on soit capable de l’expliciter et de la fixer, ce qui va à l’encontre d’une dynamique dialogique. Nous faisons ainsi l’hypothèse que les mutations technologiques en cours invitent ainsi à associer « éthique normative » (prescription) et « éthique capacitaire » (potentialisation).