Thinking Machines

Résumé

Bien que le concept d’« intelligence artificielle » (IA) soit déjà ancien, sa présence ne cesse de s’intensifier, que ce soit dans la presse, la pop culture, ou les objets du quotidien. Des approches critiques se développent, par exemple face aux dérives sécuritaires de ces technologies, ou face à la précarisation des « tâcherons du clic » invisibilisés par ces promesses d'innovation. Comment ces enjeux sociaux sont-ils abordés par les métiers dits de la « création », eux-mêmes en proie à des risques et opportunité d’automatisation ? Qu’est-ce que le design peut faire « avec » les intelligences artificielles ? Comment aborder ces questionnements dans des situations pédagogiques ?

—
Contexte

Plan

• 1/ Les boîtes noires du deep learning
• 2/ Workshop Thinking Machines, HEAD, Master Media Design
• 3/ Perspectives critiques des IA en art & design

1 —
Les boîtes noires du deep learning

1.1 —
(Très) rapide histoire des intelligences artificielles

« On peut espérer que les machines finiront par concurrencer les hommes dans tous les champs intellectuels. […] Beaucoup de gens pensent qu’une activité très abstraite, comme le jeu d’échecs, serait la meilleure. Il se peut qu’il soit préférable [de] suivre l’enseignement normal d’un enfant. […] Je ne sais pas quelle est la bonne réponse, mais je pense que les deux approches devraient être essayées. »

— Alan Turing, « Computing machinery and intelligence », 1950

Les IA, deux approches rivales

• Modéliser a priori (en amont) l’ensemble des possibilités et comportements de la machine
  → logique symbolique
• Permettre à la machine d’apprendre par elle-même en imitant les processus biologiques cérébraux
  → logique connexionniste

« L’architecture des machines à prédire va être transformée pour affronter les big data […] : de nouveaux problèmes d’ingénierie à base de grands volumes de données comme la détection de spams, les techniques de filtrage collaboratif utilisées pour la recommandation, la prédiction de stock, la recherche d’information ou l’analyse des réseaux sociaux. »

— Dominique Cardon, Jean-Philippe Cointet et Antoine Mazières,
« La revanche des neurones », Réseaux, n^o 211, novembre 2018

1.2 —
Fonctionnement
du deep learning

L’apprentissage profond

Le deep learning, ou « apprentissage profond », est un type d’intelligence artificielle dérivé du machine learning (apprentissage automatique) où l’idéal est d’élaborer une machine est capable d’« apprendre par elle-même », contrairement à la programmation « traditionnelle » où elle se contente d’exécuter des règles prédéterminées.

Applications du deep learning

Exploration de données, robotique industrielle, logistique, reconnaissance vocale, applications bancaires, diagnostics médicaux, reconnaissance de formes, moteurs de recherche, etc.

1.3 —
L’IA : une rhétorique de l’efficacité et du déclassement

Excès d’optimisme

• 1958, Herbert Simon et Allen Newell : « D’ici dix ans un ordinateur sera le champion du monde des échecs » et « d’ici dix ans, un ordinateur découvrira et résoudra un nouveau théorème mathématique majeur. »
• 1965, Herbert Simon : « Des machines seront capables, d’ici vingt ans, de faire tout travail que l’homme peut faire. »
• 1970, Marvin Minsky (dans le magazine Life) : « Dans trois à huit ans nous aurons une machine avec l’intelligence générale d’un être humain ordinaire. »

« Aura-t-on vraiment le choix ? Le rapport Jobs Lost, Jobs Gained (2017) du McKinsey Global Institute estime que ‹ 50 % des emplois ont le potentiel d’être automatisés avec les technologies actuelles. › ‹ Nos scénarios dans 46 pays suggèrent qu’entre zéro et un tiers des activités pourraient être remplacées en 2030. D’ici là, 75 à 375 millions de travailleurs devront changer de domaine ›, précisent les experts. »

— Maïlys Khider, « Ces 25-35 ans qui ne veulent plus faire carrière », Le Figaro Madame, avril 2019

1.5 —
Genéalogies cybernétiques
de la « boîte noire »

« Nous voulons […] accepter la possibilité […] qu’une équipe d’ingénieurs puisse construire une machine qui fonctionne, mais dont les modalités de fonctionnement ne peuvent être décrites de manière satisfaisante par ses concepteurs, parce qu’ils ont appliqué une méthode en grande partie expérimentale. »

— Alan Turing, « Computing machinery and intelligence », 1950

Une « théorie entière de la commande et de la communication, aussi bien chez l’animal que dans la machine ».

— Norbert Wiener, La cybernétique. Information et régulation dans le vivant et la machine, 1952

Pour expliquer le concept de « boîte noire », Norbert Wiener utilise l’exemple d’une machine se substituant à un organisme. Il est donc possible de remplacer un système par un autre sans connaître le détail de son fonctionnement interne.

1.6 —
Vilém Flusser,
l’auto-programmation des comportements humains

« La compétence de l’appareil doit être supérieure à celle de ses fonctionnaires. Aucun appareil photo correctement programmé ne peut être entièrement percé à jour par un photographe […]. C’est une black box. […] Voilà ce qui caractérise le fonctionnement de tout appareil : le fonctionnaire est maître de l’appareil grâce au contrôle qu’il exerce sur ses faces extérieures (sur l’input et sur l’output), et l’appareil est maître du fonctionnaire du fait de l’opacité de son intérieur. »

— Vilém Flusser, Pour une philosophie de la photographie [1983], 1998, p. 36

« La boîte, qu’elle soit appareil photo ou média, tend automatiquement à nous dévorer. Les photographes essaient de duper les boites pour leur faire produire de l’information. C'est la lutte entre la liberté humaine et ses propres dispositifs. Chaque photographie témoigne isolément de cette lutte. »

— Vilém Flusser, « Comment ne pas être dévoré par la boîte »,
14^e Rencontres Internationales de la Photographie, Arles, 9 juillet 1983

« Les robots peuvent honorer notre père et notre mère à notre place. Ils peuvent le faire mieux que nous, avec plus de précision, d’efficacité et de pertinence. Tout comportement est théoriquement mécanisable : pensées, sentiments, et mêmes les inspirations les plus transcendantes. Si difficulté il y a, elle n’est que pratique. »

— Vilém Flusser, « Programme (Tes père et mère honoreras) » [1986], dans : dossier « Vivre dans les programmes », dir. Yves Citton et Anthony Masure, Multitudes, n^o 74, avril 2019

Vilém Flusser, vivre dans les programmes

• L’écriture devient unidimensionnelle et indéchiffrable
• Les machines programmeront d’autres machines
• Les appareils nous transforment en « fonctionnaires »
  des machines : nous nous « auto-programmons »
• Difficulté à énoncer une critique des programmes, qui mettent en doute les anciennes catégories de pensée

Les boîtes noires du deep learning

• Quelles sont les conséquences d’un paradigme technique reposant sur de l’inintelligible ?
• Que peuvent faire les artistes et designers « avec » ces technologies ?

2 —
Workshop Thinking Machines

Master Media Design

Ce Master se focalise sur l’apprentissage du design d’interaction pour l’innovation scientifique et sociale

Master Media Design

Relever les défis technologiques et sociaux engendrés par les intelligences artificielles et les nouvelles interfaces

Comment ?

• Prototypage et processus d’itération
• Design d’interactions ludiques
• Design d’anticipation
• Nouveaux outils

Master Media Design

Prototypage et processus d’itération

Master Media Design

Design d’interactions ludiques

Master Media Design

Design d’anticipation

Master Media Design

Nouveaux outils

Master Media Design

Thinking Machines, workshop dirigé par Douglas Edric Stanley et Jürg Lehni

Le projet Thinking Machines revisite la notion d’outils personnalisés à l’époque des intelligences dites « artificielles » et explore comment la création d'assistants personnalisés peut remodeler le processus de travail des designers.

Thinking Machines

Le projet Thinking Machines revisite les fantasmes et réalités des machines dites « pensantes », à l’heure des « réseaux de neurones » qui transforment actuellement les perspectives de notre société.

Il prend la forme d’un studio de design fictionnel dans lequel le workflow classique a été radicalement transformé par les réseaux de neurones et les machines automatisées.

Méthode

• 1/ Formaliser les différents rôles internes et externes d’un studio de design – en identifiant les outils, techniques, compétences et intérêts de base et sur mesure de chaque collaborateur du studio
• 2/ Prototyper un workflow automatisé à l’aide d’outils contemporains conçus principalement pour le Web

Thinking Machines

Du métier à tisser Jacquard aux neural networks, en passant par les générateurs de texte

3 —
Perspectives critiques des IA en art & design

Idée reçue 1 : l’IA est d’ores et déjà efficace et fiable
Idée reçue 2 : l’IA est intelligente
Idée reçue 3 : autonome, l’IA apprend toute seule
Idée reçue 4 : l’IA aura ses réseaux de neurones ou ne sera pas
Idée reçue 5 : l’IA créera autant d’emplois qu’elle en supprimera
Idée reçue 6 : point besoin d’éthique pour bâtir notre monde d’IA
Idée reçue 7 : l’IA sera bientôt plus intelligente que l’humain

– Yann Moulier Boutang, Ariel Kyrou, « Mama IA Mamamouchi. Le dynamitage de 7 idées reçues pour en finir avec le Bourgeois numérique, ce Monsieur Jourdain de l’intelligence artificielle », Multitudes, n^o 72, octobre 2018, p. 7-15

3.1 —
Vers une création automatisée ?

3.2 —
Désautomatiser
l’art et le design

3.3 —
Dissiper l’illusion de l’automatisation

« À travers la promesse fallacieuse de l’émancipation par l’automation et le spectre menaçant de l’obsolescence du travail humain, les plateformes numériques condamnent la multitude grandissante des tâcherons du clic à une aliénation radicale : œuvrer inlassablement à leur propre disparition en s’effaçant derrière des machines dont ils sont et resteront les rouages indispensables. »

— Antonio Casilli, En attendant les robots, Paris, Seuil, 2019

3.4 —
Affronter les biais et discriminations

3.4 —
Déjouer l’opacité

« Ce processus de classification invisible vise habituellement à produire des décisions automatisées, qui peuvent avoir de lourdes conséquences sur les libertés individuelles et collectives. Les possibles avantages de l’apprentissage machine [machine learning] sont nombreux, mais nous courons le risque de développer des technologies d’une telle complexité que notre capacité à les façonner pour servir le bien commun devient très limitée. »

— Alistair McClymont, John Fass, « Of Machines Learning to See Lemon », 2018

3.5 —
Dépasser l’opposition humain/machine

Making of slides

Discussion / Questions

• Est-il soutenable de voir l’apprentissage comme un « dressage » (métaphore des animaux ou des enfants) ?
• Les IA du deep learning peuvent-elles vraiment être investies par les designers, ou sont-ils condamnés à n’agir qu’en bout de course ? L’art et le design deviendront-ils un terrain de jeux pour les ingénieurs ?
• Peut-on réduire la création à des modèles comportementaux et à des statistiques ? La sacralisation de la reproduction (et la peur du fake) font-elles de l’IA un « art académique » ?
• Les fantasmes autour du deep learning n’ont-ils pas éclipsé la diversité des modes de programmation ?

Anthony Masure & Alexia Mathieu

—
Présentation réalisée avec Reveal.js, MIT License
—
Polices de caractère : Gimlet Variable & Gimlet X-Ray
David Jonathan Ross, Font of the Month Club, janvier 2020
—
Licence des textes : CC BY–SA