Créations sous artifices
Mutations du design à l’ère du machine learning

1–
À propos

2–
Contexte : un projet de recherche mené à la HEAD – Genève

Ancrage

• Intérêt pour les assistants vocaux. Journée d’étude « Vox Machines », Université Toulouse – Jean Jaurès, 2018. Aussi plusieurs travaux sur les sexbots menés avec Saul Pandelakis.
• Intérêt pour les boîtes noires et la cybernétique. Conférence « Résister aux boîtes noires. Design et intelligences artificielles » à Tunis en 2018. Article publié dans la revue Cités (PUF) en 2019.
• Intérêt pour les modèles économiques et l’avenir du design. Plusieurs travaux en cours avec la faculté de droit de l’université de Genève (Yaniv Benhamou).

« Design et machine learning : l’automatisation au pouvoir ? »
Projet de recherche HEAD – Genève / HES-SO (nov. 2021 – nov. 2022)

• Saisir les usages (projets, opportunités, etc.) et problèmes (blocages, manques, etc.) actuels des technologies de machine learning pour les designers graphiques.
• Sur la base de ces analyses, engager une démarche de « recherche-action » tournée vers la mise en place de nouvelles situations d’usages du machine learning adaptées aux studios de design graphique indépendants.

Résultats du projet

• 20 entretiens avec des studio de design graphique européens qui travaillent avec le deep learning.
• Site Web / Web OS qui rejoue le programme Smalltalk (1976) et qui active des scripts entre différentes fenêtres de l’écran. Usage de chatbots pour augmenter et perturber les textes. Mise en ligne en octobre 2023.
• Essai-manifeste (100 000 signes) open access et bilingue : Design sous artifice. La création au risque du machine learning (mars 2023)

Essai Design sous artifice. La création au risque du machine learning (2023)

Problématique

Quel est le spectre des implications actuelles et potentielles du machine learning pour les pratiques de design ?

3–
Contexte : cybernétique et psychologie

Fonctionnement et intelligibilité

« Nous voulons […] accepter la possibilité […] qu’une équipe d’ingénieurs puisse construire une machine qui fonctionne, mais dont les modalités de fonctionnement ne peuvent être décrites de manière satisfaisante par ses concepteurs, parce qu’ils ont appliqué une méthode en grande partie expérimentale. »

— Alan Turing, [1950] 1995, p. 139

Psychologie du deep learning

• Simuler un psychisme humain… Mais de quel psychisme parle-t-on ?
• Psychisme parfaitement valide et fonctionnant en continu (donc non humain)
• Vs. Simulation de défaillances et vulnérabilités psychiques
  (une piste de travail à rouvrir)

4–
Risques et implications du machine learning pour les pratiques de design

Risques et implications du machine learning pour les pratiques de design

• Renforcer les structures du pouvoir
• Automatiser le design
• Renforcer une compréhension stéréotypée du design
• Ne produire que de l’uniformité
• Installer une confusion entre conception et production

–
Renforcer les structures du pouvoir

Renforcer les structures du pouvoir

• Applications « immorales » des IA
• Renforcement des discriminations et des biais sociaux
• Concentration des GAFAM
• Opacité et responsabilité (ex. : véhicules autonomes)
• Travailleurs du clic
• Effacement d’autres modalités des IA

–
Des machines mimétiques

IAcadémisme

On peut observer un écart temporel entre la photographie comme invention technique, et la photographie comme art, qui naît d’une divergence avec le modèle pictural.

–
Renforcer une compréhension stéréotypée du design

« Poser des mots sur ce que l’on fait est beaucoup plus compliqué que ce que les concepteur·trices de systèmes comme DALL·E peuvent imaginer. De plus, comme le montre la sociologue Eva Illouz, formaliser verbalement ses intentions peut entraîner une paralysie décisionnelle et une apathie émotionnelle. Par exemple, dans les applications de rencontres, les personnes sont invitées à mettre des mots de plus en plus précis pour définir ce qu’elles cherchent, ce qui dissipe la magie. Si je dessine ou que je peins des tableaux abstraits, c’est précisément car je ne suis pas en capacité de raisonner verbalement. Dans l’art et dans le design, il y a des règles non verbales de composition et de construction, et l’on n’est pas sans cesse dans l’anticipation d’intentions et dans la matérialisation d’un langage. »

— Martin Tricaud, entrevue avec Alexia Mathieu, 2022

–
Automatiser la création

Des techniques sans formes ?

L’acceptation d’un monde façonné par les IA se pose moins en termes de remplacement (remplacement de l’humain par la machine) qu’en termes de recouvrement : un environnement dans lequel on ne pourrait pas distinguer ce qui est produit, ou non, avec les IA.

• Comment travailler « avec » les machines du deep learning, c’est-à-dire dans d’autres directions que celles de l’automatisation ?
• Comment échapper au risque de l’uniformité ?

5 –
Le design à l’ère
des intelligences
simulées

Le design à l’ère des intelligences simulées

• Révéler des dynamiques de standardisation
• Responsabiliser l’injonction à la simplicité
• Jouer avec les aléas et limites de la prédiction
• Traduire des codes culturels
• Inventer de nouveaux modes de collaboration

5.1 –
Révéler des dynamiques de standardisation

5.2 –
Responsabiliser l’injonction à la simplicité

« This invisible classification process is usually intended to produce automated decisions, which can have profound consequences for individual and collective freedom. The possible benefits of machine learning are many, but we run the risk of developing technologies of such complexity that our abilities to shape them to serve the common good are severely limited. »

—Alistair McClymont, John Fass, Of Machines Learning to See Lemon, 2018

5.3 —
Jouer avec les aléas et limites de la prédiction

5.4 —
Traduire des codes culturels

« Si je ne peux pas traduire, je ne peux pas comparer. […] Il est très facile de traduire un traité de chimie, de l’anglais en français, mais traduire un poème de Li Tai Po en français est presque impossible, traduire Mozart en architecture est un grand problème. […] Peut-être lorsque la science des codes aura fait des progrès plus grands, on pourra faire des familles de codes. Peut-être trouvera­-t-on des codes qui peuvent être traduits et d’autres qui ne le peuvent pas. Si on fait un tel catalogue, on comprendra beaucoup de choses sur la situation humaine. […] C’est une théorie pour les temps nouveaux. C’est un champ d’engagement très grand, parce qu’il ne s’agit pas seulement de traduire de l’anglais en français, il s’agit, par exemple, de traduire Marx en Freud, ou Freud en catholicisme, ou le catholicisme en néopositivisme. C’est là le vrai jeu. Vous voyez où nous allons si nous commençons à penser en termes de codes. Nous allons vraiment vers une autre culture […]. »

— Vilém Flusser, Le monde codifié, Paris, Institut de l’Environnement, 1973

5.5 —
Inventer de nouveaux modes de collaboration

Conclusion de l’essai

Passer des « intelligences artificielles » à une « intelligence de l’artificiel »

Ouverture –
Quelle pédagogie des
intelligences simulées ?

• À une époque où les technologies du machine learning font partie de notre quotidien, en quoi les cursus de design pourraient-ils (ou devraient-ils) faire l’objet de reconfigurations ?
• Quelles compétences ne sont plus pertinentes à enseigner ?
• Quelles sont celles qui devraient évoluer ou être ajoutées ?

« Il s’agit de penser la technique comme un système devant lequel il faut ne jamais baisser pavillon et savoir rester critique, mais aussi comme une gigantesque mine de ressources et de potentialités. C’est là qu’il faut puiser pour imaginer de nouvelles qualités. »

— Ezio Manzini, Artefacts. Vers une nouvelle écologie de l’environnement artificiel [1990], Paris, CCI, 1991

@AnthonyMasure

www.anthonymasure.com

Présentation réalisée avec Reveal.js, MIT License
Licence (textes) : CC BY-SA
Polices de caractères : IBM Plex Sans Variable & IBM Plex Mono (Mike Abbink × Bold Monday, 2018)
—
Septembre 2022