Peux-tu te présenter et nous parler d’InternetActu.net et de la Fing ?
Je m'appelle Hubert Guillaud, je suis journaliste à InternetActu.net, le média de la Fondation internet nouvelle génération, un média pour parler des débats et des grands enjeux de société que posent les transformations technologiques à venir.
La Fing est une association qui a 20 ans et qui propose des programmes de recherche-action multi-partenariaux sur des enjeux technologiques. En 20 ans d’existence, l'association a abordé de nombreux sujets qui vont du corps au vieillissement, à la mobilité, l'avenir des villes, l'avenir de l'éducation, la musique… Nous avons participé à lancer nombre de sujets que ce soit sur les FabLabs, l’ouverture des données, le retour des données aux utilisateurs… Nous avons toujours un regard prospectif et qui consiste aussi à trouver des modalités d'action pour les 150 entreprises et administrations publiques qui sont membres et adhérentes de l'association.
InternetActu est un média indépendant. Son but n'est pas de parler des travaux de la Fing, mais d'aider la société à comprendre les enjeux des technologies, qui ne sont pas seulement numériques.
L'association fonctionne par projet : chaque année, nous lançons des projets sur des sujets divers et variés, sur les algorithmes par exemple, sur l'open data et leurs enjeux : quelles sont les limites ? Qu'est-ce que cela produit ? Qu'est-ce que ça n'a pas produit ? Qu'est-ce que ça produira dans 10 ans ?
L'enjeu c'est de créer du débat de société sur ces questions-là. Je m’occupe de plusieurs groupes de travail à la Fing : un sur les questions algorithmiques, qui s’appelle “Nos systèmes”, et un autre sur le rétro-design de l'attention qui s'est intéressé pendant un an aux questions attentionnelles et à leurs enjeux.
Est-ce que tu peux nous en dire un peu plus sur les conclusions de ce projet ?
En ce qui concerne le rétro-design de l’attention, nous sommes partis des tribunes du designer Tristan Harris de 2016 sur la question de l'exploitation de la vulnérabilité des utilisateurs par le design. La question attentionnelle, en fait, est documentée depuis longtemps sous la forme de l'économie de l'attention, qui s'est intéressée surtout aux questions publicitaires et à la relation aux médias de masse comme la télévision. Tristan Harris présentait, lui, un nouvel enjeu en disant : le design de nos interfaces pose de nouveaux principes fonctionnels qui capturent l'attention des utilisateurs, et leur font faire des choses qu'ils ne souhaitent pas nécessairement faire.
Il était designer de l’éthique chez Google, et plus particulièrement sur Gmail. Le principal constat qu’il faisait était de souligner la souffrance des utilisateurs, et que cette souffrance était certainement due à la manière dont l'interface était conçue. Pour lui, l'entreprise Gmail avait une part de responsabilité là-dedans.
L'alerte de Tristan Harris était le signe de la perte de puissance des designers. Jusqu'au début des années 2000, tous les sites et services en ligne avaient des directeurs artistiques, des designers pour se singulariser… Mais peu à peu, ces fonctions ont disparu. Elles se sont fondues, très souvent, dans le marketing. Les interfaces ne sont plus vraiment pilotées par des designers mais par des équipes marketing et le designer n'est plus qu'un opérateur comme les autres.
La forme des boutons, les titres d'articles sont désormais décidés selon des techniques d'A/B testing, qui visent à mesurer l'efficacité des options en regardant ce que choisissent les utilisateurs entre deux micro-optimisations, selon des critères très limités (clics, temps passé, taux d'ouverture…). Nous sommes surtout là face à des techniques de "délégitimation du design".
Le marketing a pris le pas sur les questions de conception et je pense que là on a un souci. Parce que le designer était le porteur d'autres visions, d'autres propositions, il était aussi le porteur de la prise en compte des clients, des usagers sous un autre angle que le seul objectif d'efficacité et de rétention que propose le marketing.
C’est très intéressant d'ailleurs de regarder vraiment concrètement comment fonctionne Google Optimize － qui est la plateforme d'A/B Testing de Google qui est intégrée à Google Analytics. C’est intéressant de regarder la liste des critères qui permettent d'optimiser et de pouvoir faire de l’A/B testing très facilement. Aujourd'hui il faut avoir conscience que Google Analytics est présent sur quasiment 100 % des sites web et que ces outils sont accessibles à tous.
Derrière l'éviction des designers, il y a une forme de réductionnisme de la proposition de valeur des sites et services web aux seules métriques de rétention des utilisateurs. Et le risque est surtout que ça ne cesse de s'accélérer.
Justement, quels sont pour toi les pouvoirs du design ?
Pour moi, le design concerne tout ce qui touche aux questions de conception. C'est ce qui a rapport à "la forme de choix", comme disait le rapport de la Cnil. Derrière chaque choix que l'on inscrit dans les interfaces sont inscrites des valeurs, des rapports de pouvoir. Le design c'est donc inscrire des valeurs, des rapports de pouvoir entre ceux qui proposent des outils et les utilisateurs.
Souvent ces intermédiations cherchent à fluidifier de l’échange de données, mais s’intéressent assez peu aux questions de la médiation avec l’utilisateur, à la manière dont cette relation s’incarne.
Le pouvoir du designer en majesté, à la Starck, même si on peut en rigoler, c'est de pouvoir proposer une forme différente, une affordance qui va fonctionner, quelque chose où la forme, le fond, le sens vont se retrouver. Le problème est qu'un designer n'a pas toujours autant de pouvoir que ça dans les interfaces : il est limité par des fonctionnalités, par des codes, par des pratiques, par des usages, par des métriques.
J’ai l'impression qu'en quelques années on est passé du directeur artistique à l'opérateur, à l’ouvrier spécialisé de l'interface, sous la coupe du marketing.
Et c'est une inquiétude car le côté artistique qu’avait le directeur artistique faisait qu’il était aussi capable d'inventer quelque chose ou de proposer une autre expérience, d'autres formes de relation et de pouvoir. Aujourd'hui c'est un peu le contraire, nous avons des expériences très balisées avec des interfaces graphiques de plus en plus normalisées, où l'originalité est petit à petit chassée.
L'autre avantage du designer était d’être un peu l'artiste de la bande, dans une équipe qui développe un produit. Celui qui avait le droit de proposer quelque chose de différent ou autrement, de voir les clients ou les usagers avec un autre regard, de s'intéresser un peu plus à eux. Le designer, c'était le dernier qui avait un rapport autre que terriblement efficace avec l'utilisateur, avec le contexte, avec l'environnement, avec le monde en fait. Cette perte de fonction, cette perte de pouvoir signifie que tout cela risque de disparaître avec lui. Cette perte de pouvoir du design, je pense qu'aujourd'hui elle pose question et qu'il est nécessaire de la réinterroger.
Est-ce que tu as des exemples de design parfait ?
Je ne pense pas qu'il y ait des interfaces parfaites, mais il y a des espaces d'interactions qui sont plus stimulants que d’autres, qui offrent plus de possibilités que d'autres. L’exemple que j'aime prendre, c’est Trainline : la fonction qui augmente la luminosité de ton écran quand tu charges le QR code de ton billet pour qu'il passe au scanner de la borne ou du contrôleur. C'est l'exemple parfait d'une petite fonction magique. Quelqu’un a mis dans l’interface quelque chose qui facilite complètement l'usage au moment où tu en as besoin. C'est vraiment emblématique. C'est un détail qui montre que l’on peut faire des propositions de valeur sur des choses qui sont toutes petites et qui finalement sont très différenciantes, très pratiques. Et ça n'a pas dû être pensé par le marketing. Un designer a éprouvé le truc, a pensé aux utilisateurs.
J'aime bien un autre exemple, celui de My Shapa. C'est une balance connectée qui a été faite par une startup américaine sous les conseils de Dan Ariely, un spécialiste de la psychologie cognitive. C'est une balance sans chiffre, qui n'affiche pas le poids de son utilisateur, mais encourage seulement ses efforts. Elle affiche des couleurs, vert, orange ou rouge, qui ne sont pas liées à votre poids exact, mais à une pondération de celui-ci sur trois semaines. L'enjeu est de lisser les gains et pertes quotidiennes, pour aider les gens à faire des efforts sur le temps long.
Cet exemple illustre parfaitement l'enjeu actuel des métriques. Aujourd'hui on insiste partout sur des métriques temps réel, les plus précises possibles. MyShapa fait une autre proposition et nous montre que la précision ou la tyrannie des métriques n'est pas toujours le bon remède à nos besoins. Cette balance nous montre combien la conception peut s'incarner autrement que dans la précision, pour transformer les comportements des gens.
Qu’est-ce que tu mets derrière le mot éthique quand on parle de design ? Qu’est-ce que ça évoque pour toi ?
La question du design éthique, popularisée par Tristan Harris, ne concerne pas que les interfaces. On voit ce sujet prendre de l'importance également dans le champ des données et plus encore des traitements algorithmiques. Mais la question de l'éthique est une question compliquée et complexe. Le risque est grand que cette responsabilité demeure superficielle (la fameuse "éthique washing"), car cette question de l'éthique ne peut pas se résoudre par des chartes et des grilles ou des codes de conduite, certes nécessaires, mais demeure un processus dynamique, sans cesse en transformation, qui interroge autant les pratiques que les valeurs, comme l'expliquait la sociologue américaine Diane Vaughan.
L'éthique, c'est un processus continu qui interroge les décisions et qui nécessite de mettre en adéquation les décisions, les processus et les valeurs, et de requestionner en permanence cet ensemble. Pas si simple donc !
Quand on parle de conception responsable, de design social, est-ce que pour toi c’est autre chose ou ce sont des déclinaisons d’un design que l’on veut meilleur ?
Je serais assez d’accord pour dire qu’il s’agit de sous-domaines d’une question plus générale qui est “comment est-ce qu’on fait mieux ?”. C'est une question vraiment importante. C'est comme ça que l'on progresse mais j'ai l'impression que les dimensions responsables, éthiques, durables, ce sont des questions qui vont un peu toutes ensembles. La difficulté c'est justement de les traiter toutes ensembles, on ne peut pas abandonner une question pour n'en traiter qu'une autre.
Mais prendre tout en compte, c’est difficile. Il y a toujours des choix à faire. La question c'est “comment je fais les meilleurs choix, pas nécessairement pour moi et mon entreprise, mais aussi pour les utilisateurs, pour la planète”…
Le gros risque, c'est qu'il y ait beaucoup d'initiatives qui ne mènent pas très loin. Mais ce n'est pas grave, ça veut aussi dire que ces sujets prennent de l'importance et que les gens y réagissent. C’est ce que j’aime dans la démarche des Designers Éthiques : interroger toutes ces dimensions !
En dehors de l’éthique washing, est-ce que tu vois d’autres difficultés pour le design éthique ?
La difficulté est de rendre du pouvoir aux designers dans les entreprises, de contourner la seule puissance du marketing et de l'immédiat. Pour une entreprise, prendre une question au sérieux, cela veut dire mettre en place un responsable et un process. Prenons l'exemple de la question de la qualité dans les entreprises qui a été ces vingt dernières années une question pour nombre d'organisations qui ont dit « nous on va faire de la qualité, ça veut dire qu'on va essayer d'avoir toute une démarche qui assure la qualité de nos produits ».
Qu'est-ce qu'ils ont fait ? Ils ont nommé un directeur de la qualité, pas un ouvrier spécialisé de la qualité, mais un directeur de la qualité. Ils ont mis en place des process partout pour enquêter dans les entreprises avec lesquelles ils travaillaient, pour pouvoir surveiller la qualité des matériaux ou regarder même d’où venaient ces matériaux, comment ils étaient achetés, produits, en imposant des normes à chaque fois.
Prenons l’exemple des entreprises du cuir, pour les grandes marques de luxe : elles sont allées voir les producteurs de vaches, elles sont allées regarder les cuirs, elles sont allées voir avec les tanneurs, elles ont descendu toute la chaîne de production. Et tout le long, elles ont mis en place des normes de qualité. C'est tout un processus qui se décompose et qui regarde du début de la chaîne jusqu'à la fin, comment tu imposes quelque chose. On en est très loin dans la question du design.
Les directeurs de l'éthique dans les entreprises sont souvent rattachés à la RSE et ont souvent des fonctions de regard transverse sur toute la chaîne. C'est souvent une fonction un peu honorifique d'une personne qui est souvent éloignée de tous les process de production alors que c'est l'inverse qu'il faudrait faire : il faut qu'il soit au contraire au contact de toutes les équipes, qu’il fasse toute la chaîne de production et qu’il regarde partout en disant ce qui va et ce qui ne va pas. L’exemple de Guillaume Champeau à Qwant lors de Ethics by design 2018 était intéressant. Lui, il a un droit de veto sur les projets, c’est énorme. Quel designer a un droit de veto aujourd’hui sur les projets aujourd’hui ?
Concernant la techno-critique, peux-tu détailler comment ça s’est constitué ces dernières années, ce qui a évolué, le rapport avec la question de l’éthique, et où ça peut aller ?
La technologie a toujours généré une critique de ses effets. La différence avec le web, c’est que ce dernier a suscité énormément d'espoirs à ses débuts. Notamment l’espoir de transformer la société en une société plus participative, plus horizontale... C'est ce qu'on appelle un peu l'Internet des pionniers. On pouvait faire des choses qu'on ne pouvait pas faire avant : on pouvait se connecter avec d'autres personnes, c'était chouette, c'était facile de rencontrer des gens à l'autre bout de la France qu'on ne connaissait pas avant avec qui on pouvait échanger de blog à blog, en parlant de ce que faisait l'autre. Il y avait un côté un peu magique. Et puis tout ça s'est aussi transformé avec la génération de multiples outils.
Aujourd'hui on est dans une phase de plus en plus critique vis-à-vis de l'impact de tous ces outils qui se sont développés à un niveau global, des révélations de Snowden qui ont été vraiment la douche froide de ces dernières années jusqu'aux multiples brèches de données － toutes les semaines, vous en avez 4 ou 5 nouvelles － jusqu'aux problèmes générés par les réseaux sociaux comme Facebook et consorts.
Donc on est vraiment dans une critique ; en tout cas elle est là, elle est présente, on la voit, on la vit. Elle est forte et souvent très argumentée. Ma critique － et je peux me la faire à moi-même － c'est qu'elle n'impacte pas beaucoup le monde économique, qui reste assez peu perméable à ça alors qu'en fait l'une des bases de la critique c'est de se dire : “Comment faire autrement ?”. C’est la proposition de solutions en se disant “Ça n'a pas marché” ou “C’est défaillant” : “Comment est-ce qu'on construit autrement d'autres propositions de valeur derrière ?”
Aujourd'hui, on n'en est pas là. On est dans un modèle économique qui continue sur son propre élan et qui est assez peu poreux à des formes de critiques. Il y a une vraie question sur l’impact de la critique, qui je pense est plus que nécessaire, mais qui n'arrive pas à trouver les modalités d'actions concrètes, dans des entreprises qui sont finalement assez peu sensibles, très moutonnières et qui veulent reproduire ce qui marche, faire la même chose que l’autre. Aujourd’hui la plupart des entreprises veulent faire un Tinder de quelque chose ou un Uber de quelque chose. On est vraiment dans une forme de reproduction qui est un peu stérile.
Tu penses qu’on est loin de business modèles qu'on pourrait dire respectueux, éthiques ?
Je pense qu’il y a plein de choses qui sont tout à fait possibles. Et d’ailleurs ce sont celles-là qui vont marcher demain. Je vais prendre un exemple, celui de Lemonade qui est une société d'assurance américaine, qui a décidé que pour faciliter les règlements en cas de litiges, elle ne serait pas juge et partie. Aujourd’hui un assureur, quand il vient vous inspecter pour savoir s'il doit vous rembourser, s’il ne vous rembourse pas, il gagne de l'argent. Lemonade, s’ils ne vous remboursent pas, l’argent qui n’est pas remboursé va sur un fonds commun extérieur qui sera redistribué aux gens.
On peut donc imaginer d’autres modèles économiques. Le problème, c'est que ce n'est pas simple, ça prend du temps, c'est long, il faut convaincre les gens... Aujourd’hui une licorne qui reçoit des capitaux par milliards, ce n'est pas la même chose qu’un Framasoft qui est une association de gens qui n'ont pas de capitaux et qui vont devoir développer des outils plus lentement, moins ergonomiques et avec moins de moyens. Donc ça va prendre bien plus de temps et pourtant l'enjeu est bien là, dans d'autres formes de modèles économiques.
On est de plus en plus dans une forme de dichotomie entre des modèles économiques qui ne se rencontrent plus. Ça devient difficile de faire discuter des entreprises avec des associations. Aujourd’hui plein de gens se referment un peu sur eux-mêmes : les entreprises ne discutent pas beaucoup avec leurs clients, ne discutent pas avec d'autres entreprises du même secteur, etc. C’est un constat un peu négatif sur le fait que les entreprises ne prennent pas leur rôle social au sérieux, elles n’y sont pas vraiment invitées.
Tu écrivais il y a quelque temps sur la transparence et ses limites, est-ce que ça peut être un débouché malgré tout ?
Je suis un peu critique sur le concept de transparence. La transparence de quoi ? La transparence pour qui ? Aujourd'hui par exemple, les acteurs publics ont un peu plus que d'autres l’obligation de rendre des comptes. On les invite à la transparence, à l'ouverture des données, voire à l'ouverture des programmes et des méthodes de calcul algorithmique. Avec la loi Lemaire par exemple, les méthodes de calcul algorithmique doivent être expliquées. C’est clairement indiqué, même si on se rend compte que c'est difficile, surtout quand tu as un Parcoursup avec un algorithme central et plein de petits algorithmes locaux. Donc il faut que tout le monde explique sa méthode de calcul. Mais pour l'usager c'est difficile parce qu'il y a un très grand nombre d’algorithmes.
La transparence, c'est un concept fort, c'est important, mais comment est-ce qu'on fait pour l'imposer et la généraliser ? Aujourd'hui il n’y aucune obligation de transparence qui s'applique aux entreprises, aux systèmes ou aux données des entreprises. La seule chose que les entreprises sont obligées de publier ce sont leurs bilans annuels, grosso modo, mais c'est un camembert des entrées et dépenses. Si la transparence ce n’est que ça, ce n’est pas la peine d’en parler.
La transparence, comment est-ce qu’on la met vraiment en œuvre ? À la Fing, dans le groupe de travail “Nos systèmes”, on parle des questions de médiation, de dialogue, et puis on introduit la question de la symétrie sous un angle simple : si vous avez des données sur les utilisateurs, vous devez leur rendre － ça aujourd’hui c’est inscrit dans la loi pour les organismes publics à nouveau et aussi dans le RGPD : c’est ce qu’on appelle la portabilité des données, pour les entreprises. Par contre, ce qu’on ne nous rend pas, c’est le calcul qui est fait avec ces données. C’est donc ce que l’on propose de faire.
Typiquement, je prends un exemple : je donne à telle entreprise mon adresse, 12 rue des Lilas dans le 10ème. Si l’entreprise me rend cette donnée, elle vient de me rendre mon adresse. Autant dire qu’en tant qu’utilisateur je m’en moque... Par contre la chose qu'elle ne me rend pas, c'est ce qu'elle a fait de cette donnée-là. C'est ça qui ne va pas : l’enjeu ce n'est pas qu'elle nous rende les données, c’est qu’elle nous rende les calculs qui ont été faits à partir de cette donnée.
Pour de nombreuses entreprises, une adresse est corrélée et calculée. Je suis dans le 10ème arrondissement de Paris, donc on en déduit, depuis cette adresse, un niveau de revenu moyen me concernant. Et ça, ce n'est pas affiché. Mais c'est ça que je veux voir. Si tel assureur utilise mon adresse pour définir un revenu, je ne veux pas qu’il me rende mon adresse, je la connais déjà : je veux qu'il me rende le calcul qu'il a réalisé, qu’il me donne la manière dont il a traité mes données, mes informations, que le traitement soit symétrique.
La transparence, ce n'est pas que publier le code, ce n'est pas que publier les données, c'est s'intéresser à cette symétrie de traitement. On en est très loin pour l'instant. Je pense que c’est un vrai enjeu aujourd'hui, politique et économique. Et c'est un moyen d'obliger les entreprises, celles qui calculent, de nous rendre la spécificité de ce qu’elles traitent.
Est-ce que tu vois des choses qui émergent, par exemple au niveau politique, pour un numérique meilleur ?
Je pense que le RGPD a été un petit progrès mais un progrès notable. Il n'y en a pas beaucoup dans le secteur depuis plusieurs années. Le problème, c'est de le rendre vraiment effectif. En fait, aujourd'hui on a un gros problème avec le modèle économique de nombre d’entreprises. L'enjeu est de capturer des données et de les revendre. Capturer des données les plus identifiantes possible : d'où le fait qu'on vous demande votre mail bien souvent, votre téléphone, votre adresse... parce que ça permet d'identifier la personne. Et une fois que vous avez ces données-là, vous pouvez les croiser avec d’autres types de données. Mais tout ça pour faire finalement très peu de choses.
Ça nous amène à la publicité, plus ou moins ciblée. Souvent vous êtes allé sur un site de chaussures, donc après vous allez être traqué sur les chaussures que vous avez achetées - parce qu'en fait la régie publicitaire n'a pas eu l'information comme quoi vous les avez achetées. Et vous allez voir vos chaussures pendant des mois sur tous les sites sur lesquels vous passez. Cela produit donc très peu de résultats intéressants. Il y a un vrai problème dans cette aspiration phénoménale de données dont le but est de produire des améliorations qui sont des pouillèmes. Le but est de passer de 0,001 à 0,003 % de conversion des utilisateurs, mais sans regarder les effets délétères que ça produit.
Cela revient à ce que l'on se disait au début sur les questions de marketing qui ont pris le pouvoir sur toute autre considération. Pour quelle valeur et pour quels effets ? On va décider de mettre tel titre plutôt que tel autre en A/B Testing parce que sur les dix premières minutes ça génère dix clics de plus qui vont se démultiplier dans le temps en oubliant que les utilisateurs hyper-réactifs de l'instant ne sont peut-être pas les mêmes que ceux qui le sont moins et qui pourraient eux être sensibles à une toute autre titraille.... Remettons un peu de sens dans tout ça, et aussi un peu de valeur.
Prenons l'exemple des applications bancaires : on pourrait se dire qu'une bonne application bancaire qui fonctionne bien est celle sur laquelle je vais le moins souvent possible, parce que je n'ai pas de problème. Or non, les métriques des applications bancaires c'est le nombre de fois où vous les ouvrez dans la journée. Ce sont les mêmes métriques d'engagement qu'on retrouve sur un réseau social ou sur un site de presse…
Pour en revenir au design, est-ce que cela peut être un objectif de redonner du pouvoir aux clients, aux utilisateurs, aux citoyens ?
Je pense que c’est l’un des buts du design. Quand vous êtes face à une porte et que vous savez tout de suite que vous devez la pousser ou la tirer, cela simplifie votre interaction avec le monde. L’enjeu du design, c’est de donner à l'utilisateur un pouvoir direct sur le monde, et c’est valable également dans le numérique. Si les designers ne sont qu'au service de leur commanditaire, du système, alors oui, leur rôle pour la société est négligeable et ils seront remplacés par des systèmes automatisés. Leur rôle est de donner du pouvoir aux utilisateurs pour leur propre autonomie individuelle et collective !
Que souhaites-tu ajouter pour ce livre ?
Je pense qu’on a besoin de faire comprendre les questions de forme, les questions de design, les questions de conception, qui impactent aujourd'hui vraiment la vie des gens avec le numérique. Ça a vraiment un effet direct sur eux. On pourrait dire “ce n'est pas grave, c'est du divertissement”.
Mais en fait, on voit aujourd'hui dans un système comme Parcoursup des algorithmes qui ont un effet sur la vie des gens à long terme. Des interfaces qui ont des effets sur des abandons de carrière, suite à des remplissage de formulaires, des mauvais choix, etc.
On voit aujourd'hui qu’on n’est plus face à des formulaires en papier, des agents avec qui on pouvait discuter, qui comprenaient mieux que nous les questions auxquelles on était confrontés et qui pouvaient les traduire. On est dans des interfaces. Cette difficulté-là est nouvelle et globale, et elle a un impact sur la vie des gens. Des fois il y a des interfaces qui sont invisibles et des calculs qu'on ne voit pas.
Quand vous faites une demande de prêt auprès de la banque, il faut toujours remplir des papiers. Il y a un calcul qui est fait sur vous et on vous dit “oui” ou “non”. Demain, ça sera automatisé dans votre application bancaire et vous aurez le résultat, mais vous n’aurez pas les modalités. Je pense vraiment qu’il y a là un rôle très important. Le code c'est la loi, l'interface c’est le décret d'application. Et le décret d’application est bien souvent plus important que la loi, parce que c'est là où ça va agir concrètement sur la vie des gens.