Nudges Et Intelligence Artificielle : Unis Pour Le Meilleur Ou Pour Le Pire ?

Les progrès de l’intelligence artificielle sont souvent associés aux perspectives d’un monde meilleur, dans lequel les défaillances humaines seraient corrigées par des algorithmes plus performants et rationnels. L’action publique deviendrait plus réactive et efficace et les diagnostics médicaux plus précis. Qu’en est-il du domaine de la consommation ? Les algorithmes peuvent-ils orienter les consommateurs vers de meilleurs choix, moins impulsifs et mieux éclairés ?

Les moteurs de recherche et évaluations en ligne peuvent effectivement aider les choix de consommation en ligne, mais de nombreux algorithmes sont aujourd’hui au service des Nudges, ces détails de l’environnement d’achat qui influencent le choix des consommateurs. L’intelligence artificielle s’applique parfois à exacerber l’irrationalité des comportements de consommation.

Le principe du Nudge a été développé par le prix Nobel d’économie R. Thaler et C. Sunstein, et consiste à utiliser les biais cognitifs (ces erreurs de raisonnement ou perception altérant la prise de décision) comme un outil de politique publique. Il s’agit d’orienter les décisions des individus dans une direction jugée bonne pour eux ou pour la collectivité. Des petits changements de l’environnement de décision peuvent orienter les comportements dans une direction vertueuse. Par exemple, le fait de savoir que la majorité des clients d’une chambre d’hôtel a réutilisé la serviette de bain d’un jour sur l’autre vous incitera, par un biais de conformisme, à faire de même. Ce même biais pourra vous inciter à réduire votre consommation énergétique si vous apprenez qu’elle est supérieure à celle de vos voisins. L’inscription automatique sur les listes électorales ou la déclaration d’impôts pré-remplie sont d’autres exemples reposant sur la simplification du comportement visé. Les Nudges ont vocation à inciter au changement de comportement par une méthode douce, tout en laissant la liberté de choix. Ils offrent ainsi une alternative aux outils classiques d’action publique que sont par exemple les interdictions ou les taxes.

Ces méthodes d’influence sont également employées en marketing : à défaut de pouvoir convaincre rationnellement un consommateur de l’utilité d’un achat, on peut l’inciter insidieusement. Un site de réservation d’hôtels vous alertera qu’il reste qu’une chambre disponible et que d’autres internautes sont en train de la lorgner, vous incitant à vous précipiter de la réserver. Les sites internet mettant en avant une option par défaut, relative à un achat ou à l’acceptation de certaines conditions, font légion ; option par défaut, dont on est libre de s’écarter, à condition d’avoir du temps devant soi et d’aimer chercher.  L’abonnement gratuit qui devient payant parce qu’on a oublié de se désinscrire, les bons de réduction aux conditions d’utilisation tellement restreintes qu’ils restent inutilisés, ou les publicités ciblées qui émettent des propositions d’achats à des moments opportuns, sont d’autres exemples de Nudges appliqués au marketing. Cette approche, qui dévoie la nature du Nudge puisqu’elle ne vise plus le bien être du consommateur ou de la société, est appelée “bad nudge” ou “sludge”.

La prédiction de Y.N. Harari établie en 2018, a déjà un inquiétant goût de vécu : “Avec les progrès de la biotechnologie et de l’apprentissage automatique, il sera plus facile de manipuler les émotions et les désirs les plus profonds […] comment ferez-vous la différence entre votre moi et [les] experts en marketing ?”. Certes, les méthodes d’influence ne sont pas l’apanage de l’intelligence artificielle. Les démarcheurs utilisent des techniques de vente, plus ou moins éthiques depuis longtemps, mais l’intelligence artificielle a le pouvoir de généraliser l’utilisation des méthodes d’influence en les appliquant de façon systématique et à grande échelle. Alors que les biais comportementaux sur lesquels reposent les Nudges usuels ont été issus de recherches expérimentales, le big data permet de détecter automatiquement le moindre point faible de la prise de décision, pouvant être exploité pour influencer le consommateur. Une fois un nouveau levier comportemental identifié, les algorithmes peuvent l’implémenter massivement. Quelles en sont les conséquences ? Les consommateurs peuvent se trouver lésés, soit parce qu’ils procèdent à des achats ne correspondant pas à leurs réels besoins, soit parce que les tentatives pour résister aux influences créent une fatigue qui dégrade l’expérience d’achat. Ainsi, l’utilisation des Nudges en marketing dégrade le bien-être du consommateur.

De façon plus générale, l’utilisation de Nudges à grande échelle, tend à rendre systématique des erreurs qui étaient occasionnelles : l’irrationalité devient la norme. A cet égard, l’utilisation grandissante des Nudges fragilise un des fondements de l’économie de marché. En théorie, c’est parce que les consommateurs font des choix éclairés que les producteurs sont incités à proposer les produits les plus adaptés et aux meilleurs prix. Le Nudge renverse ce processus en permettant au producteur d’imposer les préférences des consommateurs. Un consommateur sous influence n’exerce donc plus son contrepouvoir sur les producteurs. La possibilité que les consommateurs agissent sous influence questionne donc certaines vertus de l’économie de marché, au même titre que le vote de citoyens sous influence fragilise les fondements du modèle démocratique.

Comment prévenir ces effets délétères ? Faut-il se tourner vers un régulateur ? Il semble difficile delégiférer en la matière, la nuance entre information et influence étant ténue. A minima, il pourrait être imposé que les informations diffusées lors des achats (comme les quantités disponibles) soient vraies, ce qui reste difficile à faire appliquer. Le changement pourrait aussi venir des consommateurs, qui pourraient se détourner des plateformes qui utilisent ces techniques. A cet égard, mieux connaître les techniques d’influence peut aider à y résister. La tâche n’est pas aisée, soit parce que ces influences ne sont pas toujours conscientes, mais aussi parce que certaines plateformes sont en situation de quasi-monopole. Un changement de tendance pourrait également venir des vendeurs eux-mêmes qui pourraient renoncer publiquement aux techniques d’influence, comme gage de qualité de leurs produits et de respect de leurs clients. Cette démarche pourrait être appuyée par… l’intelligence artificielle. En effet, des algorithmes pourraient tester automatiquement les sites de vente en ligne pour détecter les Nudges. Un label issu de ces inspections automatiques, pourrait ainsi être crée. De bonne machines luttant contre les mauvaises ? Bien que manichéenne, cette idée rappelle que les machines ne font que ce pour quoi elles ont été conçues. A charge donc aux consommateurs d’utiliser les possibilités offertes par l’intelligence artificielle pour défendre leurs intérêts. 

Emmanuel Kemel, Professeur Chercheur CNRS – Economie et Sciences de la Décision – HEC Paris

<<< À lire également : La Nudge Economy Signe La Fin De L’Autoritarisme >>>