Quand La Confiance Passe Par La Maîtrise De La Technologie

Le sujet de la confiance était au cœur des 19èmes Rencontres Economiques d’Aix-en-Provence, sous toutes ses acceptions : relation aux institutions, relation aux experts, relation à l’autre et relation à la technologie. En effet, cette dernière s’est invitée dans notre quotidien comme une évidence, alors que précédemment c’était un sujet technique, d’ingénieurs, enseigné dans les études supérieures.

Aujourd’hui, on parle couramment blockchain, big data, intelligence artificielle (IA)… Nous sommes noyés dans un flot incessant d’informations et de concepts technologiques qui finissent en pensée simpliste si on veut éviter de les comprendre. Notre relation à la technologie a ainsi évolué, et la confiance qu’on lui accorde aussi avec la banalisation de son usage dans notre quotidien.  Si nos enfants utilisent tous un smartphone aujourd’hui, peu connaissent réellement le fonctionnement d’un moteur de recherche au-delà de son simple usage. Allons plus loin avec autre exemple lié à l’intelligence artificielle, ou l’intelligence auxiliaire comme l’évoque Joël de Rosnay. Les usagers de VTC le savent bien, les décisions suggérées par l’outil de navigation dont le chauffeur dispose sont préférées au jugement humain. Le chauffeur peu expérimenté a abandonné son intuition de conducteur et sa connaissance de la ville, au bénéfice d’un aveuglement pour les directives de la machine. Par méconnaissance des limites de la technologie, ou par facilité, celle-ci est considérée comme plus fiable car basée sur des algorithmes qui analysent des milliers de données que l’homme ne saurait raisonnablement embrasser. Plus encore, cette confiance en l’intelligence artificielle se nourrit d’indicateurs : estimation du temps restant avant l’arrivée, carte en temps réel des embouteillages, … Des données qui semblent toutes vraies et censées prédire le meilleur chemin. Pourtant les expériences malheureuses sont nombreuses. Qui n’a pas été exaspéré de se retrouver piégé dans une route que la machine affirmait fluide ! Qui n’a pas été surpris par les étonnants chemins de traverse, et tout cela sans que le conducteur n’y prête réellement attention.  Cet exemple, sans grande conséquence, est révélateur d’un problème plus profond dans la relation entre l’homme et la machine ! Si l’ordinateur suggère des décisions, l’homme doit en garder le contrôle.  Si un diagnostic médical est fiabilisé grandement par l’intelligence artificielle, c’est bien au médecin de confirmer et de l’annoncer au patient en y rajoutant l’empathie et l’émotion nécessaire.  C’est donc bien à l’homme d’être responsable devant la machine pour rester le grand gagnant et adapter avec proactivité son rôle dans le couple homme – machine. 

Ces situations devraient donc constituer autant d’alertes pour nous inciter à plus de lucidité : la technologie évoluant extrêmement rapidement, je pense notamment aux intelligences artificielles étroites, le combat technique avec l’homme est déjà perdu au profit de la machine. Mais, même si le jugement technique de la machine est supérieur, il doit être éthiquement encadré et supervisé par la conscience de l’homme. C’est à cette condition que la confiance en la technologie perdurera, parce que basée sur une appréhension d’un couple homme – machine où tout le monde gagne, la société et la science. Cela nécessite de s’adapter, et donc de bien comprendre la technologie pour ce qu’elle propose et ce qu’elle ne sera probablement jamais ! Un challenge éducatif au plus jeune âge, comme d’auto-éducation tout au long de la vie. Les avancées technologiques sont un marqueur du 21^èmesiècle ; soyons donc acteurs de notre destin en posant chacun le regard nécessaire pour bien l’appréhender.