Peut-On Se Fier A L’Intelligence Artificielle ?

L’intelligence artificielle (IA) est un domaine qui laisse peu de personnes indifférentes et active les fantasmes les plus fous, tant anxiogènes qu’utopiques. Tant et si bien qu’il est difficile de se faire une opinion. Nous avons rencontré pour ce faire Renaud Allioux, co-fondateur et CTO de Earthcube, une start-up française en pointe sur ce terrain.

L’expérience de Renaud Allioux est d’autant plus intéressante qu’elle s’inscrit dans le champ controversé de l’IA pour la défense, ou « DefenseTech » si on emprunte au jargon. On pense très rapidement aux pratiques liberticides venues de Chine, les robots tueurs, aux armées de drones… Ici il n’en est rien. Cette start-up française développe depuis 2 ans une solution d’intelligence artificielle destinée à surveiller les sites stratégiques sur la base d’images satellite. L’objectif est de permettre aux clients un gain de temps dans la surveillance et l’analyse des situations géopolitiques par exemple.

Selon Renaud Allioux, pour être exploitée dans l’industrie à grande échelle, l’intelligence artificielle doit pouvoir garantir une forte fiabilité. Cette nécessité de performance est difficile à atteindre car de nombreux paramètres, souvent pointus, sont en jeu. Le rôle d’un produit qui repose sur de l’IA est de savoir intégrer tous ces paramètres, de les traiter via divers algorithmes poussés et entrainés sur une masse de données métier pertinentes, où chaque algorithme aura pu être testé sur des jeux de données réelles en garantissant un haut niveau de performance. De plus, il est impératif d’identifier les biais éventuels des algorithmes, générés par le code, les développeurs, les résultats souhaités ou les données d’entrée. Le résultat avancé ensuite par l’IA doit être suffisamment digne de confiance et pertinent pour avoir une utilité, une plus-value, pour les industries. Dans le domaine de la défense particulièrement, le droit à l’erreur se doit d’être minime tant chaque décision prise porte un enjeu qui se mesure en taux de tension géopolitique ou encore en vies humaines.

Earthcube est une start-up qui développe de l’IA à ce niveau de performance (moins de 10% d’erreurs en situation réelle, et non sur des données simulées ou de laboratoire), tandis que d’autres start-up exploitent le plus souvent des briques open source proposées par de grands acteurs du marché. Néanmoins, selon M. Allioux, ces briques sont exploitables pour des prototypes, mais comme ce sont des briques standards non entrainées sur des données métier, les résultats obtenus sont très peu fiables, sujets à des bugs et biais non maitrisés et difficilement décelables par les non experts du domaine. Une simulation qui montrerait sur un prototype de laboratoire un taux de performance de 90%, tomberait à 25% sur des jeux réels de données métier.

L’IA déployée à grande échelle semblerait donc être encore un concept relativement lointain.

L’IA s’avère alors être un outil exigeant qui peut apporter de nombreuses avancées sur différents domaines tels que la reconnaissance d’images, la voiture autonome, la reconnaissance faciale, la synthèse vocale… Toutefois pour être pertinente et performante, l’IA ne peut se révéler pleinement aujourd’hui que si des modules sont développés sur une problématique donnée. Les tentatives actuelles de concevoir des modules génériques semblent donc ne pas constituer des applications efficaces et porteuses d’une valeur ajoutée autre que le « buzz ». Au même titre que des sociétés se sont fondées sur des spécialités données et que l’on compte bien peu d’entreprises bonnes à tout faire, l’IA semble confrontée aux mêmes limites. Même si l’on imagine une multiplication des IA spécialisées, il faudrait parvenir à les faire travailler ensuite entre elles pour obtenir des comportements plus généraux cohérents. L’être humain occupe donc une place importante dans les choix qui sont et seront opérés, fortement conditionnés à des considérations éthiques pour éviter les biais, les boites noires non maitrisées et les dangers du déterminisme. Qui décidera en effet que tel ou tel résultat issu d’une IA ou d’une combinaison d’IA est pertinent, cohérent ? Sur quels critères se baser sachant que chacun peut porter un point de vue différent sur diverses situations ? Il n’y a qu’à considérer les nombreuses polémiques qui empoisonnent notre société pour se rendre compte de la complexité du sujet, mais aussi de ses dangers.

L’Europe peut-elle peser sur les problématiques de développement des Intelligences Artificielles?

A n’en pas douter, il y a un long travail  d‘éducation à réaliser sur ces problématiques et de sensibilisation aux dangers éthiques. L’Europe aurait sans doute beaucoup à gagner à être, comme elle l’a montré avec la protection des données personnelles (RGPD), à la pointe sur la réglementation de ces avancées technologiques. Cette réglementation se doit d’être réaliste, limitant certes les excès et dérives liberticides (ou pire), mais trouvant l’équilibre pour ne pas verrouiller trop fortement les évolutions souhaitables pour le bien commun.

De plus, l’Europe est l’un des principaux pourvoyeurs d’experts en développement d’IA dans le monde. Si beaucoup passent sous pavillon étranger pour faire carrière, il est tout de même rassurant d’imaginer que leurs influences restent imprégnées des valeurs morales généralement admises en Europe.

Pour maintenir un rôle clé dans cette nouvelle ère qui se profile, la question des financements des programmes ou sociétés développant de l’IA performante est aussi un enjeu essentiel. En effet, sans les financements utiles à leur déploiement, il sera difficile de peser sur l’échiquier face à des acteurs américains ou asiatiques et encore moins d’imposer une forme de réglementation.

Là où nous pourrions penser que les start-up développant de l’intelligence artificielle ne sont que des usines R&D pour servir les intérêts de plus grands acteurs, Earthcube démontre de façon assez exemplaire qu’il est possible de développer une intelligence artificielle spécialisée et performante en 2 ans et d’intéresser des acteurs à la pointe au point de générer un chiffre d’affaires et d’avoir validé son business model. La start-up compte aujourd’hui une quarantaine de salariés et devrait passer à 100 en 2020 avec pour projet un déploiement international. Pour financer sa croissance elle a levé 7 millions d’euros, et envisage une nouvelle levée à court ou moyen terme. Son revenu récurrent mensuel devrait être multiplié par 8 ou 10 d’ici la fin de l’année 2019, par rapport à 2018.