IA : la loi adoptée au Parlement européen ouvre la voie à un avenir où l’IA sera une force plus bénéfique

L’évolution à vitesse grand V des usages de l’IA, en particulier de l’IA générative, crée d’immenses opportunités mais aussi des risques importants.

Une contribution de Peter Sandkuijl est vice-président de l’ingénierie des ventes pour la région EMEA chez Check Point Software

La nouvelle loi européenne sur l’IA, largement plébiscitée ce mercredi par les eurodéputés, vise à établir des contrôles et des gradations pour son utilisation. Il s’agit de « la première loi contraignante du monde sur l’IA » selon le co-rapporteur du texte.

La rapidité de l’adoption de l’IA montre que la législation seule ne peut pas suivre le rythme et que la technologie est si puissante qu’elle peut et pourrait affecter gravement les industries, les économies et les gouvernements. J’espère que la loi européenne sur l’IA servira de catalyseur à des discussions sociétales plus larges, en incitant les parties prenantes à réfléchir non seulement à ce que la technologie peut accomplir, mais aussi aux effets qu’elle peut avoir.

En établissant des lignes directrices claires et en favorisant un dialogue permanent, elle ouvre la voie à un avenir où l’IA sera une force plus bénéfique, étayée par des considérations éthiques et un consensus sociétal.

Reconnaître automatiquement les visages dans une pièce et analyser les émotions, les expressions faciales est en soi une grande avancée technologique mais est également une avancée source de préoccupations. Il ne s’agit pas d’étouffer l’innovation, mais plutôt de créer un cadre juridique qui s’aligne sur les valeurs démocratiques tout en protégeant les droits des citoyens de l’Union Européenne.

Il s’agit de la première loi mondiale qui aborde les risques liés aux usages de l’IA, et qui vise à atténuer le risque que ses usages portent atteinte aux droits de l’homme ou perpétuent des préjugés. Qu’il s’agisse de l’analyse arbitraire de CV avec des préjugés sexistes dans le cadre de campagnes de recrutement, de la surveillance omniprésente de l’espace public par des caméras alimentées par l’IA ou de l’analyse invasive de données médicales, cette loi européenne sur l’IA vise à fixer des limites claires au déploiement de l’IA, de sorte que les fournisseurs et les développeurs disposent de certaines lignes directrices et de garde-fous. Ainsi, les « bons » seront en mesure de voir la ligne de démarcation et de fournir l’accès et les outils nécessaires pour poursuivre ceux qui vont à l’encontre de cette ligne de démarcation. 

La transparence est un principe central pour les instances de l’UE, en particulier en ce qui concerne l’IA générative. En imposant la transparence dans le processus de formation à l’IA, cette législation vise à mettre en évidence les biais potentiels et les erreurs commises par l’IA avant qu’ils ne soient acceptées comme des vérités. N’oublions pas que l’IA n’est pas toujours correcte ; au contraire, elle commet plus d’erreurs que n’importe quelle technologie actuelle, et la transparence devient donc un outil essentiel pour atténuer ses défauts.

L’attention initiale se portera sur les lourdes amendes imposées, mais ce n’est pas l’objectif principal ; au fur et à mesure que les lois seront acceptées, elles seront encore testées et jugées par les tribunaux, créant ainsi des précédents pour les futurs contrevenants. Nous devons comprendre qu’il faudra du temps pour que cela se concrétise, ce qui peut en fait être plus utile, même si ce n’est pas un objectif final.

La rapidité de l’adoption de l’IA montre que la législation seule ne peut pas suivre le rythme et que la technologie est si puissante qu’elle peut et pourrait affecter gravement les industries, les économies et les gouvernements. J’espère que la loi européenne sur l’IA servira de catalyseur à des discussions sociétales plus larges, en incitant les parties prenantes à réfléchir non seulement à ce que la technologie peut accomplir, mais aussi aux effets qu’elle peut avoir.

En établissant des lignes directrices claires et en favorisant un dialogue permanent, l’IA ouvre la voie à un avenir où elle sera une force plus bénéfique, étayée par des considérations éthiques et un consensus sociétal.

À lire également : L’intelligence artificielle générative