IA act : la France accepte enfin la proposition, sous conditions

L’IA Act et son contenu

La proposition de réglementation de l'Union Européenne sur l'intelligence artificielle a été officiellement présentée le 21 avril 2021. Elle marque une étape significative dans les efforts de l'UE pour établir un cadre juridique pour l'IA, visant à promouvoir l'innovation tout en protégeant les droits fondamentaux et la sécurité des citoyens.

Le document est une proposition de réglementation de l'Union Européenne établissant des règles harmonisées sur l'intelligence artificielle (IA), et modifiant certains actes législatifs de l'Union. Il aborde la nécessité d'exploiter les avantages de l'IA tout en gérant les risques associés, visant à établir un écosystème de confiance pour l'IA dans l'UE. La proposition reconnaît les bénéfices socio-économiques de l'IA, tout en soulignant la nécessité d'adresser les risques potentiels et les conséquences négatives pour les individus et la société. Elle met l'accent sur une approche équilibrée et centrée sur l'humain, alignée sur les valeurs de l'UE et les droits fondamentaux, pour encourager l'adoption de solutions d'IA sûres et légales. La proposition comprend des mesures pour garantir la sécurité, le respect des droits fondamentaux, et la transparence, avec une réglementation spécifique pour les systèmes d'IA à haut risque, des obligations de transparence pour certains systèmes d'IA, et des mesures de soutien à l'innovation.

Les systèmes d'IA interdits par la réglementation proposée par l'Union Européenne sont ceux qui présentent des risques inacceptables pour les droits et libertés des personnes. Ces interdictions visent à protéger les individus contre les usages d'IA qui pourraient être nuisibles ou éthiquement discutables. Voici des exemples de ces systèmes interdits :

1. Systèmes de surveillance de masse : L'utilisation de l'IA pour surveiller, analyser et suivre les individus à grande échelle sans leur consentement est interdite. Cela comprend les technologies qui permettent une surveillance omniprésente dans les espaces publics ou privés, utilisées pour le profilage généralisé ou la surveillance comportementale.

2. Évaluation sociale : Les systèmes qui évaluent les citoyens basés sur leur comportement ou traits personnels, avec des conséquences significatives comme l'accès à des services ou des opportunités, sont également interdits. Cela concerne les applications d'IA qui pourraient conduire à une discrimination ou à une exclusion sociale basée sur le traitement algorithmique des données personnelles.

3. Systèmes exploitant les vulnérabilités des enfants ou des personnes vulnérables : L'IA ne doit pas être utilisée de manière à exploiter les vulnérabilités psychologiques ou sociales de groupes spécifiques, en particulier des enfants, pour influencer leurs comportements ou décisions de manière préjudiciable.

4. Technologies de manipulation comportementale : Les systèmes d'IA conçus pour manipuler les individus, provoquant des dommages ou les amenant à agir contre leur intérêt, sont interdits. Cela inclut les technologies qui peuvent induire en erreur les utilisateurs ou les contraindre à des choix non éclairés à travers des techniques subtiles de persuasion ou de manipulation.

Ces interdictions reflètent une approche prudente et centrée sur l'humain, assurant que le développement et l'utilisation de l'IA respectent les valeurs fondamentales et les droits de l'homme. Elles soulignent l'importance de la transparence, de l'éthique, et de la responsabilité dans l'avancement technologique, en veillant à ce que les innovations en IA bénéficient à la société tout en minimisant les risques potentiels.

La proposition de réglementation de l'Union Européenne sur l'intelligence artificielle prévoit des sanctions significatives pour les violations des règles établies, notamment des amendes pouvant atteindre des montants élevés, en fonction de la gravité de l'infraction. Les sanctions sont conçues pour être dissuasives et peuvent inclure, pour les cas les plus graves, des amendes allant jusqu'à 4% du chiffre d'affaires annuel mondial de l'entreprise fautive, ou 20 millions d'euros, selon le montant le plus élevé. Ces mesures reflètent la volonté de l'UE de garantir le respect strict des normes éthiques et de sécurité dans le développement et l'utilisation de l'IA.

La France accepte sous conditions

L'IA Act a déchaîné les passions...à juste titre ! Aujourd'hui [le 2 février 2024] les 27 Etats membres ont approuvé à l'unanimité l'accord politique conclu en décembre— reconnaissant l'équilibre trouvé par les négociateurs entre innovation et sécurité", a écrit de son côté, le commissaire européen Thierry Breton.

Dernier obstacle à la conclusion d'un accord, la France accepte désormais le projet, mais sous strictes conditions. Parmi les conditions posées par Paris, figure notamment le respect d'un équilibre entre transparence et préservation des secrets industriels.

Après cette validation par les 27 Etats membres, le texte va revenir devant les co-législateurs pour un vote définitif.

Vous pouvez également regarder notre article sur l'ISO 42001:2023 Intelligence artificielle - Système de management.

Image source: Freepik