Le 30 mars 2023, les sénateurs André Gattolin, Catherine Morin-Desailly, Cyril Pellevat et Elsa Schalck ont déposé au Sénat une proposition de résolution au nom de la commission des affaires européennes, en application de l’article 73 quater du Règlement, relative à la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle et modifiant certains actes législatifs de l’Union COM(2021) 206 final.
La problématique
L’intelligence artificielle (IA) constitue un pan d’innovation numérique gigantesque dont la Commission européenne ne s’est saisie qu’au début des années 2020, avec la présentation de deux textes :
| La proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’Union COM (2021) 206 final du 22 avril 2021 ;
| La Proposition de directive du Parlement européen et du Conseil relative à l’adaptation des règles en matière de responsabilité civile extracontractuelle au domaine de l’intelligence artificielle (Directive sur la responsabilité en matière d’IA) COM(2022) 496 final déposée le 22 septembre 2022.
La proposition de résolution européenne porte sur le premier de ces deux textes. Ce projet de règlement est la troisième grande réglementation numérique horizontale que l’Union européenne entend mettre en place, après le Digital Markets Act (DMA) et le Digital Services Act (DSA). Il est issu des travaux initiés par la Commission européenne en 2018, s’inscrit dans la continuité de la stratégie européenne d’IA et s’appuie sur les conclusions du Livre blanc sur le sujet publié en 2020. Celui-ci fixait à l’Union européenne le double objectif de promouvoir le développement de l’IA en Europe, tout en tenant compte des risques qui peuvent y être associés.
Le règlement présenté par la Commission européenne en 2021 vise à répondre à deux enjeux majeurs en matière d’IA :
| Le déficit d’investissement de l’Europe dans le domaine, alors que l’IA représente un potentiel de croissance important ;
| Les atteintes graves aux droits fondamentaux que peut générer un mauvais usage de l’IA.
L’objectif du texte est de faire de l’Europe « le pôle mondial d’une intelligence artificielle digne de confiance » en s’appuyant sur deux types de dispositions qui visent à
| Mieux protéger les citoyens en favorisant le développement d’une IA au service de l’humain, fiable, éthique et conforme aux valeurs européennes,
| Stimuler les investissements et l’innovation dans l’IA, en accroissant la confiance dans l’IA des utilisateurs et la sécurité du cadre juridique applicable.
Il repose sur une approche fondée sur le risque, en distinguant trois catégories de systèmes d’IA :
| Ceux qui génèrent un risque inacceptable et sont à ce titre interdits ;
| Ceux qui génèrent un haut risque pour la santé, la sécurité ou les droits fondamentaux des personnes physiques et dont l’utilisation est fortement encadrée ;
| Ceux qui présentent un risque faible et sont donc uniquement soumis à des obligations de transparence renforcée.
La proposition de résolution
La proposition de résolution saluer d’abord l’initiative de la Commission de réguler le secteur de l’IA, alors que les technologies d’intelligence artificielle sont actuellement déployées en dehors de tout cadre juridique clair. Elle relève toutefois un certain nombre de points de vigilance et de pistes d’amélioration.
Sur le champ d’application du règlement
Les applications directement visées par le règlement devraient être mieux définies, afin de garantir une plus grande sécurité juridique et devraient prévoir également pour les fournisseurs de systèmes d’IA à usage générique, tels que ChatGPT, jusqu’à présent exclus du champ d’application du règlement, des obligations spécifiques.
Sur les systèmes d’IA à haut risque
| La liste des systèmes d’IA à haut risque devrait également prendre en compte les risques systémiques, c’est-à-dire concernant les individus dans leur ensemble, et être à ce titre étendue aux applications susceptibles de causer des préjudices environnementaux ou aux algorithmes de recommandation de contenus qui promeuvent des contenus clivants ou de désinformation, tels que les réseaux sociaux.
| Elle devrait également viser les systèmes susceptibles d’avoir des incidences négatives sur les droits et la santé des personnes vulnérables, notamment les enfants.
| Elle devrait par ailleurs intégrer les systèmes destinés à établir des priorités dans l’envoi des services de police, eu égard au caractère potentiellement très discriminant de telles applications.
| Il est essentiel en outre que cette liste soit complétée au gré des évolutions de technologies et d’usages afin de ne pas laisser d’angle mort susceptible d’affecter les droits fondamentaux, selon une procédure qui s’appuie sur un avis de scientifiques et de praticiens de l’IA afin que les modifications qui y seront apportées soient fondées sur des éléments objectifs et documentés.
| Il paraît enfin opportun de prévoir la création d’un registre public des organismes ou autorités publics utilisant les systèmes d’IA à haut risque, dans un souci de transparence, à la condition que cela n’entrave pas l’action des autorités répressives.
Sur les systèmes d’IA interdits par le règlement
| Il est essentiel de résister à la tentation d’une utilisation excessive de l’IA, en dépit de ses performances, dans les cas où cette dernière contrevient à des principes fondamentaux de l’Union européenne.
| Le champ d’application du règlement devrait dès lors étendre au secteur privé les pratiques interdites au secteur public puisque e potentiel d’atteinte aux droits fondamentaux ne dépend pas du fournisseur ou de l’utilisateur du système, mais de la finalité de ce dernier.
| Il devrait également prévoir l’interdiction générale des systèmes de notation sociale et de reconnaissance des émotions, ainsi que des systèmes ayant pour objet la catégorisation des personnes dans l’espace public et de tous les systèmes visant à classer les individus à partir de données biométriques dans des groupes relevant de catégories correspondant à des données sensibles.
| Les systèmes d’identification biométrique à distance dans l’espace public devrait également être interdit, sauf dans certains cas précis.
Sur l’usage de l’IA par les autorités régaliennes et les forces de sécurité
Le cadre juridique posé par le règlement soulève un certain nombre de difficultés opérationnelles. Il devrait par conséquent exclure explicitement les champs de la défense et de la sécurité nationale de la législation sur l’IA et prévoir des aménagements sur l’utilisation de l’IA par les autorités répressives.
Sur le développement des usages de l’IA
| La notion d’espace public virtuel doit absolument être intégrée au champ d’application du règlement, afin qu’y soient appliquées les mêmes restrictions que dans l’espace public physique.
| Il est primordial que les personnes affectées par l’IA sans en être utilisatrices soient davantage prises en compte en prévoyant a minima la diffusion d’une information intelligible sur leur exposition potentielle à des systèmes d’IA et la mise en place d’un dispositif permettant de signaler les éventuels usages abusifs ou performances défaillantes des systèmes d’IA aux régulateurs, aux fournisseurs ou aux utilisateurs.
Sur les obligations pesant sur les fournisseurs
Ces obligations doivent être précisées en
| Renforçant les exigences en matière de documentation sur les données exploitées par les systèmes d’IA et en matière de vérification de la provenance licite des données ;
| Explicitant l’articulation du règlement IA avec le règlement général sur la protection des données (RGPD).
Sur les mesures de soutien à l’innovation
| La proposition de résolution appelle à la mise en place de bacs à sable réglementaires, qui offriraient « un environnement contrôlé pour mettre à l’essai des technologies novatrices sur une durée limitée », soit un cadre pour expérimenter.
| Les modalités et conditions de fonctionnement devraient être déterminées par la commission européenne sur la base d’un avis du Comité européen de l’IA.
| Leur fonctionnement doit être aussi homogène que possible à travers les États membres, afin de garantir une concurrence équitable.
| L’accès à ces bacs à sable doit être facilité pour les petits acteurs et les start-up, souvent à la pointe de l’innovation.
Sur l’effectivité des dispositions prévues par le règlement
| La commission européenne doit veiller à ce que les États allouent des moyens technique et humains adéquats aux autorités de contrôle nationales afin de permettre une application uniforme et donc efficace du règlement.
| À l’échelle nationale en France, la proposition de résolution recommande la désignation de la Commission nationale de l’informatique et des libertés (Cnil) comme autorité compétente pour la surveillance de l’application du règlement, compte tenu de l’expertise acquise par cette autorité dans la régulation des systèmes d’IA impliquant des données à caractère personnel.
| À l’échelle européenne, le Comité européen de l’intelligence artificielle doit être la cheville ouvrière de l’application du règlement IA. Il devrait à ce titre intégrer dans sa composition d’intégrer des scientifiques et des praticiens de l’IA et voir ses compétences consultatives et son rôle prospectif renforcés.
| Le règlement européen doit s’accompagner de la part de l’Union européenne et de ses États membres d’un soutien affirmé à l’investissement, à la formation et à l’élaboration des normes internationales dans le domaine de l’IA.
La procédure législative
La proposition a été déposée par ses auteurs le 30 mars 2023. Elle a été examinée et adoptée le même jour par la commission des affaires européennes du Sénat. Elle est devenu résolution définitive du Sénat le 9 mai 2023.
PROCÉDURE LÉGISLATIVE
| Adoption de la proposition de résolution par la commission des affaires européennes du Sénat le 30 mars 2023
| Résolution du Sénat du 9 mai 2023
DOCUMENTS
| La proposition de résolution
| Le dossier législatif sur le site du Sénat
| La présentation de la résolution à la commission des affaires européennes du Sénat