Les députés européens ont proposé des amendements à la loi européenne sur l’IA, notamment en renforçant les règles sur l’utilisation de la reconnaissance faciale biométrique dans les lieux publics.
La Commission européenne s’est rapprochée de la mise en œuvre complète de sa loi sur l’IA, qui est en préparation depuis quelques années maintenant.
La commission du marché intérieur et la commission des libertés civiles ont adopté un projet de mandat de négociation des règlements de l’IA, avec 84 voix pour, 7 contre et 12 abstentions.
Si le projet de mandat de négociation est approuvé par l’ensemble du Parlement européen, les lois seront votées. Le vote final est attendu le mois prochain.
Dès 2021, la loi sur l’IA était présentée comme un moyen de régnant dans ce que l’UE considérait comme une IA “à haut risque” activités. La proposition de loi sur l’IA a été faite la même année. L’UE veut principalement s’assurer que les droits des citoyens seront protégés à mesure que la technologie progressera.
Dans une série d’amendements apportés à la proposition, les députés ont fait valoir que les systèmes d’IA fonctionneraient pour les personnes et seraient sûrs, transparents, non discriminatoires et respectueux de l’environnement.
Ils ont également plaidé pour une définition uniforme de l’IA qui sera relativement neutre afin qu’elle puisse être appliquée à la technologie au fur et à mesure de son évolution.
En chantier depuis longtemps
La Commission a déjà tenté d’intégrer les valeurs éthiques de l’IA dans son processus législatif. En septembre dernier, par exemple, il a publié la directive sur la responsabilité en matière d’IA comme moyen de protéger les droits légaux des consommateurs contre les entreprises qui vendent des produits et services alimentés par l’IA.
Les anciennes lois européennes sur la responsabilité des consommateurs étaient obsolètes et ne couvraient pas les éventuels effets néfastes sur les consommateurs de technologies d’IA, comme les drones.
La Commission a également été invitée à réglementer l’IA dans le maintien de l’ordre où des technologies telles que les scans biométriques de reconnaissance faciale sont utilisées. En novembre dernier, un groupe de députés européens a proposé une interdiction totale de ce type d’outil utilisé par les autorités par crainte d’abus.
Modifications
Aujourd’hui, les amendements comprenaient une interdiction de l’utilisation discriminatoire des technologies d’IA telles que les systèmes d’identification biométrique à distance dans les lieux publics.
Les systèmes de catégorisation biométrique qui utilisent des caractéristiques sensibles comme le sexe et la race seront interdits, tout comme la technologie d’IA de police prédictive.
La Commission a voté que le droit à la vie privée sera respecté avec le grattage des données biométriques des médias sociaux ou des images de vidéosurveillance pour créer des bases de données de reconnaissance faciale également interdites.
Toute demande d’IA qui pourrait être considérée comme “à haut risque” sera soigneusement réglementée. Les modèles d’IA générative, comme ChatGPT, devront se conformer aux exigences de transparence, notamment en divulguant que leur contenu a été généré par l’IA. Les entreprises utilisant l’IA générative devront également divulguer des résumés des données protégées par le droit d’auteur utilisées pour la formation.
Il y aura quelques exemptions aux limites de l’IA, en particulier en ce qui concerne l’innovation.
10 choses que vous devez savoir directement dans votre boîte de réception chaque jour de la semaine. Inscrivez-vous pour le Bref quotidienle résumé de l’actualité scientifique et technologique essentielle de Silicon Republic.