Minute RGPD : Les IA génératives à l’épreuve du droit

Minute RGPD : Les IA génératives à l’épreuve du droit
Actualité Article RGPD

Il y a un reproche que l’on peut entendre souvent dans les domaines du droit. Le droit est lent..

Le droit évolue à une vitesse géologique alors que les évolutions technologiques, elles, vont plutôt à la vitesse de la lumière. C’est ce que l’on observe ces derniers temps avec le développement des IA notamment et le florilège de questions juridiques qu’elles soulèvent. Aujourd’hui ces questions restent pour la plupart sans réponses : le droit n’a rien prévu de précis (pour l’instant).

Cela n’empêche pas certains acteurs d’enquêter ! C’est notamment le cas de la CNIL qui a publié un plan d’action pour les intelligences artificielles le 16 mai 2023.

Quel est donc le sujet d’enquête de notre Hercule Poirot de la protection des données ?

La CNIL, ainsi que ses homologues européens se penchent depuis quelque temps sur le développement des IA et de leur impact sur les personnes physiques. Si vous avez suivi l’actualité, vous avez probablement vu passer bon nombre de publications sur les questions soulevées par ChatGPT par exemple. Vous trouverez même des publications sur le site du LINK (ici).

La CNIL souhaite continuer cette enquête, en ciblant différents suspects : toutes des IA génératives

1er volet de son plan d’action : « appréhender le fonctionnement des systèmes d’IA et leurs impacts pour les personnes » car pour toute enquête, il est important de bien comprendre les motivations de nos différents acteurs.

Il ne faut pas oublier que derrière l’IA se trouve l’humain : les créateurs de ces outils, mais aussi leurs utilisateurs. Cela amène la CNIL à traiter une question primordiale : celle de la loyauté et de la transparence. Car ne l’oublions pas, même s’il n’existe aujourd’hui pas de règlementation spécifique aux IA, les règles générales, celles en matière de protection des données à caractère personnel notamment, s’appliquent bien.

Notre enquêteur sera donc amené à vérifier, par le biais de contrôles, si l’ensemble des principes fondamentaux du RGPD est bien respecté et, notamment, si les traitements de données mis en œuvre par ces IA sont bien « loyaux », « licites » et « transparents ». C’est-à-dire :

  • Contrôler dans un premier temps l’information délivrée aux utilisateurs de ces IA et s’assurer qu’elle est cohérente avec la réalité des faits ;
  • S’assurer que les cas de collecte de données par absorption et de réutilisation de données accessibles librement sur internet sont conformes aux exigences européennes. Pour rappel, la CNIL avait prononcé une sanction contre la société CLEARVIEW AI pour une collecte par absorption déloyale.

Le 2ème volet du plan d’action de la CNIL s’orientera sur la protection de la vie privée des personnes physiques, un sujet au cœur même du RGPD et des concepts de « Privacy by Design » et « by default ». L’enquête portera ici en particulier sur la phase d’apprentissage des IA génératives et rejoindra une préoccupation du premier volet : les collectes de données potentiellement déloyales.

L’objectif de la CNIL n’est pas de freiner le développement des AI mais fournir des recommandations appropriées pour accompagner leur développement. Elle prévoit d’ailleurs de publier un guide sur les règles applicables au partage et à la réutilisation de données, qui sera dans un premier temps soumis à consultation, afin de recueillir les avis des parties impliquées et du public.

Les 3ème et 4ème volet de son plan d’actions complèteront les deux premiers : la CNIL souhaite « fédérer et accompagner les acteurs innovants de l’écosystème IA en France et en Europe » et également « auditer et contrôler les systèmes d’IA et protéger les personnes ».

Ainsi le 3ème volet ira de pair avec la mission d’accompagnement de la CNIL tout en lui permettant de surveiller le développement de nouvelles IA et le 4ème volet répondra à ses missions de contrôle pour les IA déjà existantes. Comme on le disait plus haut, un contrôle des IA génératives est nécessaire pour mieux les appréhender !

En attendant donc d’avoir un jour une règlementation spécifique aux IA sur le pan protection des données à caractère personnel, on vous invite donc à suivre les actualités de la CNIL sur le sujet, et également ces publications précédentes (on vous donne les liens en bas de l’article !)

On vous invite aussi à vous pencher sur les autres matières juridiques actuellement challengées par les IA comme la propriété intellectuelle, et en particulier le droit d’auteur. On n’a pas de doute sur la question, les IA génératives n’ont pas fini de challenger nos lois !

Les ressources CNIL :

Et si vous cherchez de la lecture en plus : n’hésitez pas à consulter nos articles précédents sur le sujet des IA ! Ils sont tous disponibles ici.

Partager l'article

Articles similaires

Parce que le RGPD pourrait être un sport olympique
Actualité Article RGPD

Parce que le RGPD pourrait être un sport olympique

Parce que le RGPD pourrait être un sport olympique , la CNIL publie des fiches thématiques pour les professionnels du sport
Lire la suite
10 sanctions express prononcées par la CNIL dans le cadre de sa nouvelle procédure
Actualité Article RGPD

10 sanctions express prononcées par la CNIL dans le cadre de sa nouvelle procédure

Comment la CNIL applique ses sanctions ? Quelles sont ses méthodes de sanctions ?
Lire la suite