logiciel rgpd

ChatGPT et le RGPD : entre réponses et risques

ÉvénementsFebruary 23, 2023

Difficile de passer à côté de ChatGPT, l’intelligence artificielle basée sur l’analyse du langage naturel d’Open.AI. Chaque secteur d’activité se penche sur le nouvel outil, tour à tour, pour déterminer si oui ou non l’outil peut lui être utile, sur fond de crainte du remplacement.

Après avoir parlé de remplacer les journalistes ou encore les développeurs par des robots, doit-on craindre pour son poste en tant que DPO ?

C’est la question que nous nous sommes posée à l’occasion de notre webinar du 23 février 2023, dont le replay est disponible juste en-dessous. Que valent les conseils de ChatGPT pour le respect du RGPD ?

Retrouvez Yann Lonlas, consultant chez Orange Cyberdefense qui est intervenu aux côtés de notre expert RGPD et CSM Benjamin Baratta pour aborder toutes ces questions.

Play

ChatGPT : votre nouveau stagiaire conformité ?

ChatGPT, le robot “intelligent” d’Open.AI se fonde sur une analyse probabiliste. Autrement dit, son rôle est de créer du texte pour répondre aux demandes des utilisateurs. Mais où trouve-t-il son inspiration ? L’analyse probabiliste lui permet de se nourrir d’informations trouvées sur internet et de déterminer quel mot doit le plus logiquement possible succéder à quel autre dans le contexte.

Vous l’avez compris, ChatGPT n’est donc pas “intelligent” au sens où il ne produit aucun raisonnement. Tout dépend de la base de contenus auquel il a accès : si ces contenus sont mauvais, alors la réponse sera mauvaise. L’outil n’est pas capable non plus d’utiliser une logique déductive, comme le font les DPO et les responsables conformité en chair et en os.

Nous l’avons d’ailleurs testé pour vous et nous lui soumettons des questions juridiques liées au RGPD en live pendant le webinar. Force est de constater que notre ami n’est pas encore tout à fait au point : des erreurs se glissent facilement dans ses réponses. Forcément, puisqu’il se contente de suivre les règles de la syntaxe et de piocher les mots les plus probables les uns à la suite des autres. En clair, la finesse de son analyse laisse à désirer…

Il faut donc faire très attention en utilisant ChatGPT. Ses réponses sont toutes identiques sur la forme, assénées avec le même “aplomb” : l’outil ne doute jamais. C’est donc à l’humain qui le manipule de ne pas trop lui accorder de confiance et de bien aiguiser son esprit critique pour déjouer les pièges de l’IA.

ChatGPT est-il conforme au RGPD ?

Ce ne sera peut-être pas une immense surprise, mais… non. ChatGPT se nourrit d’un nombre très important de données, sans distinction, qu’il trouve sur internet ou directement dans les “prompts”, c’est-à-dire les questions qui lui sont posées par ses utilisateurs. Aucune transparence n’est offerte sur la provenance de ces données, la manière dont ChatGPT les utilise ni sur leur conservation.

La conséquence de cela est que si vous fournissez à ChatGPT votre modèle de politique de confidentialité, par exemple, il pourra s’en nourrir et finalement s’en servir pour répondre à d’autres utilisateurs. Il est difficile d’évaluer le niveau de confidentialité permis par l’outil…

Le risque est donc de fournir à ChatGPT, sans le vouloir, des informations confidentielles, des données personnelles voire des données sensibles.

Enfin, Open.AI ne fournit aucun moyen de vérifier si les bases de données contiennent des informations les concernant, d’y avoir accès ou de les supprimer. En clair, les droits des personnes garantis par le RGPD ne sont absolument pas respectés par ChatGPT.

Les inquiétudes se multiplient donc quant au sort réservé à nos données et à leur utilisation par les nouveaux acteurs de l’intelligence artificielle et par les géants de la tech qui les financent ou en sont à l’origine.

Finalement, la prudence est donc de mise, qu’il s’agisse de la manière dont vous utilisez ChatGPT pour vous aider à résoudre des questions de conformité ou des données que l’outil utilise pour vous répondre.

Si vous souhaitez découvrir une approche différente aux côtés d’Orange Cyberdefense, alors n’hésitez pas à consulter leur article.

Sur le même thème

Découvrez d'autres évènements

La plateforme 100% made in France qui vous permet de simplifier, accélérer et pérenniser vos différents programmes de conformité.

Vous souhaitez rester au courant des dernières actualités ? Abonnez-vous à la newsletter !