IA générative et données d'entreprise : le nouveau risque

Fuite de données, accès mal maîtrisés, dépendance aux modèles externes, mauvaise classification de l’information : l’essor de l’intelligence artificielle ouvre un nouveau front dans la protection des données des entreprises. Lors d’une table ronde organisée par Riskintel Media, Julien Tordjman RSSI chez France Télévision, Guillaume Braux, directeur technique chez Box et Arthur Millerand, avocat, ont décrypté comment protéger nos données des IA. 

Le risque n’est pas apparu avec l’intelligence artificielle. Les entreprises partagent depuis longtemps leurs informations avec des prestataires, des partenaires ou des services numériques. Mais les outils génératifs introduisent une nouvelle manière de faire circuler la donnée : un salarié peut désormais transmettre en quelques secondes un document à un système capable de l’analyser, de le croiser avec d’autres informations et d’en produire une synthèse. 

À lire aussi : Piratage de smartphone : comment les hackers s'y prennent

Pour Julien Tordjman, RSSI chez France Télévision, le problème se situe précisément dans cette perte de maîtrise. “Ce n’est pas nouveau que des sociétés utilisent nos données. Oui ça peut mettre à défaut et ça peut avoir des impacts assez importants sur les données parce que derrière on ne sait pas si le lien est envoyé de manière sécurisé, on ne sait pas si quelqu’un va pouvoir l’avoir au-delà de juste de l’entraînement qui est utilisé”, explique-t-il.
‍

La question est de savoir ce qui arrive à l’information une fois qu’elle lui est confiée. Est-elle conservée ? Dans quelles conditions ? Peut-elle être réutilisée ? Qui en maîtrise le traitement ? Les réponses varient selon les outils et leurs modalités de déploiement. La CNIL recommande ainsi aux organisations de vérifier les conditions d’utilisation des systèmes d’IA générative et d’encadrer les données pouvant leur être transmises. Elle insiste notamment sur la nécessité de prendre en compte les conditions de réutilisation des données par le fournisseur.
‍

Certaines entreprises tentent déjà de répondre à ce risque en encadrant contractuellement l’utilisation des modèles. “Donc nous on a contractualisé avec des modèles qui nous permettent justement de se dire que les données ne vont pas être gardées, que ça va être quelque chose de spécifique à nous”, précise Julien Tordjman. Cette précaution répond à un premier impératif : empêcher que les données de l’entreprise deviennent une information dont elle ne maîtrise plus le devenir. Mais elle ne règle qu’une partie du problème car avant même de demander à qui l’on peut confier une donnée, encore faut-il savoir quelle donnée on possède.
‍

Le problème commence avant le chatbot
‍

C’est là que la question de la protection change de dimension. Le risque ne naît pas nécessairement lorsque le salarié ouvre ChatGPT ou un autre outil. Il peut exister depuis des années dans les serveurs de l’entreprise, dans ses espaces de stockage et dans ses systèmes de gestion des droits.
‍

Guillaume Braux, directeur technique chez Box, décrit un phénomène particulièrement difficile à maîtriser : l’accumulation des données et la multiplication des accès. “On ne se rend pas compte du volume de données auxquels on a accès. C’est-à-dire quand un collaborateur rentre dans l’entreprise, dès le premier jour il a accès à 400 tera de données.” Derrière ce chiffre, c’est surtout la question de la visibilité qui se pose. Certaines données sont structurées et donc relativement faciles à identifier. D’autres sont dispersées dans des documents, des présentations, des fichiers ou des répertoires partagés. Elles peuvent avoir été créées des années auparavant, continuer à être accessibles sans que leur niveau de sensibilité soit clairement établi. Cette difficulté est déterminante pour la sécurité de l’IA. Une entreprise qui ne sait pas précisément où se trouvent ses informations sensibles ne peut pas déterminer correctement lesquelles doivent être interdites à un outil externe. Elle risque de protéger ce qu’elle connaît et d’oublier le reste. “La vraie problématique c’est de ne pas pouvoir faire de cartographie à l’échelle de l’entreprise mais même que le collaborateur à un moment ne sache même pas à quoi il a accès ni pourquoi il y a accès ou pas accès”, analyse-t-il.

Jusqu’ici, cette mauvaise visibilité pouvait rester relativement discrète. Une information difficile à trouver restait difficile à exploiter. L’intelligence artificielle bouleverse cette logique. “Moi j’aurais peut-être mis 10 ans à trouver qu’une donnée existe et que j’y avais accès, l’agent il va peut-être mettre 5 minutes pour trouver cette même information”, poursuit Guillaume Braux.

À lire aussi : Fuites de données et certificats numériques : la confiance numérique des Français s’effrite

C’est précisément là que l’IA change la nature du problème, elle peut rendre beaucoup plus facilement accessibles des données qui l’étaient déjà. À la différence d’un simple chatbot, un agent peut être connecté à différentes ressources et effectuer des actions ou des recherches pour le compte de son utilisateur. La CNIL a récemment consacré des travaux spécifiques à ces systèmes, en soulignant les enjeux liés à leur autonomie, à leur accès aux données et à la complexité des chaînes de traitement qu’ils peuvent mettre en œuvre.
‍

Autrement dit, protéger les données à l’heure de l’IA commence par une opération beaucoup moins spectaculaire que le choix d’un modèle : savoir ce que l’on possède et qui peut y accéder.
‍

Savoir ce qui mérite réellement d’être protégé
‍

Cette cartographie ne suffit pas. Une entreprise peut posséder des centaines de milliers de documents sans que chacun présente le même niveau de risque.
‍

C’est l’autre difficulté soulevée par Arthur Millerand, avocat : “Il faut bien distinguer la valeur de l’information de son volume. C’est à dire que ce n’est pas parce que vous communiquez beaucoup de données à quelqu’un et un tiers qu'en fait c’est très dangereux pour la société.” Une base documentaire massive n’est donc pas nécessairement plus stratégique qu’un document de quelques pages. Un code source, une condition commerciale ou une feuille de route produit peuvent avoir une valeur considérable alors même qu’ils représentent une quantité de données très faible. “Et donc il y a cette question aussi de bien connaître ses usages, de bien connaître ses données, de pourquoi est-ce qu’on les met dans tel outil”, poursuit Arthur Millerand.

Cette distinction est essentielle pour construire une véritable politique de protection. Interdire indistinctement toute utilisation de l’IA serait simple, mais peu compatible avec la réalité des usages professionnels. À l’inverse, laisser chacun décider seul de ce qui peut être transmis revient à transférer une responsabilité technique à des utilisateurs qui n’ont pas nécessairement les moyens de l’assumer.
‍

La difficulté est aussi juridique. Toutes les informations importantes d’une entreprise ne relèvent pas du même régime de protection. Le RGPD encadre les données à caractère personnel, mais une entreprise manipule aussi des informations commerciales, industrielles ou stratégiques qui ne sont pas nécessairement des données personnelles.

À lire aussi : Wayback Machine : pourquoi 241 médias bloquent l'archive du Web

La protection passe par une étape peu visible mais déterminante : classer l’information. Savoir ce qui peut circuler librement, ce qui doit rester dans l’entreprise et ce qui nécessite des garanties particulières lorsqu’il est traité par un prestataire ou un système d’IA. Pour Guillaume Braux, cette étape est même un préalable. “Imposer une politique de gouvernance de l’information sans connaître et sans différencier un pdf d’un autre pdf, c'est impossible.” L’IA rend cette exigence encore plus forte. Une machine capable d’exploiter rapidement des milliers de documents n’a pas seulement besoin d’être sécurisée elle-même, les informations auxquelles elle peut accéder doivent l’être aussi. 

Ne plus laisser la protection reposer sur le seul utilisateur

Mais comment empêcher qu’elles sortent du périmètre de l’entreprise ? Le premier réflexe consiste souvent à sensibiliser les salariés, leur expliquer les risques, leur demander de ne pas transmettre certains documents et de ne pas utiliser de données confidentielles dans un chatbot grand public.
‍

Pour Guillaume Braux, cette approche est nécessaire mais insuffisante. “Donc je pense qu’il y a un double travail, un travail d’éducation mais il y a un travail aussi technologique pour essayer de mitiger le risque d’avoir des données qui atteignent un certain de niveau de criticité qui puissent sortir librement de l’entreprise et être exploité derrière.” Le principe est simple : ne pas faire reposer toute la sécurité sur la capacité d’un salarié à prendre la bonne décision au bon moment.

À lire aussi : Géopolitique et cybersécurité : la nouvelle menace des entreprises

C’est particulièrement important avec les outils d’IA, dont l’usage peut sembler suffisamment banal pour faire disparaître le risque. Un document que l’on aurait hésité à envoyer à une adresse inconnue peut être copié dans un chatbot en quelques secondes parce que l’opération ressemble davantage à une conversation qu’à un transfert de fichier. Guillaume Braux fait une distinction entre ces deux situations. “La pièce jointe est moins risquée que le chatbot grand public. Pourquoi ? Parce que la pièce-jointe vous savez à peu près à qui vous l’envoyez, vous savez si en face ce sont des gens qui sont relativement dignes de confiance, vous connaissez les destinataire etc.” Dans le cas d’un échange classique, le destinataire est identifié alors qu’avec un outil public, la trajectoire ultérieure de la donnée est moins lisible pour l’utilisateur. “Vous le mettez dans un agent conversationnel grand public vous ne savez absolument pas ce que va devenir la donnée et est-ce qu’elle sera peut-être recherchable dans 2 ans par n’importe qui”, poursuit-il.

La comparaison permet de comprendre pourquoi la question n’est pas seulement celle de la fuite immédiate. Le risque peut être différé et difficile à mesurer. Une donnée sortie de l’entreprise peut continuer à exister dans un environnement dont l’organisation ne contrôle plus directement les conditions. Pour éviter ce scénario, Guillaume Braux défend deux possibilités : développer des outils entièrement maîtrisés par l’entreprise ou permettre l’utilisation de modèles externes dans un environnement fortement contrôlé. 
‍

Dans la seconde hypothèse, l’objectif est surtout de modifier le rapport entre le salarié et la donnée. Le collaborateur ne devrait plus avoir à prendre lui-même un document sensible et à l’envoyer à l’IA. Le système pourrait, au contraire, donner à l’outil un accès limité aux ressources auxquelles l’utilisateur est déjà autorisé à accéder. “En gros, que ce ne soit pas le collaborateur qui est déposé un document dans ChatGPT pour l’analyser, mais que ce soit ChatGPT qui a accès à une portion de la connaissance d’entreprise qui soit 100% maîtrisée”, poursuit-il.
‍

La logique rejoint les principes de sécurité défendus par l’ANSSI : l’intégration d’une IA générative dans un système d’information doit être pensée en tenant compte de ses risques, de ses données, de ses accès et de son environnement technique.