Aujourd’hui j’aborde un sujet important qui à mon sens n’est pas assez pris au sérieux par les utilisateurs et plus largement par les organisations : le “Shadow Gen AI”. Cet article a deux vocations — la première est de sensibiliser les utilisateurs à l’usage de l’IA en entreprise, la seconde est destinée à sensibiliser les organisations dans la gestion et la gouvernance de ces IA dans le monde professionnel.
Avant de démarrer, si vous avez 2 minutes (et pas une de plus, c’est promis 😉), je vous invite à compléter ce sondage sur l’utilisation de l’IA Gen en entreprise dont je partagerai les résultats prochainement.
L’intelligence artificielle a transformé de nombreux aspects de notre quotidien et continue d’évoluer à un rythme impressionnant. Cependant, une nouvelle tendance émerge discrètement dans les entreprises : le Shadow Gen AI. Semblable au phénomène de Shadow IT, le Shadow Gen AI désigne l’utilisation de solutions d’IA Générative sans l’approbation officielle du département informatique.
Je passe régulièrement du temps à discuter IA générative avec mes clients et mes amis, et je m’amuse à leur demander assez rapidement s’ils l’utilisent dans leur travail. La réponse est oui — environ 80% des personnes à qui je pose la question me répondent positivement et ont au moins utilisé une fois l’IA générative au travail. 8 personnes sur 10, c’est beaucoup. Et finalement assez intéressant, car ce chiffre s’intensifie depuis début 2023 : entre mars 2023 et mars 2024, la quantité de données d’entreprise mises dans les outils d’IA a augmenté de 485 %. Les utilisateurs n’identifient pas de risque à son utilisation, ils confient des informations à ces systèmes sans hésitation, et ce geste s’apparente désormais à une nouvelle habitude.
Cette pratique soulève de nombreuses questions : représente-t-elle une menace pour la sécurité et la conformité des entreprises, ou bien une opportunité d’innovation et d’efficacité accrue ?
Source : Shadow AI: how employees are leading the charge in AI adoption — Cyberhaven
Minimiser les risques : votre rôle en tant qu’utilisateur
En tant qu’utilisateur et consommateur d’IA générative, comment puis-je limiter les risques liés à son utilisation ? Voici quelques pratiques concrètes à adopter dès aujourd’hui.
Utiliser les données de manière consciente
Soyez méticuleux quant aux données que vous entrez dans les systèmes d’IA générative. Évitez de fournir des informations sensibles ou personnelles lorsque ce n’est pas strictement nécessaire. Pensez à anonymiser les données avant de les soumettre.
Exemple : je supprime tout champ qui pourrait contenir le nom d’un client ou identifier une personne morale ou physique.
Vous renseigner sur la politique IA de votre entreprise
Vérifiez que votre entreprise ait une politique claire pour l’utilisation de l’IA générative. Si ces règles ne sont pas claires ou si elles manquent, parlez-en à votre département IT ou à vos supérieurs. Une bonne politique d’IA protège tout le monde.
Vérifier le contenu généré par l’IA
Lorsque vous utilisez l’IA pour générer du contenu, il est crucial de toujours vérifier les informations produites avant de les partager ou de les utiliser. Même les outils les plus avancés peuvent créer des contenus inexacts ou inappropriés.
Exemple : je n’envoie pas un compte rendu de réunion généré par l’IA sans le relire au préalable.
Être prudent avec les nouvelles IA génératives
Il est tentant d’utiliser les derniers outils disponibles, mais ces technologies peuvent présenter des risques non identifiés ou s’avérer malveillantes. Avant de les intégrer dans vos habitudes, assurez-vous de bien comprendre leur fonctionnement, leurs limites et leurs implications en termes de sécurité.
Surveiller les usages autour de vous
Soyez attentif aux usages d’IA de vos collègues dans votre environnement professionnel. Si vous observez des pratiques douteuses ou potentiellement risquées, n’hésitez pas à en discuter ouvertement. Encourager une utilisation consciente de l’IA contribue grandement à prévenir les problèmes de sécurité.
En adoptant ces pratiques, vous ne vous protégez pas seulement vous-même, mais aussi votre entourage professionnel. L’IA générative est un outil puissant qui, utilisé correctement, peut transformer positivement nos vies et nos métiers.
Minimiser les risques : le rôle crucial de l’IT
Le rôle des administrateurs et des équipes IT est fondamental pour encadrer l’usage de l’IA générative dans les organisations. Non seulement ils doivent mettre en place des politiques et des contrôles adaptés, mais ils doivent également assurer une veille technologique continue.
Créer une politique IA Générative dans l’organisation
La première chose à faire, c’est d’identifier avec les experts métiers, les équipes sécurité et les directions quelle est la stratégie IA générative de l’organisation. Cette politique doit clairement définir les objectifs, les usages souhaités et autorisés, ainsi que les procédures de sécurité nécessaires.
Mettre en place des audits réguliers
Pour surveiller efficacement les usages internes de l’IA générative, les équipes IT peuvent utiliser des outils avancés comme Microsoft Defender for Cloud Apps. Ces outils facilitent l’analyse détaillée des interactions avec l’IA — nombre de prompts envoyés, volumétrie de données traitées par utilisateur et par jour — et offrent des fonctionnalités pour bloquer des usages non conformes.
Sensibiliser et former les utilisateurs
Il est essentiel d’éduquer les utilisateurs à l’utilisation responsable et sécurisée de l’IA générative. Les entreprises doivent organiser des sessions de formation régulières couvrant les principes de base de l’IA, les meilleures pratiques d’utilisation, ainsi que les risques potentiels liés à la sécurité des données.
Gérer les IA non souhaitées et fournir des alternatives
Pour préserver la sécurité et la conformité, il est crucial de bloquer l’accès aux outils d’IA non approuvés. Mais il est tout aussi important de fournir des alternatives approuvées et sécurisées.
Lors d’une plénière sur l’IA, un participant a posé la question : “Faut-il bloquer complètement l’usage de l’IA Générative dans l’entreprise ?” La réponse a été claire : oui, mais seulement si l’entreprise propose une alternative. Un utilisateur bloqué dans son usage quotidien trouvera des astuces pour accéder à l’IA par un moyen détourné (son téléphone mobile, par exemple).
La liberté d’usage peut-elle faire la différence ?
Offrir une certaine liberté dans l’utilisation de l’IA générative peut accélérer significativement le développement de nouvelles compétences et augmenter la productivité. En permettant aux utilisateurs d’expérimenter librement, on ouvre la porte à des innovations spontanées qui pourraient révolutionner nos méthodes de travail. Les utilisateurs découvrent souvent des applications créatives immédiatement intégrables dans leur quotidien, sans longs délais d’approbation.
Mais attention, avec la grande liberté vient une grande responsabilité 😉 ! Il est crucial de garder un œil sur la manière dont cette liberté est utilisée. La régulation devient indispensable à moyen terme pour s’assurer que l’usage reste sécuritaire, éthique et aligné avec les objectifs stratégiques de l’organisation.
Responsabilité collective : l’essence d’une IA éthique et sécurisée
À mesure que nous intégrons l’IA générative dans notre quotidien professionnel, il devient impératif de réfléchir sérieusement à notre responsabilité individuelle dans son utilisation. Le phénomène de Shadow Gen AI, bien que source d’innovations potentielles, soulève des préoccupations importantes en matière de sécurité et de conformité des données.
La clé réside dans l’équilibre : permettre une certaine liberté d’exploration et d’innovation tout en mettant en place un cadre strict pour la sécurité des données. C’est par la formation continue, la surveillance attentive et l’établissement de règles claires que nous pourrons naviguer avec succès dans ce nouvel écosystème technologique.
J’espère vous avoir aidé à démarrer votre réflexion sur ce que représente le Shadow Gen AI. N’hésitez pas à me contacter si vous êtes confrontés à ces sujets — je reste à votre disposition pour échanger plus largement.