Shadow Gen AI : Menace ou Opportunité ?

Hello tout le monde, aujourd’hui j’aborde un sujet important qui à mon sens n’est pas assez pris au sérieux par les utilisateurs et plus largement par les organisations, le « Shadow Gen AI« . Cet article a deux vocations, la première est de sensibiliser les utilisateurs à l’usage de l’IA en entreprise, la seconde est destinée à sensibiliser les organisations dans la gestion et la gouvernance de ces IA dans le monde professionnel.

Avant de démarrer, si vous avez 2 minutes (et pas une de plus c’est promis 😉) je vous invites à compléter ce sondage dont je partagerais les résultats prochainement :

Introduction

L’intelligence artificielle (IA) a transformé de nombreux aspects de notre quotidien et continue d’évoluer à un rythme impressionnant. Cependant, une nouvelle tendance émerge discrètement dans les entreprises : le Shadow Gen AI. Semblable au phénomène de Shadow IT, le Shadow Gen AI désigne l’utilisation de solutions d’IA Générative sans l’approbation officielle du département informatique.

Avant de continuer, je souhaites vous partager un constat assez marquant :

Je passe régulièrement du temps à discuter IA générative avec mes clients, mes amis et je m’amuse à leur demander assez rapidement s’ils l’utilisent dans leur travail. Et la réponse est oui, environ 80% des personnes à qui je pose la question me réponde positivement et ont au moins utilisé une fois l’IA Générative au travail. 8 personnes sur 10, c’est beaucoup et finalement assez intéressant parce qu’il s’intensifie depuis le début de l’année 2023. Entre mars 2023 et mars 2024, la quantité de données d’entreprise que les utilisateurs ont mises dans les outils d’IA a augmenté de 485 %. Ce phénomène s’explique par l’adoption et la vulgarisation de l’IA générative dans le monde, les utilisateurs n’identifient pas de risque à son utilisation, ils confient des informations à ces systèmes sans doutes, ils y voient essentiellement un gain en efficacité et ce geste s’apparente à une nouvelle habitude.

Cette pratique soulève de nombreuses questions : représente-t-elle une menace pour la sécurité et la conformité des entreprises, ou bien une opportunité d’innovation et d’efficacité accrue ? Dans cet article, nous explorerons les différents aspects de la Shadow Gen AI, ses avantages potentiels, ainsi que les risques qu’elle comporte pour les organisations. Le sujet est vaste, mais cet article à pour vocation de vous donner les clés essentielles pour démarrer votre réflexion sur l’usage de l’IA générative.

Sources : Shadow AI: how employees are leading the charge in AI adoption and putting company data at risk (cyberhaven.com)

Minimiser les risques : quel rôle pour vous, utilisateur des solutions d’IA génératives ?

Maintenant que nous avons commencer à comprendre l’ampleur et les implications du Shadow Gen AI, vous pourriez vous demander : en tant qu’utilisateur et consommateur d’IA générative, comment puis-je limiter les risques liés à son utilisation ? C’est une question importante, car chaque individu a un rôle à jouer dans la sécurisation de ses interactions avec l’IA.

Pour continuer, je vais partager quelques conseils pratiques et des stratégies que vous, en tant qu’utilisateur, pouvez adopter pour réduire les risques tout en bénéficiant des avantages de l’IA générative. Nous verrons comment des mesures simples mais efficaces peuvent faire une grande différence dans la manière dont nous utilisons ces technologies puissantes et déjà omniprésentes.

1. Utiliser de manière consciente les données
   • Soyez méticuleux quant aux données que vous entrez dans les systèmes d’IA générative. Évitez de fournir des informations sensibles ou personnelles lorsque cela n’est pas strictement nécessaire. Pensez à anonymiser les données qui pourraient exposer des informations personnelles ou confidentielles avant de les soumettre à des traitements par IA.
     • Exemple : Je supprime tout champ qui pourrait contenir le nom d’un client ou potentiellement identifier une personne morale ou physique.
2. Renseigner vous sur la politique IA de votre entreprise
   • Vérifiez que votre entreprise ait une politique claire pour l’utilisation de l’IA générative. Assurez vous de connaître les règles concernant l’IA générative dans votre entreprise. Si ces règles ne sont pas claires ou si elles manquent, parlez en à votre département informatique ou à vos supérieurs. Une bonne politique d’IA protège tout le monde : elle définit les droits et les devoirs et veille à la sécurité des données.
3. Vérifier le contenu générés par l’IA
   • Lorsque vous utilisez de l’IA pour générer du contenu, il est crucial de toujours vérifier les informations produites avant de les partager ou de les utiliser. Même les outils d’IA les plus avancés peuvent parfois créer des contenus inexacts ou inappropriés. Prenez un moment pour relire et valider les données, les textes ou les images générés. Assurez vous qu’ils sont corrects, pertinents et ne contiennent pas d’informations sensibles non destinées à être publiques. Cette étape de vérification est essentielle pour maintenir la qualité et la sécurité des informations que votre entreprise diffuse.
     • Exemple : Je n’envoi pas un compte rendu de réunion généré par l’IA sans le relire au préalable.
4. Être prudent avec les nouvelles IA générative
   • Soyez toujours vigilant lorsque vous explorez ou adoptez de nouvelles technologies d’IA. Il est tentant d’utiliser les derniers outils disponibles, mais ces technologies peuvent présenter des risques non identifiés au début de leur lancement ou même s’avérer malveillantes. Avant de les intégrer dans vos habitudes, assurez vous de bien comprendre leur fonctionnement, leurs limites, et les implications en termes de sécurité et de confidentialité.
5. Surveillance des usages de l’IA autour de vous
   • Alors, je ne vais pas vous demander d’être un espion mais il est important d’être vigilant quant à la manière dont les personnes autour de vous utilisent l’intelligence artificielle. Soyez attentif aux usages d’IA de vos collègues, amis ou toute personne dans votre environnement professionnel et personnel pour vous assurer qu’ils utilisent ces technologies de manière sûre et éthique. Si vous observez des pratiques douteuses ou des utilisations potentiellement risquées de l’IA, n’hésitez pas à en discuter ouvertement pour sensibiliser ces utilisateurs aux risques. Encourager une utilisation consciente de l’IA peut contribuer grandement à prévenir les problèmes de sécurité et de confidentialité.

En adoptant ces pratiques, vous ne vous protégez pas seulement vous-même mais aussi votre entourage professionnel et personnel contre les risques potentiels. L’IA générative est un outil puissant qui, utilisé correctement, peut transformer de manière positive nos vies et nos métiers. Alors, prenons ensemble la responsabilité de l’utiliser de manière éthique et sûre, afin d’assurer que son potentiel est pleinement exploité sans compromettre notre sécurité.

Une petite check list à garder en tête 😉

Minimiser les risques : le rôle crucial de l’IT dans la gestion de l’IA Générative

Maintenant passons de l’autre coté de la barrière. Le rôle des administrateurs et des équipes IT est fondamental pour encadrer l’usage de l’IA générative dans les organisations. Non seulement ils doivent mettre en place des politiques et des contrôles adaptés, mais ils doivent également assurer une veille technologique continue alignée sur les stratégies de l’entreprise.

1. Création d’une politique AI Générative dans l’organisation
   • La première des choses à faire c’est d’identifier avec les experts métiers, les équipes sécurité et les directions quelle est la stratégie AI générative de l’organisation. Cette politique doit clairement définir les objectifs, les usages souhaités & autorisés, les procédures de sécurité nécessaires pour encadrer efficacement l’utilisation de l’IA dans l’entreprise
2. Audits réguliers sur les usages internes de l’IA Générative
   • Pour surveiller efficacement les usages internes de l’IA générative, les équipes IT peuvent utiliser des outils avancés comme Microsoft Defender for Cloud Apps. Ces outils facilitent l’analyse détaillée des interactions avec l’IA, telles que le nombre de prompts envoyés ou la volumétrie de données traitées par utilisateur et par jour. Ils offrent aussi des fonctionnalités pour bloquer des usages non conformes. Ces audits réguliers aident à assurer que l’utilisation de l’IA reste sécurisée et alignée avec les politiques de l’entreprise.
3. Sensibilisation et formation des utilisateurs sur l’IA Générative
   • Il est essentiel d’éduquer et de former les utilisateurs à l’utilisation responsable et sécurisée de l’IA générative. Les entreprises doivent organiser des sessions de formation régulières qui couvrent les principes de base de l’IA, les meilleures pratiques d’utilisation, ainsi que les risques potentiels liés à la sécurité des données. En sensibilisant les utilisateurs, on s’assure qu’ils sont non seulement capables d’utiliser efficacement ces outils, mais aussi conscients des implications éthiques et légales de leurs actions avec l’IA. De plus il permet aussi de communiquer sur les IA Génératives entièrement validées par l’organisation.
4. Gestion des IA Génératives non souhaitées et fourniture d’alternatives
   • Pour préserver la sécurité et la conformité au sein de l’organisation, il est crucial de bloquer l’accès aux outils d’IA générative non approuvés. Les équipes IT doivent mettre en place des mécanismes pour détecter et interdire l’utilisation de ces technologies. En cas de blocage, il est tout aussi important de fournir des alternatives approuvées et sécurisées.
     • Anecdote : Lors d’une plénière sur l’IA, l’un des participant à poser la question suivante : « Faut il bloquer complètement l’usage de l’IA Générative dans l’entreprise »
       • La réponse à été claire, oui mais seulement si l’entreprise propose une alternative, un utilisateur bloqué dans son usage quotidien trouvera des astuces pour accéder à l’IA par un moyen détourné (Téléphone mobile par exemple).

La liberté d’usage peut elle faire la différence ?

A l’inverse, on peut se demander aujourd’hui que si les règles étaient si stricte, pourrions nous développer nos compétences et notre productivité aussi vite ? Offrir une certaine liberté dans l’utilisation de l’IA générative peut accélérer de manière significative le développement de nouvelles compétences et augmenter la productivité. En permettant aux utilisateurs d’expérimenter librement avec ces outils, nous ouvrons la porte à des innovations spontanées qui pourraient révolutionner nos méthodes de travail.

Rapidité et efficacité à court terme

Donner aux employés la liberté d’utiliser l’IA à leur guise peut conduire à des gains de rapidité et d’efficacité impressionnants. Les utilisateurs découvrent souvent des applications créatives des outils d’IA qui peuvent être immédiatement intégrées dans leur travail, stimulant ainsi la productivité et l’efficacité sans longs délais d’approbation ou de mise en œuvre.

Mais attention, avec la grande liberté vient une grande responsabilité 😉 ! Il est crucial de garder un œil sur la manière dont cette liberté est utilisée. À mesure que les outils d’IA générative deviennent plus accessibles, son usage sans un cadre réglementaire adéquat pourrait poser des défis significatifs. La régulation devient indispensable à moyen terme pour s’assurer que leur utilisation reste sécuritaire, éthique et en accord avec les objectifs stratégiques de l’organisation.

Responsabilité collective : l’essence d’une IA Générative éthique & sécurisée

À mesure que nous intégrons de plus en plus l’IA générative dans notre quotidien professionnel, il devient impératif de réfléchir sérieusement à notre responsabilité individuelle dans son utilisation. Le phénomène de Shadow Gen AI, bien que source d’innovations potentielles, soulève des préoccupations importantes en matière de sécurité et de conformité des données.

Chacun de nous, indépendamment de son rôle, doit être conscient de l’impact de ses actions. Utiliser ces outils puissants implique une responsabilité non seulement envers soi-même mais également envers son organisation. Cela signifie être vigilant, bien informé et proactif pour s’assurer que les données manipulées restent protégées et que leur usage reste aligné avec les politiques éthiques et les réglementations en vigueur.

La clé réside dans l’équilibre : permettre une certaine liberté d’exploration et d’innovation tout en mettant en place un cadre strict pour la sécurité des données. C’est par la formation continue, la surveillance attentive et l’établissement de règles claires que nous pourrons naviguer avec succès dans ce nouvel écosystème technologique. Alors c’est à vous maintenant, faisons de la sécurité des données une priorité absolue et engageons nous à utiliser l’IA générative de manière éthique et responsable.

J’espère vous avoir aider à démarrer votre réflexion sur ce que représente le Shadow Gen AI, n’hésitez pas à me contacter si vous aussi vous êtes confrontés à ces sujets actuellement, je reste à votre disposition pour échanger plus largement sur le sujet.

Merci encore pour votre temps, vos retours sont toujours appréciables😊