Aujourd'hui c'était un peu l'épreuve du feu pour Émilie. Après quelques jours d'analyse des flux réseau, elle revenait avec des données qui allaient probablement intéresser Olivia. Elle était néanmoins un peu inquiète : sa sœur lui avait bien expliqué la présence non négligeable d'utilisation de l'IA chez BFC Tracteurs, mais elle n'avait probablement pas imaginé l'ampleur du phénomène.
Elle avait retourné le problème dans tous les sens, mais elle n'avait pas trouvé de bonne façon d'annoncer ce qui risquait de faire l'effet d'une bombe. On ne parlait pas d'usages simples et isolés, mais d'une véritable systématisation, et même d'une intégration dans des processus continus. Le tout, probablement à l'insu de la plupart des utilisateurs.
Elle fit son entrée dans la petite salle de réunion avec un petit sourire de circonstance affiché sur son visage. Elle hocha la tête en direction d'Olivia et de Carl, qui s'étaient arrêtés de discuter à grand renfort de rires et d'éclats de voix qu'elle entendait depuis le bout du couloir. Une certaine tension était soudain perceptible.
- Bonjour ! Je vais vous présenter les premiers résultats de l'audit technique, comme prévu, avant d'attaquer la partie fonctionnelle avec les responsables opérationnels.
Elle avait branché son ordinateur, mais l'écran restait désespérément noir. Elle avait beau appuyer sur tous les boutons de la télécommande, il ne se passait rien. Mais pour quelle raison cette stupide machine lui jouait-elle un tour pareil ? Alors qu'elle commençait visiblement à s'énerver, Carl se leva et la rejoignit avec le sourire.
- Ce n'est pas le bon câble, Émilie ! C'est celui de l'audio, tu t'es trompée.
- Ah oui, en effet ! Désolée.
Elle se sentait idiote, tandis que Carl retournait s'asseoir tranquillement, toujours souriant, et que sa sœur était visiblement amusée. L'écran s'illumina enfin, à son grand soulagement, et une feuille de calcul assez remplie s'afficha.
- C'est un peu compliqué comme feuille ! commenta, toujours moqueuse, Olivia.
- Ah oui, pardon, ce n'est pas la présentation.
Elle se précipita pour fermer les quelques fenêtres dont l'application Netflix, laissant entrevoir ses occupations de la soirée précédente.
- C'est bien comme série ? demanda Olivia, très sérieuse.
- Oui... oui, répondit Émilie, visiblement nerveuse, en affichant enfin la présentation qu'elle avait préparée.
Après quelques instants, elle démarra sa présentation par quelques chiffres simples. Environ cent quarante comptes actifs chez BFC Tracteurs avaient utilisé un agent IA au cours des deux jours d'analyse. Le total des flux analysés montrait plus de trois mille deux cents flux à destination d'agents IA, dont environ douze pour cent semblaient présenter un cas d'utilisation à risque pour BFC Tracteurs, soit un peu moins de quatre cents anomalies détectées.
Une grosse goutte de sueur commença à couler dans le dos d'Olivia, dont le sourire s'était soudain éteint.
- Ce n'est pas le nombre qui pose problème, reprit Émilie, soudain plus assurée. Mais plutôt que certains de ces processus semblent répétitifs, comme s'ils étaient automatisés.
Elle marqua une pause avant de poursuivre.
- Je vais vous présenter trois cas pour illustrer le risque dont je parle.
Elle prit un peu de temps pour passer à la diapositive suivante, dont le titre n'était pas une surprise pour Olivia : Les ressources humaines.
- Oh, je suis au courant pour la partie RH, nota Olivia avec un sourire.
- Probablement pas de l'intégralité, Olivia. Ici on parle d'un outil qui remonte toujours le même type de données et qui semble automatique, car j'ai des flux au milieu de la nuit. Je vais affiner les chiffres avec l'équipe concernée, mais si cela se confirme, en moins de quarante-huit heures j'ai plus d'une vingtaine de CV qui sont remontés vers une plateforme.
Elle fixait maintenant Olivia.
- Mon analyse personnelle est qu'un agent IA est branché sur la boîte mail RH recrutement de BFC Tracteurs et analyse automatiquement toute candidature qui y arrive. Le rythme doit être en moyenne de cinq à dix CV par tranche de vingt-quatre heures. Je ne vais pas vous faire l'affront de vous expliquer le risque, sachant que je dois encore vérifier s'ils ont un contrat de sous-traitance concernant ces données.
Olivia ne souriait plus du tout. On était passé d'une utilisation occasionnelle à un processus d'analyse automatisée, sans qu’elle, la directrice des systèmes d'information, ne soit au courant.
- Tu as quoi d'autre ? demanda-t-elle à sa sœur, en se demandant ce qui pouvait bien être encore pire.
- Oui, j'ai commencé par ce que tu devais déjà connaître. Le deuxième point est plus simple, mais présente probablement un risque métier très important. J'ai des flux avec des schémas complexes d'ingénierie à destination d'agents IA.
- Que veux-tu dire ? demanda Olivia, sur la défensive.
- Il y a un ou plusieurs ingénieurs qui collent des plans et des schémas techniques dans des chatbots. En analysant ces flux, que notre sonde d'inspection SSL a pu décoder, j'ai identifié que plusieurs d'entre eux concernent des pièces pour lesquelles le brevet est encore en cours de dépôt. On pourrait vous voler votre propriété intellectuelle, Olivia. Évidemment, je dois faire un point avec Sébastien et Julien demain dans la journée afin d'affiner mon analyse.
Olivia était atterrée par l'information. Cela n'allait-il pas risquer altérer sa relation avec Sébastien ?
- Et quoi d'autre ? demanda finalement Olivia d'une voix tremblante, pendant que Carl restait muet à côté d'elle, les yeux dans le vague.
- Le dernier cas sérieux identifié est peut-être le plus étonnant. Cela concerne l'équipe commerciale. Votre directrice commerciale utilise un assistant de réunion pour enregistrer les meetings. C'est probablement légitime, mais j'ai analysé le comportement de cet assistant : il rejoint automatiquement toutes les réunions. Qu'elle soit présente ou non, il suffit qu'elle soit informée d'une réunion pour que son agent la rejoigne et enregistre tout ce qu'il s'y passe.
Olivia se laissa aller contre le dossier de sa chaise en réfléchissant. Mais de quelle manière sécuriser ce genre d'usage ? C'était bien trop compliqué.
- J'ai réussi à analyser les données avec mon IA embarquée. Elle ne quitte jamais mon ordinateur, celle-là, ajouta-t-elle avec un sourire. Et elle m'a remonté plusieurs réunions dont le contenu semble confidentiel, dont un entretien préalable à un licenciement sans lien avec son service, où elle avait été invitée par erreur.
- Merci Émilie, conclut Carl en la regardant fixement. Que devons-nous faire maintenant ?
Il essayait de sourire, mais n'y arrivait plus vraiment.
- Pour l'instant je dois préparer mes entretiens avec les équipes métier, et je vais avoir besoin de votre aide pour savoir de quelle manière aborder ces réunions. L'objectif n'est pas de faire exploser l'organisation, mais de trouver une solution acceptable pour tous.
Olivia observait sa sœur, qui essayait de sourire pour les réconforter, mais la situation était bien plus grave que prévu. Les risques étaient énormes et absolument hors de contrôle. La réalité était que la grande majorité des usages n'étaient ni frauduleux ni illégitimes, mais que, malgré la bonne volonté apparente des utilisateurs, les risques encourus étaient bien trop importants pour être ignorés.
Alors, que faire ? Interdire ?