La double mémoire, ou la question que vos référentiels ne posent plus
Les assistants d'intelligence artificielle se sont mis à mémoriser en continu ce que vos équipes leur confient. Un dépôt de données s'ajoute ainsi à votre cartographie, sans décision explicite et sans règle de rétention. Reste à dire lequel, de ce dépôt ou de vos référentiels, fait foi.
L'essentiel. Le problème n'est pas la mémoire des assistants, qui rend service. Le problème est d'en avoir deux sans avoir décidé laquelle fait foi. Ce dépôt est alimenté sans décision explicite, il n'apparaît dans aucun schéma d'urbanisation, et les règles de classification et de rétention en vigueur ont été écrites avant qu'il existe. Une demi-journée avec le responsable informatique et le référent conformité suffit à poser les règles.
Au sommaire : le point de départ · vingt ans passés à répondre à une seule question · le jour où deux versions du même fait se croisent · rétention, départs, preuve · le cas particulier des collectivités · ce que je recommande
Le point de départ : une mémoire qui se construit en continu
Le 25 août, j'ai reçu en tant qu'administrateur de mon organisation un message d'un éditeur d'intelligence artificielle annonçant une évolution de la mémoire de son assistant. Le contenu tient en peu de lignes. La mémoire devient un système unique entre les différents espaces de travail, sur le cloud, le web et le mobile. Le contexte n'est plus résumé à la fin d'un échange, il est construit et mis à jour en continu, par sujets, pendant la conversation.
L'utilisateur peut consulter, modifier et supprimer ce qui a été enregistré, présenté sous forme d'une liste de sujets dans ses paramètres. La fonction est disponible par défaut pour les organisations et désactivée par défaut pour les utilisateurs finaux. Un réglage distinct encadre les sujets sensibles comme la santé, les convictions religieuses ou les opinions politiques : désactivé d'origine, activable par l'administrateur, puis soumis à l'adhésion de chaque utilisateur.
Les mémoires déjà constituées sont reprises automatiquement lors de la bascule. Par conception, l'outil n'enregistre pas les numéros d'identité officiels, les antécédents judiciaires ou le statut migratoire, et il prévient l'utilisateur quand il ne peut pas retenir quelque chose. L'export de l'ancien format reste ouvert jusqu'au 9 septembre.
Je ne commente pas ce produit et je ne fais la publicité d'aucun éditeur. Ce qui se passe chez l'un se passera chez les autres, et c'est précisément ce qui rend le sujet intéressant. Une catégorie entière d'outils que vos équipes utilisent déjà s'est mise à mémoriser sans qu'on le lui demande explicitement. Cela rouvre une question que beaucoup de directions des systèmes d'information croyaient réglée.
Vingt ans passés à répondre à une seule question
Les référentiels clients, les ERP, les CRM, les GED, les annuaires : tout cela a été construit pour répondre à une question simple à énoncer et pénible à trancher. Où vit la vérité de la donnée. Quand deux services affichaient deux adresses différentes pour le même client, on a fini par désigner un système maître, écrire qui a le droit de le modifier, et brancher les autres dessus.
L'arrivée de mémoires qui se remplissent toutes seules ajoute un dépôt à cette carte. Ce dépôt a trois caractéristiques inhabituelles. Il est alimenté sans décision explicite, par le simple fait de travailler. Il est peu visible, puisqu'il n'apparaît dans aucun schéma d'urbanisation et sur aucune facture de stockage. Et il échappe aux règles de classification et de rétention déjà écrites, non par malveillance, mais parce que ces règles ont été rédigées avant qu'il existe.
Le problème n'est pas la mémoire. Elle est utile, elle évite de réexpliquer le contexte de son métier dix fois par semaine, et je l'utilise moi-même. Le problème est d'en avoir deux sans avoir décidé laquelle fait foi.
Le jour où deux versions du même fait se croisent
J'ai en tête une PME industrielle de l'Hérault. Un délai de paiement accordé à un gros donneur d'ordre avait été renégocié au printemps, de quarante-cinq à trente jours. L'ERP avait été mis à jour le jour même. Un commercial, lui, avait expliqué l'ancien délai à son assistant plusieurs semaines auparavant, en préparant une réponse à appel d'offres. Trois mois plus tard, la relance qu'il a rédigée mentionnait l'ancien délai. Personne n'a menti, personne n'a commis de faute, aucun système n'était en panne. Simplement, la version la plus commode à consulter n'était plus la bonne.
C'est le scénario type. Il ne produit pas d'incident de sécurité, il produit des décisions légèrement fausses, prises avec assurance, difficiles à rattraper parce qu'on ne sait pas d'où venait l'information.
Rétention, départs, preuve
Ce que votre politique de conservation ne couvre pas
Votre politique de conservation couvre les serveurs de fichiers, la messagerie, les sauvegardes. Elle ne dit rien d'un dépôt qui se remplit tout seul et qu'aucun administrateur n'a jamais ouvert. Combien de temps y reste un fait devenu faux, et qui a la responsabilité de l'effacer.
Le départ d'un collaborateur
Le départ d'un collaborateur rend la question concrète. Vous savez désactiver un compte, transférer une boîte aux lettres, récupérer un poste. Ce qu'un assistant a mémorisé du travail de cette personne suit un autre chemin, selon un réglage que personne n'a arbitré. Les deux issues posent problème : soit l'entreprise perd un savoir qui lui appartenait, soit elle conserve des éléments d'ordre personnel dont elle n'a rien à faire.
La valeur de preuve
La preuve mérite la même attention. Devant un contrôle, un litige ou une réclamation, vous savez produire une écriture comptable, un journal d'accès, un courriel horodaté. Une mémoire reformulée par sujets et réécrite au fil des conversations n'est pas une pièce opposable. Elle peut orienter une décision sans laisser de trace de cette influence, et c'est à mon sens le point le plus délicat de toute l'affaire.
Pour une entité régulée, cette gouvernance de la mémoire prolonge celle des systèmes d'IA, que j'ai traitée dans NIS2 et AI Act.
La réversibilité
Reste la réversibilité. L'exemple que j'ai cité comporte une fenêtre d'export de quelques semaines, ce qui est court quand il faut passer par un comité et un budget. La question se pose avant d'ouvrir l'usage, pas le jour où l'on change de fournisseur : que puis-je sortir, sous quel format, et dans quel délai.
Le cas particulier des collectivités
Un agent de CCAS qui prépare un courrier expose une situation familiale. Un service scolarité manipule des informations sur des mineurs. Un service urbanisme travaille sur des dossiers qui deviendront publics, mais pas tout de suite. Même quand l'outil s'interdit d'enregistrer les identifiants officiels, il retient le récit, et le récit suffit souvent à identifier quelqu'un dans une commune de deux mille habitants.
Le réglage séparé sur les sujets sensibles va dans le bon sens, mais il déplace la responsabilité vers l'administrateur. L'activer soulève aussitôt des questions qu'il vaut mieux instruire avant que le service ne soit ouvert : quelle finalité, sur quelle base légale, quelle information donnée aux personnes, faut-il l'inscrire au registre des traitements, et une analyse d'impact est-elle nécessaire. L'adhésion individuelle demandée ensuite ne remplace pas ce travail.
Sur le périmètre d'assujettissement et les premières étapes pour une commune ou une intercommunalité sans RSSI dédié, la démarche est détaillée dans NIS2 et collectivités territoriales.
Ce que je recommande
- Décidez explicitement où vit la vérité, et écrivez-le sur une page : tel système fait foi pour les clients, tel autre pour les contrats, et la mémoire de l'assistant ne fait foi pour rien. Une phrase de ce genre, connue de tous, règle la moitié des cas.
- Cartographiez ce que cette mémoire retient réellement. Prenez trois ou quatre utilisateurs volontaires, ouvrez la liste des sujets enregistrés avec eux, et regardez.
- Réglez les sujets sensibles avant l'ouverture du service, pas après un signalement.
- Prévoyez l'export et les conditions d'une sortie tant que vous êtes en position de le faire calmement.
- Formez les équipes à ce qu'elles déposent, avec des exemples de leur métier plutôt qu'une charte de six pages que personne ne relira.
Pour ma propre activité, j'ai tranché dans le même sens : je conserve un dépôt que je maîtrise comme source de vérité, et ce que les assistants mémorisent n'a qu'un statut de confort.
Ce chantier ne demande pas un projet ni un budget. Une demi-journée avec le responsable informatique et le référent conformité suffit à poser les règles. Le coût de ne pas le faire, lui, n'apparaîtra que le jour où deux versions d'un même fait se croiseront devant un client, un élu ou un auditeur.
Fabrice Bonneville est RSSI & Risk Manager indépendant. Il accompagne les PME, ETI et collectivités territoriales sur leur cybersécurité, leur conformité NIS2 et la gouvernance de leurs données et de leurs usages d'IA. Le contacter · bonneville.expert.