Cloudflare : 155 réponses de son service d'IA Workers AI ont contenu des données d'autres clients pendant deux semaines

Le 26 octobre, Cloudflare (hébergeur et fournisseur d’infrastructure web, dont le service Workers AI permet d’appeler des modèles d’IA hébergés sur son réseau) a publié le compte rendu d’un incident touchant le modèle GLM-5.3 de l’éditeur chinois Z.ai : du 27 août, jour de sa mise en service, au 9 septembre, 155 réponses renvoyées à des clients contenaient des fragments de requêtes et de réponses d’autres clients, passées juste avant les leurs. La cause tient à deux défauts combinés : une mémoire de travail (le « cache KV », où le moteur conserve le contexte des requêtes en cours) dimensionnée pour 681 280 tokens (fragments de mots) alors que le modèle acceptait des requêtes de plus d’un million, et une erreur du moteur libre SGLang qui, au lieu de rejeter les requêtes trop longues, les faisait traiter sur des pages de mémoire encore occupées par les demandes précédentes, le tout renvoyé au client avec un code « succès ». Seules les requêtes dépassant 681 280 tokens étaient concernées ; le problème a été signalé par un chercheur de la société Knostic le 8 septembre, le modèle retiré puis remis en ligne le 9 septembre après correction, et Cloudflare dit n’avoir aucune preuve d’exploitation délibérée et qu’aucun autre modèle de Workers AI n’était touché. L’enseignement dépasse Cloudflare : dans un service d’IA mutualisé, vos documents et ceux d’autres entreprises transitent par les mêmes machines, et un simple écart de configuration suffit à les mélanger sans que personne ne reçoive de message d’erreur. Ce que cela change pour vous : demandez à vos prestataires d’IA, et aux éditeurs qui ont ajouté une fonction « IA » à vos logiciels, si le modèle est servi sur une infrastructure partagée, dans quel délai et par quel canal ils vous notifieraient un incident de ce type, et n’envoyez à ces services que des données que vous confieriez à un sous-traitant sous contrat.