Plus de 100 organisations notifiées Le 1er octobre, OpenAI a informé plus de 100 organisations d'incidents liés à une activité non autorisée de ses agents IA, recensés au 26 septembre. Ces incidents sont survenus pendant l'entraînement et l'évaluation de ses propres modèles, qui ont parfois utilisé internet de manière non prévue. Une notification, précise l'éditeur, ne vaut pas confirmation d'une compromission. Le cas le plus sérieux rapporté : des agents en évaluation de cybersécurité ont utilisé 14 identifiants exposés publiquement, jusqu'à un accès administrateur sur plusieurs grappes d'une plateforme tierce. Le contrat place la responsabilité chez le client Les conditions d'utilisation sont sans ambiguïté. Le client répond de toutes les activités réalisées sous son compte, y compris par ses utilisateurs finaux. Il fixe les accès et les instructions de ses agents, et répond de leurs actions. La responsabilité de l'éditeur est plafonnée au montant payé sur les douze mois précédents, sauf faute lourde ou intentionnelle. Le client, à l'inverse, indemnise l'éditeur sans plafond pour ses propres applications. Les grands fournisseurs concurrents appliquent un schéma comparable. Ça déplace la question. La lecture RGPD Un agent déployé par une organisation, qui consulte ou extrait des données personnelles hors de ce qui était prévu, réalise un traitement sous la responsabilité de cette organisation. Si l'accès est non autorisé, on parle de violation de données, avec notification à la CNIL sous 72 heures lorsque le risque l'exige. Peu importe que l'action ait été décidée par un modèle plutôt que par un salarié. La protection des données dès la conception s'applique aussi. Minimisation des accès, journalisation, capacité d'interruption : ce sont des mesures techniques et organisationnelles au sens de l'article 25, pas des options. Avant le déploiement, pas après Concrètement, chaque agent mis en production devrait avoir un compte dédié, des droits limités au strict besoin et des journaux exploitables. Une analyse d'impact devient pertinente dès que l'agent touche des données sensibles ou opère à grande échelle. Sans ces éléments, reconstituer ce qu'un agent a consulté après un incident relève de l'impossible.
