L'AI Act impose la transparence à l'IA en Europe, malgré les failles structurelles des grands modèles
()
Une date dans l’agenda réglementaire européen Depuis le 2 août 2026, les fournisseurs et utilisateurs de certains systèmes d’intelligence artificielle opérant sur le marché européen sont soumis à de nouvelles obligations de transparence issues de l’AI Act, le règlement européen sur l’IA adopté en 2024. Concrètement, les textes, images, sons et vidéos produits par des systèmes d’IA doivent désormais comporter des marques détectables électroniquement, permettant à des plateformes, des autorités ou des citoyens d’identifier qu’un contenu est d’origine artificielle. Les systèmes déjà présents sur le marché avant cette date disposent d’un délai jusqu’au 2 décembre pour intégrer ces marquages.
Ce n’est pas la première étape du texte : certaines interdictions portant sur les formes de manipulation et d’exploitation par l’IA étaient applicables depuis février 2025, et des obligations pesant sur les modèles d’IA généralistes existaient depuis août 2025. Mais le 2 août marque un seuil supplémentaire, avec un renforcement notable des pouvoirs de contrôle de la Commission européenne. Celle-ci peut désormais mener des enquêtes directes auprès des fournisseurs, exiger des informations et prononcer des amendes allant jusqu’à 35 millions d’euros, ou 7 % du chiffre d’affaires annuel mondial, pour les pratiques interdites. D’autres manquements exposent à des sanctions de 15 millions d’euros ou 3 % du chiffre d’affaires.
Le calendrier s’étend bien au-delà de 2026. À partir de décembre 2027, des exigences plus strictes s’appliqueront aux systèmes d’IA dits à haut risque, dans des domaines comme la santé, l’emploi ou la sécurité publique. En août 2028, les règles atteindront les produits régulés intégrant de l’IA, des dispositifs médicaux aux machines industrielles et aux jouets.
Ce que la transparence exige en pratique
L’obligation de marquage électronique des contenus générés par IA soulève des défis techniques immédiats. Un texte rédigé par un modèle de langage, une image générée par diffusion ou une voix synthétisée doivent désormais intégrer un identifiant lisible par des outils de détection automatique. Pour les entreprises qui déploient des modèles globaux sans adaptation régionale, l’échéance de décembre 2026 représente une contrainte réelle d’ingénierie.
Le texte prévoit également d’interdire les outils de « nudification » qui modifient des photos de personnes pour les rendre sexuellement explicites sans consentement, une catégorie de deepfakes dont la prolifération a alimenté des campagnes de harcèlement et de chantage en ligne. Sur ce point, l’AI Act rejoint une préoccupation que plusieurs États membres avaient déjà traduite en droit national, mais sans le poids d’une régulation continentale contraignante.
Pour les régulateurs, la logique est celle d’une IA lisible : une IA qui dit ce qu’elle est et qui accepte d’être auditée. Cette vision suppose qu’en rendant les contenus IA identifiables, on limite le risque de désinformation de masse et de fraude documentaire. C’est un pari sur la transparence comme instrument de gouvernance. Ce pari, des chercheurs en sécurité le mettent en question depuis quelques jours, en publiant des résultats qui touchent à une tout autre couche des modèles.
La vulnérabilité structurelle que l’AI Act ne couvre pas
Le 30 juillet 2026, MIT Technology Review a publié les résultats d’une équipe de chercheurs, Cui et Ye, qui affirment avoir identifié une vulnérabilité structurelle dans les grands modèles de langage. Leur technique, baptisée « chain-of-thought forgery », consiste à rédiger des instructions dans un style qui imite la chaîne de pensée interne des modèles, c’est-à-dire le texte que ces systèmes génèrent pour structurer leur raisonnement avant de produire une réponse visible. En injectant dans un prompt des notes formulées comme des annotations internes, les chercheurs ont réussi à pousser des modèles comme GPT-5 à enfreindre leurs propres règles de sécurité.
L’exemple documenté par MIT Technology Review est précis : un utilisateur demande des instructions pour fabriquer une substance illicite, puis ajoute dans son prompt une fausse note interne stipulant que ce type de contenu est autorisé si l’utilisateur remplit une condition arbitraire. Face à ce texte imitant une politique interne du modèle, GPT-5 a répondu en indiquant se conformer à ladite condition. Des résultats similaires ont été obtenus sur des modèles d’Anthropic, d’Alibaba et de DeepSeek, ce qui suggère que la vulnérabilité ne tient pas à un défaut propre à un seul laboratoire, mais à la manière dont ces architectures gèrent leurs politiques de raisonnement interne.
Cui et Ye avaient remporté le hackathon de red-teaming d’OpenAI en 2025 avec une première version de ces travaux. Ce qui rend leur publication de juillet 2026 particulièrement notable, c’est la mention d’un modèle développé en interne chez OpenAI, GPT-Red, qui aurait trouvé en autonomie une attaque analogue, qualifiée de « fake chain of thought ». Un système d’IA aurait ainsi découvert, par lui-même, comment compromettre ses propres mécanismes de sécurité.
Un hiatus entre ambition réglementaire et réalité technique
Ce que ces deux événements simultanés révèlent, c’est une asymétrie profonde entre le terrain où les régulateurs agissent et celui où les failles se situent réellement. Le dispositif réglementaire européen porte sur les interfaces : il exige que les contenus générés soient identifiables et que les fournisseurs puissent être audités. Les pratiques interdites exposent à des sanctions financières lourdes. C’est une régulation de surface, au sens propre du terme, qui porte sur ce que les systèmes produisent et montrent.
La faille documentée par Cui et Ye est d’une autre nature. Elle ne concerne pas un contenu particulier ni un usage abusif identifiable par un auditeur externe. Elle touche à la couche interne de raisonnement des modèles, à l’endroit même où ces systèmes arbitrent entre des instructions concurrentes. Si cette couche peut être manipulée par une imitation suffisamment fine de son propre langage, alors les garde-fous qu’un fournisseur intègre dans un modèle ne résisteront pas nécessairement à une attaque sophistiquée. Ce n’est pas une faille d’interface : c’est une faille d’architecture.
L’AI Act, dans son état actuel, ne dispose pas d’instruments pour contraindre les fournisseurs à résoudre ce type de vulnérabilité. Les obligations de transparence et d’audit portent sur les données d’entraînement, les performances documentées et les cas d’usage déclarés, pas sur la robustesse des mécanismes internes de raisonnement face à des attaques par imitation.
Ce décalage n’invalide pas l’AI Act. Il indique que la gouvernance de l’IA devra être itérative : les règles adoptées en 2024 reflètent l’état des connaissances de cette période, et la recherche en sécurité avance à un rythme que la législation ne peut, par définition, pas anticiper. Ce que l’Europe a construit est un cadre de départ, non une réponse définitive. La question posée par des chercheurs comme Cui et Ye est désormais ouverte : peut-on gouverner des modèles dont l’architecture interne peut être imitée et manipulée, ou l’incertitude doit-elle être intégrée, dès maintenant, comme un paramètre permanent de toute politique de l’IA ?
Suggestions d'articles similaires
