Pseudonymisez vos documents, et restituez les valeurs dans les livrables de vos IAPseudonymisez vos documents avec cohérence, et restaurez (dé-pseudonymisez) les valeurs originales dans les livrables de vos assistants IA
Pseudonymisez vos documents, et restituez les valeurs dans les livrables de vos IAPseudonymisez vos documents avec cohérence, et restaurez (dé-pseudonymisez) les valeurs originales dans les livrables de vos assistants IA
CEO et co-fondatrice de Marvin Systems
Parmi les 50 plus grandes entreprises d'IA au monde, 32 ont leur siège en Californie. La Californie est un marché important, au même titre que l'Europe.
Une loi historique, officiellement intitulée « Transparency in Frontier AI Act » et plus connue sous le nom de SB‑53, a été adoptée et promulguée en septembre dernier par le gouverneur de Californie.
Elle marque un tournant dans la régulation de l'IA. Elle cible les modèles de pointe de demain : ceux dépassant 10^26FLOPS* d'entraînement, soit au-delà du state-of-the-art actuel (environ 10^25FLOPS).
Contrairement à l'AI Act qui régule toute la chaîne de valeur (ceux qui créent et ceux qui utilisent les modèles), SB-53 vise exclusivement les créateurs de modèles de pointe disposant de moyens conséquents (+500M$ de CA). Les géants, OpenAI, Anthropic, xAI... mais aussi DeepSeek, sont concernés dès lors qu'ils opèrent en Californie, au même tire qu’ils sont concernés par les dispositions de l’AI Act dès lors qu’ils opèrent sur le sol européen.
L'Europe privilégie une approche pyramidale (avec des catégories de risque : de minimal à inacceptable en passant par les systèmes dits « à haut risque** », ces derniers devant respecter des obligations strictes) et sectorielle.
La Californie, quant à elle, cible les risques « catastrophiques » par leur ampleur : +50 morts, +1Md$ de dommages, armes CBRN, cyberattaques autonomes, ou perte de contrôle des systèmes.
Les développeurs de modèles de pointe concernés par la loi SB-53 doivent publier leurs politiques de gouvernance interne couvrant la détection d'incidents graves, les mesures anti-intrusion et les protocoles de test.
Aussi, les entreprises doivent créer des canaux de signalement anonymes permettant aux employés de rapporter (en interne ou aux autorités compétentes) leurs préoccupations en matière de risques pour la santé et la sécurité publique, dans les limites définies par la loi.
Contrairement aux exigences prescriptives de l'AI Act (documentation, audits tiers), SB-53 laisse les entreprises définir leurs propres protocoles, mais les oblige à s'y conformer publiquement.
La sanction ? 1M$ par violation. Une somme qui peut paraître dérisoire face aux milliards de dollars investis dans leurs data centers. Mais toute violation doit être recensée dans un rapport publié annuellement. Dans un secteur où la confiance est capitale, le risque réputationnel dépasse largement l’amende. Et surtout, cette transparence obligatoire crée une pression par les pairs : aucune entreprise ne veut être celle qui affiche les standards les plus faibles.
L'AI Act impose un cadre stricte (assorti de sanctions lourdes pouvant aller jusqu’à 35M€ ou 7% du chiffre d’affaires mondial), tandis que SB‑53 mise sur la responsabilisation des acteurs. L'Europe régule exhaustivement, la Californie cible les acteurs critiques.
Deux approches qui, loin de s’opposer, se complètent. L’Europe cherche à prévenir les dérives déjà tangibles (discrimination à l’embauche, reconnaissance faciale abusive, exploitation de la vulnérabilité des personnes, notation sociale ou surveillance algorithmique... Autant de risques qui affectent directement les citoyens et les services publics).
La Californie, de son côté, anticipe les dangers émergents et les scénarios extrêmes : création d’armes biologiques assistée par l’IA, cyberattaques autonomes à grande échelle, ou perte de contrôle sur des modèles ultra‑puissants. Ces risques restent exceptionnels aujourd’hui, mais deviennent techniquement envisageables avec les modèles de pointe de demain.
La Californie, qui laisse aujourd’hui les entreprises définir leurs propres protocoles de sécurité et de gouvernance, comme susmentionné, pourrait, avec le temps, imposer des standards techniques plus précis, notamment au fur et à mesure que les modèles dépasseront de nouveaux seuils de complexité.
Elle se rapprocherait alors du modèle prescriptif européen, fondé sur des obligations vérifiables et des contrôles coordonnés par les autorités.
De son côté, l’Europe commence également à surveiller activement les modèles les plus puissants, le Bureau européen de l’IA travaillant à la structuration d’une réponse spécifique aux nouveaux risques systémiques liés aux futurs modèles ultra‑puissants.
Les deux approches convergent vers un même objectif : encadrer à la fois les usages présents et les technologies de demain, tout en posant les bases d’une coordination transatlantique sur la gouvernance de l’IA de pointe.
Au‑delà de leurs différences techniques, leurs cadres respectifs, l’un structuré, l’autre plus agile, illustrent une tentative d’instaurer des garde‑fous internationaux complets face à la course technologique.
L’AI Act et la loi SB-53 illustrent une urgence : réduire l'écart entre la vitesse de l'innovation et la capacité du droit à prévenir les risques graves pour la collectivité. Dans un contexte où les modèles d'IA franchissent des seuils de capacités inédits, l'inaction n'est plus une option.
À terme, ces régulations pourraient inspirer un socle commun de principes pour la sécurité et la transparence des modèles de pointe, autour duquel se construira le futur droit international de l’IA.
* Pour Floating Point Operations Per Second (nombre d’opérations en virgule flottante par seconde). C’est une unité de mesure de la rapidité de calcul d'un système informatique et donc d'une partie de sa performance.
** « Les systèmes d’IA […] qui peuvent porter atteinte à la sécurité des personnes ou à leurs droits fondamentaux ce qui justifie que leur développement soit soumis à des exigences renforcées » (CNIL, 2025).
Pour aller plus loin : California Just Passed the First U.S. Frontier AI Law. Here’s What It Does.