Aux États-Unis, l’administration Trump exige depuis le mois dernier un examen gouvernemental des modèles de pointe trente jours avant leur sortie, une procédure critiquée pour son manque de rigueur technique et de transparence. C’est dans ce contexte que Demis Hassabis, cofondateur et dirigeant de Google DeepMind, propose de sortir cette évaluation des mains de l’État pour la confier à un organisme professionnel indépendant, sur le modèle de ceux qui encadrent déjà la finance américaine.
Un organisme calqué sur le régulateur financier FINRA
Dans un texte publié sur X, Demis Hassabis appelle les États-Unis à mettre en place un nouvel « organisme de normes », qui prendrait la forme d’un partenariat public-privé sous supervision fédérale ou d’un organisme d’autorégulation, à l’image de la Financial Industry Regulatory Authority (FINRA), qui encadre les maisons de courtage américaines sous la tutelle de la SEC. Son conseil d’administration devrait, selon lui, réunir des experts techniques indépendants ainsi que des représentants du monde de l’open source. Le financement, jugé « substantiel » pour attirer des talents de premier plan et disposer de ressources de calcul suffisantes pour des tests à grande échelle, reviendrait principalement à l’industrie elle-même.
Une adhésion volontaire, puis progressivement obligatoire
Le dispositif imaginé par Hassabis prévoit une montée en puissance progressive : les laboratoires de pointe partageraient d’abord volontairement leurs modèles avec l’organisme, jusqu’à trente jours avant leur sortie, afin qu’ils soient évalués. Une fois le protocole jugé « efficace et robuste », le passage à un cadre obligatoire pourrait suivre rapidement : la certification deviendrait alors une condition préalable au déploiement sur le marché américain. Les laboratoires travailleraient également avec l’organisme pour corriger toute vulnérabilité critique découverte après la mise sur le marché.
Cybersécurité, biologie, dérives des IA agentiques : le champ des évaluations
Les tests envisagés couvriraient des domaines jugés à haut risque, comme la cybersécurité ou les menaces biologiques, mais aussi des comportements plus spécifiques aux IA agentiques, telles que les tentatives de contournement des garde-fous de sécurité ou les signes de tromperie de la part d’un modèle. L’organisme veillerait également au respect de bonnes pratiques, comme le marquage numérique des images générées par IA. Pour Hassabis, l’industrie reste aujourd’hui prise dans une compétition commerciale et géopolitique telle que le rythme des avancées technologiques dépasse largement notre capacité à en comprendre les conséquences : face à une incertitude et à des enjeux aussi élevés, une forme d’optimisme prudent constituerait, selon lui, la seule stratégie raisonnable.
Une réponse implicite aux critiques visant les contrôles de l’administration Trump
Plusieurs médias américains, dont TechCrunch, relient cette proposition aux examens ad hoc menés par le gouvernement américain sur les derniers modèles de pointe, dont Claude Mythos 5 d’Anthropic et GPT-5.6 Sol d’OpenAI, dans le cadre du décret signé le mois dernier par Donald Trump. Ce dispositif impose aux entreprises d’IA de soumettre leurs modèles les plus performants à une vérification de sécurité gouvernementale trente jours avant leur lancement. Or, ces évaluations ont été critiquées par l’industrie pour leur manque d’expertise technique et l’opacité de leur processus décisionnel. En proposant de confier cette mission à un organisme indépendant mais reconnu par l’État, Hassabis cherche à offrir une alternative crédible, à mi-chemin entre l’autorégulation totale des laboratoires et une réglementation gouvernementale jugée trop rigide pour suivre le rythme du secteur.
Un cadre applicable à tous les modèles de pointe, sans distinction d’origine
Demis Hassabis précise que le champ d’application de cet organisme concernerait l’ensemble des modèles de pointe, quelle que soit leur nationalité ou leur nature, ouverte ou fermée, à l’exclusion des modèles non considérés comme étant à la pointe, notamment ceux développés par des start-ups ou dans le monde académique. Il affirme vouloir voir cet organisme opérationnel avant la fin de l’année, et indique avoir déjà informé l’administration Trump, des laboratoires concurrents ainsi que des responsables européens, décrivant les retours reçus jusqu’ici comme « très positifs ».
Source:
www.zdnet.fr
