Ce lundi 15 juin s'ouvre le sommet du G7 à Évian, où les chefs d'État doivent appeler à « accélérer » l'adoption de l'intelligence artificielle. Mais cette approche méconnaît l'enjeu critique de sécurité de l'IA, dénonce l'association Pause AI dans une tribune cosignée par un collectif de chercheurs, écrivains et responsables associatifs.
Un élan de sécurité rapidement dissipé
En 2023, sous présidence japonaise, le G7 adoptait un code de conduite (le cadre HAIP) pour promouvoir des systèmes d'IA sûrs et fiables, peu après le lancement de ChatGPT. Mais l'élan s'est dissipé. La présidence italienne de 2024 a missionné l'OCDE, mais dès 2025, à Kananaskis, la sécurité a cédé la place à la confiance : « Lorsque l'adoption de l'IA s'intensifiera, il restera essentiel de maintenir un climat de confiance », lisait-on dans la déclaration finale.
En amont d'Évian, les ministres du numérique du G7 ont déclaré vouloir promouvoir une IA « sûre et responsable » tout en « accélérant l'innovation », sans voir la contradiction. Les dangers sont réduits à la protection des mineurs ou à l'empreinte environnementale, une approche insuffisante.
Risques catastrophiques
Un code optionnel de bonnes pratiques est loin de suffire. Voici les principaux risques :
- Perte de contrôle sur la propagande et la désinformation : L'IA générative automatise la production de contenus persuasifs et de faux comptes, manipulant l'opinion.
- Perte de contrôle sur la cybercriminalité : L'IA abaisse le seuil de qualification pour les attaques, rendant possibles escroqueries, fraudes, voire attaques chimiques.
- Perte de contrôle de la sécurité informatique : Les modèles récents détectent mieux les vulnérabilités que les humains, risquant de déstabiliser l'informatique mondiale. Les agents autonomes peuvent détruire ou divulguer des données.
- Perte de contrôle du commandement des armées : Les armes autonomes délèguent toujours plus de décisions à l'IA, avec des conséquences humaines et stratégiques.
- Perte de contrôle général : Une super-intelligence pourrait prendre le contrôle sur l'humanité, scénario jugé crédible par de nombreux experts.
Appel à un moratoire
Les dangers sont établis : en septembre 2025, plus de 300 personnalités (dont 9 anciens chefs d'État, 11 Nobel, 2 prix Turing) ont soutenu l'appel à des lignes rouges. En février 2026, le rapport international sur la sécurité de l'IA, présidé par Yoshua Bengio, a scientifiquement établi les dangers. Un sondage OpinionWay de mai 2026 montre que seuls 8 % des Français veulent accélérer l'IA, une majorité réclamant un encadrement strict.
Il est urgent de réguler les modèles dangereux. Des réglementations existent déjà, comme aux Pays-Bas et aux États-Unis contre les IA de recommandation. En France, un projet de loi sur la présomption de violation des droits d'auteur pourrait freiner les IA génératives. Il faut appliquer le principe de précaution et décréter une pause dans le développement des modèles d'IA généraliste, dont les capacités progressent de manière incontrôlable.
Cette pause, réclamée par le mouvement international Pause AI (présent dans treize pays), nécessite une gouvernance mondiale avec des scientifiques indépendants, impliquant les États-Unis, la Chine et autres. Des bases existent : travaux de l'OCDE, rapport international, principes de l'ONU, Unesco, CICR. Le moratoire devra durer jusqu'à ce que les modèles satisfassent aux exigences de sécurité et de contrôle démocratique.
Cette tribune est à l'initiative de l'association Pause AI, signée par un collectif de chercheurs, écrivains et responsables associatifs, dont Lisa Belluco, Max Andersson, Corentin Jorel, Matteo Tacchi-Bénard, Julien Gobin, Marius Bertolucci, Colin de la Higuera, Martin Gibert, Jérémy Perret, Eloïse Benito, Patrick Albert, Sébastien Lebrun, Maxime Fournes, Clémence Peyrot, Jeremy Eliosoff, Joseph Miller, Benjamin Schmidt, Giulia Consonni, Otto Barten, Olle Häggström, Maxime Derian, Diego Hidalgo, Titouan Lustin, Jean-Lou Fourquet, Baptiste Detombe, Abel Quentin, Vinz Kanté, Gaetan Selle, Shaïman Thürler, et Théodore Brossollet.
