Anthropic lance un appel à un moratoire mondial sur l'IA
La start-up américaine Anthropic, connue pour son modèle d'intelligence artificielle Claude, a proposé ce jeudi un moratoire mondial concerté sur le développement de l'IA avancée. Dans un document de 12 pages, l'entreprise suggère une pause temporaire dans l'entraînement des modèles les plus puissants, afin de permettre une évaluation approfondie des risques et la mise en place de normes internationales.
Un appel à la coopération internationale
Anthropic ne demande pas un arrêt unilatéral, mais plutôt un accord entre les principaux acteurs du secteur, notamment OpenAI, Google DeepMind et Meta. L'objectif est de créer un cadre de régulation commun, avant que les capacités de l'IA ne dépassent les garde-fous actuels. Selon l'entreprise, les risques liés à l'IA, comme la désinformation, la perte d'emplois ou les usages malveillants, nécessitent une réponse globale.
Des précédents dans l'histoire
Ce n'est pas la première fois qu'un moratoire est proposé. En mars 2023, une lettre ouverte signée par des milliers de personnalités, dont Elon Musk, appelait à une pause de six mois dans le développement des IA les plus puissantes. Cependant, cette initiative n'avait pas abouti à un accord concret. Anthropic espère que sa proposition, plus détaillée et concertée, pourra convaincre les gouvernements et les entreprises.
Les réactions du secteur
Les réactions sont mitigées. Certains experts saluent l'initiative, estimant qu'elle permettrait de mieux anticiper les dérives. D'autres, comme le chercheur Yann LeCun, estiment qu'un moratoire ralentirait l'innovation et donnerait un avantage à des pays comme la Chine, moins enclins à suivre ces règles. Anthropic répond que la sécurité doit primer sur la compétitivité.
Vers une régulation internationale
L'entreprise propose la création d'une agence internationale de l'IA, similaire à l'AIEA pour le nucléaire, qui superviserait le développement des modèles les plus avancés. Cette agence serait chargée d'évaluer les risques, de délivrer des licences et de coordonner les réponses en cas d'incident. Anthropic espère que cette proposition sera discutée lors du prochain sommet mondial sur la sécurité de l'IA prévu en 2027.
En attendant, la start-up continue de développer Claude, mais s'engage à ne pas entraîner de modèles dépassant certains seuils de capacité tant qu'un accord international n'aura pas été trouvé. Un geste fort qui pourrait inspirer d'autres acteurs du secteur.
