Dans une tribune publiée par Le Monde, des chercheurs et experts en intelligence artificielle mettent en garde contre la neutralité apparente des grands modèles de langage comme GPT-4 ou Claude. Selon eux, cette neutralité affichée constitue une forme de pouvoir particulièrement redoutable, car elle masque des choix idéologiques et des biais implicites.
Une neutralité trompeuse
Les grands modèles d'IA sont souvent présentés comme des outils neutres, capables de répondre objectivement à toute question. Cependant, les auteurs de la tribune soulignent que cette neutralité est illusoire. En réalité, ces systèmes sont entraînés sur des données massives issues d'Internet, qui reflètent les préjugés et les rapports de force de la société. Par exemple, une étude citée dans l'article montre que les modèles de langage ont tendance à associer les métiers prestigieux à des hommes blancs, perpétuant ainsi des stéréotypes.
Les experts estiment que la prétendue neutralité des IA leur confère une autorité incontestée, rendant leurs réponses difficiles à contester. « La neutralité apparente d'un grand modèle d'IA est sa forme de pouvoir la plus redoutable », affirment-ils. Ils ajoutent que cette objectivité de façade permet d'imposer des normes et des valeurs sans débat démocratique.
Des conséquences concrètes
Les implications de ce phénomène sont vastes. Dans le domaine de la justice, par exemple, des algorithmes sont utilisés pour évaluer la récidive ou fixer des peines. Si ces systèmes sont perçus comme neutres, leurs décisions risquent d'être acceptées sans critique, alors qu'elles peuvent être biaisées contre certaines minorités. De même, dans l'éducation, l'utilisation d'IA pour noter des dissertations ou orienter des élèves pourrait reproduire des inégalités.
Les auteurs de la tribune appellent à une prise de conscience collective. Ils recommandent de développer des mécanismes de transparence et de contrôle démocratique sur les IA. « Il est urgent de sortir de l'illusion de la neutralité pour engager un débat public sur les valeurs que nous voulons voir incarnées par ces technologies », concluent-ils.
Des solutions en débat
Plusieurs pistes sont évoquées pour remédier à ce problème. Certains chercheurs préconisent d'intégrer des comités d'éthique dans le développement des IA, tandis que d'autres plaident pour une régulation plus stricte par les pouvoirs publics. La question de la diversité des équipes de développement est également centrale : une équipe homogène risque de produire des IA aux biais inconscients.
En attendant, les utilisateurs sont invités à adopter un regard critique sur les réponses fournies par les IA. « Ne prenez jamais une réponse d'IA pour argent comptant », rappellent les experts. La neutralité n'est qu'une apparence, et derrière elle se cachent des choix politiques et éthiques qu'il convient de questionner.
