Si l’Histoire peut nous apprendre quelque chose, c’est qu’un État, même démocratique, bien peigné, bardé de bonnes intentions et de comités d’experts, n’est jamais tout à fait l’ami naturel de la liberté d’expression. Et, surtout, qu’un pouvoir chargé de trier le vrai du faux, le sain du malsain, le supportable de l’intolérable, finit rarement par se limiter.
De nos jours, la censure ne se fait plus dans un bruit de bottes. Elle parle « risques systémiques », « sécurité en ligne », « lutte contre la désinformation », « protection de la démocratie », pour avancer par règlements, formulaires, obligations de retrait, plateformes sommées d’obéir avant même de comprendre.
Pour Jacob Mchangama, juriste danois et infatigable défenseur de la liberté d’expression, c’est précisément là que se joue le danger : non dans la haine ou le mensonge seuls, mais dans la tentation de confier à l’État le pouvoir de nous en délivrer. Car la machine construite pour faire taire les monstres d’aujourd’hui sera, demain, entre les mains de ceux que l’on redoutait. Dans la dernière partie de notre entretien, Jacob Mchangama nous alerte sur cette drôle de contre-révolution bureaucratique que nous voyons en marche – et qui prétend sauver la démocratie précisément de ce qui la fait vivre.
Où placer la frontière entre régulation nécessaire et ministère de la Vérité ?
Le Point : Vous montrez que le danger commence lorsque l’État reçoit le pouvoir de décider quelles paroles sont trop fausses, trop haineuses, trop dangereuses ou trop déstabilisantes. Où placer la frontière entre une régulation nécessaire et la naissance d’un ministère de la Vérité ?
Jacob Mchangama : Je commencerais par être honnête en admettant qu’il existe effectivement des limites : l’incitation à une violence imminente, les menaces réelles contre des personnes identifiées, les contenus pédopornographiques. Le critère américain dit « Brandenburg », établi en 1969, est d’ailleurs assez solide sur ce point : un discours peut être sanctionné lorsqu’il vise à provoquer un acte illégal imminent et qu’il est susceptible d’y parvenir. Ce n’est pas rien.
Le problème commence lorsqu’on glisse de ce terrain vers des catégories floues : « désinformation », « discours de haine », « apologie du terrorisme », « outrage commis à l’encontre d’un agent chargé d’une mission de service public », ou encore le « risque systémique » invoqué par l’Union européenne dans l’AI Act et le DSA. Dès lors que l’État se met à décider de ce qui est trop faux ou trop haineux, on lui a remis les clés.
Regardez le Brésil : le juge Alexandre de Moraes a ouvert une enquête sur les fausses informations en 2019, avant de se muer en procureur, en juge et en jury, selon des critères d’une imprécision sidérante – et l’attaque du 8 janvier 2023 contre le Congrès a quand même eu lieu. La censure n’a même pas atteint l’objectif démocratique qu’elle affichait.
Notre principe, dans le livre, est le suivant : réglementer les comportements, pas les points de vue. Sanctionner l’incitation imminente à la violence, la fraude, les menaces réelles et la diffamation strictement définie. Ne pas sanctionner les opinions sur le gouvernement, le prophète, la guerre ou les vaccins. Dès qu’un responsable politique se voit confier le pouvoir de décider quel discours est trop dangereux pour être toléré, son successeur hérite du même pouvoir.
L’État, plus grand producteur historique de désinformation
Aussi, votre livre rappelle que la désinformation ne vient pas seulement « d’en bas », des foules, des réseaux sociaux ou des complotistes, mais aussi « d’en haut », des gouvernements eux-mêmes. Les démocraties ont-elles oublié que l’État est lui-même l’un des plus grands producteurs historiques de désinformation ?
Complètement oublié – et c’est l’un des points sur lesquels j’aimerais particulièrement attirer l’attention du public français. De la manipulation par Bismarck de la dépêche d’Ems, qui a enflammé l’opinion française et conduit à la désastreuse guerre franco-prussienne de 1870, à l’affaire Dreyfus, jusqu’à la dissimulation par l’État du massacre des Algériens à Paris en 1961, les gouvernements ont menti à l’échelle industrielle, à maintes reprises, avec des conséquences souvent catastrophiques.
Entre 2016 et 2022, 91 lois ont été adoptées dans le monde pour lutter contre les « informations fausses ou trompeuses ». Rien qu’en 2021, 47 journalistes ont été emprisonnés pour « fausses nouvelles ». La Russie a infligé plusieurs centaines de millions de dollars d’amende à Google pour avoir refusé de retirer des contenus jugés « faux » sur la guerre. Pendant ce temps, Donald Trump poursuit le Wall Street Journal et le New York Times pour avoir publié des articles qui lui déplaisent, les accusant de diffuser de fausses informations.
La censure vertueuse, plus dangereuse que la censure brutale ?
La censure vertueuse est-elle plus dangereuse que la censure brutale, précisément parce qu’elle donne bonne conscience à ceux qui la pratiquent ?
D’une certaine manière, oui – et c’est difficile à admettre. Une censure brutale suscite la résistance. Le samizdat soviétique, la Charte 77, Solidarnosc, la presse sud-africaine anti-apartheid et, plus récemment, la résistance des médias hongrois en ligne face aux organes contrôlés par l’État d’Orban : tous ont prospéré parce que la censure était si manifeste qu’elle finissait par produire sa propre opposition.
La censure « vertueuse », elle, n’a pas ce problème. Quand Ursula von der Leyen affirme que l’UE sait ce qu’est la liberté d’expression parce que l’Europe est le berceau des Lumières, elle le croit sincèrement – même si Spinoza, Montesquieu et Voltaire ont tous publié anonymement, précisément parce que les lois européennes étaient trop dangereuses.
Lorsqu’un procureur français poursuit quelqu’un pour une publication « offensante » sur les réseaux sociaux, lorsqu’un policier allemand débarque dans un appartement au petit matin et le perquisitionne à cause d’un mème, ils rentrent chez eux persuadés d’avoir défendu la démocratie. Aucune voix dissidente ne leur dit le contraire, parce que tout le monde pense la même chose autour d’eux. Il est très difficile de réveiller un censeur qui dort sur ses deux oreilles. Et c’est l’un des grands défis auxquels l’Europe actuelle est confrontée.
Défendre des personnages odieux pour protéger les dissidents
Vous consacrez un chapitre aux « quatre hommes haineux » protégés par la Cour suprême américaine. Pourquoi faut-il parfois défendre juridiquement des personnages odieux pour protéger, à long terme, les journalistes, les dissidents, les minorités et les lanceurs d’alerte ?
L’affaire à laquelle je reviens toujours est celle de Brandenburg c. Ohio, en 1969. Clarence Brandenburg était un dirigeant du Ku Klux Klan qui, filmé en tenue officielle du KKK, avait menacé de « vengeance » les Noirs et les Juifs. La Cour suprême a statué à l’unanimité que son discours était protégé, à moins qu’il ne visait à inciter à des actes illégaux imminents. Et voici ce que les lecteurs français doivent savoir : Thurgood Marshall, le premier juge afro-américain, qui avait passé sa vie à lutter pour l’égalité raciale, s’est rallié à cette décision. Il protégeait un homme qui, s’il avait eu le pouvoir, l’aurait dépouillé de tous les droits qu’il avait conquis. Pourquoi ? Parce que Marshall comprenait que le même principe établi dans l’affaire Brandenburg protégerait les manifestants pour les droits civiques en Alabama, les manifestants antiguerre à Kent State et, plus tard, les militants de Black Lives Matter.
Le principe est que, quelle que soit la personne à qui vous faites confiance pour faire taire Brandenburg aujourd’hui, vous lui faites également confiance pour faire taire Martin Luther King demain.
La logique de l’affaire Skokie, en 1977, est identique : l’Aclu défendait des néonazis défilant dans une banlieue où vivaient des survivants de l’Holocauste. John Lewis l’a parfaitement résumé : « Sans le premier amendement et la liberté d’expression, le mouvement des droits civiques aurait été un oiseau sans ailes. » Le principe n’est pas que le discours soit bon. Le principe est que, quelle que soit la personne à qui vous faites confiance pour faire taire Brandenburg aujourd’hui, vous lui faites également confiance pour faire taire Martin Luther King demain.
L’Europe a-t-elle trop confiance dans la vertu de ses censeurs ?
L’Europe considère souvent le modèle américain comme naïf, brutal ou indifférent aux blessures causées par la parole. À l’inverse, votre livre suggère que le modèle européen, plus régulateur, peut produire une pente dangereuse. L’Europe a-t-elle trop confiance dans la vertu de ses propres censeurs ?
Beaucoup trop – et l’Europe en apporte aujourd’hui la démonstration la plus éclatante. Pendant des décennies, on a tenu pour acquis que nous avions des technocrates raisonnables, des juges solides, des fonctionnaires professionnels : le pouvoir de censurer était, croyait-on, entre de bonnes mains. Jusqu’au jour où un populiste arrive au pouvoir. En Italie avec Meloni, aux États-Unis avec Trump, en Hongrie avec Orban – où l’incitation à la haine contre la nation hongroise constitue déjà un délit –, l’architecture juridique bâtie par les libéraux européens se retrouve soudain entre les mains de dirigeants qu’ils jugent autoritaires.
L’an dernier, Pedro Sanchez s’est rendu à Dubai pour déclarer, au Sommet mondial des gouvernements, que l’Europe devait mettre fin à l’anonymat et poursuivre les PDG des entreprises technologiques. Maduro ne dit pas autre chose. Les notions floues de « risques systémiques » inscrites dans le DSA, le dispositif des « signaleurs de confiance », les amendes pouvant atteindre 6 % du chiffre d’affaires mondial : tout cela survivra à la Commission actuelle. La vraie question n’est pas de savoir si l’on fait confiance au censeur du moment. Elle est de savoir si l’on serait prêt à confier le même pouvoir à son pire ennemi politique. La plupart des Européens ne se la sont pas encore posée, ils pourraient bientôt y être contraints.
Plateformes : laxisme, pouvoir ou obéissance préventive ?
Les plateformes sont souvent accusées de laisser prospérer la haine, la radicalisation et la désinformation. Vous montrez aussi qu’elles peuvent devenir des machines à supprimer trop vite, trop largement, trop automatiquement. Le problème central des plateformes est-il leur laxisme, leur pouvoir ou leur obéissance préventive ?
Une obéissance préventive, et de très loin – même si les deux autres phénomènes existent bel et bien. Oui, les plateformes disposent d’un pouvoir considérable ; oui, elles ont parfois tardé à réagir face à des contenus réellement dangereux. Mais la dynamique actuelle va massivement dans l’autre sens.
Lorsque Thierry Breton a adressé à Elon Musk sa fameuse lettre avant son entretien avec Trump, en août 2024, le message était limpide : tenez-vous tranquille ou vous aurez le DSA sur le dos. On observe aujourd’hui la même mécanique aux États-Unis : lorsque le ministère de la Justice exige des réseaux sociaux qu’ils suppriment des contenus critiquant l’ICE, la Silicon Valley obtempère. C’est ce que les chercheurs appellent le jawboning : de l’intimidation réglementaire, une coercition gouvernementale sans loi formelle, précisément parce qu’une loi formelle serait soumise au contrôle de constitutionnalité.
Les plateformes se retrouvent prises entre deux feux, et leur réponse rationnelle tient en une règle simple : dans le doute, on supprime. Le résultat est exactement celui que nous avons documenté : l’immense majorité des contenus retirés sont légaux !
Les démocraties demandent-elles aux plateformes de censurer par panique ?
À force de contraindre les plateformes à retirer vite, large et préventivement, les démocraties ne leur demandent-elles pas, en pratique, de censurer par panique ?
Oui, le mot « panique » est tout à fait juste et résume parfaitement tout le cycle réglementaire ouvert après 2016. Après le Brexit et la première élection de Trump, les élites ont paniqué devant les bots russes ; après le Covid, devant l’« infodémie » ; après le 7-Octobre, devant les discours de haine. À chaque vague de panique ont répondu de nouvelles obligations de retrait, des délais de réaction toujours plus courts, des catégories de contenus interdits toujours plus larges. Les plateformes ne vont pas examiner chaque cas limite en vingt-quatre heures : elles vont supprimer. Et la plupart des prémisses de cette panique ne résistent pas à l’examen.
On ne construit pas des démocraties résilientes en cédant à la panique. Les études menées par Princeton, l’Alan Turing Institute et l’Edmo sur les élections de 2024 n’ont pratiquement trouvé aucune preuve que la désinformation générée par l’IA ait pesé sur les résultats. Mais les lois nées de cette panique, elles, restent. À Munich, J.D. Vance s’est montré hypocrite ; sur un point, pourtant, il avait raison : si votre démocratie peut être renversée par quelques centaines de milliers de dollars de publicité numérique étrangère, c’est qu’elle n’était pas bien solide au départ. On ne construit pas des démocraties résilientes en cédant à la panique.
L’IA : danger inédit ou vieille panique des pouvoirs ?
L’intelligence artificielle relance-t-elle vraiment un danger inédit, ou seulement la plus vieille panique des pouvoirs : l’idée que les masses pourraient croire autre chose que ce qu’on leur recommande ?
Principalement la seconde, avec une fine couche de la première. Chaque révolution des communications déclenche la même panique chez les élites. L’imprimerie allait détruire la chrétienté. La radio allait livrer l’Europe aux démagogues. La télévision allait ramollir les cerveaux. Les réseaux sociaux allaient enterrer la démocratie. Aujourd’hui, l’IA est censée faire tout cela à la fois.
Il y a une part de vrai : l’IA peut démultiplier les capacités de persuasion, et ce risque mérite d’être pris au sérieux. Mais les données empiriques de 2024 sont éloquentes : les études menées par Princeton, l’Alan Turing Institute et l’observatoire européen Edmo sur la désinformation générée par l’IA aux États-Unis, au Royaume-Uni, en France, en Inde et dans l’Union européenne n’ont pratiquement trouvé aucune preuve d’une influence sur les résultats électoraux. L’érosion de la confiance, elle, est bien réelle – mais elle est nourrie autant par les élites qui hurlent au péril que par le péril lui-même.
Pendant ce temps, en Biélorussie, au Venezuela et en Russie, des dissidents et des journalistes utilisent l’IA pour écrire sous pseudonyme, traduire des ouvrages interdits, recenser les victimes que leurs gouvernements cherchent à dissimuler. En Russie, le projet IStories s’est servi de l’IA pour identifier plus de 100 000 morts de guerre. Comme toutes les technologies de communication avant elle, l’IA est un exosquelette : elle amplifie celui qui s’en sert. Toute la question est de savoir si nous laisserons les gouvernements s’augmenter eux-mêmes tout en nous désarmant, nous.
La « récession » de la liberté d’expression : revanche des bureaucraties ?
Ce que vous appelez la « récession » de la liberté d’expression n’est-elle pas, au fond, une revanche des bureaucraties contre le chaos démocratique de la parole ?
C’est une façon très acérée de voir les choses, et je crois que c’est une analyse globalement juste. Pendant l’essentiel du XXe siècle, les gatekeepers – rédacteurs en chef, présentateurs de radio et de télévision, hauts fonctionnaires, administrateurs d’université – étaient les détenteurs par défaut des clés de l’espace public. Internet ne s’est pas contenté d’élargir la liberté d’expression : il a démantelé cette classe de portiers. Du jour au lendemain, un adolescent de Manille pouvait atteindre le même public que la BBC. Un vendeur ambulant tunisien pouvait déclencher une révolution régionale. Pendant une quarantaine d’années, de la Charte 77 au Printemps arabe, cela a semblé être un bien démocratique incontestable.
C’est la tradition du contre-discours qui a vaincu la ségrégation, l’apartheid, le bloc soviétique. Elle fonctionne encore. Nous avons simplement perdu la patience que demande sa mise en œuvre.
Puis sont arrivés 2016, le Brexit, Trump, Duterte, Bolsonaro – et les portiers en ont conclu que les masses avaient échoué au test. Le DSA, le NetzDG, l’Online Safety Act, le Kosa, l’AI Act : autant de tentatives, au fond, de restaurer le contrôle de l’accès à l’information à l’ère numérique, mais avec des bureaucraties et des plateformes à la place des rédacteurs en chef. La « souveraineté numérique » était autrefois un concept dont nous nous moquions lorsqu’il venait de Chine. Aujourd’hui, Bruxelles le revendique à pleine voix. Une véritable contre-révolution bureaucratique est en marche, justifiée comme une défense de la démocratie contre les effets de la liberté d’expression démocratique. C’est cette contradiction que Jeff et moi essayons de mettre au jour.
Les solutions : contre-discours, transparence, décentralisation
Votre solution repose beaucoup sur le contre-discours, la transparence, la décentralisation. Mais on peut se poser cette question : ces remèdes séduisent-ils encore une époque qui préfère supprimer un problème plutôt que chercher à le régler ?
Nos solutions sont effectivement plus difficiles à vendre que la censure : la censure est rapide et visible ; la contre-argumentation est lente et discrète. Mais elle, au moins, fonctionne vraiment – ce que les autres solutions ne peuvent pas prétendre. Prenez la vérification participative des faits. Une étude de l’université de Californie à San Diego sur les Community Notes consacrées au Covid sur X a relevé un taux d’exactitude de 96 %, avec 87 % des contributions s’appuyant sur des sources de grande qualité. Une étude de Cornell a montré que la vérification participative taïwanaise surpassait les vérificateurs traditionnels face à la désinformation chinoise. Taïwan a traversé la pandémie de Covid et la guerre informationnelle menée par Pékin sans recourir à la censure – et s’en est mieux sorti que la plupart des démocraties occidentales.
Même chose pour le contre-discours. Mina Dennert a lancé #iamhere en Suède sous la forme d’un simple groupe Facebook ; le mouvement compte aujourd’hui 150 000 bénévoles dans quinze pays, mobilisés contre la haine en ligne. Daryl Davis, musicien de jazz noir, a personnellement convaincu quelque 200 membres du KKK de quitter le Klan. Dans notre think tank, nous avons développé des kits de contre-discours en dix langues et formé plus de 200 praticiens à travers le monde.
Quant à la transparence, j’ai proposé la création d’un Jawboning Repository : un registre où les entreprises et les plateformes d’IA rendraient publique chaque demande de censure venue d’un gouvernement, obligeant ainsi les responsables politiques à assumer leurs pressions au grand jour. Rien de tout cela n’est une panacée. Mais aucune de ces solutions n’exige de confier la vérité à Donald Trump ou à Emmanuel Macron. C’est la tradition du contre-discours qui a vaincu la ségrégation, l’apartheid, le bloc soviétique. Elle fonctionne encore. Nous avons simplement perdu la patience que demande, il est vrai, sa mise en œuvre.
