Répression numérique douce : comment l'intelligence artificielle est exploitée pour consolider l'hégémonie capitaliste

Surveillance et contrôle numériques

Les entreprises numériques, en coopération avec les principaux États, surveillent les mouvements des individus à l’aide d’appareils intelligents et de divers moyens de communication. Toutes les activités numériques, y compris les réunions à huis clos censées être sécurisées, font l’objet d’une surveillance et d’une analyse constantes. En pratique, il n’existe presque pas d’espace numérique entièrement protégé ; Les données sont systématiquement collectées puis utilisées pour évaluer et classer les individus et les groupes en fonction de leurs modèles de comportement et de leurs orientations intellectuelles et politiques.

En outre, la surveillance numérique est devenue un outil central pour surveiller les tendances intellectuelles et politiques des utilisateurs, permettant aux entreprises et aux gouvernements de les suivre et de les cibler par le biais de campagnes de désinformation organisées ou d’imposer des sanctions numériques qui limitent et réduisent leur influence sur l’opinion publique. Ces stratégies sont systématiquement et secrètement appliquées contre les organisations syndicales, les groupes de gauche et les institutions indépendantes de défense des droits de l’homme et des médias, qui sont toutes confrontées à des restrictions croissantes qui limitent la diffusion de leurs idées dans l’espace numérique public par des méthodes indirectes et subtiles difficiles à détecter. Les entreprises capitalistes et les grands États utilisent des algorithmes dans les réseaux sociaux et les systèmes d’IA avec précision et systématisation pour restreindre la portée des messages politiques de gauche et progressistes, parfois sans recourir à la suppression directe.

Ces pratiques rendent la répression numérique plus complexe, plus dangereuse et plus invisible, car le faible engagement avec les contenus progressistes semble être une réaction naturelle du public, alors qu’en réalité, il résulte d’algorithmes préconçus visant à réduire sa visibilité. De nombreuses études ont documenté des phénomènes connexes, tels que la « bulle de filtre » créée par les algorithmes pour isoler les utilisateurs des contenus politiques qui remettent en question leurs opinions, et des rapports sur les biais algorithmiques favorisant le discours traditionnel de droite par rapport au contenu de gauche. Des fuites et des documents internes d’entreprises comme Facebook ont révélé des stratégies délibérées pour réduire la visibilité de certains mouvements politiques ou de défense des droits de l’homme en limitant leur portée ou en désactivant les notifications, tout en maintenant une façade de neutralité. Ces politiques créent une fausse impression chez les militants que leurs idées sont inefficaces ou impopulaires, poussant certains à l’autocensure ou à l’ajustement de leur discours. Voir les sources : (1,2,3,4,5).

Déresponsabilisation numérique

La déresponsabilisation numérique est un nouvel outil avancé de domination de classe, où les algorithmes et l’IA sont utilisés systématiquement et imperceptiblement, sur le long terme et progressivement, pour diffuser des contenus qui favorisent les sentiments d’impuissance et de résignation, en particulier chez les utilisateurs d’orientation gauchiste et progressiste. Ce mécanisme amplifie les échecs et les faiblesses des expériences socialistes et des organisations de gauche, tout en dépeignant le capitalisme comme un système éternel et invincible, renforçant ainsi l’idée que le changement est impossible. L’individualisme est promu, ainsi que des solutions personnelles telles que la consommation et le développement personnel, isolant les individus de l’action politique collective et organisée. De plus, les débats au sein des organisations de gauche sont orientés vers des conflits marginaux et amplifiés, détournant l’attention des efforts et affaiblissant la capacité de résistance. Les grandes entreprises analysent le comportement numérique pour cibler les utilisateurs et les groupes avec un contenu qui génère de la frustration, leur faisant sentir que le changement socialiste est soit impossible, soit extrêmement difficile. Ces politiques et méthodes ne sont pas des outils accidentels mais scientifiques délibérés conçus pour faire avorter ou affaiblir l’esprit de changement et assurer la survie du système capitaliste sans défis réels et efficaces.

Arrestation et assassinat numériques

L’arrestation numérique représente une étape plus dangereuse que la surveillance et le contrôle, car elle va au-delà de la restriction de la portée du contenu pour imposer des restrictions arbitraires sur les comptes individuels et de groupe, les suspendre temporairement pour des périodes variables ou les supprimer définitivement – ce qui peut être considéré comme une forme d’assassinat numérique – sans transparence, sans normes claires ou lois locales ou internationales défendant les droits des utilisateurs. Des excuses telles que « violer les normes de la communauté » ou « promouvoir la violence » sont souvent utilisées pour faire taire ces voix, même si le contenu militant documente fréquemment les crimes des États et des entreprises capitalistes ou les violations des droits de l’homme. Un exemple est la répression numérique pratiquée par les plateformes de médias sociaux contre les contenus palestiniens documentant les crimes israéliens contre les civils. Au cours de l’assaut le plus récent contre Gaza, des entreprises comme Facebook, Instagram et Twitter ont supprimé et interdit des centaines de comptes et de publications documentant des crimes d’occupation sous des allégations de « violations des normes communautaires » ou de « promotion du terrorisme », bien que beaucoup soient des documents exacts de crimes de guerre confirmés par des organisations de défense des droits humains. Human Rights Watch a documenté en 2023 plus de 1 050 cas de suppression ou de restriction de contenus pro-palestiniens sur Facebook et Instagram entre octobre et novembre 2023, y compris des contenus purement pacifiques. J’ai personnellement été banni pendant un mois entier après avoir partagé un message de la Gauche palestinienne, et la page Facebook laïque (http://www.facebook.com/SecularFB), qui comptait plus de 200 000 abonnés, a été fermée pour avoir publié des articles exposant les crimes de l’occupation israélienne – y compris des articles condamnant les crimes du Hamas. Des agences de médias indépendantes telles que Quds News Network ont également été ciblées par la restriction de leur portée ou la suppression totale de leurs comptes, dans le but manifeste de faire taire les voix dénonçant les violations commises contre les civils palestiniens. Les médias et les rapports sur les droits de l’homme ont également mis en évidence le phénomène du « shadowbanning », par lequel les messages pro-palestiniens sont supprimés sans suppression, en particulier ceux contenant des hashtags tels que #FreePalestine ou #IStandWithPalestine, ce qui constitue une restriction non déclarée de la liberté d’expression dans l’espace numérique. Voir les sources (6,7,8).

Autocensure volontaire

La répression numérique et la portée restreinte des messages s’accompagnent du phénomène de « l’autocensure volontaire », où des individus et même des groupes commencent à s’imposer des restrictions, modifiant leur discours politique voire en changeant le contenu, en passant à des questions théoriques générales et en évitant la confrontation directe avec le capitalisme et les régimes autoritaires, par crainte d’une portée réduite, d’interdictions lors d’arrestations numériques, ou l’assassinat numérique par des fermetures de comptes par des algorithmes d’IA sur des plateformes numériques. Cette peur sape la liberté d’expression, devenant un facteur décisif dans la refonte et le contrôle du discours public avant même que des restrictions réelles ne soient imposées. Cela renforce l’hégémonie idéologique capitaliste, réduit l’espace de résistance numérique et transforme Internet en un espace autorégulé aligné sur les intérêts des puissances dominantes. Par exemple, lors de périodes de manifestations de masse dans divers pays contre les politiques capitalistes et autoritaires – et plus généralement, à différents niveaux – de nombreux utilisateurs ont remarqué que leurs messages contenant des mots tels que « grève générale », « désobéissance civile », « révolution » ou des textes dénonçant des crimes et des violations des droits de l’homme n’atteignaient pas leur visibilité habituelle, tandis que les messages analytiques généraux sur l’économie et la politique étaient beaucoup moins touchés. Cela a été évident lors des manifestations des « gilets jaunes » en France, où les médias ont documenté la suppression ou la restriction de messages appelant à des grèves de masse ou à une confrontation directe avec le gouvernement. Aux États-Unis, les militants du mouvement Black Lives Matter ont signalé une baisse importante de la portée des messages appelant à la désobéissance civile ou à des manifestations pacifiques contre les violences policières, en particulier sur Facebook et Instagram. Des plaintes similaires ont émergé de la part de militants en Inde lors des manifestations des agriculteurs de 2021, au cours desquelles des plateformes ont supprimé des publications ou bloqué des hashtags liés à des manifestations, comme #FarmersProtest, sous prétexte de « violer les lois locales ». Cela a conduit de nombreux militants à éviter d’utiliser des termes classés par les plateformes comme « incendiaires », déplaçant le discours public vers des contenus moins radicaux et révolutionnaires, réduisant ainsi l’espace de liberté d’expression et affaiblissant le rôle des médias sociaux en tant qu’outil de mobilisation politique et de changement radical. Voir les sources (9,10,11,12,13).

L’érosion de la démocratie par l’intelligence artificielle

Après avoir pris le contrôle de l’esprit et de la conscience humaine grâce à la numérisation, la question n’est plus seulement de maximiser les profits capitalistes, mais est également devenue un outil principal pour affaiblir et même saper la démocratie bourgeoise relative, plutôt que de la soutenir ou de l’étendre – même avec sa crédibilité limitée dans de nombreux pays, compte tenu de sa subordination à l’argent politique, aux lois électorales injustes servant des intérêts particuliers. et d’autres facteurs. Au lieu de favoriser une participation populaire consciente à la vie politique, la numérisation et l’IA sont exploitées pour remodeler et manipuler l’opinion publique conformément aux intérêts de la classe dirigeante, influencer les élections, réduire l’espace de libre débat et orienter le discours politique et médiatique au service des puissances capitalistes dominantes.

Le contrôle de classe de l’IA signifie que cette technologie – censée être un outil pour améliorer la transparence et la démocratie – est effectivement utilisée pour produire et promouvoir des récits qui préservent le système capitaliste existant. L’analyse des mégadonnées et les algorithmes intelligents sont exploités pour orienter l’information politique de manière à servir les institutions capitalistes, les mouvements de droite et néofascistes et les pouvoirs autoritaires, affaiblissant ainsi la capacité des masses à prendre des décisions politiques fondées sur une véritable conscience critique. Au sein du système capitaliste, l’IA n’est pas utilisée pour donner du pouvoir aux masses ou renforcer la prise de décision consciente et transparente, mais plutôt comme un outil pour déformer la réalité, reproduire la propagande et permettre la désinformation médiatique qui sape l’essence de la véritable démocratie – basée sur la transparence, l’accès à l’information et le pluralisme intellectuel et politique. Cela se fait en ciblant des groupes spécifiques avec un contenu adapté en fonction de leur comportement numérique, créant ainsi une opinion publique artificielle qui enracine l’hégémonie de classe et approfondit la polarisation politique et sociale. Non seulement il trompe les électeurs, mais il remodèle également l’environnement du débat politique, en le dépouillant de sa substance et en le saturant de propagande au service du capitalisme et des idées de droite. L’influence de l’IA va au-delà de la simple manipulation de l’information ; Il devient un outil central dans la reproduction du pouvoir politique capitaliste. En déployant des algorithmes dans les campagnes électorales, en adaptant les messages politiques aux intérêts du capital et en influençant les électeurs par un ciblage précis, les plateformes s’efforcent de neutraliser les voix de l’opposition et d’affaiblir les alternatives de gauche et démocratiques progressistes. Un exemple clair est l’intervention du milliardaire de droite Elon Musk dans les élections allemandes de 2025 par le biais de sa plateforme « X » (anciennement Twitter), où il a directement soutenu le parti d’extrême droite Alternative pour l’Allemagne en promouvant des contenus basés sur l’IA, en façonnant l’opinion publique et en renforçant la polarisation politique en faveur des forces de droite et néonazies.

Dans cet environnement, les élections ne reflètent plus la volonté populaire, même sous une forme relative, mais se sont transformées en une arène de lutte entre les grands États, les puissances monopolistiques et les oligarchies financières, qui utilisent Internet et l’IA comme outils de domination politique et idéologique. Cela déforme le pluralisme politique et corrompt les mécanismes démocratiques relatifs existants, car les pouvoirs en place affaiblissent les voix progressistes ou poussent les masses vers de fausses alternatives qui reproduisent le système capitaliste lui-même, avec des changements tout au plus superficiels.

Alternatives proposées par les forces de gauche, progressistes et des droits de l’homme pour faire face à cela :

L’IA comme outil de libération des droits de l’homme

L’IA doit être conçue pour servir d’outil de libération et de respect des droits humains, et non de restriction ou de violation. Pour y parvenir, il est essentiel d’adopter des initiatives progressistes de gauche garantissant la transparence, la surveillance et l’utilisation de l’IA qui promeut la justice et l’égalité, plutôt que de la laisser entre les mains de régimes autoritaires, de grands États et d’entreprises pour surveiller les individus et supprimer les libertés. Des cadres juridiques internationaux et locaux stricts doivent être créés pour criminaliser l’utilisation de l’IA dans les violations des droits humains, que ce soit par la surveillance, le ciblage des opposants et des militants, ou l’imposition d’une censure numérique qui conduit à l’arrestation numérique, à l’assassinat et à la restriction de la liberté d’expression. Les applications de l’IA dans le domaine de la sécurité doivent faire l’objet d’un contrôle judiciaire indépendant, avec la participation des organisations de la société civile à l’évaluation de leurs risques pour les libertés. Les réseaux mondiaux de solidarité devraient surveiller les abus de l’IA, boycotter les entreprises qui vendent des technologies de surveillance à des régimes autoritaires et les mettre sur liste noire.

Pour garantir cela, les systèmes d’IA open source doivent être soutenus et développés par des organismes indépendants, notamment la société civile et les institutions de défense des droits de l’homme, sous réserve d’un contrôle démocratique qui empêche les abus de la part des gouvernements, des entreprises monopolistiques et des régimes autoritaires. De tels systèmes peuvent être utilisés pour renforcer les droits humains en dénonçant les violations, en surveillant les performances du gouvernement et en analysant les données pour découvrir les pratiques répressives. Il est essentiel de renforcer le rôle des organisations de gauche, progressistes et de défense des droits de l’homme dans la surveillance de l’utilisation de l’IA. Des coalitions internationales peuvent être construites pour faire pression contre l’exploitation de cette technologie afin de consolider la domination et la répression numérique. L’IA peut également servir d’outil efficace pour contrer la censure numérique grâce au cryptage des données, aux communications sécurisées pour protéger les militants et les dissidents et à la surveillance des activités des gouvernements dictatoriaux. Dans le même temps, il faut sensibiliser le public aux dangers de la surveillance et du contrôle numérique et aux moyens d’y résister, en promulguant des lois locales et internationales contre les violations de la vie privée et en fournissant des outils techniques qui aident les individus à protéger leurs données et à garantir la liberté d’expression dans l’espace numérique.

L’IA au service de la démocratie et de la participation populaire

Il est essentiel de transformer l’IA d’un outil qui contribue à l’érosion d’une démocratie relative en un outil qui la renforce et la développe. La technologie doit donner du pouvoir aux masses, renforcer la participation politique sur la base de l’égalité et garantir la transparence et l’équité dans les processus démocratiques. L’IA peut être utilisée pour développer des plateformes sécurisées et transparentes pour le dialogue et le vote électronique, permettant aux citoyens d’exprimer leurs opinions et de participer directement et efficacement à la prise de décision à tous les niveaux, renforçant ainsi la démocratie participative et redonnant le pouvoir au peuple.

Des outils d’IA peuvent également être développés pour analyser et exposer automatiquement les fausses nouvelles et la désinformation, protégeant ainsi le public contre les campagnes visant à saper sa capacité à prendre des décisions fondées sur des faits. Ces outils peuvent être largement et librement utilisés dans le cadre d’un projet plus large visant à promouvoir la transparence des médias et à contrer l’hégémonie monopolistique des médias. Cela nécessite également de se battre pour des lois internationales et locales claires empêchant l’utilisation de l’IA pour manipuler l’opinion publique, en veillant à ce que les informations fournies au public soient exactes, objectives et reflétant la réalité, sans préjugés de classe ou idéologiques.

*****************************************

Extraits de mon livre publié « L’intelligence artificielle capitaliste, défis pour la gauche et alternatives possibles,La technologie au service du capital ou outil de libération ? », qui a déjà été traduit en plusieurs langues.

Lien gratuit vers le livre :

https://leanpub.com/ai-socialism-fre

*****************************************

Sources:

Bulle de filtre – Wikipédia

https://en.wikipedia.org/wiki/Filter_bubble

2.Jonathan Nagler et al. – Comment les plateformes technologiques alimentent la polarisation politique aux États-Unis et ce que le gouvernement peut faire pour y remédier – Brookings

https://www.brookings.edu/articles/how-tech-platforms-fuel-u-s-political-polarization-and-hat-government-can-do-about-it

PNAS – Amplification algorithmique de la politique sur Twitter

https://www.pnas.org/doi/10.1073/pnas.2025334119

Arxiv – Le biais d’amplification politique de l’algorithme Twitter For You

https://arxiv.org/abs/2411.01852

Fuite de Facebook en 2021 – Wikipédia

https://en.wikipedia.org/wiki/2021_Facebook_leak

Les promesses non tenues de Meta : censure systémique du contenu palestinien sur Instagram et Facebook – Human Rights Watch (21

https://www.hrw.org/report/2023/12/21/metas-broken-promises/systemic-censorship-palestine-content-instagram-and

Les géants des médias sociaux censurent-ils les voix pro-palestiniennes dans le contexte de la guerre d’Israël ?

https://www.aljazeera.com/features/2023/10/24/shadowbanning-are-social-media-giants-censoring-pro-palestine-voices

Meta « étouffe » les voix pro-palestiniennes sur les réseaux sociaux, selon un groupe de défense des droits de l’homme

https://www.aljazeera.com/news/2023/12/21/meta-stifling-pro-palestine-voices-on-social-media-hrw

Pourquoi Twitter a bloqué des comptes liés aux manifestations d’agriculteurs en Inde

https://time.com/5935003/india-farmers-protests-twitter

Des groupes de défense des droits civiques exhortent Facebook à corriger le système de modération « raciste » (facebook-moderation-racial-bias-black-lives-matter)

https://www.theguardian.com/technology/2017/jan/18/facebook-moderation-racial-bias-black-lives-matter