Les technologies IA sont d'essence fasciste, nous dit tante, militant antifasciste et technocritique.

IA, dans ce texte, signifie les algorithmes de reconnaissance de motifs et de génération aléatoires.

Plusieurs arguments.

l'IA comme violences

4 violences faites par les algorithmes d'IA :

1. Le vol des données pour l'entraînement
2. Les violences psychologiques imposées aux annotateurs pour éliminer les contenus choquants ingérés ou produits par ces algorithmes
3. La prétension à saisir tout le savoir humain, alors qu'il oublie/exclut mécaniquement les cultures non-écrites ou non-numérisées et qu'il renforce les biais de représentation
4. La violence contre les femmes et les minorités, permises par ces algorithmes (nudification...)

Utiliser l'IA, c'est accepter ces violences. Nous faire accepter une société de dominations et de violences, c'est le projet des fascistes.

Je trouve l'argument peu convaincant : le fasciste utilise la violence de façon visible et menaçante, pour en faire une composante de la société qu'il gangrène. Alors que les violences citées ici ne sont assumées que par une minorité des promoteurs de l'IA, ceux ouvertement fascistes (Thiel et Trump). En-dehors d'eux, des acteurs comme Anthropic, OpenAI ou Mistral tendent plutôt à taire ces violences ou, à défaut, à les nier ou les minorer.

J'adhère bien plus à tous les arguments suivants.

un outil contre les travailleurs

Par :

• la mise en concurrence de soi contre nos collègues (qui, eux, pourraient utilisent l'IA)
• la dévaluation du travail d'autrui (le dessinateur qu'on oublie au profit de midjourney)

... l'IA sert à détruire les solidarités ouvrières, à nous atomiser face au patron.

pour détruire la vérité et la confiance

Les chatbots s'attaquent aux institutions qui médient notre rapport au monde (journalistes, universités, ...) : en facilitant la prolifération de contenus plausibles mais faux, ils nous rendent incapables de distinguer les informations fiables de celles mensongères. Ils détruisent l'espace social dans lequel on peut débattre et vérifier l'information.

L'algorithme étant opaque par essence, on ne peut pas comprendre ou expliquer la réponse d'un chatbot, donc on ne peut pas l'accepter ou la réfuter: on ne peut qu'y croire ou pas. En ce sens, c'est un instrument de pouvoir : qui contrôle l'algorithme contrôle les croyances qui sont diffusées tout en marginalisant, en même temps, les institutions susceptibles d'établir des connaissances et permettant la confiance dans l'information.

pour détruire la bureaucratie, donc la démocratie

La bureaucratie est le mécanisme que les démocraties ont trouvé pour assurer l'application écrite et transparentes des règles par l'État, notamment des décisions qui concernent les citoyens.

En permettant de remplacer la bureaucratie par des algorithmes opaques au nom de l'efficacité, les technologies IA font primer l'arbitraire sur la transparence et rendent opaques les responsabilités dans les institutions qui exercent leur pouvoir sur et contre nous.

la volonté de restauration d'un futur glorieux, le mépris de la dignité humaine

La foi dans la singularité, et le paradis terrestre à venir grâce à l'IA fonctionne comme la nostalgie de l'ordre ancien des fascistes classiques et la volonté de restauration qui l'accompagne : un projet politique qui méprise les gens, en particulier les plus faibles, au profit d'un futur glorieux, empreint de puissance.

divers points

Utiliser l'IA, c'est intégrer une vision du monde structurée par les fascistes. C'est se faire embarquer involontairement sur un chemin qui mène au fascisme.

l'opensource, c'est merveilleux mais les tendances centrées sur l'individu et portant en étandard une "neutralité" morale et politique en font un espace qui ne s'opposera pas au fascisme. Les licences opensource ne permettent pas de s'opposer au fascisme.

conclusion : il fait détruire l'IA.