Dans le contexte actuel de tensions géopolitiques croissantes, la guerre de l’information fait rage avec des méthodes qui s’appuient sur les progrès des technologies numériques et les avancées des systèmes d’intelligence artificielle. Dans cette course à l’influence, les technologies persuasives sont de plus en plus largement utilisées pour manipuler les opinions, changer les comportements et infléchir les choix politiques. Dans ce domaine la Chine prend actuellement de l’avance avec une techno-politique conquérante associant acteurs économiques et militaires.
De la persuasion aux technologies persuasives
Persuasion
« La capacité de changer l’opinion est aussi ancienne que le langage humain. Depuis des millénaires, la persuasion, la rhétorique et la manipulation des opinions sont utilisées dans le commerce, la religion, l’éducation, la diplomatie, la politique…
Capter l’attention pour influencer orienter l’intention
Après la presse imprimée et l’affichage, ce sont les média audio-visuels qui ont été (et sont encore) largement utilisés pour capter notre attention afin de promouvoir tel ou tel produit ou service avec des messages uni-directionnels.
Les technologies numériques ont permis de développer une nouvelle forme de communication interactive qui nous permet de passer d’un état de réception passive des « messages » à un possible mouvement de production ou de réaction contributive.
L’arrivée du web 2.0 et de l’internet des plateformes a fait émerger des applications « sociales » dont le processus (collecte des données – génération automatique de profils – ciblage publicitaire) influence les intentions et le comportement des internautes, à leur insu, en les incitant céder aux injonctions des algorithmes.
Technologies persuasives
L’américain Brian J.Fogg a introduit le concept de technologie persuasive en 1997 en la définissant comme «tout système informatique interactif conçu pour changer les attitudes ou les comportements des gens». CAPT, acronyme de Computers as Persuasive Technology, lui a servi à créer le terme de captologie.
Conçus avec des objectifs louables comme la promotion d’un mode de vie plus sain (en encourageant la pratique du sport, une alimentation équilibrée…), les 42 principes de persuasion que Fogg décrit en 2003 dans son livre « Persuasive Technology : Using Computers to Change What We Think and Do » ont été abondamment appliqués à d’autres fins notamment notamment dans la publicité et les relations publiques.
Les médias sociaux, et plus généralement les plateformes interactives se servent de l’analyse des données, des neurosciences et de la psychologie sociale pour favoriser un changement de comportement de leurs utilisateurs. Avec des géants du net comme les GAFAM américains ou les BATX chinois ce sont des centaines et des centaines de millions de personnes qui sont sont exposées à ces technologies persuasives.
L’IA générative est le principal moteur des technologies persuasives émergentes, ainsi :
– les modèles d’apprentissage automatique qui identifient et exploitent les biais cognitifs peuvent fournir du contenu hyper-personnalisé et influencer les comportements à des niveaux sans précédent.
– l’utilisation de gigantesques ensembles de données en temps réel ainsi que la génération et la collecte simultanées de données nouvelles rend les incitations plus convaincantes, moins reconnaissables et potentiellement plus manipulatrices.
Largement employées pour influencer l’internaute-consommateur à acheter toujours plus de biens et de services, les technologies persuasives sont aussi utilisées pour façonner les opinions et influencer les choix politiques des internautes-citoyens
Technologies persuasives et (géo)politique
Démocraties
Face au détournement des technologies persuasives à des fins politiques, les démocraties sont particulièrement vulnérables en raison de la liberté d’expression et d’information qu’elles accordent à leur citoyens.
Les technologies de persuasion peuvent y être déployées via des campagne de désinformation ciblée ou de la propagande de réseau voire des opérations d’ingérence étrangère en ligne. Leurs effets subtils sur les comportements sont difficilement détectables pour être combattus Cela peut peut se traduire par la réduction de la participation à un scrutin ou la création d’un sentiment d’incertitude informationnelle conduisant à de l’apathie politique et/ou à de la méfiance envers les institutions, comme on a pu le voir dans les affaires « Cambridge Analytica » au Royaume-Uni et aux États-Unis, par exemple.
Régimes autoritaires
Les régimes autoritaire ont bien compris l’intérêt des technologies persuasives pour affaiblir leurs opposants. La surveillance (numérique) de masse est un outil de choix pour mieux consolider le pouvoir et réprimer la dissidence à l’intérieur de leur frontières (Chine, Iran,…). Leur propagandes via les médias sociaux vise d’abord leurs populations, elles peuvent aussi franchir les frontières dans le cadre de stratégies diplomatiques et militaires visant à établir un nouvel ordre mondial.
Si de nombreux pays et entreprises cherchent à exploiter le pouvoir des technologies persuasives émergentes telles que l’intelligence artificielle (IA) générative ), les objets connectés et les interfaces cerveau-ordinateur, la République populaire de Chine (RPC) dispose d’une force frappe redoutable.
L’éco-système industriel et commercial chinois au service du pouvoir
L’État-parti chinois associe étroitement une industrie technologique en pleine évolution avec un système politique et une idéologie qui promeut la création et l’utilisation de technologies persuasives à des fins politiques.Cette combinaison a de quoi nous préoccuper car elle permet à la Chine de développer rapidement des technologies innovantes tout en canalisant leurs applications vers le maintien de la stabilité du régime au niveau national, la refonte de l’ordre international, la remise en cause des valeurs démocratiques et la mise à mal des normes mondiales en matière de droits de l’homme.
TikTok et les autres
ByteDance et son application mobile très controversée TikTok n’est que la partie visible de l’iceberg ! De nombreuses entreprises technologiques chinoises développent et déploient de puissantes technologies persuasives au service de la propagande de l’armée et des services de sécurité publique du Parti Communiste Chinois (PCC). Certaines d’entre elles (Baidu, Tencent,…) sont des leaders mondiaux dans leur domaine.
Les outils de persuasion qu’elles développent sont des systèmes numériques qui façonnent les attitudes et les comportements des utilisateurs en exploitant les réactions ou les vulnérabilités physiologiques et cognitives. On peut citer ici : 1/ les dispositifs d’intelligence artificielle générative capables d’agir sur l’opinion publique ; 2/ les neurotechnologies réagissant instantanément aux émotions humaines ; 3/ les objets connectés
Quelques exemples
Une étude publiée fin2023 par The Australian Strategic Policy Institute (ASPI) a identifié plusieurs entreprises chinoises de premier plan qui ont déjà mis leurs technologies au services du PCC et du gouvernement de la RPC.
• Midu Technology, également connue sous le nom de « Sina·MData », est une société de technologie d’intelligence linguistique basée à Shanghai. Elle fournit des outils d’intelligence artificielle générative utilisés par le gouvernement chinois et les services du PCC pour renforcer le contrôle de l’opinion publique par l’Etat-parti. Ces capacités pourraient également être utilisées pour l’ingérence étrangère.
• Silicon Intelligence Technology, basée à Nanjing, est spécialisée dans la création de clones d’influenceurs humains générés par l’IA qui sont utilisés dans le e-commerce. Silicon Intelligence travaille également avec les services du PCC et du gouvernement pour créer des contenus idéologiques convaincants et facile à diffuser.
• OneSightTechnology, basée à Pékin, est une société spécialisée dans les services aux médias sociaux basés sur l’IA. Les plateformes en ligne pour lesquelles elle propose des services sont Facebook, X, Instagram, LinkedIn, YouTube… Elle a été épinglée en 2020 dans une enquête du journal d’investigation ProPublica qui l’a liée à une opération d’information soutenue par l’État chinois sur Twitter (maintenant X), dans laquelle un réseau de faux comptes relayait la propagande du gouvernement chinois à propos de Hong Kong, le Covid-19, etc.
• Mobvoi basée à Nanjing, a été fondée en 2012 par Li Zhifei, ancien scientifique de Google, expert en Large Language Models (LLM). Elle s’est spécialisée dans divers secteurs avec des produits tels que les montres intelligentes, les applications de synthèse vocale et les LLM d’apprentissage profond. Mobvoi a également noué une étroite collaboration avec le journal du parti Guangming Daily qui prétend utiliser “une technologie de communication avancée et des plateformes de communication riches pour guider correctement l’idéologie et la conscience sociales, diffuser une excellente culture et condenser l’esprit national”, devenant ainsi l’épine dorsale du front de l’opinion publique en ligne.
• Suishi Intelligent Technology, basée à Tianjin, développe et commercialise des interfaces cerveau-ordinateur non invasifs pour des applications médicales. Ils comprennent des appareils conçus pour détecter et évaluer en ligne les émotions et les problèmes de santé mentale tels que la dépression. Bien que cette technologie soit prometteuse pour des applications thérapeutiques, il y a un risque un risque que les données qu’elle collecte servent au gouvernement chinois pour influencer les émotions afin d’anticiper des menaces contre le régime, ou pour mener des opérations de manipulation à l’étranger.
• GoerTek, basé à Weifang, est un fabricant de composants électroniques qui a acquis une renommée mondiale pour les objets connectés et les appareils de réalité virtuelle (RV). Cette entreprise collabore sur des projets d’intégration militaro-civile et a développé une gamme de produits avec des applications à double usage, comme des appareils d’entraînement au pilotage de drones militaires.
Ces exemples nous montrent comment les entreprises technologiques chinoises et le État-parti pourraient déployer des technologies de persuasion développées commercialement en Chine pour poursuivre des objectifs illibéraux et autoritaires, tant au niveau national qu’à l’étranger, par des moyens tels que des campagnes d’influence en ligne, des opérations psychologiques ciblées, une répression transnationale, des cyberattaques et des capacités militaires renforcées.
Il est encore temps de réagir
La nouvelles générations de technologies persuasives permettent d’exercer une influence par le biais d’une connexion directe avec les réactions physiologiques et émotionnelles intimes. Cela constitue un risque que les choix des humains concernant leurs pensées et leurs actes puissent être soit orientés, soit complètement supprimés sans qu’ils en soient pleinement conscients.
Dit autrement, ces technologies persuasives toujours plus sophistiquées ne façonneront pas seulement ce que nous faisons ; elles ont le potentiel d’influencer qui nous sommes.
Face au développement et à l’adoption fulgurants de ces technologies persuasives au cours de la dernière décennie, les gouvernements démocratiques ont réagi lentement. Il est encore temps d’adopter des approches proactives pour réglementer les usages des technologies persuasives, et informer-former-éduquer les utilisateurs (et futurs utilisateurs) afin de protéger leur esprit critique ainsi que leur capacité à prendre des décisions conscientes et éclairées.
Principales références
- Asma Mhalla, Technopolitique : comment la technologie fait de nous des soldats, Éditions du Seuil, (2024)
- Anne Alombert, Schizophrénie numérique, Allia (2023),
- Persuasive technologies in China: implications for the future of national security, ASPI_CTS (2024)
Cet article a été republié le 4/02/25 à la Une du site“Educavox” : https://www.educavox.fr/alaune/technologies-persuasives-la-menace-chinoise
Vous avez pu lire cet article et naviguer sur le site sans être incommodé par de la publicité, des textes sponsorisés ou du traçage commercial alors que la rédaction des publications de ce blog demande un important travail de documentation et le recours à de nombreuses sources d’informations qui ne sont pas gratuites. Pour soutenir cette politique et permettre au blog de progresser avec plus d'illustrations didactiques : images et schémas animé(e)s ou non, c’est ICI
Post réellement prenant pour le béotien en New technology que je suis. J’attends avec impatience le second opus qui traite de l’éco-système industriel et commercial américain…. Au plan européen et Fr je pense que c’est inexistant 😒
Votre démonstration concerne les jeux d’influence (soft power) de la Chine, on a vu récemment que cela ne concerne pas uniquement ce pays. La montée en influence de Elon Musk, et son réseau X, celle de Facebook montre bien que les approches proactives sont également mises en œuvre par les Américains. Mais il y a aussi les russes dont on a vu en Ukraine, en Géorgie, en Slovaquie, les résultats dans l’orientation de ces pays. On assiste effectivement à la mise en œuvre de l’usage des possibilités du numérique pour développer son influence politique. L’Europe a pris conscience de ces enjeux avec Thierry Breton, qui malheureusement, a été écarté par Mme Van der Layen et pour le moment nous sommes en panne
Excellent article, brûlant d’actualités (Sommet sur l’IA à Paris, lundi et mardi derniers).
Que sait-on de l’état du développement de l’IA en Chine (% USA, la Russie et l’Europe) ?
De plus, il y a plusieurs IA :
– scientifique : gestion des data, capacités de calcul énorme… grand intérêt pour la médecine, le spatial… LA PLUS INTÉRESSANTE A DÉVELOPPER
– commerciale : vente dans grands magasins, ou en ligne…(les Chinois sont en pointe),
– persuasive (réseaux sociaux) : c’est l’objet de cet article…Grand problème, le différentiel entre
DÉMOCRATIES et DICTATURES sera toujours énorme (la domination et l’absence de libertés
n’ont pas d’éthique),
– générative : la plus PROBLÉMATIQUE, celle qui permet de générer des contenus frauduleux, sans droits d’auteurs !
L’UE doit rester dans la course INFORMATIQUE, avec une 3ème voie et une vision différente (de l’éthique, de la régulation) face à 2 mastodontes que sont les USA (règles du Far-West accentuées par le gouvernement Trump) et la Chine qui utilise l’IA uniquement au profit du POUVOIR).
Il reste beaucoup de travail à faire par la France pour atteindre cette 3e voie. Ce n’est pas IMPOSSIBLE !
Que ce soit dans la Tech, en général, ou dans l’IA, en particulier, les ambitions de la Chine sont planétaires dans son programme des Nouvelles routes de la Soie Numériques : https://hommesetsciences.fr/nouvelles-routes-de-la-soie-numeriques-ou-va-la-chine/
En fait nous sommes dans un choc d évolutions, d un coté les pays démocratiques, G7 Amérique du Nord Europe, et zone dans lesquelles il est plus facile d être tempérés et de bien penser (ce n est pas une questions de cultures de races mais d environnement),
et de l autre le Brics des régimes totalitaires et des présidents a vie et dont
la Chine et la Russie en sont les chefs de fils, ainsi que 2 / 5 membres permanents de l ONU, et qui ont profité et amplifié certain conflit et guerre de territoire, et seul conflit dans lesquelles les souterrains, pourtant sous écoles et hôpitaux n étaient pas destiné a protéger les civils, et donc dénaturé et médiatisé pour cacher massacres ouigours musulmans ou ukrainiens , et en même temps pour diviser peuples et pays démocratiques pour mieux régner, et les mettre entre extrêmes droites et ultra gauche, exemple – projet de loi 70.47 de LFI Ultra gauche en France : se détourner du libres échanges, et rejoindre la banque du Brics (chine Russie Iran Algérie Arabie … Etc),
Soit remplacer euros et dollars, ainsi que la nouvelle route de la soie Web, remplacer liberté d expression par censure, et peut etre nous offrir aussi un nouveau président a vie, insoumis a nos droits, liberté et valeurs
Une des stratégie du Brics des régimes totalitaires dont Chine est justement de nous reprocher d avoir été il y a encore moins d un siècles, des régimes totalitaires et colonialiste, même si nous avons évolué depuis le temps, il y a un siècles les femmes ne pouvaient voter, et un pays plus fort pouvait tout prendre a un pays plus faibles, et donc nous reproches d avoir été ce qu ils sont, car il est plus facile descendre les autres a leur niveau, que monter au notre, car plus de président a vie,
Les ultra gauche semblent aussi adapter les mêmes stratégie que les national socialistes en Allemagne 1931 a 45,
avec union de gauche qui croyait les amadouer, qui a ét malheureusement très efficaces
” choix aujourd’hui de ne plus avoir le choix demain, car le plus dure n est pas la chute, mais sera l atterrissage quand on nous retirera le bandeau sur nos yeux, mais cette fois pour attacher nos mains ” Heureusement il n y a pas de président a vie au USA, et elle reste l enfant de l Europe, de l Angleterre et de la France qui a le mieux réussit, et si il y avait une véritables alliance Amérique du nord Europe des pays démocratique, comme les régimes totalitaires avec le brics
ce serait le cauchemar de leurs présidents a vie
Les médias du G7 ou recommandation de leurs gouvernements, semblent aussi avoir peur de la chine, ne pas parler du Brics mais plutôt du sud global, et surtout ne pas parler des ouigours musulmans ou des ingérences de leurs chefs de fils, chine et Russie et qui possèdent pourtant des bureaux destiné justement a l ingérence et intox stratégique, si vous étiez présidents a vie, avec les moyens et sans compte a rendre, que ferez vous a leurs places ?
Et si nous faisons de même, et faire prendre conscience que les régions soumise a Pékin et Moscou pourraient prendre leurs indépendances, garder leurs richesses et devenir démocratiques, ce qui va dans un sens et aussi vrai dans l autre ?
Heureusement Il n y a pas de présidents a vie aux USA !!! Mais Pensez vous que Trump veut protéger les démocraties ou désirent les diviser, intentionnelle ou manipulé ? car Poutine et XI et Kim … le voulaient comme présidents, et bien plus que les américains !!!
Article très intéressant, très bien écrit et pertinent sur le fond