Technologies persuasives : la menace chinoise

Dans le contexte actuel de tensions géopolitiques croissantes, la guerre de l’information fait rage avec des méthodes qui s’appuient sur les progrès des technologies numériques et les avancées des systèmes d’intelligence artificielle. Dans cette course à l’influence, les technologies persuasives sont de plus en plus largement utilisées pour manipuler les opinions et changer les comportements et infléchir les choix politiques. Dans ce domaine la Chine prend actuellement de l’avance avec une techno-politique conquérante associant acteurs économiques et militaires.

De la persuasion aux technologies persuasives

Persuasion

« La capacité de changer l’opinion est aussi ancienne que le langage humain. Depuis des millénaires, la persuasion, la rhétorique et la manipulation des opinions sont utilisées dans le commerce, la religion, l’éducation, la diplomatie, la politique…

Capter l’attention pour influencer orienter l’intention

Après la presse imprimée et affichage, ce sont les média audio-visuels qui ont été (et son encore) largement utilisés pour capter notre attention afin de promouvoir tel ou tel produit ou service avec des messages uni-directionnels.

Les technologies numériques ont permis de développer une nouvelle forme de communication interactive qui nous permet de passer d’un état de réception passive des « messages » à un possible mouvement de production ou de réaction contributive.

L’arrivée du web 2.0 et de l’internet des plateformes a fait émerger des applications « sociales » dont le processus  (collecte des données – génération automatique de profils – ciblage publicitaire) influence les intentions et le comportement des internautes à leur insu en les incitant céder aux injonctions des algorithmes.

Technologies persusasives

L’américain Brian J.Fogg a introduit le concept de technologie persuasive en 1997 en la définissant comme « « tout système informatique interactif conçu pour changer les attitudes ou les comportements des gens ». CAPT, acronyme de Computers as Persuasive Technology, lui a servi à créer le terme de captologie.

Conçus avec des objectifs louables comme la promotion d’un mode de vie plus sain (en encourageant la pratique du sport, une alimentation équilibrée…), les 42 principes de persuasion que Fogg décrits en 2003 dans son livre « Persuasive Technology : Using Computers to Change What We Think and Do » ont été abondamment appliqués à d’autres fins notamment notamment dans la publicité et les relations publiques.

Les médias sociaux, et plus généralement les plateformes interactives se servent de l’analyse des données, des neurosciences et de la psychologie sociale pour favoriser un changement de comportement de leurs utilisateurs. Avec des géants du net comme les GAFAM américains ou les BATX chinois ce sont des centaines et des centaines de millions de personnes qui sont sont exposées à ces technologies persuasives.

L’IA générative est le principal moteur des technologies persuasives émergentes, ainsi :

– les modèles d’apprentissage automatique qui identifient et exploitent les biais cognitifs peuvent fournir du contenu hyper-personnalisé et influencer les comportements à des niveaux sans précédent. 

– l’utilisation de gigantesques ensembles de données en temps réel ainsi que la génération et la collecte simultanées de données nouvelles rend les incitations plus convaincantes, moins reconnaissables et potentiellement plus manipulatrices.

Largement employées pour influencer l’internaute consommateur à acheter toujours plus de biens et de service, les technologies persuasives sont aussi utilisées pour façonner les opinions et influencer les choix politiques des internautes-citoyens

Technologies persuasives et (géo)politique

Démocraties

Face au détournement des technologies persuasives à des fins politiques, les démocraties sont particulièrement vulnérables en raison de la liberté d’expression et d’information qu’elles accordent à leur citoyens.

Les technologies de persuasion peuvent y être déployées via des campagne de désinformation ciblée ou de la propagande de réseau voire des opérations d’ingérence étrangère en ligne. Leur effets subtils sur les comportements sont difficilement détectables pour être combattus Cela peut peut se traduire par la réduction de la participation à un scrutin ou la création d’un sentiment d’incertitude informationnelle conduisant à de l’apathie politique et/ou à de la méfiance envers les institution, comme on comme on a pu le voir dans les affaires « Cambridge Analytica » au Royaume-Uni et aux États-Unis, par exemple.

Régimes autoritaires 

Les régimes autoritaire ont bien compris l’intérêt des technologies persuasives pour affaiblir leurs opposants. La surveillance (numérique) de masse est un outil de choix pour mieux consolider le pouvoir et réprimer la dissidence à l’intérieur de leur frontières (Chine, Iran,…). Leur propagandes via les médias sociaux vise d’abord leurs populations, elles peuvent aussi franchir les frontières dans le cadre de stratégies diplomatiques et militaires visant à établir un nouvel ordre mondial.

Si de nombreux pays et entreprises cherchent à exploiter le pouvoir des technologies persuasives émergentes telles que l’intelligence artificielle (IA) générative ), les objets connectés et les interfaces cerveau-ordinateur, la République populaire de Chine (RPC) dispose d’une force frappe redoutable.

L’eco-système industriel et commercial chinois au service du pouvoir

L’État-parti chinois associe étroitement une industrie technologique en pleine évolution avec un système politique et une idéologie qui promeut la création et l’utilisation de technologies persuasives à des fins politiques.Cette combinaison a de quoi nous préoccuper car elle permet à la Chine de développer rapidement des technologies innovantes tout en canalisant leurs applications vers le maintien de la stabilité du régime au niveau national, la refonte de l’ordre international, la remise en cause des valeurs démocratiques et la mise à mal des normes mondiales en matière de droits de l’homme.

TikTok et les autres

ByteDance et son application mobile très controversée TikTok n’est que la partie visible de l’iceberg ! De nombreuses entreprises technologiques chinoises développent et déploient de puissantes technologies persuasives au service de la propagande de l’armée et des services de sécurité publique du Parti Communiste Chinois (PCC). Certaines d’entre elles (Baidu, Tencent,…) sont des leaders mondiaux dans leur domaine.

Les outils de persuasion qu’elles développent sont des systèmes numériques qui façonnent les attitudes et les comportements des utilisateurs en exploitant les réactions ou les vulnérabilités physiologiques et cognitives. On peut citer ici 1/ les dispositifs d’intelligence artificielle générative capables d’agir sur l’opinion publique ; 2/ les neurotechnologies réagissant instantanément aux émotions humaines ; 3/ les objets connectés

Quelques exemples

Une récente étude de l’ASPI a identifié plusieurs entreprises chinoises de premier plan qui ont déjà mis leurs technologies au services du PCCet du gouvernement de la RPC.

• Midu Technology, également connue sous le nom de « Sina·MData », est une société de technologie d’intelligence linguistique basée à Shanghai. Elle fournit des outils d’intelligence artificielle générative utilisés par le gouvernement chinois et les servicesdu PCC pour renforcer le contrôle de l’opinion publique par l’Etat-parti. Ces capacités pourraient également être utilisées pour l’ingérence étrangère.

• Silicon Intelligence Technology, basée à Nanjing, est spécialisée dans la création de clones d’influenceurs humains générés par l’IA qui sont utilisés dans le e-commerce. Silicon Intelligence travaille également avec les services du PCC et du gouvernement pour créer des contenus idéologiques convaincants et facile à diffuser.

• OneSightTechnology, basée à Pékin, est une société spécialisée dans les services aux médias sociaux basés sur l’IA. Les plateformes en ligne pour lesquelles elle propose des services sont Facebook, X, Instagram, LinkedIn, YouTube… Elle a été épinglée en 2020 dans une enquête du journal d’investigation ProPublica qui l’a liée à une opération d’information soutenue par l’État chinois sur Twitter (maintenant X), dans laquelle un réseau de faux comptes relayait la propagande du gouvernement chinois à propos de Hong Kong, le Covid-19, etc.

• Mobvoi basée à Nanjing, a été fondée en 2012 par Li Zhifei, ancien scientifique de Google, expert en Large Language Models (LLM). Elle s’est spécialisée dans divers secteurs avec des produits tels que les montres intelligentes, les applications de synthèse vocale et les LLM d’apprentissage profond. Mobvoi a également noué une étroite collaboration avec le journal du parti Guangming Daily qui prétend utiliser « une technologie de communication avancée et des plateformes de communication riches pour guider correctement l’idéologie et la conscience sociales, diffuser une excellente culture et condenser l’esprit national, devenant ainsi l’épine dorsale du front de l’opinion publique en ligne ».

• Suishi Intelligent Technology, basée à Tianjin, développe et commercialise des interfaces cerveau-ordinateur non invasifs pour des applications médicales. Ils comprennent des appareils conçus pour détecter et évaluer en ligne les émotions et les problèmes de santé mentale tels que la dépression. Bien que cette technologie soit prometteuse pour des applications thérapeutiques, il y a un risque un risque que les données qu’elle collecte servent au gouvernement chinois pour influencer les émotions afin d’anticiper des menaces contre le régime, ou pour mener des opérations de manipulation à l’étranger.

• GoerTek, basé à Weifang, est un fabricant de composants électroniques qui a acquis une renommée mondiale pour les objets connectés et les appareils de réalité virtuelle (RV). Cette entreprise collabore sur des projets d’intégration militaro-civile et a développé une gamme de produits avec des applications à double usage, comme des appareils d’entraînement au pilotage de drones militaires.

Ces exemples nous montrent comment les entreprises technologiques chinoises et le État-parti pourraient déployer des technologies de persuasion développées commercialement en Chine pour poursuivre des objectifs illibéraux et autoritaires, tant au niveau national qu’à l’étranger, par des moyens tels que des campagnes d’influence en ligne, des opérations psychologiques ciblées, une répression transnationale, des cyberattaques et des capacités militaires renforcées.

Il est encore temps de réagir

La nouvelles générations de technologies persuasives leur permettent d’exercer une influence par le biais d’une connexion directe avec les réactions physiologiques et émotionnelles intimes. Cela constitue un risque que les choix des humains concernant leurs pensées et leurs actes puissent être soit orientés, soit complètement supprimés sans qu’ils en soient pleinement conscients.

Dit autrement ces technologies persuasives toujours plus sophistiquées ne façonneront pas seulement ce que nous faisons ; elles ont le potentiel d’influencer qui nous sommes.

Face au développement et à l’adoption fulgurants de ces technologies persuasives au cours de la dernière décennie, les gouvernements démocratiques ont réagi lentement. Il est encore temps d’adopter des approches proactives  pour réglementer les usages des technologies persuasives, et informer-former-éduquer les utilisateurs (et futurs utilisateurs) afin de protéger leur esprit critique ainsi que leur capacité à prendre des décisions conscientes et éclairées.

Vous avez pu lire cet article et naviguer sur le site sans être incommodé par de la publicité, des textes sponsorisés ou du traçage commercial alors que la rédaction des publications de ce blog demande un important travail de documentation et le recours à de nombreuses sources d’informations qui ne sont pas gratuites. Pour soutenir cette politique et permettre au blog de progresser avec plus d'illustrations didactiques : images et schémas animé(e)s ou non, c’est ICI