Des agents chinois utilisent des photos d’IA pour tromper les électeurs américains et les monter les uns contre les autres, selon Microsoft.

• Microsoft a averti que la Chine utilisait des images générées par l’IA pour semer la discorde parmi les électeurs américains.
• De vraies personnes republient ces images controversées, sans se rendre compte qu’elles sont fausses, a ajouté Microsoft.
• L’ambassade de Chine à Washington, DC, a riposté en parlant de « spéculations malveillantes » contre la Chine.

La Chine utilise depuis mars l’IA générative pour créer du contenu viral qui divise les électeurs américains sur les réseaux sociaux – et s’améliore dans ce domaine, disent les analystes de Microsoft.

« Nous avons observé des acteurs affiliés à la Chine exploiter les médias visuels générés par l’IA dans une vaste campagne qui se concentre largement sur des sujets politiquement controversés, tels que la violence armée, et le dénigrement des personnalités et symboles politiques américains », a écrit Clint Watts, directeur général de Microsoft Threat. Centre d’analyse.

Les analystes du centre ont publié jeudi un rapport mettant en lumière les menaces numériques provenant de la Chine et de la Corée du Nord, et ont déclaré que les agents chinois influencent leurs cibles « dans une plus grande mesure que ce qui avait été observé auparavant ».

Microsoft a mis en garde contre les comptes de réseaux sociaux affiliés au Parti communiste chinois, qui publieraient des images générées par l’IA, comme une affiche Black Lives Matter montrant des impacts de balle et un homme noir se rendant.

Quelques heures après la mise en ligne de l’affiche Black Lives Matter, un compte se faisant passer pour un électeur conservateur américain a republié l’image, se plaignant de discrimination raciale, selon Microsoft.

Un autre exemple cité était une affiche générée par l’IA de la Statue de la Liberté tenant un fusil d’assaut, accompagnée de la légende « La déesse de la violence ». Les analystes de Microsoft ont déclaré qu’il avait été publié par un compte soupçonné d’être géré dans le cadre d’une opération d’influence chinoise.

« Ce contenu visuel de relativement haute qualité a déjà suscité des niveaux d’engagement plus élevés de la part des utilisateurs authentiques des médias sociaux », préviennent les analystes.

Ils ont ajouté que les nouvelles images sont plus accrocheuses et que les vrais électeurs américains les republient même si elles contiennent des « indicateurs communs de génération d’IA », comme plus de cinq doigts sur une main.

Il est désormais également plus difficile de déterminer si ces comptes ne sont pas authentiques, ont déclaré les analystes de Microsoft.

« Contrairement aux précédentes campagnes d’OI menées par des acteurs affiliés au PCC qui utilisaient des identifiants, des noms d’affichage et des photos de profil générés par ordinateur faciles à repérer, ces comptes plus sophistiqués sont gérés par de vraies personnes qui emploient des identités fictives ou volées pour dissimuler l’affiliation des comptes. avec le PCC », ont-ils écrit.

Mais il existe des signes révélateurs, selon Microsoft. Beaucoup de ces agents commenceraient à poster en mandarin, puis passeraient à une autre langue, a indiqué le centre de menace.

Les comptes publieraient une publication, puis commenteraient, aimeraient et partageraient les publications d’autres comptes similaires, créant ainsi un modèle dans lequel ils amélioreraient mutuellement leur contenu, a déclaré Microsoft.

« Nous pouvons nous attendre à ce que la Chine continue à perfectionner cette technologie au fil du temps, même s’il reste à voir comment et quand elle la déploiera à grande échelle », a écrit Watts.

Lorsqu’on lui a demandé de répondre au rapport de Microsoft, Liu Pengyu, porte-parole de l’ambassade de Chine à Washington, DC, a déclaré à Insider dans un communiqué : « Ces dernières années, certains médias et groupes de réflexion occidentaux ont accusé la Chine d’utiliser l’intelligence artificielle pour créer de faux réseaux sociaux. comptes médiatiques pour s’immiscer dans la politique américaine. De telles remarques sont pleines de préjugés et de spéculations malveillantes contre la Chine, auxquelles la Chine s’oppose fermement.

En juillet, la société de recherche en cybersécurité Mandiant a déclaré avoir découvert que des agents affiliés à la Chine avaient payé des personnes à Washington, DC, pour protester contre l’interdiction du gouvernement américain sur les produits produits dans la région du Xinjiang. Les vidéos de leurs manifestations ont ensuite été « amplifiées » par les comptes de réseaux sociaux utilisés par les activistes, a ajouté Mandiant.

Le 29 août, Meta a également mis en garde contre une campagne d’influence chinoise diffusant de fausses informations, impliquant plus de 7 700 comptes Facebook, 950 pages Facebook, 15 groupes Facebook et 15 comptes Instagram. La société de médias sociaux a déclaré qu’elle les avait tous supprimés.