Selon un rapport publié par OpenAI le 7 octobre 2025, des comptes soupçonnés d’être liés au gouvernement chinois auraient utilisé ChatGPT pour concevoir des outils de surveillance et de profilage ciblé. Le rapport indique que ces utilisateurs ont sollicité le chatbot pour développer des projets relatifs à la surveillance de masse et pour scanner les réseaux sociaux occidentaux à la recherche de discours jugés sensibles. Bien qu’OpenAI ait interdit ces comptes, le rapport souligne le potentiel abusif de l’IA par des régimes autoritaires, avec des activités semblant également provenir de pays comme la Russie et la Corée du Nord.
Un rapport d’OpenAI, publié le 7 octobre 2025, révèle que des comptes soupçonnés d’être liés au gouvernement chinois auraient utilisé ChatGPT pour concevoir des outils de surveillance et de profilage. Ces utilisateurs semblent avoir sollicité l’IA pour développer des projets permettant de surveiller des populations spécifiques, ce qui soulève des questions d’éthique quant à l’utilisation de l’intelligence artificielle dans des régimes autoritaires.
Des demandes inquiétantes
Selon le rapport, certains utilisateurs ont demandé à ChatGPT d’élaborer des propositions de projets pour des outils de surveillance de masse. Par exemple, un utilisateur a sollicité de l’aide pour créer un outil capable de repérer les déplacements de personnes Ouïghoures en croisant des fichiers de police et des réservations de transport. Cette utilisation pose des questions sur la manière dont les technologies de pointe, comme ChatGPT, peuvent être détournées dans des buts néfastes.
Surveillance des réseaux sociaux
Un autre exemple marquant est celui d’un utilisateur qui a demandé à ChatGPT d’élaborer des supports pour un outil censé « scanner les réseaux sociaux occidentaux » à la recherche de discours extrémistes ou politiquement sensibles. Cette recherche met en lumière l’intérêt croissant du gouvernement chinois pour surveiller les conversations sur des plateformes telles que Twitter, Facebook, cet engouement soulignant l’importance de la vigilance face à la privacité des données.
Répercussions sur la vie privée
OpenAI a précisé que les utilisateurs concernés doivent avoir eu recours à des VPN pour dissimuler leur identité. Malgré le bannissement de ces comptes, la société indique qu’elle n’a pas pu vérifier indépendamment si ces activités étaient réellement menées par des agents gouvernementaux. Cette opacité soulève des préoccupations sur l’utilisation de l’IA pour des fins de profilage ciblé et de surveillance dans le cadre de régimes autoritaires.
Une problématique mondiale
Le rapport met également en lumière que la situation ne concerne pas uniquement la Chine. Des opérations similaires ont été menées par des acteurs en Russie et en Corée du Nord, qui auraient utilisé ChatGPT pour rédiger des scripts malveillants et organiser des campagnes de phishing. Cette tendance souligne l’importance de la sécurité numérique face à l’exploitation potentielle des technologies par des régimes autoritaires.
Le rôle d’OpenAI
OpenAI a pour objectif de prévenir l’exploitation de ses modèles par des régimes autoritaires. Bien que les activités décrites semblent venir d’individus isolés, elles offrent une « fenêtre rare » sur le potentiel abusif de l’IA. En tant qu’entreprise, OpenAI rappelle que son outil n’a pas été utilisé pour développer directement des systèmes de surveillance, mais pour conceptualiser ou rédiger des documents relatifs à ces outils.
OpenAI et Surveillance
- Demandes d’outils de surveillance : Utilisation de ChatGPT pour concevoir des systèmes de surveillance de masse.
- Profilage ciblé : Des comptes ont cherché à identifier des individus considérés comme à risque.
- Scan des réseaux sociaux : Élaboration d’outils pour analyser les discours sur différentes plateformes.
- Accès à des informations publiques : Les utilisateurs ont sollicité des détails sur des sujets sensibles sans accès à des données confidentielles.
- Bannissements : Certains comptes soupçonnés d’affiliation gouvernementale ont été bannis.
- Réseaux d’autres pays : Également des cas d’utilisation en Russie et Corée du Nord pour des fins malveillantes.
- Objectif d’OpenAI : Prévenir l’exploitation de l’IA par des régimes autoritaires.
- Sensibilité des sujets : Résumé d’actualités sensibles susceptibles d’intéresser des entités gouvernementales.
Témoignages sur OpenAI : Le gouvernement chinois aurait recours à ChatGPT pour renforcer sa surveillance
Des comptes soupçonnés d’être affiliés au gouvernement chinois auraient effectivement tenté d’utiliser ChatGPT pour développer des outils de surveillance et de profilage ciblé. Le rapport d’OpenAI, publié le 7 octobre 2025, met en évidence des abus préoccupants dans l’utilisation des technologies d’intelligence artificielle par des régimes autoritaires.
Un utilisateur a été banni après avoir demandé à ChatGPT de créer un outil capable d’analyser les déplacements de personnes Ouïghoures. Cette demande illustre les intentions manipulatrices des utilisateurs, cherchant à traquer des individus considérés comme « à risque » en croisant des données publiques et des ressources de transport.
Un autre témoignage mentionne qu’un utilisateur a sollicité l’assistance de ChatGPT pour élaborer des supports promotionnels pour un logiciel destiné à scanner les réseaux sociaux occidentaux. L’objectif était de détecter des discours que le gouvernement chinois pourrait juger « extrémistes ou sensibles sur le plan politique ou racial ».
OpenAI a précisé que ces utilisateurs avaient très probablement eu recours à des VPN pour masquer leurs identités tout en tentant d’exploiter la plateforme. Même si ces activités semblent émaner d’individus isolés, elles soulignent une intention claire de recourir à l’IA pour des objectifs de surveillance.
Le rapport indique également que des comptes ont été utilisés pour du profilage ciblé. Par exemple, un utilisateur aurait demandé des informations sur les sources de financement d’un compte critique envers le gouvernement chinois, tandis qu’un autre a cherché à identifier les organisateurs d’une pétition en Mongolie.
Un troisième exemple témoigne de l’utilisation de ChatGPT pour résumer l’actualité quotidienne, avec une attention particulière portée sur des sujets sensibles, incluant des événements historiques comme le massacre de Tian’anmen. OpenAI note cependant que son outil n’a pas été utilisé pour développer directement des systèmes de surveillance, mais plutôt pour conceptualiser ou rédiger des documents.
Ce rapport met en lumière le potentiel abusif de l’IA par des régimes autoritaires. Bien que ces activités ne semblent pas provenir d’organisations institutionnelles, elles révèlent pourtant l’intérêt croissant pour l’optimisation de la surveillance par l’intelligence artificielle, non seulement en Chine mais également dans d’autres pays comme la Russie et la Corée du Nord, où des acteurs ont été identifiés cherchant à utiliser ChatGPT pour des scripts malveillants et des campagnes de phishing.
Le gouvernement chinois aurait recours à ChatGPT pour renforcer sa surveillance
Le 7 octobre 2025, OpenAI a publié un rapport troublant révélant que des comptes suspectés d’être affiliés au gouvernement chinois ont, potentiellement, utilisé ChatGPT pour concevoir des outils de surveillance et de profilage ciblé. Cette information souligne les dangers que présente l’utilisation de l’IA par des régimes autoritaires cherchant à accroître leur contrôle sur les citoyens.
Parmi les demandes formulées par ces utilisateurs, certaines visaient à développer des dispositifs d’analyse des déplacements de groupes considérés comme « à risque », notamment les Ouïghours. Ces tentatives d’exploiter l’intelligence artificielle à des fins néfastes soulèvent de nombreuses inquiétudes quant à la confidentialité et aux droits humains, ainsi qu’à la manière dont les outils technologiques peuvent être détournés à des fins de répression.
Le rapport indique également que des utilisateurs ont sollicité ChatGPT pour élaborer des supports marketing destinés à des outils de scan des réseaux sociaux occidentaux. L’objectif ? Identifier des discours jugés « extrémistes », ce qui montre une volonté manifeste d’exercer un contrôle sur l’information et de surveiller les opinions dissidentes. OpenAI a banni plusieurs de ces comptes, mais il est à noter que les utilisateurs ont probablement eu recours à des VPN pour dissimuler leur véritable identité.
Cela témoigne d’une tendance inquiétante, non seulement en Chine, mais également dans d’autres pays comme la Russie et la Corée du Nord, où des acteurs gouvernementaux auraient également utilisé des technologies similaires pour des activités malveillantes. Ce phénomène met en lumière le besoin urgent d’établir des protocoles pour prévenir les abus de l’IA, tout en équilibrant les avancées technologiques et la protection des droits fondamentaux des individus.
