Dossier openai-peer-review-qianyueOpérations étatiques avec l’IAMondial
OpenAI bannit le réseau chinois Peer Review, auteur de l'outil de surveillance Qianyue
Des comptes probablement situés en Chine ont utilisé ChatGPT pour rédiger des argumentaires, déboguer du code et analyser des documents pour le Qianyue Overseas Public Opinion AI Assistant, un outil basé sur Llama rapportant les manifestations occidentales aux autorités chinoises.
ÉlevéeAttaque avec l’IAStatut: ContenuDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 21 févr. 2025
- Lieu
- Mondial
- Cible
- Utilisateurs occidentaux de réseaux sociaux organisant des manifestations anti-Chine
- Gravité
- Élevée
- Déclenché par
- Réseau Peer Review (probablement Chine)
- Type d’acteur
- Acteur étatique
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Des comptes probablement situés en Chine ont utilisé ChatGPT pour rédiger des argumentaires, déboguer du code et analyser des documents pour le Qianyue Overseas Public Opinion AI Assistant, un outil basé sur Llama rapportant les manifestations occidentales aux autorités chinoises.
Impact: Soutien au développement d'un outil ingérant des publications de X, Facebook, YouTube, Instagram, Telegram et Reddit ; statut de déploiement inconnu.
Qui l’a déclenché
Acteur: Réseau Peer Review (probablement Chine)
Attribution: OpenAI a estimé que les comptes provenaient probablement de Chine ; le client de l'outil était décrit comme les services de sécurité chinois.
Mobile: Surveillance de la dissidence à l'étranger pour le compte des autorités chinoises
Comment c’est arrivé
Vecteur d’attaque: ChatGPT utilisé pour le débogage de code, l'analyse de documents, la traduction d'annonces de manifestations et des textes marketing pour l'outil de surveillance
Cause racine: Assistance générale au codage et à la traduction appliquée au développement d'un logiciel de surveillance
Chronologie
- OpenAI publie la page d'étude de cas Peer Review
- OpenAI publie le cas Peer Review et bannit les comptes
Réponse
Comptes bannis ; OpenAI a appelé au partage des menaces avec les fournisseurs de modèles ouverts en amont.
Statut actuel: Contenu
Sources (nouvel onglet)
- OpenAI Peer Review case study openai.com
- OpenAI February 2025 report PDF cdn.openai.com
- AI Incident Database report incidentdatabase.ai
Citer ce dossier
OpenAI bannit le réseau chinois Peer Review, auteur de l'outil de surveillance Qianyue. AI Threat Watch, dossier openai-peer-review-qianyue, 21 févr. 2025. https://aithreat.io/fr/cases/openai-peer-review-qianyue/
Lien permanent: https://aithreat.io/fr/cases/openai-peer-review-qianyue/