Dossier ico-snap-my-ai-preliminary-noticePréjudice causé par un chatbotRoyaume-Uni
Royaume-Uni : l'ICO adresse à Snap un avis d'exécution préliminaire concernant les risques de My AI pour la vie privée des enfants
L'Information Commissioner's Office a conclu à titre provisoire que Snap n'avait pas évalué de manière adéquate, avant son lancement, les risques en matière de protection des données posés par son chatbot d'IA générative My AI, en particulier pour les enfants. Un avis définitif aurait pu contraindre Snap à cesser de proposer My AI au Royaume-Uni.
ÉlevéePréjudice causé par l’IAStatut: RésoluDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 6 oct. 2023
- Lieu
- Royaume-Uni
- Cible
- Utilisateurs britanniques de My AI sur Snapchat, dont des enfants de 13 à 17 ans
- Gravité
- Élevée
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Snap Inc. (My AI, fondé sur des modèles d'OpenAI)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
L'Information Commissioner's Office a conclu à titre provisoire que Snap n'avait pas évalué de manière adéquate, avant son lancement, les risques en matière de protection des données posés par son chatbot d'IA générative My AI, en particulier pour les enfants. Un avis définitif aurait pu contraindre Snap à cesser de proposer My AI au Royaume-Uni.
Impact: Avis d'exécution préliminaire ; première action de l'ICO contre un produit d'IA générative
Qui l’a déclenché
Acteur: Snap Inc. (My AI, fondé sur des modèles d'OpenAI)
Attribution: Information Commissioner's Office du Royaume-Uni
Mobile: Aucun ; action du régulateur portant sur l'évaluation des risques d'un produit
Comment c’est arrivé
Vecteur d’attaque: Chatbot épinglé en haut des fils de discussion des utilisateurs de Snapchat, utilisé par des millions d'adolescents britanniques
Cause racine: Évaluation insuffisante des risques en matière de protection des données avant le lancement
Chronologie
- Déploiement de My AI auprès de tous les utilisateurs britanniques de Snapchat
- L'ICO émet un avis d'exécution préliminaire
- L'ICO conclut son enquête sans avis définitif
Réponse
Snap a indiqué examiner les conclusions. En mai 2024, l'ICO a clos le dossier sans avis définitif après que Snap a réalisé une évaluation des risques conforme.
Statut actuel: Résolu
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- LBC lbc.co.uk
- Addleshaw Goddard addleshawgoddard.com
- ICO via Wired-Gov wired-gov.net
Citer ce dossier
Royaume-Uni : l'ICO adresse à Snap un avis d'exécution préliminaire concernant les risques de My AI pour la vie privée des enfants. AI Threat Watch, dossier ico-snap-my-ai-preliminary-notice, 6 oct. 2023. https://aithreat.io/fr/cases/ico-snap-my-ai-preliminary-notice/
Lien permanent: https://aithreat.io/fr/cases/ico-snap-my-ai-preliminary-notice/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.