Un réseau d'applications de rencontre à base d'IA à l'échelle industrielle utilise Claude pour inciter les utilisateurs à des interactions payantes par la ruse

Ce qui s’est passé

Anthropic et des chercheurs indépendants en cybersécurité ont mis au jour un réseau frauduleux d'environ 28 applications de rencontre (dont Dora, Romi et Doni) qui déployait des profils fictifs d'IA — alimentés en partie par l'API Claude d'Anthropic — pour usurper l'identité de vraies femmes et tromper les utilisateurs afin qu'ils achètent des crédits de discussion payants. L'opération combinait des agents conversationnels propulsés par Claude, des générateurs d'images et des travailleurs à la tâche rémunérés effectuant des vérifications de présence vidéo en direct pour générer des millions de messages trompeurs et interagir avec des dizaines de milliers d'utilisateurs payants.

A coordinated commercial fraud network operated across major mobile app stores, defrauding tens of thousands of users through millions of deceptive AI-generated messages to extract direct payments.

Extraits de preuves

• Anthropic detected a network of approximately 28 dating apps misusing the Claude API to autonomously run fake female personas.
• The dating app network engaged at least 25,000 unique individuals across 2.36 million messages over a two-week period in April.
• The fraudulent apps charged users money for virtual currency/coins to continue chatting with automated AI personas.
• The operation combined autonomous LLM text generation with paid gig workers to handle liveness checks and circumvent user suspicion.
• Anthropic banned associated developer accounts and shared investigative intelligence with Apple and Google.

Dimensions de sévérité

Sources citées

1. The sexy AI-powered dating app scams are hereThe Verge Artificial Intelligence · 2026-09-16