AIマッチングアプリの大規模ネットワークがClaudeを悪用して有料のやり取りへとユーザーを誘導

何が起きたか

Anthropicと独立したサイバーセキュリティ研究者らは、実在の女性になりすまして有料のチャット用コインを購入するようユーザーを欺くために、（一部でAnthropicのClaude APIを利用した）AIペルソナを配備していた約28件のマッチングアプリ（Dora、Romi、Doniなど）による不正ネットワークを明らかにしました。この手口は、Claudeを利用した対話エージェント、画像生成ツール、および動画による生存確認（ライブネスチェック）を行う有償のギグワーカーを組み合わせることで、何百万件もの偽りのメッセージを生成し、何万人もの有料ユーザーを関与させていました。

A coordinated commercial fraud network operated across major mobile app stores, defrauding tens of thousands of users through millions of deceptive AI-generated messages to extract direct payments.

証拠の抜粋

• Anthropic detected a network of approximately 28 dating apps misusing the Claude API to autonomously run fake female personas.
• The dating app network engaged at least 25,000 unique individuals across 2.36 million messages over a two-week period in April.
• The fraudulent apps charged users money for virtual currency/coins to continue chatting with automated AI personas.
• The operation combined autonomous LLM text generation with paid gig workers to handle liveness checks and circumvent user suspicion.
• Anthropic banned associated developer accounts and shared investigative intelligence with Apple and Google.

重大度の評価軸

情報源の引用

1. The sexy AI-powered dating app scams are hereThe Verge Artificial Intelligence · 2026-09-16