Japan • 🌿 Progressive

Thousands of Japanese workers victimized by AI deepfake fraud scheme

日本企業で4年間の詐欺被害、AIで生成した詐欺メール

単独の犯人がAIを使い無料ツールで詐欺メールと合成動画を生成して4年間にわたり日本企業の従業員に送金させ、その後詐欺ツールキットをダークウェブで販売していた。企業の階級制度と部下の限定的な判断権限が詐欺の被害を拡大させた。

日本の企業社員数千人が、4年間にわたる組織的な詐欺の被害者となっていた。単独の犯人が無料の人工知能を悪用して数千件の詐欺通信と合成動画・音声を生成し、部下従業員に無許可の送金を実行させていた。企業幹部になりすまされた通信は、階級制度が強い職場環境で、上司の命令に従う心理的プレッシャーの中で受け取られた。企業の権力構造を悪用した詐欺は、部下が経営陣の指示に異議を唱えられない環境に乗じたものだった。

犯人は無料の人工知能ツールを使い、1日10万件のフィッシングメールを送信していた。その手口は、リンクトインから経営陣のデータを収集し、企業トップの合成動画を作成して部下従業員に送金させるというものだった。1件の日本企業の子会社から330万円が詐取された。その後、犯人はダークウェブ市場でカスタマイズされた詐欺ツールキットを1件あたり100万~300万円で販売し、複数の企業に被害が広がった。

分析者の藤井智之によると、AIの使用によって、これまで日本人従業員が詐欺を識別する手がかりとなっていた言語的な不自然さが解消された。企業の意思決定が限定的な部下は、経営陣の権威に基づいて送金を実行させられた。権力の不対称性が大きい企業環境にいる従業員ほど、この詐欺の被害を受けやすかった。

📤 Share on Telegram

Get more Japan coverage in your inbox.

🏴 エリック・プロメテオ・メディアのニュースレターを無料購読