著名人になりすますなどしたSNSの投資詐欺について、警察庁は16日、今年1月から3月までのわずか3カ月で、被害額が219億円に上ることを明らかにしました。番組では以前、ジャーナリストの池上彰さんと“池上彰を名乗る人物”を追及しました。その相手から“音声メッセージ”が届きました。
■前澤さんがMeta社提訴「1円請求」
経済ジャーナリスト 荻原博子さん
「私は人に投資なんか、勧めたことない。みんなから金を巻き上げる詐欺に使われるのは、本当に怒り心頭ですよね」
著名人になりすます投資詐欺。16日、警察庁は「SNS型投資詐欺」の今年1月から3月までの3カ月間での被害を発表。その被害額は219億3000万円と、去年の同じ時期と比べ、およそ7.5倍に急増していたことが明らかになりました。
先月には茨城県の70歳女性がおよそ8億円、今月に入って兵庫県で70代男性が6億6000万円をだまし取られる被害が確認されるなど、被害は高額化しています。
15日、自民党のSNSなりすまし対策のワーキングチームは、Facebookを運営するMeta社について議論。自民党がMeta社に出していた改善要求への回答について、平井卓也元デジタル大臣は、次のように話します。
自民党 平井元デジタル担当大臣
「正直言えば、やればできるじゃないのっていうのが随分あったっていうのが今回明らかで、それをやってきていなかったということに、憤りを感じる」
Meta社側は、自民党が求めている国会への参考人招致に応じる姿勢だといいます。CEOのマーク・ザッカーバーグ氏の出席は断ったものの、「本件に関して一番知っている人物が応じる」ということです。
そのMeta社に対して、損害賠償を求める裁判を起こした実業家の前澤友作さん。
前澤さん
「Meta社及びFacebook Japan社それぞれを本日提訴しました」
その請求額はわずか1円です。そのワケは？
前澤さんの公式Xから
「彼らの行為が違法なのか合法なのか。まずは、はっきりさせたい」
Meta社が行っている詐欺広告対策の具体的な内容の開示や、責任者への証人尋問を求めるといいます。
前澤さんの公式Xから
「フェイクコンテンツを無断で生成して不正利用する人はもちろん、それら（広告含め）を掲載してしまうプラットフォーム側の責任追及もしておかないと、社会がおかしなことになる」
■よく聞くと“違和感”…池上彰さん“ニセ音声”確認
著名人をかたった“ニセ広告”。自身の画像を無断使用されている池上彰さんは、次のように話します。
池上さん
「全部ブチ込め…下品な表現ですね」
番組では以前、池上さん自ら“ニセ広告”にアクセスし、“ニセ池上彰”に接触を試みました。
池上さん
「（Q.『今、横に池上彰さん本人がいるんですけど』って送っていいですか？）いいですよ。どうぞ」
このメッセージを最後に返信が途絶えていました。しかし、池上彰さんをかたるアカウントより、音声メッセージが届きました。
“ニセ池上彰”から送られてきた音声を再生しました。
“ニセ池上彰”から送られてきた音声
「既読になっていますが、返信がありませんね。まだ、何か不明な点がありますか？」
池上さん本人のような声で、返信を求めるメッセージが届きました。
池上さん
「よろしくお願いします」
送られてきた音声を、池上さんに直接聞いてもらいました。
池上さん
「（Q.前回放送時は『今、私の隣に池上彰さん本人がいらっしゃるんですが、あなたは誰ですか？』と…）はい、そうでしたね」
その後、電話もして応答はなかったのですが、音声メッセージが届きました。
“ニセ池上彰”から送られてきた音声
「既読になっていますが、返信がありませんね。まだ、何か不明な点がありますか？」
池上さん
「声の質は、私そっくりですね。聞いただけで『あっ！あの声だ』って思ってしまう人もいるでしょうね」
「（Q.ご自身で聞いてみても？）自分の声だと思いますよね」
本人が聞いても“そっくり”だと思ってしまうほどの音声。しかし、もう一度聞いてもらうと…。
“ニセ池上彰”から送られてきた音声
「既読になっていますが、返信がありませんね。まだ、何か不明な点がありますか？」
池上さん
「二度目でよく聞くと、やっぱり微妙に違いますね。実に平板で、人の会話としては、ものすごく不自然ですよね。機械的に人間の言葉を作った感じがしますね」
よく聞くと、語尾の上がり方やイントネーションなど“違和感”を覚える部分もありました。
池上さんは、文章だけでなく、音声メッセージが送られてくることで、より“ニセ広告”を信用する人が増えてしまう可能性があると危惧しています。
池上さん
「音声メッセージがふっとくれば『あの本人からメッセージが来たんだ』と喜んでしまうということはあり得ますよね。これは恐ろしいですよね。何らかにブレーキをかけるような社会的な取り組みというのは必要」
巧妙化する“なりすまし”の手口。池上さんは、警鐘を鳴らします。
池上さん
「そもそもこんなこと、私はやっていないので。（投資など）呼び掛けるわけがないと、分かっていらっしゃれば良いんですけど」
「（Q.LINEだけでも、だまされている方が既にいらっしゃるのに、音声メッセージが届いたらもう…）本当に困りますよね。さらにこれが、技術が上がると、本当に怖いなと思いますね」
■悪用されるAI…“ニセ池上彰”の声を比較
音声メッセージなど、巧妙化する詐欺の手口。警察幹部は「AI技術の向上と共に、犯行にAIが悪用されているのではないか」とみて、警戒しています。
“ニセ池上彰”から送られてきた音声を、AIに詳しい専門家に聞いてもらいました。
株式会社オルツ 西村祥一本部長
「先入観で池上彰さんという名前から連絡が来ましたと。写真だったり映像を見せられて、この声を聞かせられると、『もう池上彰さんだな』って思ってしまう可能性があります」
しかし、音声に関しては、送られてきた音声は従来の音声合成技術によって作られたものだといいます。
西村本部長
「率直に言うと、機械音声というか、人間がしゃべっていないんだろうなっていうのがすぐ分かった」
池上さんの音声をAI技術を用いて作ってみました。
生成AIによる音声
「絶対に、だまされないでくださいね。私はこうやって投資を呼び掛けたりなんてこと、一切しません」
“ニセ池上彰”から送られてきた音声と比べ、自然で精巧な音声になりました。実際に、先月放送した池上彰さんのコメントと比べてみました。
池上彰さんの音声
「絶対に、だまされないでくださいね。私はこうやって投資を呼び掛けたりなんてこと、一切しません」
AIで作った音声は…。
生成AIによる音声
「絶対に、だまされないでくださいね。私はこうやって投資を呼び掛けたりなんてこと、一切しません」
西村本部長
「これが1、2週間かかるとかではなくて、技術レベル的には10分未満でできてしまう」
■ニセ広告詐欺…あの手、この手で
画像や文章だけでなく、音声を用いてだますケースも増えているといいます。SNSのニセ広告をきっかけに、被害に遭ったAさんもいます。
被害に遭ったAさん（60代）
「株をやっていまして、もう少し利益を上げたいなと」
著名な経済学者の画像が使われたFacebookのニセ広告にアクセスしたAさん。“株の勉強会”と称するライングループに招待されました。
その後、指導者を名乗る女性と個別のLINEで投資の指導を受けることに。そこでは株ではなく、暗号資産を勧められたといいます。
およそ2カ月にわたって、指導者の女性と日々のたわいない話などやり取りを続けたAさん。指導者の話を完全に信じてしまったといいます。
Aさん
「（Q.どのくらいの資金を入れたのか？）2000万円です。『運用しますので、利益上げますよ』と言うので」
言われるがまま、暗号資産代として2000万円を預けてしまったAさん。「利益が出た」と言われ、お金を引き出そうとすると、追加で出金手数料500万円を要求され、そこでだまされたことに気づいたといいます。
犯人とのやり取りを見せてもらうと、“違和感”を覚える点が浮かび上がってきました。
指導者の女性とのやり取り
「安心して大胆にお支払いください」
「安全とリスクが非常に保障されています！」
「私たちは少し時間を払うだけでいいです」
「私たちには大きな向上があります！」
ところどころ、意味が分からない言い回しを使う指導者の女性。他にもあります。
指導者の女性とのやり取り
「1000万円しか用意できないのですか？もっと準備できないの？」
Aさん
「時間がかかりそうです」
指導者の女性とのやり取り
「ご心配なく、辛抱強く待つ」
これまで敬語で送られてきた文章が、急に友達口調のようになることもありました。さらに、片言のボイスメッセージが送られることもありました。
女性指導者の音声メッセージ
「キョウモ、オ疲レサマデシタ。ユックリ休ンデネ。私モ、コレカラ寝マス。オ休ミナサイ」
Aさん
「やっぱり今の、周りの人から見たら怪しいですか？」
あの手この手と、様々な手口で迫るSNS投資詐欺で膨らみ続ける被害。ニセ広告を掲載し続けているMeta社は「詐欺広告への対策に多大なリソースを投入しており、今後も検出技術の規模拡大に大規模な投資を続けていきます」としています。
（「羽鳥慎一 モーニングショー」2024年5月17日放送分より）
鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。
