YouTubeのAI生成・ディープフェイク広告｜見た目で見分ける限界と確認手順

YouTubeで、有名な経営者や投資家が「この方法で資産が増える」と語る広告を見て、LINEへの登録に進むか迷っている方。あるいは、登録した後に「あの映像はAIで作られていたのでは」と気づいた方に向けた記事です。

この記事の結論は、AIで作られた顔や声を、見た目や聞こえ方だけで見抜こうとしないことです。不自然さに気づける場合もありますが、技術は年々進み、自然に見える映像も作れるようになっています。見るべきは映像の出来ではなく、「その広告がどこへ誘導しようとしているか」です。LINE登録や投資グループへの参加を促されたら、その人物の公式の発信で同じ案内があるかを確かめ、確認できなければ進まないでください。

YouTubeが入口になる投資詐欺が急増している

令和7年の警察庁の統計（確定値）で、SNS型投資詐欺の被害者が最初に相手と接したツールを見ると、YouTubeは1,229件でした。前の年は58件で、およそ21倍に増えています（+2,019.0％）。このうちバナーなどの広告がきっかけになったものは1,024件でした。

同じ資料は、広告をきっかけにした被害が令和7年3月以降に増える傾向にあり、その中には著名人の画像や動画を本人に無断で使ったものがあり、もうけを約束したり元本の保証をうたったりする文言も見られたとしています。広告からSNSの投資グループへ誘い込み、投資などの名目で金銭をだまし取る流れが目立つとも指摘されています。

写真を無断で使うだけでなく、AIで作った映像や音声で「本人が話しているように見せる」ことが、YouTubeの広告を入口にした手口の特徴です。

ディープフェイクとは何か、見た目で分かることの限界

総務省の令和6年版情報通信白書は、ディープフェイクを「ディープラーニング（深層学習）」と「フェイク（偽物）」を合わせた造語とし、AIで合成した音声・画像・動画によって、実在の人が言っていないことやしていないことを、本当にあったかのように描くものと説明しています。白書は、この技術を使えば実在の人物が話しているかのような動画を簡単に作れると指摘し、世界各国で情報操作や犯罪への悪用が増えて、対策が「いたちごっこ」の状態にあるとも述べています。

気づける可能性がある不自然さ

警察庁は、著名人をかたる広告の特徴として、動画の口の動きと声が合っていないこと、日本語の表記に誤りがあることなどを挙げています。ほかにも、次のような点が手がかりになることがあります。

• まばたきや表情の変化が少なく、顔だけが浮いて見える
• 話す内容に対して、声の抑揚や間の取り方が単調
• 字幕や画面の文字に、不自然な言い回しや誤字がある
• 動画の最後で、公式サイトではなくLINE登録や外部のフォームに案内する

それでも「見分けられた」と考えないほうがよい理由

上のような不自然さは、作り手の技術や手間しだいで消せてしまいます。不自然な点が見つからなかったからといって、本人の映像だとは言えません。画像の由来を調べる方法として、Googleの「この画像について」では、一部のAI生成画像に含まれる情報（C2PAやSynthID）が表示されることがあります。ただしGoogle自身が、こうしたメタデータは生成ツールや編集ツールで変えられるため正確でない場合があると説明しています。表示がないことを「本物の証拠」とは受け取らないでください。

見た目より確かな確認手順：誘導先で判断する

映像の真偽に時間を使うより、次の手順で「その案内が本人から出ているか」を確かめるほうが確実です。

1. 本人の公式な発信元を自分で探す：広告に出てきた人物の名前で検索し、公式サイト、所属する会社・事務所、本人名義の公式チャンネルを見つけます。広告内のリンクは使いません。
2. 同じ案内が公式側にあるかを見る：公式の場所で、LINEでの投資指導や無料の銘柄配信を案内しているかを確認します。逆に、なりすまし広告への注意を告知している例も少なくありません。
3. 案内された業者の登録を調べる：投資を勧める業者名が出てきたら、金融庁ウェブサイトの登録業者一覧で探します。
4. LINE登録やグループ参加を急かされたら止まる：「今日だけ」「先着何名」などの言葉で登録を急がせる案内は、確認の時間を奪う狙いがあると考えて、いったん画面を閉じます。

筆者の考えとしては、映像が本物か偽物かという問いは、最後まで答えが出ないことも多いものです。一方、「公式の発信で同じ案内が確認できるか」という問いには、多くの場合ではっきり答えが出ます。判断の軸をこちらに置くことをおすすめします。SNSや電話も含めた著名人かたりの手口は有名人をかたるサクラ詐欺の記事で、LINEの投資グループについてはLINE投資グループの写真詐称で解説しています。

家族で決めておきたい3つのルール

AIで作られた映像は、見る人の年齢や知識に関係なく本物らしく見えます。見分ける力に頼るより、家族の間で行動のルールを決めておくほうが実際的です。

1. 広告から直接LINEの友だち追加をしない：気になる広告があっても、その場では登録せず、いったん画面を閉じる。
2. 有名人の名前が出る投資話は、公式で確かめてから：本人の公式サイトや公式チャンネルで同じ案内が見つからなければ、それ以上進まない。
3. お金を入れる前に、誰か一人に話す：金額の大小にかかわらず、入金の前に家族や友人に一言相談する。

とくに3つ目は効果が大きいと考えています。相手が「今だけ」「内密に」と急がせるのは、周りの人に話す時間を与えないためです。話すだけで立ち止まるきっかけが生まれます。

YouTubeで広告や動画を報告する方法

YouTubeのヘルプによると、ポリシーに違反していると思われる広告は、広告に表示される「その他」アイコンまたは「情報」アイコンを選び、［広告を報告］から報告できます。表示中の広告から直接報告できるのはYouTubeのモバイルとパソコンに限られ、それ以外の環境ではフォームから報告する方法が案内されています。報告を受けたYouTubeのチームが広告を審査し、必要に応じて措置をとるとされています。

Google広告のヘルプでも、著名人になりすましたり、実際には関係がないのに関係があるように見せかけたりして金銭や個人情報を求めることは認められないと説明され、人気YouTuberのAI動画を無断で使って詐欺への支持を装う例が挙げられています。広告ではなく通常の動画の場合は、動画の報告機能から報告します。

報告の前に、次のものを保存しておくと、後で警察や消費生活センターに相談するときにも役立ちます。

• 広告の画面（広告主の表示名が分かる部分を含む）と、表示された日時
• 動画のURLやチャンネル名
• 広告から進んだ先のページ、LINEの友だち追加画面

保存の方法は証拠の残し方を参考にしてください。

自分の顔や声をAIで使われている場合

広告や動画に、自分自身の顔や声をAIで加工・合成したものが使われていると気づいた場合は、YouTubeのプライバシー侵害の申し立て手続きで削除を求められます。YouTubeのヘルプによると、AIで改変・作成されたコンテンツがあなたの容姿や声に似ていて、外見がリアルに改変または合成されて描写されていることが対象の条件です。申し立ては、原則として本人か法定代理人が行う必要があります。

YouTube上で解決しない場合や、別のサイトにも広がっている場合は、総務省の委託事業である違法・有害情報相談センターで、削除依頼の進め方について助言を受けられます。SNS上で写真だけを使われた場合の報告の流れは、インスタで写真を無断使用されたときの記事にまとめています。

白書は、SNSなどで共有された普通の写真をAIで不適切な画像に作り替え、本人を脅す犯罪にも触れています。公開している写真が悪用されたり、加工画像をもとに金銭を要求されたりしたときは、要求に応じずに記録を残し、警察に相談してください。

広告から誘導されて入金してしまったら

広告から投資グループやアプリに進み、すでにお金を入れてしまった場合は、次の入金を止めることが先決です。「利益を引き出すには税金や手数料が必要」と言われても、支払う前に相談してください。

• 銀行振込で入金した：振込先の銀行と警察へ早めに連絡し、口座の凍結を依頼します。
• 暗号資産で送った：送付元の交換業者に連絡し、送付記録（日時、数量、アドレス、トランザクションID）を保存します。
• カードで支払った：カード会社に連絡し、請求の扱いを相談します。

いずれの場合も、取り戻せるかどうかは状況しだいで、返金が約束されるものではありません。相談先は、警察相談専用電話の#9110、消費者ホットラインの188、弁護士への相談方法を案内する法テラス（0570-078374）です。準備するものは相談前チェックリストで確認できます。

よくある質問

Q. AI判定ツールで「本物」と出れば、その動画は信用してよいですか？

A. 判定結果だけで信用するのは避けてください。検出の仕組みには限界があり、メタデータも編集で変えられます。その人物の公式サイトや公式チャンネルで同じ案内が出ているかを確かめるほうが確実です。

Q. 有名人本人がYouTube広告でLINE登録を勧めることはありますか？

A. 一概には言えませんが、本人の案内であれば公式サイトや公式チャンネルでも同じ告知が確認できるのが普通です。確認できない場合は、登録しないでください。警察庁は、LINE登録への誘導を著名人をかたる手口の特徴の一つに挙げています。

Q. YouTubeで広告を報告したら、すぐに消えますか？

A. YouTubeのヘルプでは、報告された広告をチームが審査し、必要に応じて措置をとると案内されています。報告の結果や時期は約束されていないため、報告と並行して画面の保存も済ませておきましょう。

Q. 自分の顔を使ったAI動画がYouTubeに投稿されていました。削除を求められますか？

A. YouTubeのプライバシー侵害の申し立て手続きで、あなたの容姿や声をリアルに改変・合成したコンテンツの削除を求められます。申し立ては原則として本人か法定代理人が行います。

この記事の出典

• 警察庁：令和7年における特殊詐欺及びSNS型投資・ロマンス詐欺の認知・検挙状況等について（確定値）
• 警察庁：同上 資料1（PDF）
• 総務省：令和6年版 情報通信白書「偽・誤情報の流通・拡散等の課題及び対策」
• Google 検索ヘルプ：画像についての詳細
• YouTube ヘルプ：ポリシーに違反する広告を報告する
• YouTube ヘルプ：個人情報の保護（プライバシー侵害の申し立て）
• Google 広告ヘルプ：著名人へのなりすましが原因でアカウントが強制停止された場合

※本記事は公開情報をもとにした一般的な情報提供です。特定のサービス・事業者を詐欺と断定するものではなく、返金・解決を保証するものでもありません。個別の判断は弁護士や公的機関にご確認ください。