ディープフェイクに要注意！直近の事例から見る共通点と解決策まとめ

現在、生成AIなどの進化によって"本物そっくりの画像・動画・音声"を誰でも簡単に作れるようになりました。

その結果、ディープフェイクを悪用したトラブルが急増しています。

特に直近では、いわゆる性的ディープフェイクの拡散や販売、子ども同士のトラブルなどが問題となり、日本でも摘発や注意喚起が相次いでいる状況です。

本記事では、日本で起きた事例を取り上げながら、

といった共通点をまとめました。

そのうえで、実際に被害に遭ったときはどのように行動すればいいのかについて、詳しく解説します。

今何が起きている？ディープフェイクの急速な発展事情

ディープフェイクとは、生成AIなどを用いて、人物の顔・声・動き等を本物のように合成・改変し、実在人物の「なりすまし」や、実写のように見える偽りの画像・動画・音声を作る技術（または生成物）を指します。

近年はモデル性能の向上とツールの一般化が急速に進み、専門知識がなくてもスマホやPCで”それっぽい映像・音声”を作れてしまう状況が広がりました。

結果として、なりすまし・偽情報の拡散・恐喝などに悪用されるリスクが現実味を帯び、社会問題化が進んでいます。

また、いったんSNSやグループチャット等に投稿・共有された画像は、転送や転載などで一気に拡散しやすく、完全な回収が難しい点も問題の1つです。

警察庁の啓発資料でも、投稿した画像は拡散され「もう二度と消すことはできない」旨の注意喚起がされています。

日本でディープフェイクが問題化した主な事例

ここでは、直近の日本国内でディープフェイクが問題化した事例を紹介します。

いずれも、作成物の内容や、公開・販売・所持・拡散といった行為が大きな問題点です。

（2025年4月15日）生成AIのわいせつ偽画像を販売して逮捕

報道によれば、生成AIで作成したわいせつ画像を用いたポスターを、インターネットのオークションサイトで販売したとして、警視庁が複数人を逮捕した事案がありました。

この事例のポイントは、ほとんど生成AIなどの知識がなかったにも関わらず、わいせつ性のある画像を販売・配布した行為にあり、その数は数万点近くとされています。誰でも簡単に、性的ディープフェイクを作成できることを示した事案ともいえるでしょう。

【参考】読売新聞オンライン
https://www.yomiuri.co.jp/national/20250415-OYT1T50070/

（2025年12月5日）AI生成の児童性的画像の所持で摘発

AIで生成された女児の性的画像を所持していたとして、児童買春・児童ポルノ禁止法違反容疑で元教諭が追送検されたと報じられました。報道では、AI生成画像をめぐる同法違反での摘発は、今回で「初」とされています。

この事例のポイントは、作成・拡散だけでなく、単なる所持でも問題になり得る点です。ディープフェイクは、「単なるデータだから」とよく誤解されがちですが、内容や対象（今回の件では児童）次第で法的リスクが大きく変わるのが事実です。

【参考】読売新聞オンライン
https://www.yomiuri.co.jp/national/20251205-GYT1T00294/

（2025年12月17日）児童の性的ディープフェイク被害の相談増加

警察庁は、生成AI等で作られた性的ディープフェイクについて、2025年1〜9月に18歳未満からの被害相談が79件あったこと、また加害者の半数超が「同じ学校の児童・生徒」だったことなどを公表しています。

この事例のポイントは、被害が「遠い世界」で起きているのではなく、学校内・同級生間のトラブルとして発生し、SNSやグループチャットで拡散しているという現実です。子ども同士のトラブルは被害が表に出にくい性質もあるため、気付いた段階で早期対応を意識しなければなりません。

【参考】毎日新聞
https://mainichi.jp/articles/20251217/k00/00m/040/272000c

事例から見えるディープフェイク被害の共通点

ここまで見てきたとおり、日本国内でもディープフェイクの悪用が、現実の摘発・相談増という形で表面化しています。

直近の事例からは、

という共通点があります。

性的ディープフェイクの公開・販売が拡大

性的ディープフェイクは、「作成して終わり」ではなく「公開して注目を集める」ために利用されることが増えています。

実際に、生成AIで作成したわいせつ画像や動画はSNS上に投稿され続けていて、多くの閲覧数を集めているのが現実です。

また、公開にとどまらず、販売・配布などの形で「収益化」につながるケースも見られます。

性的ディープフェイクは、「本人が実際に撮影したものではない」ため、軽い気持ちで扱われがちで、匿名で出品・取引が行われやすい点も拍車をかけています。

生徒間でトラブル続出！学校やSNS上の拡散問題

ディープフェイク被害のもう1つの特徴は、加害者が遠い誰かとは限らず、同級生や知人など、身近な関係の中でも起きやすいことです。

特に、学校のコミュニティにおいては、顔写真が入手しやすく、学年・クラス・部活など共通の接点も多いため、「冗談のつもり」「仕返しのつもり」で作られ、拡散されるリスクが高まります。

また、拡散の起点になりやすいのは、SNSの投稿だけではありません。

DMやグループチャット、クラスの共有アカウントなど、閉じた場所で出回っていたとしても、そこから外部へ漏れる可能性は十分にあり得るのです。

ディープフェイク被害は「作られること」そのもの以上に、「共有される・拡散される」スピードと範囲が被害の大きさを左右します。

被害に遭ったらどうすればいい？

ディープフェイク被害は、放置すると拡散が進み、削除や特定が難しくなる傾向があります。

まずは感情的に動くのではなく、「証拠を残す→拡散を止める→専門家に相談する」という順番で、落ち着いて対応することが重要です。

まずは証拠保全が第一

最初に行うべきは、証拠の確保です。

投稿が削除されたり、アカウントが消えたりすると、後から”何が起きたか”を確認しづらくなります。

最低限、次の情報は残しておきましょう。

また、DMやグループチャットで拡散されている場合は、経緯が分かる画面も残しておきましょう。

学校内のトラブルであれば、担任や学校に相談した日時・内容、やり取りの記録も後々重要になることがあるため、可能な限り手元に残しておくべきです。

プラットフォームへの削除申請

次に、投稿されているSNSや動画サイト、掲示板などに対し、削除申請（通報）を行います。

多くのサービスには、なりすまし、嫌がらせ、性的コンテンツ、プライバシー侵害などの規約があり、違反に該当する可能性が高い場合は、削除や非表示の対応が行われます。

削除申請では、感情的な説明よりも、”どの投稿が、どの権利や規約に反しているか”を簡潔に示すのがコツです。

例えば、

などを記載します。

なお、削除が通っても、同じ画像が別アカウントで再投稿されるケースは少なくありません。

そのため、削除申請は「拡散を止めるための手段」ではあるものの、状況によっては次の段階（発信者特定や法的措置）も視野に入れる必要があります。

弁護士に相談すべき状況とは

削除申請だけで解決しない場合や、被害が深刻な場合は、早めに弁護士へ相談するのが安全です。

特に、次のようなケースは早期相談を検討してください。

弁護士に相談することで、削除だけでなく、発信者情報開示請求、警察への相談、示談交渉の可否などを含めて、状況に応じた選択肢を提示してもらえます。

結果として、被害の拡大を防ぐだけでなく、加害者側に損害賠償請求が可能となるケースもあるでしょう。

ディープフェイク問題は「拡散」「子ども」が深刻化

ディープフェイクの悪用は現代の問題になり、特に、一度出回ると止まらない拡散と、子ども・学校を巻き込みやすい点が深刻です。

被害を最小限に抑えるには、証拠保全と削除対応を早期に行い、状況に応じて発信者の特定、損害賠償請求などを検討することが重要です。

一方で、ディープフェイクの事案は、投稿先や拡散状況、内容によって取るべき対応が変わり、判断を誤ると回復が難しくなることもあります。

少しでも不安を感じた場合は、早めに弁護士への相談を視野に入れるべきです。

弁護士に相談することで、個別の状況に合った解決策を進めていけるでしょう。

このサイトはreCAPTCHAによって保護されており、Googleのプライバシーポリシーと利用規約が適用されます。