子供の学校行事や卒業アルバムの写真が、ＡＩ（人工知能）で偽画像を生成する「ディープフェイク」の技術で偽の性的画像に加工され、ＳＮＳで拡散される被害がやまない。
一部は小中高生らが生成ＡＩのサイトなどを使って作成しており、全国の警察に相談や通報が相次いでいる。警察庁は主要サイトの実態を調査して、事件の摘発や抑止対策につなげる考えだ。（村上喬亮）
「好きな女の子の顔写真を生成ＡＩで加工した」。同じスポーツ教室に通う女子中学生の裸の偽画像を作り、ＳＮＳのグループチャットに投稿した東日本の小学生の男児は、警察にそう説明したという。
ＡＩに指示を出して画像を生成するサイトやアプリは多数ある。子供の画像を読み込ませると偽の性的画像が作成できるものもあり、男児は、教室側が会員向けに公開していた画像を悪用していた。
警察庁によると、未成年の性的な偽画像に関する警察への相談や通報は、昨年１年間に１００件を超えた。「自分の顔写真で作られた裸の画像がＳＮＳに出ている」といった内容で、被害者の大半は中高生で小学生も数人いた。ほとんどは知人が作成に関与したとみられる。学校行事や卒業アルバムなどの写真を基にＡＩで画像が作られたと特定できたケースは１７件あった。
動機の中には、同性への嫌がらせが目的だったものもあった。各地の警察は、性的な偽画像をＳＮＳで拡散した小中高生に指導・警告を行った。
悪質事案の一部は事件化されている。東海地方では、同級生の女子生徒の顔写真で偽の裸の画像を作成して友人と共有したとして、男子中学生が名誉毀損（きそん）容疑で書類送検された。
子供の性的画像の所持や製造は本来、児童買春・児童ポルノ禁止法で規制されているが、同法は実在する子供の被害を想定しているため、ディープフェイクの摘発は困難だ。
このため、各地の警察は別の法令を適用して対処している。米国のセキュリティー会社の調査では、２０２３年にネット上で確認されたディープフェイク動画は９万５８２０件に上り、うち９８％はポルノ動画だったという。警察幹部は「警察が把握している被害は氷山の一角だ」と指摘する。
こうした実態を踏まえ、警察庁はネット上に乱立している画像生成ＡＩサイトやアプリの中から、国内で中高生などに利用が広がっている１０程度を選び、運用状況の調査を進める。
調査項目は、利用時の本人確認方法や性的画像を作成した時の警告の有無、画像・動画を作成する仕組みなどを想定している。結果は事件捜査のほか、非行防止教室などを通じた青少年への啓発活動に生かす。
わいせつ物の規制に詳しい神奈川大の上田正基准教授（刑法）は「精巧な画像が拡散されれば、偽物でも顔写真を悪用された子供らのプライバシーは侵害される。精神的負担は大きく、ディープフェイクも児童ポルノと同様と捉えて法規制を検討すべきだ」と話した。
海外では性的なディープフェイク画像そのものを規制する動きが広がっている。
韓国では昨年９月、画像の作成に加えて、動画の視聴や所持なども処罰対象とする法案が可決した。米国では今年５月、性的な偽の画像・動画を本人の同意なくネット上に投稿することを禁じる連邦法が成立。ＳＮＳなどの運営会社には、被害者からの要請から４８時間以内に画像などを削除することが義務づけられた。英国や豪州もディープフェイクの性的画像の共有などを規制している。
日本では、鳥取県が条例を改正し、子供の写真で性的な偽画像を作ることを今年８月から罰則付きで禁じた。青少年のネット利用を議論する政府の作業部会では、法整備を含めた対応を求める意見が出たが、議論は深まっていない。
国際ＮＧＯ「チャイルド・ファンド・ジャパン」（東京）が１～２月に全国の男女１２００人に行った調査では、実在する・しないにかかわらず、偽画像を含む児童の性的な画像を法規制すべきだとの意見が約７割に上った。