生成AIで、実在する女性芸能人を模したわいせつな画像を作成し、インターネットのサイトで販売したとして、会社員の男が逮捕されました。
【写真を見る】わいせつ電磁的記録媒体陳列の疑いで逮捕された横井容疑者
15日、秋田市の会社員・横井宏哉容疑者（31）は、俳優の女性3人に似せたわいせつ画像を生成AIで作成し、インターネットのサイトで公開した疑いで警視庁に逮捕されました。こうした実在する人物の偽の性的な画像や動画は「性的ディープフェイク」と呼ばれ、大きな社会問題になっています。
横井容疑者が作成した性的ディープフェイク画像は2万点にのぼり、女性芸能人262人に酷似したものだといいます。取り調べに対し、横井容疑者は容疑を認めているということです。
横井容疑者「閲覧者の反響が大きく、人気が出て、多くの収益が見込めると思った」
横井容疑者は、海外のサイトを通じて1ドルから100ドルまでの月額制で画像を公開。これまでの売り上げは約120万円にのぼるとみられています。性的ディープフェイクを作成した手口について、横井容疑者は「インターネット上の動画や記事で学んだ知識で作りました」と供述しています。
インターネットで検索してみると、“AI美女作り方”といった作成マニュアルの動画がたくさん公開され、AIで生成したわいせつ画像も多数出品されていました。
横井容疑者が犯行に使ったのは、スマホと生成AIの無料ソフト。
警察庁によりますと、性的ディープフェイクに関する相談や通報の件数は、去年、全国で100件を超えたということです。性的ディープフェイクの問題の一つは、誰もが簡単に被害者にも加害者にもなりうること。しかし、「日本は法整備が追いついていない」と専門家は指摘します。
三井物産セキュアディレクション 福田美香さん「特に生成AIは、本当に日に日に進化していくもので、1週間後には考えられなかったような技術がどんどん出てきている。法整備がなかなか技術に追いつかないというのが現状」
被害に遭わないための対策は…
三井物産セキュアディレクション 福田美香さん「ディープフェイクポルノに関しては、いろいろな対策が考えられていて、個人の顔がはっきり単体で写るような写真をSNS上に広く公開しない、公開を限定するとか、そういった対策が考えられる。個人としても、こういった脅威をまず知っておくことが重要になってくる」