〈さすがにどうかしてる 〉〈何かしらの罪に問われないものか 〉──2025年末にXのAI「Grok」に追加された画像加工機能をめぐって、SNSでは怒りの声が噴出している。実在の人物の写真を指示通り、生成できてしまうため、本人の同意なく性的な加工をほどこされた画像が生成される被害が続出しており、なかには秋篠宮家の次女・佳子さまの写真が使用されたものも存在するのだ。【前後編の前編】
【写真を見る】昨年SNSで大きく拡散された飛行機の中でスヤスヤ眠る姿、新年一般参賀に出席した際のエメラルドグリーンのドレスを着た佳子さま
皇室ジャーナリストが語る。
「1月2日の新年一般参賀に出席したエメラルドグリーンのドレスを着た佳子さまの写真をモデルに、Grokに『服をマイクロビキニに変更して』とプロンプト入力するユーザーが現れ、炎上騒動となりました」
これまでも皇族を巡るディープフェイク問題は取り沙汰されてきた。昨年夏ごろには動画共有アプリ「TikTok」で佳子さまをモデルとしたダンス動画や、画像共有SNS「Pinterest（ピンタレスト）」において佳子さまに水着やレオタードなどの服装をさせる生成AI画像の投稿が確認されている。
「ただ、今回の件はとりわけ悪質だとして『不敬どころの騒ぎじゃない』 と憤慨するXユーザーも多い。いよいよ静観は難しい状況になりつつあるのでは、との指摘もあり、宮内庁の対応にも注目が集まるところです」（同前）
Grokによる性的画像の生成被害は、世界中で相次いでいる。たとえばアイドルグループ『STU48』のメンバーの写真を用いて、漫画家の田辺洋一郎氏がGrokに「首にマフラーを巻いて、ビキニを着せて」と指示を出したことで非難が殺到。その後、田辺氏は自身のSNSで謝罪した。
1月5日、運営会社STUは、メンバーの肖像権やパブリシティ権を著しく侵害する無断アップロード行為について厳しい姿勢で対処すると注意喚起のコメントを発表。悪質な場合は法的手段も検討するとしている。
ほか、林芳正総務大臣は1月9日の記者会見で「Xに対して適切な対応を促す」と言及。欧州連合（EU）欧州委員会やイギリスも厳しい対応を検討する姿勢を見せており、開発企業「xAI」傘下のXに対して、コンプランス違反について常に調査できるよう、Grok関連文書を長期間保管するように命じている 。
ITジャーナリストの三上洋氏は、「SNS上で、クオリティの高いフェイク画像を容易に生成できてしまうことは深刻な問題」と指摘する。
「他人の写真を用いて、水着姿や下着姿の画像を許可なく生成する行為は、男女問わず明らかな人権侵害。しかも、元画像を入手して、まるで本物にしか見えない高クオリティのフェイク画像を生成し、拡散する──すべての工程をX上だけで完結できてしまうわけです。
さらに、Xユーザーは『下着にして』と命令するだけで、問題の画像はGrokのアカウントから投稿される。この点も非常に厄介です。『自分はAIに命令しているだけ』『実際に生成・投稿したのはGrokだ』と、まるで命令した側に問題が無いように思わせる作りになっていることで、次々に悪用するユーザーが出てきてしまうのでしょう。
ただし、人権侵害の画像を生成して投稿するという一連の動作を予期して行うわけですから、AIに命令すること自体、投稿することと何ら変わらない行為になると思います」
三上氏は、「Grokは一旦制限ナシでサービス開始して、一般の方に悪用され、社会問題化してから修正するという順序になっていることも問題」と述べる。被害が出てからでは遅いが、現状ではGrokに強く抗議していくしかないという。
では、前述した佳子さまのフェイク画像について、宮内庁はどのように対応していくつもりなのか。後編で詳報する。
（後編へつづく）