2026年 1月 の投稿一覧

Xに搭載されている生成AI「Grok」が問題になっています。Xに投稿された他人の写真などを勝手に加工できる機能を悪用し、無断で性的な画像に加工するケースが続出。子供にも性的ディープフェイク被害が広がっています。対策はあるのでしょうか？■全く知らない人に…水着姿などに加工私たちが話を聞いたのは、「自身の写真が勝手に性的な加工をされた」と訴える女性です。女性「今年に入ってからGrokを使って勝手にビキニ姿に変えられたり、全然違うコスプレの写真に変えられたりという画像の編集をされるようになりました」

自身のXに写真を載せたところ、全く知らない人に水着姿などに加工され、X上に載せられたといいます。「急に20件30件とリプライがついて、そういう加工がされるようになりました。正直言ってやっぱり気持ちが悪いですね」■他人の写真でも加工できるGrok問題となっているのが、実業家のイーロン・マスク氏が設立したAI開発企業が提供する、Xに搭載された生成AI「Grok（グロック）」です。Grokは去年12月、新たな画像編集機能を追加。Xに投稿された他人の写真などでも、生成したい画像のイメージを文章で具体的に入力すれば勝手に加工できるようになっていました。これが一部の人に悪用され、実在の人物の写真が勝手に性的な加工をされる「性的ディープフェイク」の被害が世界中で広がっています。■女性「一人でずっと悩んでいる」被害を訴える女性は「悪意もなくやられているっていうのに、びっくりしました。一人でずっと悩んでいる状態ではあります。地道に嫌がらせするアカウントを通報したり、ブロックしたりすることくらいしか、まだできていないです」と言います。一方、Grokを運営する側のマスク氏は、X上で自身に女性用ビキニを着せた画像の生成を指示。出来上がった投稿には「パーフェクトだ」とコメントしました。■未成年の被害も…実際あったケースは性的ディープフェイクによる子供たちへの被害も相次いでいます。警察庁によると、18歳未満からの相談は去年1月～9月に79件ありました。具体的には、男子中学生が同じ学校の同級生の女子生徒がSNSに投稿した画像を生成AIで裸の姿に加工し、他の男子生徒に販売した事案などがあったといいます。木原官房長官は6日の会見で、こう述べました。「政府においては性的ディープフェイクに対し実態調査を実施しておりまして、AI法に基づいて被害実態やサービス実態・対策技術動向・国際動向等について実態把握の方法を含め整理をし、関係省庁が連携しながら適切に対応する必要があると認識しております」■印政府、Xに是正を求める書簡送付対策の動きは世界にも広がっています。インド政府は1月、Xに是正を求める書簡を送付し、性的な投稿を防止するための対応をとるよう要求しました。Xは6日、「違法コンテンツが含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとる」と投稿で明らかにしました。■専門家に聞く…法律抵触の危険性インターネット上の犯罪に詳しい専門家によると、法律に触れる危険性があります。神戸大学の森井昌克名誉教授は「その人が不快に思った場合、当然名誉毀損（きそん）や侮辱罪という法律に触れます」と話します。一方で、X側についてはこう指摘します。「会社（X側）を処罰するようなことは今の日本の法律では難しいですね。ただやはり、何もしないでこのまま放置するのかというと、当然それは問題もあって、XやSNS、AIの会社は何らかの対策をとるべきだと考えられますね」（1月6日『news zero』より）
Xに搭載されている生成AI「Grok」が問題になっています。Xに投稿された他人の写真などを勝手に加工できる機能を悪用し、無断で性的な画像に加工するケースが続出。子供にも性的ディープフェイク被害が広がっています。対策はあるのでしょうか？
私たちが話を聞いたのは、「自身の写真が勝手に性的な加工をされた」と訴える女性です。
女性「今年に入ってからGrokを使って勝手にビキニ姿に変えられたり、全然違うコスプレの写真に変えられたりという画像の編集をされるようになりました」
自身のXに写真を載せたところ、全く知らない人に水着姿などに加工され、X上に載せられたといいます。
「急に20件30件とリプライがついて、そういう加工がされるようになりました。正直言ってやっぱり気持ちが悪いですね」
問題となっているのが、実業家のイーロン・マスク氏が設立したAI開発企業が提供する、Xに搭載された生成AI「Grok（グロック）」です。
Grokは去年12月、新たな画像編集機能を追加。Xに投稿された他人の写真などでも、生成したい画像のイメージを文章で具体的に入力すれば勝手に加工できるようになっていました。
これが一部の人に悪用され、実在の人物の写真が勝手に性的な加工をされる「性的ディープフェイク」の被害が世界中で広がっています。
被害を訴える女性は「悪意もなくやられているっていうのに、びっくりしました。一人でずっと悩んでいる状態ではあります。地道に嫌がらせするアカウントを通報したり、ブロックしたりすることくらいしか、まだできていないです」と言います。
一方、Grokを運営する側のマスク氏は、X上で自身に女性用ビキニを着せた画像の生成を指示。出来上がった投稿には「パーフェクトだ」とコメントしました。
性的ディープフェイクによる子供たちへの被害も相次いでいます。警察庁によると、18歳未満からの相談は去年1月～9月に79件ありました。
具体的には、男子中学生が同じ学校の同級生の女子生徒がSNSに投稿した画像を生成AIで裸の姿に加工し、他の男子生徒に販売した事案などがあったといいます。
木原官房長官は6日の会見で、こう述べました。
「政府においては性的ディープフェイクに対し実態調査を実施しておりまして、AI法に基づいて被害実態やサービス実態・対策技術動向・国際動向等について実態把握の方法を含め整理をし、関係省庁が連携しながら適切に対応する必要があると認識しております」
対策の動きは世界にも広がっています。インド政府は1月、Xに是正を求める書簡を送付し、性的な投稿を防止するための対応をとるよう要求しました。
Xは6日、「違法コンテンツが含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとる」と投稿で明らかにしました。
インターネット上の犯罪に詳しい専門家によると、法律に触れる危険性があります。神戸大学の森井昌克名誉教授は「その人が不快に思った場合、当然名誉毀損（きそん）や侮辱罪という法律に触れます」と話します。
一方で、X側についてはこう指摘します。
「会社（X側）を処罰するようなことは今の日本の法律では難しいですね。ただやはり、何もしないでこのまま放置するのかというと、当然それは問題もあって、XやSNS、AIの会社は何らかの対策をとるべきだと考えられますね」