インターネット上で公開されている対話型生成AI（人工知能）を悪用して、コンピューターウイルスを作成したとして、警視庁サイバー犯罪対策課は28日、川崎市幸区古市場1の無職、林琉輝（りゅうき）容疑者（25）を不正指令電磁的記録作成容疑で再逮捕したと発表した。生成AIを使ったウイルス作成の摘発は全国初とみられる。
【写真で見る】五感で自ら判断するロボット
再逮捕容疑は2023年3月31日、自宅のパソコンやスマートフォンを使い、コンピューターのデータを破壊し、仮想通貨（暗号資産）を要求する身代金要求型ウイルス「ランサムウエア」に似たウイルスを作成したとしている。「AIに聞けば何でもできると思った。楽に稼ぎたかった」と容疑を認めているという。
警視庁によると、林容疑者は元工場作業員で、ITを専門的に学んだ経験はなかった。ニュースで対話型生成AIに興味を持ち、「ランサムウエアの作成を思いついた」と供述しているという。
林容疑者は複数の対話型生成AIが回答した設計情報を組み合わせ、ウイルスを作成したとみられる。このウイルスによる被害は確認されていない。
オープンAI社の「チャットGPT」といった対話型生成AIには、不正なプログラムの作成などに関する質問への回答を拒否する「ガードレール」という悪用防止機能が設定されている。一方、ネット上で公開されている作成者不明のものには「ガードレール」が設定されていないタイプもある。
林容疑者は作成者不明のものを使い、「ガードレール」を回避するため、目的を隠して間接的な質問を繰り返し、設計情報を回答させていたとみられる。
林容疑者は今年3月に偽造身分証を使って不正にSIMカードを契約したとして詐欺などの容疑で逮捕されていた。その際、自宅のパソコンなどから自作のウイルスが見つかった。
対話型生成AIを巡り、米国では大手IT企業が自主規制ルールを導入。欧州連合（EU）でもAI規制法が成立するなど、悪用防止に向けた対策が進んでいる。国内でも政府の戦略会議が5月、大規模なAI開発事業者などを対象に、法規制の検討に着手すると決定している。【加藤昌平】