「楽に稼ぐため、コンピューターウイルスを作ろうとした」――。
警視庁が２７日に不正指令電磁的記録作成容疑で逮捕した川崎市の無職の男（２５）はランサムウェアを作成しようとしたと供述しているという。対話型生成ＡＩ（人工知能）によるサービスが急速に広まる中で、繰り返し指摘されてきた犯罪に悪用される懸念が現実のものになった。
捜査関係者によると、男は元工場作業員で、ＩＴ会社への勤務歴やＩＴ技術を学んだ経歴はないという。これまでの捜査では協力者の存在も浮上していない。コンピューターに関する深い知識がない中で目を付けたのが、生成ＡＩの悪用だったとみられる。
米オープンＡＩが「チャットＧＰＴ」の無料公開を始めたのは２０２２年１１月末だ。男はこの時期にニュースを見て生成ＡＩに関心を持つようになり、以前から興味があったというランサムウェアの作成を思いついたと説明しているという。
悪用されたのは「チャットＧＰＴ」などの大手サービスではなく、作成者が不明な状態でインターネット上に公開されていた複数の対話型ＡＩだったとみられる。警視庁は、男が自分のスマートフォンやパソコンから対話型ＡＩに質問を繰り返し、ウイルスを作成したとみており、男の自宅などから押収したパソコンやスマホを解析し、事件の全容解明を急いでいる。
◆ランサムウェア＝企業や団体の内部ネットワークに侵入し、データを暗号化して金を要求する「身代金要求型」ウイルス。盗んだデータを公開すると脅す二重恐喝の手口も多い。警察庁によると、全国の警察には昨年、１９７件の被害相談があった。
「生成ＡＩの負の側面が如実に表れたケースだ。残念だが、様々な人たちが予想していた事件が起きた」
生成ＡＩとセキュリティーに詳しいＮＴＴデータグループの新井悠氏はこう語る。
米オープンＡＩが「チャットＧＰＴ」を公開して以降、主要各社は競うように生成ＡＩを開発してきた。当初は爆発物の生成など犯罪に関わる情報も答える「欠陥」があった。このため開発会社側は、違法な情報や倫理的に問題のある回答を引き出せないように対策を講じてきた。
しかし、新井氏によると、こうした自主規制に目をつけたサイバー犯罪者グループなどが、無制限で質問に回答する「悪の生成ＡＩ」を開発し、公開を始めた。２０２３年６月頃から有料版も含め、「雨後の竹の子」（新井氏）のように乱立するようになり、米インディアナ大の論文によると、２３年２～９月、違法情報などをはき出す生成ＡＩが２１２確認されたという。
制限がなかったり、緩かったりする生成ＡＩを使えば、ランサムウェアのソースコード（設計図）や、感染させたいコンピューターの侵入方法などが得られるという。詐欺メールの文面や偽ショッピングサイトなどの作成も可能だ。新井氏は「専門家が身近にいて教えてくれるようなもの。これまでサイバー犯罪に必要だったＩＴに関する高い知識や経験がなくても犯罪を行うことができる。ハードルが下がっている」と危機感を募らせる。
ＡＩを巡る包括的な法規制は、欧州連合（ＥＵ）が２６年中に全面施行する見通しだ。一方、日本では開発者による自主規制に委ねられているのが実情で、政府の有識者会議が今月２２日、法規制を巡る議論を始めたばかりだ。新井氏は「生成ＡＩの開発と普及のスピードに法規制を含めた議論が追いついていない」と指摘する。