Xに搭載された生成AIの画像編集機能を悪用し、実在人物の画像が性的に加工される問題で、日本政府がXに対し不適切な画像が出力されないよう改善を求めたことが十五日に明らかになりました。改善が見られない場合、AI法に基づく初の指導も検討するとしており、日本の具体的対応が示されたのは初めてです。画像編集機能にはイーロン・マスク氏が率いるxAIの対話型AIであるGrokが使われています。操作方法は返信欄で加工内容を指示する方法と、投稿画像を選んで編集画面で指示する方法の二通りがあります。昨年十二月下旬に後者の機能が追加されると、他人の画像を水着姿や下着姿に加工する被害が世界で急増しました。日本でもアイドルや未成年とみられる画像が裸に近い格好に改変されたケースが確認されています。
政府関係者によると、AI法を所管する内閣府は九日、他人の画像を容易に加工し拡散できる点を重く捉え、Xに対して性的な加工画像の出力抑制などを口頭で要望しました。併せてAI法に基づく指導も視野に、この問題に対する見解、不適切なコンテンツ生成を拒否する機能の内容、今後の対応方針を文書で照会し、速やかな報告を求めたとしています。十五日夕方時点でXから正式な回答はないとされています。X側は返信欄での指示機能について九日に有料会員限定とし、十五日には実在人物をビキニ姿などに改変できないよう技術的措置を講じたと発表しました。一方、編集画面から指示する機能は十五日午後七時時点で露出度の高い格好に加工できる状態が確認されています。
各国でも動きが出ています。インドネシアは十日にGrokへのアクセスを一時遮断しました。英国は十二日にオンライン安全法に基づく調査を開始したと発表し、米カリフォルニア州の司法長官も十四日にGrokへの調査を明らかにしました。短期間に悪用が拡大したことを受け、各国当局が監督と技術的介入を強める流れが見られます。
