インドネシア政府は10日、xAIの対話型生成AI「Grok」へのアクセスを一時的に停止しました。子どもや女性の画像を性的に加工・生成できる問題が指摘され、昨年12月下旬の「画像編集」機能追加以降、児童性的虐待に関する苦情がX上で相次いだことが背景です。ムティア・ハフィッド通信・デジタル相は、AIで生成された偽のポルノコンテンツから女性、子ども、一般市民を保護する措置だと説明しました。今回の決定により、インドネシアはGrokへのアクセスを全面的に停止した最初の国となりました。一方、他国では有料会員のみ利用可能にする対応が取られています。政府は、同意のないディープフェイクを人権と尊厳、市民の安全に対する重大な侵害と位置づけています。xAIは現時点で今回の対応に関するコメントを出していません。
アクセス遮断は一時的措置とされていますが、再開時期や条件は示されていません。苦情の発生源とされた画像編集機能を巡っては、生成の制御や検知、通報の在り方が問われています。急速に拡張する生成AIの機能が社会に与える影響が可視化され、未成年保護と安全確保を優先した判断が前面に出ました。インドネシアの踏み込んだ対応は、国ごとに異なる規制アプローチを浮かび上がらせます。サービス提供側の運用や機能見直しの透明性、被害申告や削除対応の手続き整備が今後の焦点です。安全対策が具体化されれば、利便性と安全性の両立に向けた再設計が進む可能性があります。
