AIが人間の研究者を支援するだけでなく、次世代のAI開発を担うようになったら、安全性は誰が、どのように確かめるのでしょうか。OpenAIは、高度化するAIを人間の管理下に置くため、各国が協力して共通の技術基準を整備する必要があるとの考えを示しました。
AIの能力をどう測る？各国共通の評価・報告ルールを提案
OpenAIが注目するのは、AIが次世代のAIを開発し、その成果を使ってさらに開発を進める「再帰的自己改善（RSI）」です。研究の自動化が進めば開発速度が上がる可能性がある一方、人間が研究の過程を理解し、管理し続けられるかが課題になります。OpenAIは、完全自律型のRSIは現時点で実現しておらず、安全に実施できるようになるまで追求すべきではないとしています。
そこで同社が提案したのが、国境を越えて使えるAIの安全基準です。具体的には、AIの能力やリスクを共通の方法で測定すること、自動化された研究のどの段階で人間による確認を必要とするかを定めること、問題が起きた際の重大度や報告方法をそろえることなどを挙げています。
各国で評価方法が異なると、AIの能力や安全対策を比較しにくくなります。OpenAIは、日本を含む各国のAI安全研究機関や既存の標準化団体との連携を想定し、米国が国際的な基準づくりを主導すべきだと提案しています。ただし、今回示したのは技術基準の構想であり、各国に共通の法律や、AIモデルの公開前審査を義務付けるものではありません。
見解として、AIの開発がさらに自動化されるほど、企業ごとに異なる安全対策を共通の尺度で確認できる仕組みが重要になります。今後は、提案された基準がどのように具体化され、開発企業や各国の機関に採用されるかが注目されます。
詳しくは「OpenAI」の公式ページまで。レポート／DXマガジン編集部
