OpenAIのCEOであるSam Altman氏は、国連安全保障理事会でAIの機会とリスクを同時に指摘しました。発言では、AIが創造性と発見を広げる可能性とともに、制御不能や権力集中という二つの重大リスクを挙げ、強い安全性と人間による監督の確保を訴えました。特に、自己改良を伴う高度なシステムの加速に注意が必要だとし、人間の価値観に整合し、監視可能で、安全性を保証できないモデルは訓練すべきでないと述べました。
さらに、Altman氏は三つの原則を提示し、第一に人間をAI意思決定の中心に置くこと、第二に科学と経済の成果を人々に還元すること、第三に個人の力を高めることの重要性を示しました。また、民主的プロセスを迂回して企業が意思決定を代替すべきでないとし、国家と国際レベルでの補完的なフロンティアAI標準の整備を提案しました。能力測定、リスク評価、安全策の妥当性、人間の監督維持に関する共通基準の必要性を述べ、迅速で正確なインシデント報告や脆弱性共有のための安全なチャネルの構築も求めました。
最後に、Altman氏は、透明性が低く権力が集中する道と、民主的制度を通じてAIが人々のために機能する道の岐路にあると述べました。OpenAIは拙速な競争に与せず、必要に応じて開発を減速してきた姿勢を示しつつ、国際協調の下で監督可能で安全なAIの実現に向け協働する用意があると表明しました。詳しくは「OpenAI」の公式ページまで。レポート／DXマガジン編集部
