MENU

ニュース

AIエージェントの承認待ちは保証されない!? Microsoftが説明する『人による監視』の限界

  • URLをコピーしました!

人が確認する設定を入れても、毎回必ず止まるとは限りません。パソコン操作を行うエージェントで、依頼の受信者と応答がない場合の動作を確認します。

確認依頼の宛先と、必ず停止する機能ではない点を確認

AIエージェントへパソコン操作を任せる際、「人による監視」を設定すれば、必要な場面で必ず承認待ちになると思っていないでしょうか。Microsoftの公式ガイドは、Copilot Studioのコンピューター使用における確認依頼は、確率的なAIモデルの動作によって起きると説明しています。止まってほしい場面で依頼しない場合もあり、人の入力を必ず求める保証として頼らないよう明記しています。対象はstandard harnessを使うエージェントなどで、すべてのAI製品に共通する承認機能ではありません。

確認や追加情報が必要になると、設定されたレビュー担当者へOutlookのメールが送られ、詳細な操作履歴の画面にも確認カードが表示されます。ただし、ツールの作成者が依頼と詳細ログを受け取る条件があり、マシン設定で「End user credentials」を選ぶ場合は、接続を最初に設定した人が、指定レビュー担当者にも含まれている必要があります。画面上で確認するには環境の詳細ログを有効にする必要があり、管理者が無効にしている場合もあります。

依頼へ応答しなければ処理は一時停止し、メールに記載された期限に達すると自動で停止します。担当者を全員外しても完全な自律動作にはならず、確認が必要になった際に送り先がなく、セッションが失敗するため、少なくとも1人を設定する案内です。また、依頼された内容を無条件で入力せず、パスワードや暗証番号、カード情報などの機密情報を回答しないよう求めています。11月20日確認の説明であり、確認依頼の有無だけで操作の安全性や社内承認の完了を判定する仕組みではありません。

詳しくは「Microsoft Corporation」の公式ページまで。

レポート/DXマガジン編集部

シェアはこちらから
  • URLをコピーしました!
  • 週刊SUZUKI
  • イノベーション大賞
  • DSW

お問い合わせ

取材のご依頼やサイトに関するお問い合わせはこちらから。

問い合わせる