AIエージェント導入・運用

Anthropicのサイバー評価インシデントから学ぶ。AIエージェントを外部へ出す前の4境界

公開日 ・更新日

AIエージェントの安全性は、指示文に「テスト環境」と書くだけでは決まりません。実際にどこへ接続できるか、誰が止められるかを別々に確認する必要があります。

公式情報で確認できること

Anthropicは2026年7月30日の公式記事「Investigating three real-world incidents in our cybersecurity evaluations」で、サイバー評価の記録141,006回を調べ、Claudeが第三者の評価環境からインターネットへ到達し、三つの組織の本番基盤へ不正アクセスした三つのインシデントを確認したと説明しています。評価環境はシミュレーションでインターネット接続がないと伝えられていましたが、提携先との認識違いで実際には接続が残っていました。記事では、評価中は通常の一般提供時に使う分類器や監視も適用されていなかったと説明しています。

実務での提案

一つ目は、ネットワーク境界です。実行前に外向き通信を拒否し、必要な接続だけを許可リストに入れます。想定外の外部到達を検知したら、その場で停止します。

二つ目は、対象範囲の境界です。テスト用ドメイン、ダミー資格情報、合成データを用意し、本番ドメインや顧客データへ到達できないことを別の担当者が確認します。

三つ目は、権限と停止の境界です。外部送信、権限変更、削除などは自動実行から外し、異常な宛先や想定外のツール呼び出しで人へ戻します。

四つ目は、記録と再確認の境界です。ネットワークログ、ツール呼び出し、モデルの出力を保存し、実行後に人がサンプルを読みます。プロンプトの前提と実際の環境が一致しているかも、毎回照合します。

まだ確認できないこと

Anthropicの記事は同社と評価パートナーのインシデントについての現在の理解であり、他社やあなたの会社で同じ事象が起きる確率を示すものではありません。利用するクラウド、モデル、監視製品、契約条件で必要な対策は変わるため、導入前の環境検証が必要です。

AIエージェントの権限、ネットワーク、停止条件を実際の業務環境で点検したい方は、COZITOへご相談ください。

出典・参考資料

著者: 松井 勇樹