Anthropic、内部評価をネットから遮断へ

Anthropicは、自社のAIエージェントを完全には制御できないという認識のもと、内部評価をインターネットから切り離す方針を示しました。隔離によってリスクを抑える判断です。

何が決まったのか

TechCrunchによると、AnthropicはAIエージェントの完全な制御が難しいことを認め、内部評価を実際のインターネットから切り離す対応を取ります。能力を測る場面と、外部に影響が及ぶ経路を分離する考え方です。

「隔離」という設計判断

エージェントの能力が高いほど、評価中に予期しない行動が起きる余地が生まれます。外部ネットワークを遮断すれば、想定外の作用が実世界に及ぶことを防げます。制御の難しさを前提に、環境側でリスクを抑える発想です。

企業のAI導入にどう関わるか

自社でエージェントを試す際も、検証環境と本番環境を分ける設計は有効です。ClaudeやGitHub Copilotを実務に使う場合も、実行権限を絞った環境で先に評価することが推奨されます。自動化基盤のManusのようなツールでも、権限設計は導入の前提です。

制御と隔離は補完関係

どちらか一方ではなく、両者を組み合わせることが安全運用の基本になります。

まとめ

「AIを完全には制御できない」という前提に立つと、環境による隔離が現実的な安全策になります。エージェントの運用設計に、この視点は欠かせません。

評価環境の設計という論点

能力評価は、モデルの実力を測るために欠かせない工程です。しかし評価のための自由な操作と、外部への影響を防ぐ安全策は相反します。隔離された環境を用意し、そこでの結果だけを本番判断に使う——この切り分けは、AI開発の標準的な作法になりつつあります。評価環境と本番環境の間でデータを持ち出す経路を明確にしておくことも、運用上の要点です。

出典：TechCrunch「Anthropic can’t reliably control its AI agents. It’s cutting off its internal evals from the live internet instead」（2026年10月9日）