🛡️ AIの暴走・手戻りを根絶する「ガードレール運用術」：3層ルール設計・強制フック・セッション引き継ぎ（Handoff）の極意
前回の連載第1弾（🚀 1人で開発チームを率いる：3大AIマルチ運用のリアル）では、Claude Code・Codex・Geminiの3体を使い分ける開発体制についてご紹介しました。
しかし、どれだけ高性能な最新LLMを並べても、実際に運用を始めると誰もが必ず次の「AIエージェントの洗礼」に直面します。
⚠️ 開発現場で頻発する「AIエージェント3大トラブル」
- ① 暴走とルール無視：頼んでもいない無関係なファイルを勝手に書き換えたり、禁止したはずのコマンドを実行する。
- ② 会話がリセットされると健忘症になる：新しいセッションを立ち上げると、前回の決定事項や文脈をすべて忘れ、説明の二度手間が発生する。
- ③ 同じミスを平然と繰り返す：一度「これはNG」と注意したはずのバグやフォーマット崩れを、数日後に別のセッションで平然と再発させる。
多くの人はこれに対し、「システムプロンプトをもっと長く丁寧に書く」「厳しく注意する」といったアプローチを取ろうとします。しかし、言葉でお願いするだけではAIのミスは絶対に防げません。
今回は、半年以上にわたる開発運用から導き出した、「AIにルールを確実に守らせ、セッションを超えて記憶を繋ぐためのガードレール＆Handoff運用術」を詳しく解説します。
1. ルール肥大化を防ぐ「3層ドキュメント設計」
AIに指示を与える際、一番やってしまいがちなのが「1つの巨大なルール設定ファイルにあらゆる禁止事項や手順を詰め込む」ことです。
ルールが数千行に肥大化すると、トークン消費が増えるだけでなく、「注意力の散漫（Attentionの希釈）」が起き、AIは最も重要な禁止事項を見落としやすくなります。
これを防ぐため、ルールを役割に応じて次の3層構造に明確に分離して運用します。
📜 第1層：憲法（最上位ルール）
常時ロード（100〜200行）【役割】 絶対に破ってはならない行動原則・権限境界の定義
📚 第2層：六法・スキル（業務マニュアル）
オンデマンド参照（必要時のみ）【役割】 特定作業の詳細手順・フォーマット定義
📋 第3層：引き継ぎ・Handoff（動的コンテキスト）
開始時読込 ＆ 終了時追記【役割】 セッション間の記憶の確実な受け渡し
この3層構造にすることで、AIは普段は「最小限の憲法」だけを頭に入れて軽快に動作し、必要な時だけ「専門スキル（マニュアル）」を開いて正確に作業できるようになります。
2. 「言葉でお願いする」のをやめ、強制フックで物理的に防ぐ
プロンプトにどれだけ「〇〇しないでください」「必ずこのフォーマットで書いてください」と記述しても、LLMの確率的な性質上、長時間の作業では100回に数回は必ずすり抜けます。
したがって、真に堅牢な開発環境を作るには「AIの良心や注意力に頼るのをやめ、システム的なインターセプト（強制フック）で物理的に遮断する」設計が必要です。
⚙️ 実際に絶大な効果を発揮した3つの強制フック
① コマンド実行のラッパー強制（危険操作の物理的遮断）
GitやNode、PythonなどのコマンドをAIがシェルで直接叩くのを禁止し、安全なラッパースクリプト経由でしか実行できないようにします。カスペルスキー等のアンチウイルスによるハングや、危険なオプション付きコマンドの実行をフック側で検知してブロックします。
② 作業完了後の自動バリデーション＆リント強制
「フォーマットを守ってね」と頼むのではなく、ファイル保存後やコミット直前に機械的なバリデータ（スクリプト）を自動実行させ、エラーが0件にならない限りタスク完了を認めない仕組みを作ります。
③ 変更前「計画承認（Plan Mode）」の必須化
複数ファイルにまたがる大きな変更やDBスキーマの改変時は、いきなりファイルを触ることを禁止し、「変更計画・対象ファイル・リスク・検証手順」を提示して人間（または親エージェント）の承認を得るまで実行をブロックします。
「AIを怒って躾けるのではなく、間違った行動が物理的に通らないレールを敷く」——これがガードレール構築における最大の秘訣です。
3. AIの作業条件（前提プロセス）を根本から見直す
AIがミスを連発するとき、その原因の9割はAIの知能不足ではなく「人間側のタスクの渡し方（作業条件）」にあります。
作業条件を以下のように見直すだけで、手戻りやバグの発生率は劇的に低下します。
🎯 作業スコープの事前固定
「ここを直して」と広く投げず、「今回の修正対象はファイルAの関数Bのみ。それ以外は一切触らない」と作業範囲の境界線を事前に固定してから着手させます。
📦 インプットの事前正規化
巨大なファイル全体を読ませるのではなく、判断に必要な情報（型定義、関連ロジックの抜粋、過去の仕様メモ）だけを抽出して渡すことで、ハルシネーションを防ぎます。
💡 「同じミスが2回起きたらルール化」の鉄則
開発を続けていると、どうしても予期せぬミスが発生します。その際、私たちは「2ストライク・ルール」を徹底しています。
- 1回目のミス：偶発的なものとして流し、その場で修正を指示する。
- 2回目のミス（同種のもの）：これはAIの弱点またはプロセスの構造的欠陥。即座に「第1層（憲法）」への追記、または「強制フック」の実装を行い、二度と発生しない仕組みを作る。
同時に、役目を終えた古いルールや不要になった制約は定期的に削除（棚卸し）し、ドキュメントの肥大化を防ぎます。
4. 記憶を繋ぐ「Handoff（引き継ぎ）プロトコル」
AIコーディングにおける最大のボトルネックは「コンテキストの消失（セッション終了）」です。長時間の開発でトークン上限に達したり、新しいタスクを開始するたびに会話をリセットする必要がありますが、そのままでは次のAIが「何も知らない白紙状態」になってしまいます。
これを解決するのが、セッションの終了時と開始時に決まったフォーマットで記憶を受け渡す「Handoffプロトコル」です。
📋 セッション終了時に必ず記録する「3つの必須項目」
セッションを閉じる際、AI自身に以下の3項目を定型ログとして出力・保存させます。
- ① Done（完了したこと）：今回どのファイルのどの機能を改修し、どう検証したか（決定事項の確定）。
- ② ToDo（残タスク）：次回セッションで誰が何をどの順番で着手すべきか。
- ③ Learnings（学び・教訓）：今回発生したエラーの原因や、次回注意すべき仕様の罠。
そして、新しいセッションを開始する際、最初のアクションとして前回のHandoffログを読み込み、「前回の状況を頭の中で整理してから作業に入る」というプロトコルを徹底します。
これにより、セッションを何度リセットしても、新しいAIエージェントが「前回の続きを完璧に理解した即戦力」として1秒で立ち上がることが可能になります。
5. まとめ：AIは「優秀だが忘れっぽい新人エンジニア」
AIエージェントを使った開発は、プログラミングというよりも「マネジメント（組織運営）」に極めて近い性質を持っています。
「明確なルール（憲法）」 × 「物理的なチェック（フック）」 × 「確実な日報（Handoff）」
この3本柱が揃って初めて、AIは真の相棒として100%のパフォーマンスを発揮します。
次回（第3弾）は、これらのガードレールやマルチAI運用をGUIで扱いやすくするために現在開発を進めている自作VS Code拡張機能や開発支援ツールの試行錯誤についてお届けする予定です。