AIに「ルールを守って」と言うのをやめて、hookで物理的に止める仕組みを作った話
この記事で分かること
AIへの指示文でルールを守らせるのをやめ、実行時に遮断する方式を実装するための考え方が得られる。プロンプトで抑えきれない場合に、実行フックで停止させる仕組みを選ぶ際の実装判断や、効果の検証ポイントを確認できる。
詳細要約
指示で抑止するより確実に防ぐには、実行経路に割り込みを設定する方式が有効。実装時は、止めたい挙動の直前に検知条件を定義し、該当動作を捉えたら強制終了する手順にする。文章による注意書きだけでは漏れる事故を、構造的に防ぐ判断材料になる。