常駐AIエージェントのプロンプトを変えても壊れないようにする評価設計

週次タスクの棚卸しで、前回の状態をLLMの外に保存して渡すことで、差分だけを抽出しながら継続的な更新ができる。会話履歴に依存せず、同じ前提を再現しやすくなるため、複数回の実行でも安定する。

OpenClawでツールの出力を、人間向けの要約とLLM向けの全文に分けて渡す運用により、表示の見やすさと文脈の保持を両立できる。会話履歴に全文を残す設計に比べ、必要な情報を効率よく推論に使える点が強み。

MCPツールの名称を短く整理するとき、命名規則がそのまま実装上の名前と一致する例を手がかりに、分かりやすい名前を設計できる。名前の付け方でツールの用途や動作の推定しやすさが変わるため、命名時に確認すべき観点が得られる。

反復改善を設計するときの誤ったループ構造を見直し、効果的な更新サイクルを組むための注意点が得られる。無駄な繰り返しを避けるには、改善対象の評価基準と終了条件を先に決めるのが有効。

一人会社をAIチームで運営した実例から、AI社員に任せられる業務範囲と、人の判断が残る部分の線引きが学べる。チーム編成や役割分担を考えるとき、何を自動化し、どこを人が確認するかの基準として使える。

思考過程を偽装してLLMから誤った回答を引き出す攻撃手法について、対策が難しい理由を学べる。訓練による修正が効かない構造的な問題なので、AIシステム利用時にセキュリティリスクとして考慮する必要がある。