コンテキストには、固定費と変動費がある。/contextで削れるのは前半だけだった
この記事で分かること
AIのコンテキスト管理において、コンテキスト長には固定費（常に消費される部分）と変動費（削れる部分）があるという概念が分かる。/contextコマンドで削減できるのは前半部分のみであり、コスト最適化のためには後半部分の設計が重要になる。
詳細要約
コンテキストの前半部分のみ削除可能という制約を元に、重要な指示は前半に、削除されやすい後半には補足情報を配置する設計が有効。 具体点として、システムプロンプトや固定の指示文は前半に書き、ユーザーとの対話履歴や可変的な例示は後半に積む。これにより、コンテキスト圧縮時に重要な情報が失われるのを防げる。もう一点は、コスト削減のために削除対象となる後半部分に冗長な説明を置くと、必要な文脈が意図せず消えるリスクがあるため、後半は最小限の情報に絞るべき。