AIとの会話が長くなると、なぜか話が噛み合わなくなる ― コンテキストウィンドウと文脈圧縮（Compaction）の実践ガイド
この記事で分かること
AIとの長い会話で話が噛み合わなくなる原因と、コンテキストウィンドウの圧縮手法が実践的に学べる。具体的には、文脈圧縮（Compaction）の実装手順や、どのタイミングで圧縮をかけるべきかの判断基準が得られる。
詳細要約
AIとの長い会話で話が噛み合わなくなる原因は、コンテキストウィンドウの上限に近づき、古い情報が圧縮されて失われるためです。対策として、会話の途中で「これまでの議論を踏まえ、現在の論点を3行で要約して」と指示し、重要な前提を再確認するプロンプトを挟むと効果的です。また、新しい話題に移る前に「ここまでの合意事項を箇条書きで出力し、次の質問に備えて」と依頼し、文脈を明示的に保存する手順を取ることで、圧縮による情報欠落を防げます。