皆が気にしているトークン使用量の「トークン」を具体的に掘り下げてみた
この記事で分かること
トークン使用量の基礎となる「トークン」の定義と、実際の計算方法を掘り下げて理解できる。トークン数のカウントルールや、モデルごとの違いが把握できる。
詳細要約
AIのトークン使用量を節約するには、プロンプトを簡潔にし、不要な修飾語や繰り返しを避けるのが最も効果的。具体的には、指示文を「200字以内で要約せよ」のように短く明示すると、出力トークンが削減できる。また、会話履歴を長く引きずらず、新規セッションを開始することで、入力トークンの無駄を防げる。