コンテキストウィンドウ

なぜ大切か

長い会話では、古い内容が範囲から外れることがあります。仕組みはトークンと関係します。

身近な例

とても長い文章を一度に渡すと、後半が薄くなることがあります。要約して渡すと安定します。使い方は調べ物での使い方も参考になります。

よくある誤解

コンテキストウィンドウについて、よくあるかんちがいを正します。

• 会話の内容をずっと永久に覚えているわけではありません。量を超えると古い部分は扱えなくなります。
• 大きさはトークンの数で表され、文字数と完全には一致しません。
• ウィンドウが大きいAIほど長い文章を一度に扱えますが、それでも上限はあります。
• これはAIの「記憶力」そのものではなく、一度に目を通せる文章の量の話です。

似た言葉とのちがい

コンテキストウィンドウと近い言葉のちがいを、わかりやすく並べます。

• トークン: ウィンドウの大きさを数える単位です。ウィンドウはトークンを入れる入れ物にあたります。
• プロンプト: AIに出す指示や質問の文です。長いプロンプトはウィンドウの容量を多く使います。
• RAG（検索つき生成）: 外部資料を参照する仕組みです。ウィンドウに入りきらない情報を補う使い方ができます。

覚えられる量

見える窓のイメージ

AIが一度に見られる文章の範囲が決まっていて、その範囲の外にある話は見えなくなってしまいます。

あふれると忘れる

会話が長くなってこの範囲を超えると、前に話した内容を忘れることがあるので気をつけましょう。