コンテキスト ウィンドウ は、AI モデルが 1 回の会話で処理できるテキストの量です。これはモデルの作業メモリであると考えてください。これには、メッセージ、ファイルの内容、ツール定義、AI の応答が含まれます。
コンテキスト ウィンドウが重要な理由
AIとのあらゆる対話はコンテキスト空間を消費します。コンテキストウィンドウがいっぱいになると、次のようになります。パフォーマンスが低下する
ペイロードが大きいと処理に時間がかかり、応答時間が長くなります
フェアユース予算が枯渇する
リクエストあたりの権利が増えると、フェアユースポリシーの予算がより早く消費されます
コンテキストが切り詰められる
古いメッセージが削除されると、AIが会話の以前の部分を「忘れる」可能性があります。
コンテキストスペースを消費するもの
1. 会話履歴
あなたが送信するすべてのメッセージと受信するすべての応答は、コンテキスト内に残ります。長い会話は当然、より多くのスペースを消費します。2. ファイルの内容
ファイルまたはフォルダーを添付すると、その内容全体がコンテキストに挿入されます。- テキスト ファイル — 完全なコンテンツが含まれています
- コード ファイル — ファイルの内容全体が送信されます
- ドキュメント — 解析されたテキストが含まれます
- 画像 - 説明または OCR テキストが追加されます
3. ツールの定義
有効になっているすべてのツールはコンテキスト スペースを消費します。ツール定義には次のものが含まれます。- ツールの名前と説明
- 必須パラメータとオプションのパラメータ
- パラメータの説明とタイプ
4. システム説明書
バックグラウンド プロンプト、根拠となる文書、システム指示はすべてスペースを消費します。ツールがコンテキストを使用する方法
ツールがコンテキストにどのような影響を与えるかを示す実際の例を次に示します。| 有効なツール | 使用される暫定のコンテキスト | コンテンツの残り |
|---|---|---|
| 0 ツール | ~5% | ~95% |
| 5つのツール | ~15% | ~85% |
| 10のツール | ~30% | ~70% |
| 20のツール | ~50% | ~50% |
| 30以上のツール | ~70%+ | ~30% |
これらはおよその値です。 実際の使用方法は、ツールの複雑さと記述の長さによって異なります。
コンテキストを管理するための戦略
1. ツールオーケストレーションに流れを使用する(推奨)
ツール関連のコンテキストの消費を削減する最も効果的な方法は、Alter の組み込みツール オーケストレーターである Flow を使用することです。Flow は単一のツールとしてロードされます
フローは、有効なすべてのツールをすべてのリクエストにロードするのではなく、各タスクに適切なツールをインテリジェントに選択して調整する 1 つのツールとして機能します。注意:
- コンテキストの使用量を60~80%削減します
- 応答時間を改善します
- 複数のステップのタスクを自動的に処理します
- フェアユース予算を節約
2. 未使用のツールを有効にする
積極的に使用するツールのみを有効にします。3. アクションのツールセットをカスタマイズする
すべてのアクションは、独自の特定のツールを使用して構成できます。これはコンテキストの使用を制御する強力な方法です。何でも質問するアクション
[なんでも質問] アクションは、特定のアクションを選択せずにプロンプトボックスに入力する場合に使用される確実です。これはAlterのどこでも実行されます。最大の効果を得るには、ここでのツールの選択を控えます。カスタムアクション
カスタム アクションを作成するときは、どのツールが実際に必要なのかを慎重に検討してください。デフォルトから学ぶ
一部組み込まれていない Alter アクションでは、ツールが自動的に無効になっています。 同様に、「正しい文法」にはツールは必要ありません。
ミニマルであること
特定のワークフローに必要なツールのみを有効にしてください。アクションがテキストをフォーマットするだけの場合は、おそらくツールは必要ありません。
フローと特定のツール
柔軟性が必要で、どの具体的なツールが必要かわからない場合は、フローを使用してください。ツールの選択は自動的に処理されます。
フローに必要なツールが正確にわかっている場合は、特定のツールを使用してください。これにより、パフォーマンスが向上し、AI との境界が少なくなります。
4. 大きなファイルにはワークスペースを使用する
すべての会話に大きなファイルを添付する代わりに、次のようにします。- 大きなファイルを含むプロジェクト用にWorkspaceを作成する
- 必要に応じてWorkspaceを参照する
- タスクを忘れずにWorkspaceのコンテキストをクリアする
Workspaces について学ぶ
ワークスペースは、ファイルを整理し、コンテキストをより効率的に管理するのに役立ちます
4. 定期的にコンテキストをクリアする
次の場合にはすべてのコンテキストを明確にして、⌘ K (Command + K) を使用します。- 関係のない新しいタスクを開始する
- 以前のコンテキストはもはや関係ありません
- 応答が遅くなっている
5. 長い会話を要約する
非常に長い会話の場合:- 会話をファイルにエクスポートする
- 概要を説明して新しい会話を開始する
- 必要に応じて、エクスポートされたファイルを参照します
6. 添付ファイルは厳選する
フォルダー全体を添付する代わりに、次のようにします。- 必要な特定のファイルのみを添付してください
- ファイルを使い終わったらコンテキストから削除する
コンテキストの使用状況の監視
Alter は勝手のコンテキストメーターを表示しませんが、使用状況を間接的に監視できます。時計の応答時間
応答が遅い場合は、多くの場合、ハイコンテキストの使用を示します
Tool 数を確認する
より多くの有効なツール = より多くのコンテキストが利用されます。ツールマネージャーを定期的に確認します。
すぐに成功するチェックリスト
関連ドキュメント
Tool オーケストレーションには Flow を使用する
ツール関連のコンテキストの使用を最小限に抑える方法
Tool マネージャー ガイド
ツールの統合を管理する方法を学ぶ
__期間_6__
ファイルを整理し、変換テキストを効率的に管理します