AIトークンカウンター — GPT・Claude・Gemini

0
トークン
0
文字
0
単語
0
GPT-4コンテキスト (128,000 tokens) 0%
Claudeコンテキスト (200,000 tokens) 0%

≈ 概算 · GPT-4 / Claude / Gemini 対応

このツールとは AIトークンカウンター — GPT・Claude・Gemini

トークンカウンターは、テキストをGPT-4・Claude・GeminiなどのAIモデルが処理する際のトークン数を推定するツールです。トークンとはAIが文章を読む際の基本単位で、英語は約4文字で1トークンですが、日本語の漢字・ひらがな・カタカナは1文字で1〜3トークンになることが多く、英語より多くのトークンを消費します。プロンプト作成やRAGパイプライン構築、API費用の見積もりに欠かせないツールです。

使い方

  1. 入力欄にテキストを貼り付けるか入力する(プロンプト・文書・コード・会話履歴など)。
  2. 上部のカードでトークン数が即座に表示される。
  3. GPT-4(128k)・Claude(200k)のコンテキストウィンドウ使用率をバーで確認する。
  4. 文字数・単語数も参考情報として表示される。

こんなときに便利

RAGチャットボットの開発で、システムプロンプトと検索結果がGPT-4のコンテキストウィンドウ128kに収まるか不安なときは、まとめて貼り付けるだけで消費トークン数がすぐに分かります。日本語を含む文書は英語より多くのトークンを消費するので、送信前にここで確認しておくと安心です。プロンプトの調整やAPI費用の見積もりにも便利です。

よくある質問

日本語はトークン数が多いのですか?

はい。英語は平均して約4文字で1トークンですが、日本語の漢字・かな文字はモデルのトークナイザーによって1文字あたり1〜3トークン消費することがあります。そのため同じ情報量でも日本語は英語より多くのトークンが必要になる場合があります。

コンテキストウィンドウとは何ですか?

AIモデルが1回のリクエストで処理できるトークンの最大数です。GPT-4 Turboは128,000トークン、Claude 3は最大200,000トークンに対応しています。この上限を超えると古い内容が切り捨てられます。

テキストはサーバーに送信されますか?

いいえ。すべての処理はJavaScriptによってブラウザ内で行われます。入力したテキストが外部に送信されることは一切ありません。

関連ツール