新しい Anthropic Token Counting API の紹介

Claude を使用する場合はコストに注意してください

Anthropic はここ数日、いくつかの興味深いベータ機能を静かに公開しましたが、ほとんどは目立たないままでした。これらの機能の 1 つは、モデルを使用して PDF を処理する機能で、PDF ドキュメント内のテキストとビジュアル コンテンツの両方を理解できるようになりました。これについては、今後の記事で詳しく説明する可能性があります。

この記事の焦点となるもう 1 つのベータ機能は、トークン カウンティングの導入です。重要なのは、ユーザー メッセージ、PDF、画像内のトークンをクロードに送信する前にカウントできることです。これは、トークンの使用コストを常に監視したい人にとって朗報です。

Anthropic からの公式発表 (リンクはこちら) に記載されているとおり、

「トークン カウンティング エンドポイントは、システム プロンプト、ツール、画像、PDF のサポートなど、メッセージを作成するための同じ構造化された入力リストを受け入れます。応答には入力トークンの総数が含まれます。」

次のモデルをサポートしています。

「クロード 3.5 ソネットクロード 3.5 ハイククロード 3 ハイククロード 3 オーパス」

以上が新しい Anthropic Token Counting API の紹介の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。