LLMメッシュ使用時の料金確認

Koji
Level 2
LLMメッシュ使用時の料金確認

LLMメッシュを使用時、OpenAIなどAPIを用いるときトークン数に応じた料金はどこで表示されますでしょうか?

0 Kudos
1 Reply
TsuyoshiK
Dataiker

プロンプトスタジオ(Prompt Studio)画面にて、プロンプトの結果1000件に対する概算コストを確認できます。(トークン単位での表示ではなく、レコード単位の概算(参考値)となります。その点はご了承ください。)

Monosnap (2) Review translation - Prompt Studio _ Dataiku 2024-02-06 17-16-26.png

説明は以下リンクのドキュメントに記載されていますので、こちらもご参照ください。

https://knowledge.dataiku.com/latest/ml-analytics/gen-ai/concept-prompt-studio.html#test-cases

また、トークン単位という観点では、コネクション定義画面にて、以下のような情報を確認することが可能です。(こちらも、参考値ではありますので、その点はご了承ください。)

Monosnap Image 2024-02-06 17-29-36.png

そして、現状ではインストール版のみに対応していますが、「Compute Resource Usage」というテンプレートを利用することで、ダッシュボードからコストの情報を確認することも可能です。以下のドキュメントをご参照ください。

https://knowledge.dataiku.com/latest/solutions/governance/solution-cru.html#llm-usage-dashboard