PromptStadioとNotebookクエリーの場合の回答生成フローの差異について

k_hanai

お世話になっております。
Dataiku13.4.0のドキュメント埋め込み機能について質問がございます。
ドキュメントの埋め込み機能を用いてベクトルストアを生成したのですが、こちらを用いてPromptStadioとノートブック上でクエリを実行した場合、回答の内容が大きく異なってしまいました。PromptStadio側でバックエンド側で行っている処理とノートブック側で行っている処理の差異についてお聞きしたいのですが、ご教授いただくことは可能でしょうか？ノートブックについては以下のリンクのコードを参照しております。（Temperatureやmax_tokensのパラメータを一通り確認したのですが、特に差異は見当たらずです…）
https://developer.dataiku.com/latest/tutorials/genai/nlp/llm-mesh-rag/index.html

tomob

通常PromptStudioとノートブックで直接処理を実行した場合回答が大きく違うのは考えにくい話ですが、発生しているのですね。
パラメーターの差異は追いかけていただいていると思うので、あとできることとしましては、PromptStudioの画面からRAW PROMPTの中身を確認いただいて投げている処理を比較してみる、audit logなりから投げられた処理が実際にどの形で届いているか確認していただくような話になるかと思います。
あと一点、リンクの中の
search_results = vector_store.similarity_search(query)
処理は、ナレッジバンク設定の中で定義する検索処理とは一致するものではないので異なる結果が出ている可能性はあるかと思います。
ご参考になればと思います。