Mercato

キーワード検索・意味検索・画像検索を組み合わせたハイブリッド商品検索。BGE-M3、CLIP、LambdaMARTによって実現。
Hybrid keyword, semantic, and visual product search Powered by bge-m3, CLIP, and LambdaMART.

2~3種類のリトリーバーと学習済みリランカーがCPU上で動作します。  |   Two/Three retrievers and a learned reranker, on CPU.

検索の仕組み   |   How it works

この検索エンジンは、 Amazon ESCIデータセット を用いて、英語と日本語の両方の検索クエリに対応しています。
英語クエリは、次の3種類のリトリーバーで並列に処理されます。
- BM25によるキーワード検索
- 多言語埋め込みモデル(BGE-M3)を用いた意味検索
- CLIPを用いた画像検索
日本語クエリでは、次の2種類のリトリーバーを使用します。
- BM25によるキーワード検索
- 多言語埋め込みモデル(BGE-M3)を用いた意味検索
いずれの場合も、各リトリーバーの検索順位はReciprocal Rank Fusion(RRF)によって統合されます。
その後、関連性評価データで学習したLambdaMARTモデルにより、検索結果を再ランキングします。
英語検索では、画像特徴を含む10種類の特徴量を使用します。
一方、日本語検索では、 画像データセッ トの制約により英語検索で利用している画像特徴を使用できないため、8種類の特徴量を使用します。
すべての処理はCPU上で実行されます。

This Search Engine handles both english and japanese queries based on the Amazon ESCI Dataset .
Each English query runs through three retrievers in parallel:
- BM25 keyword matching
- Dense semantic search using multilingual embeddings (BGE-M3)
- CLIP image-based retrieval
The Japanese queries use two retrievers:
- BM25 keyword matching
- Dense semantic search using multilingual embeddings (BGE-M3)
In either case, the retreivers' rankings are combined with reciprocal rank fusion.
Then they are reordered by a LambdaMART model trained on relevance judgments.
English ranking uses ten features including visual signals.
Japanese uses eight features because image-based features are available only for English due to image dataset limitations.
Everything runs on CPU.