Ne işe yarar?
Gömme modelleri, içerikleri anlamlarına göre sayısal vektörlere çevirerek anlamsal arama ve RAG gibi sistemlerin temelini oluşturur. EmbeddingGemma 2'nin farkı, farklı türdeki içerikleri aynı uzayda temsil etmesi: Bir metin sorgusuyla ilgili görsel, video ya da ses kaydı bulunabiliyor.
Öne çıkanlar
- Toplam 740 milyon parametre; yalnız metin, görsel ya da ses bileşenleri ayrı ayrı kullanılabiliyor.
- 8 bin token bağlam ve 5,5 dakikaya kadar ses işleme.
- Apache 2.0 lisansı sayesinde ticari kullanıma açık; Ollama, vLLM ve llama.cpp gibi araçlarla cihaz üzerinde çalıştırılabiliyor.
Kimin için önemli?
Verisini dışarı göndermeden kendi belgeleri üzerinde arama ve soru-cevap sistemi kurmak isteyen geliştiriciler ve kurumlar için güçlü ve hafif bir seçenek. RAG'ın nasıl çalıştığını RAG Nedir? yazımızda anlattık.