Обсуждение
Обсуждение темы #5
Текст обсуждения темы на форуме SOVIBE.
Для RAG лучше всего сейчас смотреть в сторону Qdrant или Milvus, если нужен self-hosted. Pinecone хорош, но на объемах ценник кусается. По эмбеддингам — берите BGE-m3, отлично справляется с мультиязычностью.
Главное не забывать про rate limits у провайдеров API. Мы в прошлом месяце положили прод, когда пошел наплыв юзеров, а у нас лимиты в OpenAI закончились 😅
Подскажите, а с чего вообще начать изучение RAG? Есть какие-то годные туториалы?