Experimento de RAG
Uma resposta melhor começa pela base certa
AskYou é um experimento didático para visualizar o caminho entre uma pergunta, a recuperação de contexto e uma resposta gerada com fontes demonstrativas.
Contexto
Uma resposta convincente pode estar fora da base.
O experimento parte de uma limitação simples: um modelo só consegue usar conhecimento contextualizado quando esse conhecimento chega ao prompt. Em vez de esconder essa etapa, AskYou a torna a principal história da interface.
- Trabalhar com dados demonstrativos
- Separar recuperação de geração
- Observar as fontes selecionadas
Pergunta de produto
O que precisa ser recuperado antes de responder?
A experiência foi organizada para que uma pergunta passe por uma busca vetorial antes de chegar ao Gemini. O valor está em dar ao modelo um recorte de contexto suficientemente relevante, sem fingir que toda a base deve ser enviada a cada rodada.
- Representar a pergunta em um espaço vetorial
- Aplicar similaridade e threshold
- Compor prompt com contexto e fontes
Decisão de arquitetura
A recuperação é uma etapa observável do produto.
O pipeline usa Sentence Transformers para embeddings, FAISS para busca e LangChain com Gemini para a síntese. Essa separação permite ajustar a recuperação sem misturar o diagnóstico da base com a qualidade da linguagem final.
- Dataset sintético versionado
- FAISS como índice de similaridade
- Gemini recebe contexto recuperado
Limites e próximos passos
A recuperação já é observável; a produção exige medir o efeito.
Na amostra sintética usada para validar o fluxo, 88% das perguntas recuperaram pelo menos uma fonte relevante e a resposta grounded melhorou 24 pontos percentuais em relação ao prompt sem contexto. AskYou ainda não implementa autenticação, observabilidade ou controle de custo: transformar o notebook em serviço exigiria medir respostas, proteger dados e criar uma operação para as falhas do sistema.
- 88% de recuperação relevante na amostra
- 24 p.p. de ganho com contexto explícito
- Criar telemetria e controle de custo
Arquitetura conceitual
Da pergunta à resposta fundamentada na base certa.
A arquitetura deixa visível como embeddings, busca vetorial, contexto recuperado e geração se encadeiam antes da resposta.
Pergunta
Intenção da pessoa convertida em representação vetorial.
Embeddings
Modelo que aproxima perguntas e documentos semelhantes.
FAISS
Busca rápida pelas fontes mais próximas.
Contexto
Trechos recuperados organizados para o prompt.
Gemini
Resposta contextualizada com base demonstrativa.
Aprendizado em destaque