Acreditamos que a inovação não é apenas uma ferramenta, é um pilar essencial para construir o futuro da tecnologia digital. Com essa visão criámos o AppX Labs, um espaço dedicado à investigação e ao desenvolvimento de tecnologias emergentes. E, para marcar o início deste percurso, apresentamos um estudo conduzido por João Lopes sobre a construção de chatbots genéricos de base de conhecimento com LLMs open-source e Node.js.
A evolução dos chatbots com AI
Os chatbots evoluem sem parar, ao ritmo dos avanços em inteligência artificial e machine learning. Com o crescimento dos Large Language Models (LLMs), estas ferramentas oferecem hoje interações mais precisas e mais contextuais.
No AppX Labs explorámos esta tecnologia para criar um chatbot de base de conhecimento, capaz de responder a perguntas sobre informação específica e de guardar o histórico da conversa, o que garante interações mais contextuais e mais eficientes.
Implementação e desafios
A investigação de João Lopes passou por testar modelos diferentes, entre eles o Llama 3.1 da Meta e o Gemma 2 da Google. Foram implementadas abordagens para:
- Carregar e processar documentos de texto e PDF;
- Criar embeddings eficientes para indexação e recuperação de informação;
- Montar um servidor Node.js para gerir as interações com o chatbot;
- Implementar um histórico que guarda as conversas com cada utilizador;
- Testar configurações de embedding diferentes para otimizar o tempo de resposta e o rigor.
Os resultados foram promissores, com melhor desempenho do Gemma 2, sobretudo com o modelo de embedding nomic-embed-text, que apresentou a melhor taxa de sucesso nas respostas.
E a seguir?
Este estudo é apenas o início do AppX Labs. A nossa equipa vai continuar a explorar formas de otimizar a experiência de utilização e a investigar novas aplicações para chatbots inteligentes, entre elas:
- Implementar cache para perguntas frequentes, para acelerar as respostas;
- Testar formas de otimizar infraestrutura e hardware;
- Analisar comparativamente diferentes LLMs e modelos de embedding;
- Melhorar a usabilidade e integrar funções avançadas de AI.
Leia o artigo completo aqui.
Isto é só o começo! Se se interessa por tecnologia de ponta, AI generativa e soluções inovadoras, siga o AppX Labs. Em breve traremos novas conclusões e investigação sobre o futuro do desenvolvimento digital.
