A software architecture for integrating a conversational interface based on large language models in a dairy farming management system

Abstract

A integração de interfaces conversacionais alimentadas por Large Language Models (LLMs) constitui uma oportunidade transformadora na computação moderna. Nesta linha, este trabalho apresenta uma arquitetura de software que visa integrar uma interface conversacional a um sistema de gestão de fazenda leiteira, especificamente o software da empresa Cowmed, uma startup com origem na Universidade Federal de Santa Maria. Ao aproveitar as capacidades de LLMs disponíveis como serviços, mas sem “vendor lock-in”, a arquitetura visa facilitar a interação entre os usuários e o sistema, permitindo entrada e saída em linguagem natural. As principais contribuições deste trabalho incluem o desenvolvimento de uma camada de tradução para consultas de usuários, integração com uma API para recuperação de informações e implementação de camadas especializadas para processamento de tópicos específicos. Além disso, mecanismos de correção de erros, manutenção de coerência de tópicos e tradução de respostas foram incorporados para garantir robustez e satisfação do usuário. Instanciada com os serviços ChatGPT e Google Gemini, a arquitetura foi submetida a testes e foi avaliada por usuários, gerando dados sobre sua aceitação e sobre desafios da integração de LLMs no sistema de informação existente.