Automaise lança ferramenta para reduzir erros em modelos de IA Generativa

Focada em acelerar a transformação digital e melhorar a produtividade organizacional, a Automaise disponibilizou o Hallucinations Detector, uma ferramenta inovadora que promete reduzir a ocorrência de “alucinações” em modelos de IA Generativa. Esta tecnologia responde a um dos maiores desafios da IA, ou seja, reduzir respostas inesperadas, que não fazem sentido ou que estão incorretas. «As alucinações são o que mais coloca em causa o bom desempenho e a precisão dos modelos de IA Generativa, levando a que muitas empresas não se sintam seguras em adotar estas soluções», reconhece Ernesto Pedrosa, CEO da Automaise. Sabendo que a reputação das marcas é muito valiosa e as organizações não querem correr riscos a esse nível, a Automaise desenvolveu esta solução que, Ernesto Pedrosa diz permitir às empresas «confiarem na IA Generativa».

Como funciona o Hallucinations Detector

Utilizando lógica probabilística, inerente aos modelos de IA, o Hallucinations Detector avalia a validade das informações geradas pelos modelos de IA, sendo especialmente eficaz em situações que envolvem dados sensíveis. A ferramenta propõe-se a reduzir substancialmente a produção de conteúdos imprecisos, prometendo maior segurança às empresas que assetam as interações com os seus clientes em modelos de IA. «Conseguimos reduzir muito substancialmente as alucinações geradas, de uma forma mais eficaz do que usando soluções standard da indústria. São sistemas como este que fazem com que a IA Generativa evolua de forma a que as empresas se sintam seguras para implementar», acrescenta Fábio Pinto, Head of Artificial Intelligence da Automaise.

---