Como impedir que o seu chatbot tenha alucinações

Quando alguém conversa com um agente no seu website ou aplicação, espera respostas claras e precisas. Mas, às vezes, os agentes se enganam. E, em alguns casos, inventam coisas. Isso é chamado de alucinação.

‍

O que causa alucinações nos chatbots?

Salte o contexto e vá diretamente para as dicas de configuração de "O essencial".

‍

Todos os chatbots com IA, incluindo os agentes Copilot.live , são construídos com base em grandes modelos de linguagem (LLMs). Estes modelos são óptimos a compreender a linguagem e a responder de uma forma que soa natural. Mas há uma coisa importante a compreender: eles não "conhecem" os factos da mesma forma que os humanos ou as bases de dados.

‍

Os LLMs funcionam prevendo a palavra seguinte numa frase com base em padrões que observaram numa enorme quantidade de dados de treino. Quando se faz uma pergunta, o modelo tenta adivinhar como deve ser uma boa resposta. Não procura respostas de uma fonte fixa. Gera-as. É como enviar uma mensagem de texto a alguém que é excelente a terminar as suas frases, mesmo que não compreenda totalmente o que está a dizer.

‍

Se a pergunta for vaga, pouco clara ou estiver fora dos dados com que o agente foi treinado, o modelo pode tentar responder na mesma. E essa resposta pode parecer confiante, mas estar completamente errada. É a isso que chamamos uma alucinação.

‍

Porque é importante

Mesmo que o erro não seja enorme, pode confundir os seus utilizadores. Estes podem abandonar o seu sítio, o que significa que perdeu uma pista ou um potencial cliente. Em contextos sérios como o financeiro, o da saúde ou o jurídico, as consequências podem ser muito maiores.

‍

A boa notícia é que o seu agente no Copilot.live pode ser treinado para fazer melhor. Com a configuração correta, pode guiá-lo para responder com precisão e manter-se fiel ao que lhe ensinou.

‍

Eis como fazer com que isso aconteça.

‍

O essencial

Estes são elementos essenciais. Configure-os corretamente e o seu agente será muito mais preciso desde o início.

‍

1. Persona

‍

‍

Quando cria um novo agente no Copilot.live, uma das primeiras coisas que verá é a secção Persona. É aqui que define o que é o seu agente, o que é suposto fazer e o tom que deve seguir.

‍

‍

Fornecemos-lhe um modelo de Persona pré-preenchido para começar. Abrange os aspectos básicos, como o papel do agente e o que deve ser evitado. Isto dá ao seu agente uma base sólida desde o início.

‍

Também temos modelos de Persona prontos a utilizar para casos de utilização comuns, como o apoio ao cliente. Pode encontrá-los nos nossos documentos. Basta copiar, colar e ajustá-los para atender às suas necessidades. Só isso já pode fazer com que seu agente pareça mais preciso e útil.

‍

‍

2. Definições de criatividade

‍

‍

No seu painel de Configuração, encontrará um controlo deslizante de Criatividade. Este controla o grau de improvisação do seu agente.

‍

• Mantenha-o baixo se quiser que o agente se mantenha fiel à sua formação e aos seus dados.
  Exemplo: Um agente de suporte que explica as caraterísticas de um produto deve manter-se factual e fundamentado.
  
  

• Aumente-a se o seu agente precisar de ser mais conversador ou sugestivo.
  Exemplo: Um agente de estilo de vida ou bem-estar que dê dicas ou conselhos pode beneficiar de um pouco mais de flexibilidade.

‍

3. Fontes de dados exactas

O seu agente só é tão inteligente quanto as informações que lhe fornece. Se não carregar nada, ele basear-se-á em conhecimentos gerais, que podem não ser exactos, e não serão certamente específicos da sua empresa.

‍

Para manter o seu agente informado, carregue conteúdos que reflictam o que a sua empresa diz e faz. Estabeleça prioridades:

‍

• Documentos da empresa: Documentação interna, guias de ajuda, artigos de apoio

• Publicações em blogues: Especialmente os que explicam o seu produto ou ponto de vista

• Perguntas frequentes: A partir do seu sítio Web, respostas de correio eletrónico ou bilhetes de suporte existentes

• Páginas sobre: Qualquer coisa que explique claramente quem é o utilizador e o que oferece

‍

Evite fornecer material genérico ou vago. Quanto mais direcionada e específica for a fonte, melhor o seu agente poderá responder às perguntas reais dos seus utilizadores.

‍

4. Formatos de dados que funcionam melhor

O formato dos seus dados faz a diferença. Alguns tipos de ficheiros são muito melhores para treinar do que outros.

‍

Eis uma ordem aproximada do que funciona melhor:

‍

• JSON / XML - Ideal para conteúdos estruturados, como informações sobre produtos, FAQs ou respostas mapeadas

• Ficheiros de texto simples - Fáceis de ler e analisar, desde que o conteúdo esteja bem escrito

• Documentos em PDF / Word - Podem ser utilizados para manuais, guias e artigos, mas certifique-se de que estão limpos e legíveis

• Folhas CSV / Excel - Funciona para coisas como tabelas de preços ou inventário, mas precisa de ser claramente rotulado e organizado

‍

Quanto mais acima nesta lista, melhores serão os seus resultados. Se o seu conteúdo estiver num formato pouco funcional, dedique alguns minutos a limpá-lo ou a convertê-lo antes de o carregar. Poupar-lhe-á tempo (e dores de cabeça) mais tarde.

‍

Para além do básico

Depois de ter feito a configuração, estes passos adicionais ajudarão o seu agente Copilot.live a responder melhor.

‍

1. Configurar as transferências humanas

‍

‍

Se o seu agente não tiver a certeza de como responder, é melhor passar a conversa em vez de adivinhar. Caso contrário, é provável que se engane.

Adicione instruções como: "Se o utilizador parecer aborrecido, pedir ajuda mais do que uma vez ou escrever 'falar com um humano', transfira a conversa para um agente."

Também pode definir quais as consultas que devem ser sempre transferidas, como as relacionadas com faturação, cancelamentos ou reclamações. Quanto mais suave for a transferência, melhor será a experiência do utilizador.

‍

2. Atualização contínua

O seu agente não é uma ferramenta que se define e se esquece. Verifique regularmente como ele está se saindo. Actualize a persona, carregue conteúdo novo e corrija respostas fracas.

‍

Eis uma lista de controlo rápida:

• Os utilizadores estão a obter respostas precisas às 5 perguntas principais?

• Houve alguma alteração no vosso produto ou política?

• O agente está a perder o contexto ou a hesitar com demasiada frequência?

‍

Um pouco de manutenção é muito importante. E quanto mais o seu negócio evolui, mais importante é manter o seu agente em sincronia.

‍

3. Teste o seu agente como um utilizador real o faria

Antes de entrar em direto, converse com o seu agente. Finja que é um cliente curioso (ou confuso) e pergunte:

‍

• Perguntas vagas ou abertas

• A mesma coisa de formas diferentes

• Perguntas com erros de digitação, gíria ou frases curtas

• Perguntas "erradas" ou fora do tema, e ver como recupera

‍

Isto ajuda-o a perceber onde está a adivinhar, onde está confiante e onde precisa de mais treino.

‍

4. Adicionar instruções de recurso 

Por vezes, o seu agente não saberá a resposta, e não há problema. Mas a forma como ele lida com esse momento é importante.

‍

Nas definições de persona ou de comportamento, dê-lhe uma orientação de recurso clara, como por exemplo:

• "Se não tiver a certeza, diga que não sabe e ofereça-se para o ajudar."

• "Evitar adivinhações. Encaminhar o utilizador para a página de ajuda quando necessário."

‍

Isto mantém as coisas honestas em vez de deixar o agente fingir confiança.

‍

5. Utilizar a análise de sentimentos

‍

‍

Recentemente, lançámos a Análise de sentimento na sua Caixa de entrada. Esta ajuda-o a compreender como decorreu cada conversa, analisando o estado de espírito e o tópico. Se quiser uma análise completa, consulte este artigo. Esta é mais uma ferramenta de ajuste fino. Mas se você quiser se aprofundar no desempenho do seu agente, é uma ótima maneira de melhorar.

‍

Veja que tipos de conversas estão a receber reacções negativas. Em seguida, volte aos dados ou instruções de treinamento e veja o que pode ser melhorado. Com o tempo, isso pode aprimorar a resposta do seu agente.

‍

O seu agente funciona melhor quando o ensina bem

Sim, os agentes de IA são inteligentes. Mas eles não conhecem sua marca, seu tom ou seus usuários até que você os ensine. Alguns minutos extras durante a configuração podem fazer uma grande diferença na sensação de ajuda e confiança do seu agente. Por isso, se ainda não o fez, faça uma verificação rápida da sua configuração e diga-nos como correu.

‍

Boa construção!