Defina critérios de sucesso e construa avaliações

Construir uma aplicação bem-sucedida baseada em LLM começa com a definição clara dos seus critérios de sucesso e, em seguida, o design de avaliações para medir o desempenho em relação a eles. Este ciclo é central para a engenharia de prompts.



Defina seus critérios de sucesso

Bons critérios de sucesso são:

• Específicos: Defina claramente o que você quer alcançar. Em vez de "bom desempenho", especifique "classificação precisa de sentimento".

• Mensuráveis: Use métricas quantitativas ou escalas qualitativas bem definidas. Números fornecem clareza e escalabilidade, mas medidas qualitativas podem ser valiosas se aplicadas consistentemente junto com medidas quantitativas.

  • Até mesmo tópicos "nebulosos" como ética e segurança podem ser quantificados:

    	Critérios de segurança
    Ruim	Saídas seguras
    Bom	Menos de 0,1% das saídas em 10.000 tentativas sinalizadas por toxicidade pelo nosso filtro de conteúdo.

  Exemplos de métricas e métodos de medição

• Alcançáveis: Baseie suas metas em benchmarks da indústria, experimentos anteriores, pesquisas de IA ou conhecimento de especialistas. Suas métricas de sucesso não devem ser irrealistas em relação às capacidades atuais dos modelos de fronteira.

• Relevantes: Alinhe seus critérios com o propósito da sua aplicação e as necessidades dos usuários. Alta precisão de citações pode ser crítica para aplicativos médicos, mas menos importante para chatbots casuais.



Critérios de sucesso comuns

Aqui estão alguns critérios que podem ser importantes para o seu caso de uso. Esta lista não é exaustiva.

A maioria dos casos de uso precisa de avaliação multidimensional ao longo de vários critérios de sucesso.



Construa avaliações



Princípios de design de avaliações

1. Seja específico à tarefa: Projete avaliações que espelhem a distribuição de tarefas do mundo real. Não se esqueça de considerar os casos extremos!

   Exemplos de casos extremos

2. Automatize quando possível: Estruture as perguntas para permitir avaliação automatizada (por exemplo, múltipla escolha, correspondência de string, avaliação por código, avaliação por LLM).
3. Priorize volume sobre qualidade: Mais perguntas com avaliação automatizada de sinal ligeiramente menor é melhor do que menos perguntas com avaliações manuais humanas de alta qualidade.



Exemplos de avaliações



Avalie suas avaliações

Ao decidir qual método usar para avaliar as avaliações, escolha o método mais rápido, mais confiável e mais escalável:

1. Avaliação baseada em código: Mais rápida e confiável, extremamente escalável, mas também carece de nuance para julgamentos mais complexos que exigem menos rigidez baseada em regras.

   • Correspondência exata: output == golden_answer
   • Correspondência de string: key_phrase in output

2. Avaliação humana: Mais flexível e de alta qualidade, mas lenta e cara. Evite se possível.

3. Avaliação baseada em LLM: Rápida e flexível, escalável e adequada para julgamentos complexos. Teste primeiro para garantir a confiabilidade e depois escale.



Dicas para avaliação baseada em LLM

• Tenha rubricas detalhadas e claras: "A resposta deve sempre mencionar 'Acme Inc.' na primeira frase. Se não mencionar, a resposta é automaticamente avaliada como 'incorreta'."
• Empírico ou específico: Por exemplo, instrua o LLM a produzir apenas 'correto' ou 'incorreto', ou a julgar em uma escala de 1 a 5. Avaliações puramente qualitativas são difíceis de analisar rapidamente e em escala.
• Incentive o raciocínio: Peça ao LLM para pensar primeiro antes de decidir uma pontuação de avaliação e, em seguida, descarte o raciocínio. Isso aumenta o desempenho da avaliação, particularmente para tarefas que exigem julgamento complexo.



Próximos passos