Métricas de vaidade: o número que sobe e não significa nada

Tempo de Leitura: 5 minutos

Se o número só serve para o slide ficar bonito, ele não é um indicador: é uma métrica de vaidade, decoração pura.

No Supermercado Farol

O slide de abertura da reunião mensal do Supermercado Farol, rede com cinco lojas, tinha confete: "14 mil respostas coletadas no trimestre, recorde histórico!". Palmas na sala. Caio, o gerente da loja principal, já emendava a projeção do próximo recorde quando Dona Ivone, a fundadora, fez a pergunta em voz baixa, do fundo da sala:

— Se esse número dobrar no próximo trimestre… o que a gente vai fazer de diferente?

A sala pensou. Alguém disse "comemorar mais". Ninguém achou uma decisão que mudasse: nenhuma escala, nenhum sortimento, nenhum investimento dependia de 14 mil virarem 28 mil. O recorde era verdadeiro, subia todo trimestre, rendia palmas… e não gerenciava nada. O silêncio foi ficando constrangedor na medida exata em que a ficha caía.

O gráfico que só sobe

Toda empresa tem um gráfico favorito: downloads acumulados, total de respostas coletadas desde o início, seguidores, visualizações, "impactos". Ele aparece em toda apresentação, sempre subindo, porque foi escolhido justamente por isso. Métricas acumuladas não descem nunca: cada dia soma algo, nem que seja pouco. O gráfico do total acumulado é uma escada rolante que só anda para cima, mesmo quando o negócio anda para trás.

Eric Ries, no movimento Lean Startup, deu nome a essa família, as métricas de vaidade: números que fazem a equipe se sentir bem sem informar nenhuma decisão. O oposto, na definição dele, são as métricas acionáveis: as que demonstram causa e efeito e dizem o que fazer em seguida.

Este artigo ensina a distinguir umas das outras, e a montar um painel que decide em vez de enfeitar.

O teste das três perguntas

Diante de qualquer métrica, aplique o filtro de Croll e Yoskovitz (Lean Analytics):

1. "Se este número dobrar (ou cair pela metade), o que faremos de diferente?"
Se a resposta é "nada, mas fica ótimo no relatório", é vaidade. A métrica acionável tem uma decisão pendurada nela: escala o piloto, reverte a mudança, realoca a equipe.

2. "Este número pode piorar?"
Métrica que estruturalmente não desce (acumulados, recordes históricos, "melhor mês de todos os tempos", que, aliás, a regressão à média fabrica de graça) diz mais sobre a passagem do tempo do que sobre desempenho. Indicador de verdade tem que poder dar má notícia.

3. "É taxa ou é total?"
Quase toda vaidade vira métrica honesta quando dividida por algo: "total de respostas coletadas" (vaidade) vira taxa de resposta (acionável: mede engajamento e saúde da amostra); "número de detratores contatados" vira % de detratores contatados em 48h (acionável: mede o ciclo fechado de feedback). O denominador é o que transforma aplauso em informação.

Um bestiário de métricas de vaidade

  • "X milhões de respostas coletadas desde a fundação": ótimo para institucional e proposta comercial (prova social tem seu lugar!), inútil para gerir. As versões acionáveis: respostas por loja/semana, taxa de resposta por totem, % de fluxos com diagnóstico condicional ativo.
  • "NPS médio de todos os clientes da base": média de coisas incomparáveis (setores, réguas, sazonalidades). Acionável: NPS por cliente contra a própria história — você contra você mesmo.
  • "Quantidade de dashboards/relatórios entregues": mede produção, mas não diz nada sobre valor. Acionável: % de clientes que acessaram o painel na semana; % de alertas de detrator que geraram ação registrada. A régua é a mesma que vale para a pesquisa inteira: o que não vira decisão foi dinheiro gasto à toa.
  • "Melhor NPS da história" comemorado no pico: pico isolado é candidato a sorte + regressão à média.

A segunda doença: a métrica que virou alvo

Há um segundo modo de um bom número apodrecer: a Lei de Goodhart: quando uma medida vira meta, deixa de ser uma boa medida.

O mecanismo: no momento em que o bônus depende do número, a energia da equipe migra de melhorar a realidade para melhorar o número, e o número sempre tem caminhos mais curtos que a realidade. Caçar nota 10 no balcão em vez de melhorar o atendimento; desativar o totem no horário caótico; classificar reclamações como "sugestões". O indicador continua subindo enquanto aquilo que ele deveria medir apodrece por baixo: o pior cenário possível, porque desliga o alarme junto com o incêndio.

Defesas conhecidas:

  • Meça em pares que se vigiam. Toda meta de resultado ganha uma métrica-guardiã de integridade: NPS com taxa de resposta (nota subiu porque melhorou ou porque só os felizes respondem?); velocidade de atendimento com taxa de retrabalho; % de detratores contatados com resolução confirmada pelo cliente. Manipular as duas ao mesmo tempo é muito mais difícil que manipular uma. A receita vem do chão de fábrica: Andy Grove, no clássico High Output Management, já prescrevia parear todo indicador de quantidade com um de qualidade (contas processadas por dia com taxa de erros no processamento), porque indicador solto convida a equipe a otimizar exatamente o que ele não enxerga. John Doerr, aluno do Grove na Intel, levou esse pareamento para os OKRs.
  • Separe métrica de aprendizado de métrica de cobrança. Nem todo número do painel precisa virar meta com bônus: os melhores sistemas mantêm a maioria dos indicadores como instrumento de diagnóstico em vez de premiação.
  • Audite o caminho, não só o placar. Se o NPS da unidade subiu 20 pontos num mês, a pergunta de método (é real? é sustentável?) vem antes do parabéns.

Montando o painel que decide

A síntese prática, em quatro princípios:

  1. Poucas métricas com decisão pendurada valem mais que quarenta em fileira. Para cada uma: quem olha, com que frequência, e o que faz quando ela cruza qual linha.
  2. Taxas e recortes comparáveis, não totais acumulados (dezembro com dezembro, cada loja com sua história).
  3. Pares métrica + guardiã onde houver meta e bônus.
  4. Revisão periódica do próprio painel: métrica que passou dois trimestres sem provocar uma única decisão é candidata a sair: abre espaço (e devolve atenção, o recurso mais escasso de qualquer questionário) para uma que trabalhe.

De volta ao Farol

No Farol, o recorde não foi banido: foi rebaixado com honras a indicador de saúde da coleta, guardião da amostra, acompanhado por quem cuida dos totens. O confete do slide de abertura passou a ser de outra estirpe: métricas com decisão pendurada ("nota da fila do fim de dia caiu 0,4: escala reforçada") e cada uma algemada à sua guardiã, para o alvo não apodrecer a régua.

O teste da Dona Ivone virou porteiro do dashboard: "se dobrar, o que faremos de diferente?". Métrica sem resposta vai para a estante de troféus, junto com as outras lembranças. E a reunião mensal, sem os dez minutos de confete, ganhou dez minutos de decisão.

O resumo de uma frase (teste Feynman)

"Métrica boa é a que pode dar má notícia e tem uma decisão pendurada nela; se só sobe e só enfeita, é troféu; e troféu não gerencia loja."

Fontes e leituras recomendadas

RIES, Eric. A Startup Enxuta. Sextante, 2019.

CROLL, Alistair; YOSKOVITZ, Benjamin. Lean Analytics. O’Reilly, 2013.

STRATHERN, Marilyn. "’Improving Ratings’: Audit in the British University System". European Review, v. 5, 1997.

MULLER, Jerry Z. The Tyranny of Metrics. Princeton University Press, 2018.

GROVE, Andrew S. Gestão de Alta Performance. Benvirá, 2020 (original: High Output Management, 1983).

DOERR, John. Avalie o Que Importa. Alta Books, 2019.

Gostou do Conteúdo?

Últimos artigos