O que deixar sob responsabilidade de um agente de testes automatizados de software

  • Criar casos de teste a partir de uma mudança. Ele tem o contexto no momento em que o código é escrito, que é quando os detalhes estão mais frescos.

  • Executar e reexecutar. Mecânico, e um humano nesse ciclo só acrescenta latência.

  • Fazer a triagem de falhas óbvias. Ambiente fora do ar, dependência faltando, alvo inacessível. Nada disso exige julgamento.

  • Escrever a reprodução de um bug que ele encontrou. O caso de teste é escrito enquanto o bug está em mãos, e não em um ticket três dias depois.

O que manter com você

O que significa estar correto

  • Um requisito ambíguo é uma decisão de produto. Um agente vai escolher algo plausível e deixar isso registrado para sempre.

O que bloqueia um release

  • Saber quais falhas importam hoje exige um contexto que não está em documento nenhum.

Se a verificação é honesta

  • Leia o plano. Um agente a quem se pede verde pode entregar verde pelo caminho mais curto.

O limite em uma frase

Deixe o agente decidir como verificar e continue decidindo o que deve ser verdade. Essa divisão é limpa, corresponde ao que cada lado realmente faz melhor e sobrevive ao contato com um time real.

A proteção que vale a pena ter

Toda verificação deve nomear algo específico e observável, e você precisa tê-la visto falhar pelo menos uma vez. Uma verificação vaga é um convite para o agente satisfazê-la em vez de corrigir o produto, e esse modo de falha é silencioso por natureza.

O que dá errado no segundo mês

As primeiras semanas trabalhando assim correm bem, e depois vem uma queda previsível que vale a pena antecipar.

O agente criou cem casos de teste. A maioria é razoável, ninguém leu todos e dois ou três afirmam algo sutilmente errado. Esses dois ou três passam a falhar sempre que o produto muda de forma correta, então as pessoas começam a tratar o vermelho como ambíguo. Daí em diante vem a ladeira conhecida: reexecutar, depois pular, depois ignorar.

A intervenção é barata se você a fizer de forma programada, e não como reação a uma crise. Uma vez por mês, leia as asserções de todos os casos de teste adicionados desde a última revisão. Não os passos, só as asserções. Nesse volume, leva menos de uma hora e pega exatamente os casos que, de outra forma, corroeriam a confiança na suíte inteira.

Como configurar

Terminal

npm install -g @testsprite/testsprite-cli
testsprite setup

A mesma configuração está disponível no painel do TestSprite, caso você prefira não instalar nada localmente. O restante da superfície do CLI está no repositório do CLI.

Conecte o repositório pelo painel e as execuções partem do deploy que você já produz, ou, em vez disso, adicione um passo ao seu próprio fluxo de trabalho.

O que fica com o TestSprite e o que continua sendo seu

Ele cuida do como: criar casos de teste a partir de uma mudança, executá-los contra a aplicação implantada, reexecutá-los e fazer a triagem das falhas mecânicas. A configuração instala a skill de verificação no seu agente de código, para que tudo isso aconteça onde o trabalho está.

Com você fica o quê. Ler o plano, corrigir as asserções que seriam verdadeiras mesmo em um produto quebrado e decidir quais falhas bloqueiam um release. Isso dá uma hora por semana em volume normal e é por aí que o seu conhecimento do produto entra na suíte.

A vantagem dessa divisão é que os casos de reprodução são escritos enquanto o bug está em mãos, e não três dias depois em um ticket, e a cobertura de regressão cresce a partir do que de fato deu errado, não de um exercício de planejamento.

O agente pode rodar sem supervisão?

Para executar e fazer a triagem mecânica, sim. Para decidir o que deve ser verdade e o que bloqueia um release, a supervisão é justamente o ponto, não um custo extra.

Como evitar a proliferação de testes?

Revise os casos criados como você revisa código e apague os duplicados. Volume sem julgamento é o principal modo de falha.

E se ele escrever uma verificação que não pode falhar?

É comum o bastante para você se planejar. Quebre a coisa de propósito e confirme que a verificação fica vermelha antes de confiar nela.

Ele precisa de acesso ao repositório?

Ele verifica a aplicação implantada pela interface dela. Seu agente de código já tem o código.

Como medir se isso funciona?

Defeitos que escaparam e o tempo entre a falha e a correção. A contagem de testes sobe na hora e significa muito pouco.

A versão curta

Ele decide o como. Você decide o quê.

Um agente de testes automatizados de software deve cuidar de criar, executar e fazer a triagem. Com você ficam o que significa estar correto, o que bloqueia um release e se a verificação é honesta. Nomeie algo específico e observável em toda verificação e confirme que ela pode falhar.