O que deixar sob responsabilidade de um agente de testes automatizados de software
Criar casos de teste a partir de uma mudança. Ele tem o contexto no momento em que o código é escrito, que é quando os detalhes estão mais frescos.
Executar e reexecutar. Mecânico, e um humano nesse ciclo só acrescenta latência.
Fazer a triagem de falhas óbvias. Ambiente fora do ar, dependência faltando, alvo inacessível. Nada disso exige julgamento.
Escrever a reprodução de um bug que ele encontrou. O caso de teste é escrito enquanto o bug está em mãos, e não em um ticket três dias depois.
O que manter com você
O que significa estar correto
Um requisito ambíguo é uma decisão de produto. Um agente vai escolher algo plausível e deixar isso registrado para sempre.
O que bloqueia um release
Saber quais falhas importam hoje exige um contexto que não está em documento nenhum.
Se a verificação é honesta
Leia o plano. Um agente a quem se pede verde pode entregar verde pelo caminho mais curto.
O limite em uma frase
Deixe o agente decidir como verificar e continue decidindo o que deve ser verdade. Essa divisão é limpa, corresponde ao que cada lado realmente faz melhor e sobrevive ao contato com um time real.
A proteção que vale a pena ter
Toda verificação deve nomear algo específico e observável, e você precisa tê-la visto falhar pelo menos uma vez. Uma verificação vaga é um convite para o agente satisfazê-la em vez de corrigir o produto, e esse modo de falha é silencioso por natureza.
O que dá errado no segundo mês
As primeiras semanas trabalhando assim correm bem, e depois vem uma queda previsível que vale a pena antecipar.
O agente criou cem casos de teste. A maioria é razoável, ninguém leu todos e dois ou três afirmam algo sutilmente errado. Esses dois ou três passam a falhar sempre que o produto muda de forma correta, então as pessoas começam a tratar o vermelho como ambíguo. Daí em diante vem a ladeira conhecida: reexecutar, depois pular, depois ignorar.
A intervenção é barata se você a fizer de forma programada, e não como reação a uma crise. Uma vez por mês, leia as asserções de todos os casos de teste adicionados desde a última revisão. Não os passos, só as asserções. Nesse volume, leva menos de uma hora e pega exatamente os casos que, de outra forma, corroeriam a confiança na suíte inteira.
Como configurar
Terminal
npm install -g @testsprite/testsprite-cli
testsprite setup
A mesma configuração está disponível no painel do TestSprite, caso você prefira não instalar nada localmente. O restante da superfície do CLI está no repositório do CLI.
Conecte o repositório pelo painel e as execuções partem do deploy que você já produz, ou, em vez disso, adicione um passo ao seu próprio fluxo de trabalho.
O que fica com o TestSprite e o que continua sendo seu
Ele cuida do como: criar casos de teste a partir de uma mudança, executá-los contra a aplicação implantada, reexecutá-los e fazer a triagem das falhas mecânicas. A configuração instala a skill de verificação no seu agente de código, para que tudo isso aconteça onde o trabalho está.
Com você fica o quê. Ler o plano, corrigir as asserções que seriam verdadeiras mesmo em um produto quebrado e decidir quais falhas bloqueiam um release. Isso dá uma hora por semana em volume normal e é por aí que o seu conhecimento do produto entra na suíte.
A vantagem dessa divisão é que os casos de reprodução são escritos enquanto o bug está em mãos, e não três dias depois em um ticket, e a cobertura de regressão cresce a partir do que de fato deu errado, não de um exercício de planejamento.
O agente pode rodar sem supervisão?
Para executar e fazer a triagem mecânica, sim. Para decidir o que deve ser verdade e o que bloqueia um release, a supervisão é justamente o ponto, não um custo extra.
Como evitar a proliferação de testes?
Revise os casos criados como você revisa código e apague os duplicados. Volume sem julgamento é o principal modo de falha.
E se ele escrever uma verificação que não pode falhar?
É comum o bastante para você se planejar. Quebre a coisa de propósito e confirme que a verificação fica vermelha antes de confiar nela.
Ele precisa de acesso ao repositório?
Ele verifica a aplicação implantada pela interface dela. Seu agente de código já tem o código.
Como medir se isso funciona?
Defeitos que escaparam e o tempo entre a falha e a correção. A contagem de testes sobe na hora e significa muito pouco.
Ele decide o como. Você decide o quê.
Um agente de testes automatizados de software deve cuidar de criar, executar e fazer a triagem. Com você ficam o que significa estar correto, o que bloqueia um release e se a verificação é honesta. Nomeie algo específico e observável em toda verificação e confirme que ela pode falhar.