the cobra effect
expressãocultura de operaçõesgovernança e risco
Um incentivo que agrava o problema que deveria resolver, batizado pela recompensa colonial por cobras que criou fazendas de cobras.
Conta-se que a Delhi britânica pagava por cobra morta, moradores empreendedores passaram a criá-las, e o cancelamento da recompensa soltou o estoque, deixando mais cobras do que antes; a documentação da história é fraca, mas o mecanismo está em toda parte. Pague por bug encontrado e bugs serão plantados; premie chamados fechados e chamados serão divididos; recompense vulnerabilidades sem cuidado e você financia um mercado cinza. É a lei de Goodhart com presas: a métrica não só se descolou do objetivo, ela o atacou.
O efeito cobra nomeia um incentivo que piora o problema. A história é que uma administração colonial em Délhi ofereceu recompensa por cobras mortas, as pessoas passaram a criar cobras para recebê-la, e quando o programa foi cancelado as serpentes agora sem valor foram soltas, deixando mais cobras que antes.
A base histórica da anedota é frágil, e o efeito que ela nomeia é amplamente documentado em outros lugares, o que vale dizer com clareza em vez de repetir a história como fato. Programas de recompensa que criam criação, metas que criam manipulação e métricas que criam o comportamento que medem têm todos o mesmo formato, e isso é próximo da lei de Goodhart: é o que acontece quando a medida vira meta e alguém consegue fabricar a medida.
Em tecnologia o padrão está em toda parte. Pagar por defeito encontrado produz defeitos escritos para serem encontrados, premiar chamados fechados produz chamados divididos ao meio, e um programa de segurança medido por vulnerabilidades corrigidas favorecerá silenciosamente os achados triviais em vez dos difíceis. A defesa é perguntar, antes de publicar qualquer incentivo, qual seria a forma mais barata de satisfazê-lo, e então supor que alguém encontrará essa forma.