Mantenedores de código aberto estão se afogando em relatórios de bugs gerados por IA enquanto ferramentas automatizadas de segurança inundam repositórios com alertas de vulnerabilidade. Novos sistemas de análise de código, muitos movidos por IA, estão produzindo volumes massivos de relatórios de segurança que mantenedores não conseguem realisticamente revisar ou agir. O problema escalou rapidamente enquanto empresas se apressam para integrar varredura de segurança movida por IA em seus pipelines de desenvolvimento sem afinar a precisão de detecção.
Isso espelha o que vimos com assistentes de codificação IA — capacidades impressionantes minadas por proporções pobres de sinal-ruído em produção. Assim como GitHub Copilot gera código sintaticamente correto mas logicamente falho, essas ferramentas de segurança identificam padrões que parecem vulnerabilidades mas frequentemente não são exploráveis no contexto. O resultado é uma armadilha clássica de automação: ferramentas projetadas para reduzir carga de trabalho humana na verdade a aumentam gerando trabalho que humanos devem então validar e descartar.
O que torna isso particularmente problemático é a assimetria de esforço. Gerar milhares de relatórios de bugs leva segundos para um sistema de IA, mas cada relatório requer expertise humana para avaliar adequadamente. Mantenedores — já esticados ao limite — agora passam mais tempo triando falsos positivos do que endereçando problemas reais de segurança. Alguns projetos começaram a implementar limites de taxa ou requerem verificação humana antes de aceitar relatórios automatizados.
A lição aqui ecoa o que aprendemos construindo o sistema automatizado de correção de bugs da Ramp: IA funciona melhor quando lida com o loop completo, não apenas a fase de detecção. Ferramentas que apenas identificam problemas sem fornecer correções validadas ou scores de confiança criam overhead operacional que derrota seu propósito. Mantenedores precisam de IA que reduza sua carga de trabalho, não sistemas que geram trabalho desnecessário disfarçado como melhorias de segurança.