O uso de inteligência artificial na programação traz desafios graves de segurança. Especialistas alertam para o risco oculto na rapidez das entregas.
A adoção acelerada de assistentes de inteligência artificial na rotina de engenharia de software tem gerado debates acalorados sobre produtividade. No entanto, um fator crítico muitas vezes é ignorado: a segurança do código produzido. De acordo com dados independentes da Universidade de Nova York e de laboratórios globais de segurança, cerca de metade do código gerado por IA pode conter vulnerabilidades perigosas.
Segundo Ramon Ribeiro, diretor comercial da Solo Network, o foco das empresas permanece excessivamente voltado para métricas como número de linhas por hora e redução do tempo de entrega. A questão central, porém, é a qualidade e a integridade daquilo que chega aos repositórios corporativos.
A realidade das vulnerabilidades
Estudos como o publicado no IEEE Symposium on Security and Privacy, apelidado de “Asleep at the Keyboard”, analisaram mais de 1.600 programas gerados por IA. O resultado foi alarmante: aproximadamente 40% apresentaram vulnerabilidades, índice que sobe para 50% em linguagens complexas como C. O problema reside no fato de a IA priorizar padrões estatísticos em vez de diretrizes de segurança, a menos que seja explicitamente instruída a fazê-lo.
Confiança e delegação cognitiva
Um estudo conduzido pelo grupo de criptografia de Stanford revelou um fenômeno preocupante: desenvolvedores que utilizam IA tendem a confiar cegamente nas sugestões recebidas. A pesquisa mostrou que, quanto maior a confiança depositada no assistente, menor é o cuidado com a revisão, resultando em códigos mais inseguros.
“O assistente sugere, o desenvolvedor aceita, e a vulnerabilidade vai junto”, aponta o levantamento sobre o comportamento humano no ciclo de desenvolvimento.
Riscos de vazamento e contaminação
Além da segurança do próprio código, existe o risco da exposição de dados confidenciais da empresa. Ao fornecer contextos ricos para a IA, desenvolvedores podem, sem saber, enviar esquemas de banco de dados e variáveis de ambiente para servidores externos. Há ainda o perigo da “contaminação” de repositórios, onde atacantes inserem código malicioso em dados de treinamento, criando backdoors indetectáveis ou explorando o fenômeno de slopsquatting, onde bibliotecas fictícias são recomendadas pela IA.
O caminho para a governança
Para as organizações, a transição é clara: a pergunta não é mais se devem utilizar IA, mas como governar seu uso. A implementação de práticas de shift-left security, integrando a segurança desde o primeiro contato com a IA, tornou-se mandatória. Estruturas como o OWASP Top 10 e a norma ISO/IEC 42001 oferecem roteiros valiosos para empresas que buscam equilibrar inovação e proteção. No Brasil, com o crescimento do uso de IA nas indústrias, a conformidade com a LGPD e o futuro Marco Legal da IA serão fundamentais para mitigar os riscos de um desenvolvimento que prioriza a velocidade acima da prudência.
