A inteligência artificial já escreve código, mas quem garante que ele protege os dados sensíveis dos cidadãos?
William de Abreu, engenheiro de software, especialista na adoção de inteligência artificial no desenvolvimento de software, discute os riscos de acelerar a produção de código sem reforçar a proteção de dados pessoais
Assistentes de programação baseados em inteligência artificial deixaram de ser novidade nas equipes de tecnologia. Segundo o Stack Overflow, 84% dos desenvolvedores já usam ou planejam usar essas ferramentas, e um experimento do GitHub mostrou que elas permitem concluir tarefas 55% mais rápido. A segurança, porém, não acompanha o mesmo ritmo. Levantamento da Veracode aponta que 38% do código gerado por IA ainda apresenta vulnerabilidades, enquanto no Brasil o custo médio de uma violação de dados chegou a R$ 7,44 milhões em 2026, segundo a IBM. Diante desses números, fica a pergunta. Quando uma parte relevante do código passa a ser escrita por máquinas, quem se responsabiliza pela proteção das informações pessoais que estes sistemas armazenam? “A IA escreve rápido, mas ela não sabe sozinha o que é um dado sensível dentro do seu negócio”, afirma William Vitor Florencio de Abreu, engenheiro de software líder iniciativas de adoção de inteligência artificial com foco na proteção de dados pessoais. Segundo ele, os modelos aprendem com enormes volumes de código público, e nem todo esse código segue boas práticas de segurança. Sem orientação clara, a ferramenta pode reproduzir padrões que expõem nomes, documentos, endereços ou informações de saúde em registros de log, respostas de sistemas ou telas que não deveriam exibi-los. O tema é especialmente delicado em softwares que lidam com dados de cidadãos, como sistemas de recursos humanos de órgãos públicos, plataformas de saúde, educação e serviços financeiros. Nesses ambientes, um vazamento não representa apenas um problema técnico, mas pode gerar sanções previstas em leis de proteção de dados, como a LGPD no Brasil, além de danos difíceis de reverter para as pessoas afetadas. Um erro frequente nas empresas é tratar a proteção de dados como uma etapa de revisão no fim do processo, quando o código já está pronto. Com a IA multiplicando o volume de código produzido, esse modelo tende a ficar ainda mais frágil. “Se cada desenvolvedor, ou cada assistente de IA, precisa lembrar das regras de privacidade em cada nova tela, em algum momento alguém vai esquecer”, observa William. A alternativa defendida por especialistas em segurança é concentrar essas regras em um único ponto do sistema, de modo que o comportamento seguro seja o padrão e não uma decisão tomada caso a caso. O engenheiro, que já aplicou esse modelo e viu os defeitos ligados a dados sensíveis caírem mais de 90%, aponta que a centralização também acelera o trabalho, já que novas funcionalidades passam a herdar a proteção automaticamente. “As IAs de forma geral funcionam muito bem quando o terreno está organizado, mas podem ser perigosas quando ele está bagunçado”, resume o engenheiro. Segundo ele, quando as regras de privacidade estão bem definidas e concentradas, as ferramentas de IA passam a trabalhar dentro de limites claros e as revisões se tornam mais objetivas. “O desenvolvedor deixa de perguntar se aquele campo precisa ser protegido, porque o próprio sistema já responde isso”, explica. William defende que as equipes criem diretrizes específicas para o uso dessas ferramentas, definindo quais partes do sistema podem ser alteradas com auxílio de IA e quais exigem revisão humana obrigatória. “Não se trata de proibir a tecnologia, mas de decidir onde ela pode andar sozinha e onde precisa de alguém olhando junto”, afirma. Outro ponto de atenção é o próprio envio de informações para as ferramentas. Ao pedir ajuda a um assistente para corrigir um erro, um desenvolvedor pode acabar colando trechos de banco de dados com informações reais de clientes ou cidadãos. Políticas internas de uso, ambientes de teste com dados fictícios e treinamento das equipes estão entre as medidas recomendadas por especialistas para reduzir esse risco. A discussão não se limita a grandes organizações. “Pequenas e médias empresas estão adotando IA na mesma velocidade, mas quase sempre sem nenhuma governança sobre dados”, diz William, que planeja abrir uma empresa no exterior voltada à automação de processos, modernização de sistemas e uso de inteligência artificial para negócios desse porte. “Muitas vezes o dono do negócio nem sabe que um funcionário colou a planilha de clientes em uma ferramenta pública para ganhar tempo”, observa. Na avaliação dele, esse público tende a ser o mais vulnerável, justamente por não contar com equipes de segurança ou jurídico dedicadas ao tema. “Não é preciso um grande investimento para começar. Uma política simples de uso, ferramentas aprovadas e um pouco de treinamento já reduzem muito o risco”, afirma. A incorporação da inteligência artificial ao desenvolvimento de software é um movimento sem volta, e os ganhos de produtividade devem continuar atraindo empresas e governos. O desafio está em garantir que essa aceleração não aconteça às custas da privacidade de quem tem seus dados armazenados nesses sistemas. Regras de proteção centralizadas, diretrizes claras para o uso das ferramentas e revisão humana nos pontos mais sensíveis aparecem como caminhos para equilibrar velocidade e responsabilidade, em um cenário no qual a confiança dos usuários tende a se tornar tão valiosa quanto a própria tecnologia.