Por Américo Alonso*
Os casos cada vez mais frequentes de fraudes envolvendo Inteligência Artificial (IA) — especialmente GenAI — acendem o alerta sobre a segurança e a confiabilidade dessa tecnologia em empresas e órgãos públicos. Apesar das incertezas, a transformação digital é irreversível. O desafio das lideranças é equilibrar inovação e proteção, adotando IA de forma segura e estratégica.
Executivos no mundo todo reconhecem o impacto da IA em seus negócios. Um estudo da Cisco, com 2.503 CEOs em cinco continentes, revelou que 58% acreditam que a falta de conhecimento sobre o tema pode comprometer o crescimento das organizações, enquanto 61% pretendem investir em capacitação. A mensagem é clara: não basta adotar a tecnologia — é preciso compreendê-la e aplicá-la de modo ético, seguro e alinhado ao propósito da empresa.
Nesse contexto, GenAI Security emerge como frente crítica. Proteger as cadeias de modelos generativos, fortalecer a governança dos dados usados em treinamentos e mitigar alucinações ou respostas indevidas tornam-se essenciais para impedir que a IA se converta em nova via de ataque. Segurança e privacidade devem nascer no desenho dos sistemas (security-by-design / privacy-by-design), ancorada em políticas de uso responsável, controles de privacidade e auditoria contínua.
Segundo o Threat Landscape 2025, da Fortinet, cibercriminosos realizaram 36 mil varreduras maliciosas por segundo em 2024, com crescimento anual de 16,74%, impulsionados por automação e IA. Esse cenário tende a ficar ainda mais complexo com a chegada da era quântica, que ameaça métodos criptográficos atuais. Órgãos de referência em nível global (NIST, CSA, ANSI, BSI, NSA) já alertam para o chamado Y2Q (Year-To-Quantum) por volta de 2030. O conceito de Quantum-Safe – soluções resistentes à computação quântica, inicialmente apoiadas na Criptografia Pós-Quântica (PQC) – passa a ser prioridade para proteger informações críticas e infraestruturas digitais.
A defesa cibernética também entra em novo ciclo. A Detecção e Resposta tradicional, baseada em assinaturas e regras fixas, cede lugar a sistemas dinâmicos apoiados em Agentic AI, capazes de agir de forma autônoma, contextual e colaborativa. É a segurança prescritiva sucedendo a preditiva — assim como a preditiva substituiu a reativa — combinando automação inteligente e modelagem de ameaças (inclusive em cenários quânticos) para antecipar riscos antes de virarem incidentes.
Mas não são só ferramentas. As organizações precisam investir em cultura e governança. Segurança digital deve ser tratada como pilar estratégico, não apenas técnico. A adoção responsável de IA requer educação contínua, ética, transparência e uma liderança capaz de conectar pessoas, processos e tecnologia.
As mudanças trazidas pela IA e pela computação quântica são tanto tecnológicas quanto culturais. Exigem que líderes repensem estruturas, papéis e responsabilidades para garantir que a inovação caminhe lado a lado com a proteção. O futuro da IA será construído não apenas pela potência dos algoritmos, mas pela maturidade com que as empresas souberem governá-los.
Em suma, o paradoxo da IA permanece: quanto mais poderosa, mais responsabilidade exige. Cabe às lideranças transformar esse desafio em vantagem competitiva, guiando suas organizações por um caminho em que inovação e segurança coexistam — inclusive em tempos quânticos.
____
*Diretor de Segurança Digital da Atos América do Sul
