26ª matéria da série: Por dentro da RSAC com nosso colunista Allex Amorim
A inteligência artificial generativa (GenAI) está causando um burburinho significativo, tanto em círculos de inovação quanto nos submundos criminais. Na RSA Conference, recentes descobertas de pesquisadores da Trend Micro, Vincenzo Ciancaglini e David Sancho, mergulham fundo nos usos reais e potenciais da GenAI por cibercriminosos. Este painel revela como a GenAI está sendo moldada e utilizada em atividades ilícitas, desde a escrita de códigos maliciosos até a criação de deepfakes, desafiando nossa percepção tradicional de ameaças cibernéticas.
A GenAI nos Domínios Criminais
O uso da GenAI em domínios criminais está rapidamente evoluindo além das especulações iniciais. A capacidade dessas tecnologias de aprender e adaptar-se a novos cenários está permitindo que cibercriminosos criem ferramentas cada vez mais sofisticadas. Por exemplo, os LLMs estão sendo ajustados para escrever códigos maliciosos que podem automatizar ataques em grande escala ou personalizar invasões específicas, tornando-os mais difíceis de detectar e neutralizar.
Além do desenvolvimento de malware, os criminosos estão explorando a GenAI para aprimorar técnicas de engenharia social. Com a ajuda de AI, eles podem analisar grandes volumes de dados para identificar potenciais vítimas e personalizar abordagens de phishing. Isso não apenas aumenta a eficácia desses ataques, mas também eleva o risco para indivíduos e organizações que podem ser menos vigilantes.
O acesso a essas tecnologias no mercado negro é alarmante. Plataformas e fóruns clandestinos oferecem serviços onde cibercriminosos menos experientes podem comprar capacidades de GenAI personalizadas para seus propósitos ilícitos. Essa democratização do acesso à tecnologia avançada amplia o campo de atuação para criminosos de todos os níveis técnicos, aumentando a necessidade de medidas de segurança robustas e atualizadas.
Deepfakes: Uma Ameaça Crescente?
Os deepfakes representam uma das facetas mais perturbadoras do uso indevido da GenAI. A capacidade de gerar vídeos e áudios falsificados está não apenas avançando em termos de qualidade, mas também se tornando mais acessível. Isso representa um risco significativo, especialmente em termos de manipulação de informações e extorsão. Ciancaglini e Sancho ilustraram como essas tecnologias poderiam ser usadas para criar provas falsas ou manipular discursos públicos.
O impacto dos deepfakes vai além do digital. As repercussões no mundo real podem ser devastadoras, afetando desde a reputação de indivíduos até a segurança nacional. Os especialistas destacam a importância de desenvolver tecnologias de detecção paralelas, bem como políticas públicas e regulamentações que ajudem a coibir o avanço desse tipo de ameaça.
Embora os deepfakes sejam uma ferramenta poderosa, a eficácia de sua aplicação criminosa ainda depende do contexto. Em ambientes onde as informações são cuidadosamente verificadas e o ceticismo é incentivado, o impacto dos deepfakes é mitigado. No entanto, em contextos menos críticos ou em situações de crise, eles podem ser extremamente prejudiciais.
Implicações para a Segurança Cibernética
As implicações desses avanços na GenAI para a segurança cibernética são profundas. A indústria de segurança precisa evoluir tão rapidamente quanto as tecnologias que busca proteger. Isso significa não apenas melhorar as ferramentas de detecção e resposta, mas também educar os usuários e empresas sobre os riscos e sinais de ataque baseados em GenAI.
A colaboração internacional também se torna crítica, pois muitas dessas ameaças transcendem fronteiras nacionais. A troca de informações e estratégias entre países e empresas pode ajudar a prevenir que essas tecnologias caiam nas mãos erradas ou sejam utilizadas de maneira prejudicial.
Finalmente, é crucial que os formuladores de políticas e reguladores compreendam a seriedade dessas ameaças e trabalhem para criar um ambiente onde a inovação em GenAI possa continuar, mas sob estritas medidas de controle e supervisão que previnam seu abuso.
A RSA Conference nos oferece um vislumbre do futuro próximo, onde a GenAI desempenhará um papel cada vez mais central, tanto para o bem quanto para o mal. Como observadores e participantes neste campo, devemos estar preparados para os desafios que virão. A adoção de medidas proativas e a educação contínua serão fundamentais para garantir que possamos aproveitar os benefícios da GenAI sem sucumbir aos seus perigos.
Além disso, a resposta ao uso criminoso da GenAI não pode ser apenas técnica. É necessária uma abordagem holística que inclua não só a tecnologia de detecção avançada, mas também uma forte colaboração entre as entidades legais, técnicas e regulatórias. Devemos fortalecer nossos sistemas legais e normativos para enfrentar essas novas formas de crime digital, adaptando nossas leis e práticas de segurança para a era da inteligência artificial.
Por fim, este é um momento de ação e vigilância. O potencial da GenAI para revolucionar tanto setores produtivos quanto criminosos é imenso. Portanto, é crucial que todos os stakeholders — empresas, governos, especialistas em segurança e o público em geral — estejam engajados e informados sobre como essa tecnologia está moldando o futuro. Só assim poderemos cultivar um ambiente digital que promova a inovação e minimize os riscos.
Assine nossa Newsletter para receber os melhores conteúdos do Itshow em sua caixa de entrada.
