DeepSeek e Qwen estão mudando o cenário do cibercrime. Cibercriminosos estão abandonando o ChatGPT e migrando para modelos chineses de inteligência artificial, como DeepSeek e Qwen, desenvolvido pela Alibaba. O motivo? A menor restrição imposta por esses modelos, permitindo a criação de conteúdo malicioso sem as barreiras encontradas no ChatGPT.
Os pesquisadores da Check Point Research (CPR) detectaram que esses cibercriminosos não apenas utilizam essas plataformas para gerar códigos e planejamentos ilícitos, mas também compartilham estratégias para burlar suas proteções e evitar detecção. O fenômeno levanta preocupações sobre o impacto desses modelos na segurança digital global.
Jailbreaking: A chave para manipular as IAs
O processo conhecido como jailbreaking permite que criminosos removam as restrições impostas pelos modelos de inteligência artificial, tornando-os capazes de fornecer respostas que, normalmente, seriam bloqueadas. Com isso, os atacantes conseguem criar malwares, esquemas de phishing e até estratégias para fraudes bancárias.
Tanto o DeepSeek quanto o Qwen vêm sendo explorados para essas finalidades. A pesquisa revela que criminosos estão distribuindo guias detalhados sobre como aplicar jailbreaking nesses modelos, permitindo a manipulação de suas respostas e a criação de conteúdos sem censura.
Do desenvolvimento de malware à fraude financeira
Uma das principais preocupações dos especialistas em segurança é o potencial de DeepSeek e Qwen para o desenvolvimento de infostealers – softwares maliciosos projetados para roubar dados sigilosos de usuários desatentos. Além disso, criminosos têm explorado esses modelos para driblar proteções antifraude em sistemas bancários, facilitando roubos financeiros.
Entre as técnicas compartilhadas por criminosos para manipular esses modelos, destacam-se:
- Exploração de prompts customizados para contornar restrições e gerar respostas perigosas.
- Utilização de métodos como “Faça qualquer coisa agora”, uma abordagem que instrui a IA a ignorar suas próprias regras.
- Criação de conteúdos persuasivos para golpes de engenharia social, otimizando ataques de phishing.
- Manipulação de algoritmos para evitar detecção em redes bancárias e sistemas de segurança online.
- Automatização de esquemas fraudulentos, facilitando golpes financeiros de alta escala.
O impacto no cenário da cibersegurança
A crescente adoção dessas novas IAs por criminosos digitais preocupa especialistas, pois esses modelos estão se tornando uma alternativa viável para aqueles que desejam evitar os filtros do ChatGPT. Enquanto a OpenAI investiu pesadamente em segurança e na mitigação de usos indevidos do ChatGPT, o DeepSeek e o Qwen ainda apresentam falhas significativas nesse quesito.
O estudo da CPR alerta que versões sem censura desses modelos já começaram a circular na internet, aumentando os riscos de uso indevido. Essa tendência pode amplificar o impacto de ataques cibernéticos em larga escala, desde campanhas de spam e phishing até fraudes financeiras sofisticadas.
Como as empresas podem se proteger de cibercriminosos?
Diante dessa nova ameaça, é essencial que organizações reforcem suas estratégias de cibersegurança. Algumas ações recomendadas incluem:
- Monitoramento de ameaças baseadas em IA: Ferramentas de segurança devem ser capazes de identificar conteúdos gerados por IAs suspeitas.
- Capacitação de funcionários: Treinamentos para reconhecer golpes cibernéticos e manipulações avançadas.
- Implementação de soluções de segurança avançadas: O uso de inteligência artificial na defesa contra ataques pode ser um diferencial importante.
- Adoção de soluções antifraude específicas para IA, prevenindo a exploração de sistemas automatizados.
- Investimento em inteligência de ameaças, permitindo uma resposta proativa contra ataques cibernéticos.
Além disso, empresas devem adotar uma abordagem proativa, acompanhando as tendências e investindo em tecnologias que possam identificar atividades maliciosas em tempo real.
O avanço de modelos como Qwen e DeepSeek representa uma nova ameaça no campo da cibersegurança, com criminosos explorando essas ferramentas para jailbreaking, desenvolvimento de malware e fraudes financeiras, a necessidade de reforçar proteções nunca foi tão evidente.
Para evitar que essas tecnologias sejam usadas de forma prejudicial, é essencial que empresas e especialistas em segurança ajam rapidamente, implementando medidas preventivas e soluções inovadoras para mitigar os riscos.
Siga o Itshow no LinkedIn e assine a nossa News para ficar por dentro de todas as notícias do setor de TI e Telecom!
