A ameaça potencial da inteligência artificial: explorando o impacto dos modelos de linguagem irrestritos na encriptação

O rápido desenvolvimento da tecnologia de inteligência artificial está a transformar profundamente a nossa vida e a forma como trabalhamos. Desde a série GPT até ao surgimento de modelos avançados como o Gemini, surgiram enormes oportunidades para vários sectores. No entanto, juntamente com este avanço tecnológico, uma tendência preocupante também começou a surgir - a ascensão de modelos de linguagem de grande escala sem restrições ou maliciosos.

Modelos de linguagem sem restrições são aqueles que foram deliberadamente projetados ou modificados para contornar os mecanismos de segurança e as restrições éticas integrados nos modelos principais. Embora os desenvolvedores de modelos principais geralmente invistam muitos recursos para prevenir o uso indevido de seus produtos, algumas pessoas ou organizações, com fins ilícitos, começam a buscar ou desenvolver modelos sem restrições. Este artigo apresentará algumas ferramentas típicas de modelos de linguagem sem restrições, explorará os riscos potenciais que elas representam no campo da encriptação, e refletirá sobre os desafios de segurança relacionados e as estratégias de resposta.

A Ameaça dos Modelos de Linguagem Ilimitados

A aparição deste tipo de modelo reduziu significativamente a barreira para a implementação de ataques complexos. Mesmo pessoas sem habilidades profissionais podem facilmente realizar tarefas como escrever código malicioso, criar e-mails de phishing ou planejar fraudes. Os atacantes só precisam obter a infraestrutura do modelo de código aberto e, em seguida, usar um conjunto de dados que contenha conteúdo malicioso ou instruções ilegais para fazer o ajuste fino, criando assim ferramentas de ataque direcionadas.

Este modelo trouxe múltiplos riscos:

1. Os atacantes podem personalizar modelos para alvos específicos, gerando conteúdos mais enganosos, contornando assim as verificações de segurança da IA convencional.
2. O modelo pode ser utilizado para gerar rapidamente código de sites de phishing variantes ou para personalizar textos de fraude para diferentes plataformas.
3. A facilidade de acesso a modelos de código aberto fomentou a formação de um ecossistema de IA subterrâneo, criando um terreno fértil para transações e desenvolvimentos ilegais.

Modelos de linguagem típicos sem restrições e seu potencial de abuso

Modelo A: versão preta GPT

Este é um modelo de linguagem malicioso vendido publicamente em fóruns subterrâneos, alegando não ter quaisquer limitações éticas. É baseado em uma arquitetura de modelo de código aberto e treinado em uma grande quantidade de dados relacionados a malware. Os usuários só precisam pagar uma pequena taxa para obter acesso. O uso mais infame deste modelo é gerar ataques de invasão por e-mail comercial altamente enganosos e e-mails de phishing.

No campo da encriptação, as formas típicas de abuso incluem:

• Gerar informações de phishing que imitam plataformas de encriptação ou carteiras, induzindo os usuários a revelarem suas chaves privadas ou frases de recuperação.
• Auxiliar atacantes com capacidades técnicas limitadas a escrever código malicioso para roubar arquivos de carteira, monitorar a área de transferência, etc.
• Impulsionar diálogos de fraude automatizados, guiando as vítimas a participar de airdrops ou projetos de investimento falsos.

Modelo B: Ferramenta de Análise de Conteúdo da Dark Web

Este é um modelo de linguagem treinado especificamente em dados da dark web, cujo objetivo inicial é ajudar pesquisadores e entidades de aplicação da lei a entender melhor a ecologia da dark web e a rastrear atividades ilegais. No entanto, se for obtido por criminosos ou se tecnologias semelhantes forem usadas para treinar modelos sem restrições, isso pode trazer consequências graves.

No campo da encriptação, os potenciais abusos incluem:

• Coletar informações de usuários de encriptação e equipes de projetos, para fraudes sociais precisas.
• Copiar as técnicas de roubo e lavagem de dinheiro maduras da dark web.

Modelo C: Assistente Multifuncional de Fraude na Rede

Este é um modelo avançado vendido na dark web e em fóruns de hackers, alegando ter funcionalidades mais abrangentes. Os seus modos típicos de abuso na encriptação incluem:

• Gerar rapidamente white papers, sites e textos de marketing falsos com um alto grau de simulação.
• Produção em massa de páginas de login de phishing que imitam as conhecidas exchanges.
• Fabricar em massa comentários falsos em redes sociais, promovendo tokens fraudulentos ou difamando projetos concorrentes.
• Simular diálogos humanos, estabelecer confiança com o usuário e induzi-lo a revelar informações sensíveis.

Modelo D: Assistente de IA sem restrições morais

Este é um chatbot de IA claramente posicionado como sem restrições éticas. Os potenciais abusos no campo da encriptação incluem:

• Gerar e-mails de phishing altamente realistas, fazendo-se passar por notificações falsas de exchanges de criptomoedas populares.
• Gerar rapidamente códigos de contratos inteligentes com portas dos fundos ocultas, para implementar fraudes de saída ou atacar protocolos DeFi.
• Criar malware com capacidade de metamorfose para roubar informações de carteiras, difícil de ser detectado por softwares de segurança tradicionais.
• Implantar chatbots nas plataformas sociais para induzir os usuários a participar de projetos NFT falsos ou esquemas de investimento.
• Combinar com outras ferramentas de IA para gerar vozes falsas de fundadores de projetos ou executivos de bolsas, implementando fraudes por telefone.

Plataforma E: portal de acesso com modelo de baixa revisão

Esta é uma plataforma que oferece acesso a vários modelos de linguagem, incluindo algumas versões com menos censura. Embora a sua intenção seja fornecer aos utilizadores um ambiente aberto para explorar as capacidades da IA, também pode ser mal utilizada para gerar conteúdo malicioso. Os riscos potenciais incluem:

• Os atacantes podem usar modelos com menos restrições para contornar a censura, gerando modelos de phishing ou esquemas de ataque.
• Reduziu a barreira técnica da engenharia de prompts maliciosos, permitindo que usuários comuns também possam obter saídas que antes eram restritas.
• Plataforma para fornecer testes rápidos e otimização de scripts de fraude para atacantes.

Conclusão

O surgimento de modelos de linguagem sem restrições marca a emergência de novas ameaças à segurança cibernética, mais complexas, em maior escala e com capacidade de automação. Isso não apenas reduz a barreira de entrada para ataques, mas também traz riscos mais ocultos e enganadores.

Diante deste desafio, todas as partes do ecossistema de segurança precisam colaborar.

1. Aumentar o investimento na pesquisa e desenvolvimento de tecnologias de detecção de conteúdos gerados por AI, melhorando a capacidade de identificar e interceptar conteúdos maliciosos.
2. Impulsionar a construção da capacidade de prevenção de jailbreak dos modelos, explorar mecanismos de marca d'água e rastreabilidade de conteúdo, especialmente em áreas críticas como finanças e geração de código.
3. Estabelecer normas éticas de IA e mecanismos de regulação robustos para limitar desde a origem o desenvolvimento e o uso indevido de modelos maliciosos.

Somente através de um esforço conjunto em várias frentes podemos desfrutar dos benefícios da tecnologia de IA enquanto lidamos eficazmente com os riscos potenciais que ela traz, garantindo o desenvolvimento saudável do ecossistema de encriptação.