A popularidade da inteligência artificial (IA) é uma faca de dois gumes. Como todos Tecnologia disruptiva A inteligência artificial oferece um enorme potencial, mas também riscos devastadores. Apesar do esforço definido para regulamentar a IA, parece que os agentes de ameaças conseguiram tirar proveito das várias técnicas que se tornaram disponíveis para espalhar o pânico e atingir usuários desavisados.
Um novo chatbot no estilo ChatGPT, apelidado de FraudGPT, está ganhando força entre os cibercriminosos, permitindo que eles automatizem e executem uma grande parte dos golpes padrão. Qualquer um pode se tornar uma vítima, por isso é importante se manter informado.
FraudGPT pode ser usado para uma variedade de propósitos maliciosos, incluindo espalhar notícias falsas e incitar a violência. Também pode ser usado para roubar informações pessoais ou fraudar pessoas. Aqui está tudo o que sabemos sobre FraudGPT até agora. Verificar Por que você não deve confiar no ChatGPT para compartilhar informações confidenciais com ele.
Links Rápidos
O que é FraudeGPT?
O FraudGPT é uma ferramenta de IA alimentada por um grande modelo de linguagem ajustado para ajudar os cibercriminosos a cometer crimes cibernéticos. Um chatbot baseado em assinatura permite que os agentes de ameaças facilitem suas atividades criminosas, como a criação de cartões falsos, phishing e criação de malware.
Embora os detalhes sobre o chatbot ainda sejam muito limitados, pesquisadores da empresa Netenrich Inc., uma empresa de pesquisa de segurança, publicou vários anúncios na dark web anunciando esse modelo. De acordo com um relatório de pesquisa da Netenrich, a taxa de assinatura varia de US$ 200 por mês a US$ 1700 por ano.
Para visualizar melhor a ferramenta, você pode pensar no FraudGPT como ChatGPT, mas dedicado a fornecer várias informações relacionadas a fraudes. Mas como funciona exatamente o FraudGPT e como os cibercriminosos o usam?
Como funciona o FraudGPT?
Em essência, FraudGPT não é muito diferente de qualquer modelo alimentado por LLM. Em outras palavras, o próprio formulário é uma interface interativa para os criminosos acessarem um tipo especial de formulário de linguagem que é ajustado para cometer crimes cibernéticos.
Ainda não sabe o que isso significa? Aqui está uma ideia aproximada do que estamos falando. Nos primeiros dias do ChatGPT, um chatbot de IA podia ser usado para fazer praticamente qualquer coisa, inclusive ajudar cibercriminosos a criar malware. Isso foi possível porque o modelo de linguagem base do ChatGPT foi treinado em um conjunto de dados que provavelmente continha amostras de uma ampla gama de dados, incluindo dados que poderiam ajudar uma empresa criminosa.
Os modelos de linguagem grande geralmente são alimentados com tudo, desde as coisas boas, como teorias científicas, informações de saúde e política, até os dados não tão bons, como amostras de código de malware, mensagens de engenharia social e campanhas de phishing e outros materiais criminosos. Ao lidar com o tipo de conjuntos de dados necessários para treinar modelos de linguagem, como aquele que oferece suporte ao ChatGPT, é quase inevitável que o modelo contenha amostras de spam.
Apesar dos esforços geralmente cuidadosos para eliminar materiais indesejados do conjunto de dados, alguns deles aparecem e geralmente são suficientes para dar ao modelo a capacidade de gerar material para facilitar o crime cibernético. É por isso que, com a engenharia ágil certa, você pode aproveitar ferramentas como ChatGPT, Google Gemini e Bing AI para ajudá-lo a escrever e-mails de phishing ou malware de computador.
Se ferramentas como o ChatGPT podem ajudar os cibercriminosos a cometer crimes, apesar de todos os esforços para tornar esses chatbots inteligentes seguros, considere agora o poder que uma ferramenta como o FraudGPT pode fornecer, considerando que foi especificamente alimentada com tantos materiais nocivos para torná-los adequados para o cibercrime . É como se o gêmeo maligno do ChatGPT fosse reforçado.
Portanto, para usar um chatbot, os criminosos só podem reivindicá-lo como fariam com o ChatGPT. Eles poderiam, por exemplo, pedir que ela escrevesse um e-mail de phishing para Jane Doe, que trabalha na ABC Corporation, ou poderiam pedir que ele escrevesse um malware usando C++ para roubar todos os PDFs de um computador com Windows 10. Basicamente, os criminosos inseririam um prompt Wicked e deixe o chatbot fazer o trabalho pesado. Verificar O ChatGPT se tornará uma ameaça à segurança cibernética? Aqui está o que observar.
Como você pode se proteger de fraudes?
Embora seja um novo tipo de ferramenta, a ameaça representada pelo FraudGPT não é fundamentalmente diferente. Você poderia argumentar que isso traz mais automação e eficiência às formas já estabelecidas de realizar crimes cibernéticos.
Os criminosos que usam o modelo seriam, pelo menos em teoria, capazes de escrever e-mails de phishing mais convincentes, planejar golpes melhores e criar malwares mais eficazes, mas ainda dependem de métodos estabelecidos para realizar seus planos nefastos. Como resultado, as formas estabelecidas para se proteger geralmente ainda se aplicam:
- Desconfie de mensagens de spam pedindo informações ou direcionando você para clicar em links. Não forneça informações nem clique em links nessas mensagens, a menos que você tenha verificado a fonte.
- Entre em contato diretamente com as empresas usando um número independente que tenha sido verificado para garantir sua legitimidade. Não use informações de contato fornecidas em mensagens suspeitas.
- Use senhas fortes e exclusivas que sejam difíceis de decifrar e adote a autenticação de dois fatores quando disponível para todas as contas. Nunca compartilhe senhas ou códigos enviados a você.
- Verifique regularmente os extratos da conta em busca de atividades suspeitas.
- Mantenha os aplicativos atualizados e use ferramentas antivírus ou antimalware.
- Destrua documentos que contenham informações pessoalmente identificáveis ou financeiras quando não forem necessárias.
Para saber mais sobre como se proteger, leia nosso guia sobre Como se proteger na era da inteligência artificial.
Mantenha-se informado para se proteger
O surgimento de ferramentas como o FraudGPT nos lembra que, apesar de todos os benefícios que a IA pode nos oferecer, ela ainda é uma ferramenta muito poderosa nas mãos dos criminosos.
Como os governos e as grandes empresas de IA estão em uma corrida frenética para adotar melhores maneiras de regular a IA, é importante estar ciente da ameaça que a IA representa atualmente e tomar precauções para se proteger. Você pode ver agora Inteligência artificial e riscos de privacidade: protegendo seus dados em um mundo automatizado.
