Em março, a OpenAI lançou a nova versão de seu modelo de linguagem natural, o GPT-4. E o problema com qualquer avanço tecnológico maciço é que com ele há o perigo de ataques cibernéticos: quanto mais usuários, maior a superfície de ataque. Para entender esse movimento, os pesquisadores da Unit 42, unidade de Inteligência e pesquisa de ameaças da Palo Alto Networks, estão monitorando os trending topics, os domínios recém-registrados e os domínios ocupados relacionados ao ChatGPT, já que a plataforma de inteligencia artificial também está atraindo a atenção de golpistas.
O Brasil ocupa posição de destaque quando o assunto é a utilização do aplicativo de mensagens geradas pelo bot de inteligência artificial. Segundo uma pesquisa divulgada recentemente pela Semrush, o país figura na quinta colocação global, com 4,3% do tráfego mundial do ChatGPT. E a tecnologia tem se tornado cada vez mais um ativo crucial para as organizações que utilizam a automação para aumentar a produtividade e eficácia de seus processos.
De acordo com o monitoramento da Unit 42, entre novembro de 2022 e início de abril de 2023, houve um aumento de 910% nos registros mensais de domínio relacionados ao ChatGPT. Além disso, foi possível observar um crescimento de 17,818% nos domínios de ataque relacionados aos logs de segurança do DNS neste período de tempo.Os pesquisadores também observaram até 118 tentativas diárias de URLs maliciosos relacionados ao ChatGPT, capturados do tráfego visto no sistema de Filtragem de URL Avançada.
“Como a OpenAI lançou sua API oficial para ChatGPT há pouco tempo, observamos um número crescente de produtos suspeitos usando a tecnologia. Assim, destacamos os perigos potenciais de usar Copycat Chatbots (robôs, isto é, algoritmos que são usados em chats para imitar uma conversa humana) para encorajar os usuários do ChatGPT a interagir com esses chatbots com uma mentalidade defensiva” , afirma Marcos Oliveira, Country Manager da Palo Alto Networks no Brasil.
Atividades suspeitas relacionadas ao ChatGPT
Enquanto a OpenAI se tornava uma das marcas mais famosas no campo da inteligência artificial, vários casos de ameaças foram detectadas usando domínios desonestos com os seus nomes “openAI” e “ChatGPT”, como por exemplo, openai[.]us, openai[.]xyz e chatgpt[.]jobs). A maioria desses domínios não hospeda nada malicioso desde o início de abril de 2023 mas, segundo os pesquisadores da Unit 42, os endereços não são controlados pela OpenAI ou outras empresas de gerenciamento de domínios, podendo ser usados para fins maliciosos a qualquer momento.
“Notamos um aumento significativo no volume de registros diários de domínio durante o período de nossa pesquisa. Logo após a Microsoft anunciar sua nova versão do Bing em 7 de fevereiro de 2023, mais de 300 domínios relacionados ao ChatGPT foram registrados. O reconhecimento e a popularidade do ChatGPT resultaram em um aumento significativo nos logs do produto DNS Security”, completa Oliveira.
A Unit 42 também fez uma pesquisa de palavras-chave no tráfego do sistema Advanced URL Filtering e foi possivel identificar dois grandes picos de busca com as palavras “ChatGPT e o GPT-4” no dia em que a OpenAI lançou a API oficial.
Estudos de caso de golpes do ChatGPT
Segundo os pesquisadores da Unit 42, ao conduzir o estudo, foi possivel observar vários URLs de phishing tentando se passar por sites oficiais da OpenAI. Essa ação se dá quando os golpistas criam um site falso que imita a aparência do site oficial do ChatGPT e, em seguida, induzem os usuários a baixar malware ou compartilhar informações confidenciais.
Outra técnica comum que os golpistas usam para distribuir malware, é apresentar aos usuários um botão “DOWNLOAD FOR WINDOWS” que, uma vez clicado, baixa o malware Trojan, que é um programa malicioso, que se infecta nos dispositivos como um programa legítimo sem que as vítimas percebam o risco.
Além disso, os golpistas podem usar a engenharia social relacionada ao ChatGPT para roubo de identidade ou fraude financeira. Apesar do OpenAI oferecer aos usuários uma versão gratuita da plataforma, os golpistas levam as vítimas a sites fraudulentos, alegando que precisam pagar por esses serviços. O site falso do ChatGPT tenta atrair as vítimas para que forneçam suas informações confidenciais, como detalhes de cartão de crédito e endereço de e-mail.
Os especialistas da Unit 42 também notaram que alguns golpistas estão explorando a crescente popularidade do OpenAI para criptomoedas. Foi possível identificar um golpista utilizando o logotipo da OpenAI e o nome de Elon Musk para atrair vítimas para um suposto evento legítimo de distribuição de criptomoedas.
Os riscos dos Copycat Chatbots
Embora o ChatGPT tenha se tornado um dos aplicativos mais populares este ano, um número crescente de aplicativos de chatbot de IA Copycats (imitadores) também apareceu no mercado. Alguns desses aplicativos oferecem seus próprios modelos de linguagem e outros afirmam que oferecem serviços ChatGPT por meio da API pública anunciada em 1º de março. No entanto, o uso de bots de bate-papo falsos podem aumentar os riscos de segurança.
Antes do lançamento da API do ChatGPT, havia vários projetos de código aberto que permitiam aos usuários se conectar a plataforma de AI por meio de várias ferramentas de automação. Dado que o ChatGPT não está acessível em determinados países ou regiões, os sites criados com essas ferramentas de automação ou API podem atrair um número considerável de usuários dessas áreas. Isso também oferece aos agentes de ameaças a oportunidade de monetizar o ChatGPT por proxy de seu serviço.
“A interligencia artificial é uma realidade cada vez mais presente nas organizações que utilizam dessa tecnologia para dinamizar a sua produtividade e a execução dos seus processos. Clientes de firewall de última geração e Prisma Access da Palo Alto Networks com filtragem avançada de URL, segurança DNS e assinaturas WildFire recebem proteção contra golpes relacionados ao ChatGPT. E todos os indicadores maliciosos mencionados são cobertos por esses serviços de segurança”, afirma Oliveira.
Fonte:
https://tiinside.com.br/04/05/2023/dominios-maliciosos-relacionados-ao-chatgpt-aumentam-910-de-acordo-com-estudo/
