ChatGPT, o notável chatbot de IA que tem transformado as pesquisas na web e simplificado as tarefas de escritório, tomou um rumo infeliz e agora está envolvido em fraudes nas redes sociais.
Este botnet específico, conhecido como “Fox8”, veio à tona no início deste ano em uma plataforma de rede social graças a pesquisadores da Indiana University Bloomington. A botnet, aparentemente ligada a vários sites de criptomoedas, compreendia mais de 1.000 contas. Acredita-se que muitas dessas contas empregam o ChatGPT para gerar postagens e respostas nas redes sociais. O objetivo deles era atrair usuários desavisados para que clicassem em links que levassem a sites de promoção de criptomoedas.
Micah Musser, um pesquisador que investigou o potencial da desinformação impulsionada pela IA, adverte que o botnet Fox8 pode ser apenas a ponta do iceberg à medida que grandes modelos de linguagem e chatbots ganham mais popularidade.
Embora a botnet, apesar da sua presença extensa, não tenha utilizado o ChatGPT de uma forma incrivelmente sofisticada, a sua descoberta levantou preocupações sobre a facilidade com que chatbots avançados como o ChatGPT podem ser manipulados para fins maliciosos. Existe o receio de que botnets mais avançados e menos detectáveis já possam estar em operação.
Filippo Menczer, professor da Indiana University Bloomington que participou da pesquisa, observa: “A única razão pela qual notamos esse botnet em particular é que eles eram desleixados”. Ele enfatiza que atores nefastos mais capazes provavelmente evitariam os erros cometidos pelos criadores da botnet Fox8.
A OpenAI, organização responsável pelo ChatGPT, ainda não se pronunciou sobre a descoberta do botnet. A sua política de utilização proíbe claramente a utilização dos seus modelos de IA para fraudes ou disseminação de desinformação.
ChatGPT e outros chatbots avançados utilizam grandes modelos de linguagem para gerar texto em resposta a solicitações. Com dados de treinamento adequados, poder computacional e feedback de testadores humanos, esses bots podem fornecer respostas impressionantemente sofisticadas a diversas entradas. No entanto, também têm o potencial de difundir discursos de ódio, exibir preconceitos sociais e fabricar informações.
Um botnet bem orquestrado que dependa do ChatGPT seria difícil de identificar e poderia efetivamente enganar os usuários ao manipular algoritmos de mídia social. “Isso engana tanto a plataforma quanto os usuários”, conforme observado por Menczer.
As preocupações com o possível uso indevido de tecnologia como o ChatGPT para campanhas de desinformação não são novas. A OpenAI até atrasou o lançamento de um antecessor do ChatGPT devido a tais preocupações.
William Wang, professor da Universidade da Califórnia, em Santa Bárbara, enfatiza a importância de estudar esses usos criminosos do ChatGPT no mundo real. Ele ressalta que inúmeras páginas de spam são agora geradas automaticamente, tornando cada vez mais difícil para os seres humanos detectar esse tipo de material. E à medida que a IA continua avançando, a situação provavelmente se tornará ainda mais desafiadora. “A situação é muito ruim”, conclui.