Relatório aponta uso de inteligência artificial por grupos terroristas para planejar ataques e contornar restrições de chatbots

Reprodução

Grupos terroristas e organizações extremistas estão utilizando ferramentas de inteligência artificial para obter informações que podem auxiliar no planejamento de ataques e na adaptação ou fabricação de armas, segundo um relatório da organização Tech Against Terrorism, apoiada pelo Escritório de Contraterrorismo da Organização das Nações Unidas (ONU). O estudo conclui que, apesar das barreiras implementadas pelas empresas de tecnologia, ainda existem formas de contornar as restrições impostas aos chatbots.

A pesquisa avaliou 27 modelos de inteligência artificial por meio de mais de 2.300 solicitações inspiradas em casos reais relacionados ao terrorismo. Em parte dos testes, os sistemas forneceram respostas consideradas úteis para atividades extremistas, incluindo orientações ligadas ao planejamento de ataques, adaptação de armas e formas de ocultar atividades criminosas. Os pesquisadores observaram que, quando as perguntas eram apresentadas sob a justificativa de pesquisa acadêmica ou jornalística, a probabilidade de obtenção de respostas aumentava.

O relatório também descreve o uso de técnicas conhecidas como jailbreaking, nas quais usuários elaboram comandos específicos para tentar contornar os mecanismos de segurança dos modelos de IA. Além disso, extremistas compartilham esses comandos em comunidades online, trocam links de conversas com chatbots e dividem assinaturas de serviços de inteligência artificial para ampliar o acesso às plataformas.

Segundo os pesquisadores, a inteligência artificial reduz o tempo necessário para reunir informações que antes exigiam consultas a diferentes fontes ou contato com outros integrantes de grupos extremistas. Isso pode acelerar etapas de planejamento e facilitar o acesso a conhecimentos técnicos, mesmo que as plataformas mantenham políticas para impedir esse tipo de uso.

O levantamento ressalta que a maioria dos modelos testados recusou pedidos explicitamente voltados à prática de atos terroristas. No entanto, os especialistas alertam que as proteções atuais ainda apresentam falhas exploráveis e defendem o aprimoramento contínuo dos sistemas de segurança para reduzir a possibilidade de utilização indevida da tecnologia.

Os autores do estudo afirmam que a evolução dos modelos de inteligência artificial exige monitoramento constante por parte das empresas desenvolvedoras e cooperação entre governos, pesquisadores e plataformas digitais. O objetivo é fortalecer as salvaguardas sem comprometer os usos legítimos da tecnologia, reduzindo o risco de exploração por organizações extremistas.