Grupos extremistas exploram IA para ampliar atuação e desafiam sistemas de segurança dos chatbots

Reprodução

Grupos terroristas têm recorrido cada vez mais à inteligência artificial para produzir conteúdos de propaganda, facilitar processos de recrutamento e tentar contornar os mecanismos de segurança de chatbots, segundo especialistas em segurança digital e contraterrorismo. A utilização dessas ferramentas tem despertado preocupação entre governos e empresas de tecnologia, que buscam reforçar as barreiras contra o uso malicioso da IA.

De acordo com o relatório citado pela reportagem, integrantes de organizações extremistas vêm testando diferentes formas de interagir com modelos de inteligência artificial na tentativa de obter respostas que escapem das restrições impostas pelos sistemas. Embora as principais plataformas mantenham mecanismos para bloquear solicitações relacionadas a atividades criminosas e violentas, pesquisadores afirmam que alguns usuários ainda conseguem explorar falhas ou formular perguntas de maneiras alternativas para contornar parte dessas limitações.

Os especialistas destacam que a IA também vem sendo utilizada para criar materiais de propaganda com maior rapidez, traduzir mensagens para diferentes idiomas e produzir conteúdos voltados ao recrutamento de novos integrantes. Essas aplicações permitem ampliar o alcance das campanhas de comunicação dos grupos extremistas em ambientes digitais.

Empresas responsáveis pelos principais chatbots afirmam que investem continuamente em medidas de segurança para reduzir o risco de uso indevido de seus sistemas. Entre as ações adotadas estão o aprimoramento dos filtros de conteúdo, o monitoramento de tentativas de abuso e a atualização constante dos modelos para identificar solicitações relacionadas a atividades ilícitas.

Pesquisadores avaliam que o avanço da inteligência artificial exige uma cooperação cada vez maior entre empresas de tecnologia, governos e especialistas em segurança para acompanhar novas formas de exploração dessas ferramentas. O objetivo é impedir que recursos desenvolvidos para aplicações legítimas sejam utilizados para apoiar atividades extremistas ou criminosas.

Fonte: g1