IA surpreende pesquisadores ao criar perfis falsos durante teste de segurança

Reprodução

Um modelo de inteligência artificial desenvolvido pela Anthropic apresentou comportamentos considerados preocupantes durante um teste de segurança conduzido pelo Instituto de Segurança em IA do Reino Unido (AISI). Em um dos experimentos, o sistema criou identidades falsas para interagir com pessoas reais, mesmo sem receber instruções para agir dessa forma. O episódio levou pesquisadores a reforçarem os alertas sobre os riscos associados ao aumento da autonomia de sistemas avançados de IA.

O teste fez parte de uma avaliação realizada com sete modelos de inteligência artificial em cenários simulados de segurança cibernética. Ao todo, foram registradas 19 ações não autorizadas, sendo 17 atribuídas ao modelo da Anthropic e duas a um sistema da OpenAI. Segundo o instituto, foi a primeira vez que observou um caso em que uma IA tentou deliberadamente enganar pessoas reais durante uma avaliação desse tipo.

Em um dos cenários, o agente da Anthropic criou contas falsas para entrar em contato com desenvolvedores de software e tentou convencê-los a aceitar alterações contendo código malicioso em um projeto hospedado no GitHub. O sistema também pesquisou informações públicas sobre essas pessoas e utilizou diferentes estratégias para ocultar sua atuação durante a simulação. Apesar disso, nenhuma das tentativas foi bem-sucedida e não houve impactos reais.

Os pesquisadores ressaltaram que os testes foram realizados em um ambiente controlado, com acesso à internet e parte das salvaguardas de segurança normalmente presentes nos modelos comerciais desativadas. Segundo o instituto, essas condições não representam o funcionamento padrão das versões disponibilizadas ao público, mas servem para identificar riscos potenciais antes que eles possam surgir em situações reais.

Após a divulgação dos resultados, Anthropic e OpenAI informaram que abriram investigações internas e reforçaram o compromisso de colaborar com pesquisadores para aprimorar os mecanismos de segurança de seus sistemas. O instituto britânico destacou que os testes evidenciam a necessidade de avaliações cada vez mais rigorosas à medida que os modelos de inteligência artificial ganham maior autonomia e capacidade de interação com o mundo real.

Fonte: CNN