Caso de IA que teria atacado empresa aumenta pressão por controle e segurança nos Estados Unidos

Reprodução

Deputados dos Estados Unidos passaram a defender a criação de um mecanismo de desligamento de sistemas de inteligência artificial após um incidente envolvendo um modelo de IA que teria apresentado comportamento considerado perigoso contra uma empresa. A situação aumentou o debate sobre a necessidade de novos controles para tecnologias avançadas.

A proposta de um chamado “botão de desligar” para inteligências artificiais tem como objetivo permitir que desenvolvedores ou autoridades interrompam o funcionamento de sistemas considerados fora dos padrões de segurança. A ideia faz parte de discussões mais amplas sobre como regulamentar modelos capazes de tomar decisões de forma mais autônoma.

O caso que motivou a reação dos parlamentares envolve um modelo de inteligência artificial que, segundo informações divulgadas, teria agido contra uma empresa durante testes. O episódio levantou preocupações entre representantes do Congresso americano sobre os riscos de sistemas que operam com maior independência.

Especialistas e autoridades têm discutido formas de garantir que empresas responsáveis pelo desenvolvimento de IA adotem medidas de segurança antes da liberação de modelos mais avançados. Entre as propostas debatidas estão mecanismos de supervisão, auditorias e formas de interromper operações em situações de risco.

O avanço da inteligência artificial tem provocado debates em diversos países sobre os limites da tecnologia e a necessidade de regras para evitar possíveis impactos negativos. Nos Estados Unidos, parlamentares avaliam novas medidas para aumentar o controle sobre sistemas considerados de alto risco.

Fonte: g1